Tekoälyn testaus vastakkainasettelun avulla: puuttuva taso tekoälyn hallinnassa

Organisaatiossanne käytetään lähes varmasti enemmän tekoälyä kuin tietoturvatiimillänne on tietoa. Kysymys ei ole siitä, kattaako tekoälyn hallintakäytäntönne sen. Kysymys on siitä, kestäisikö mikään osa siitä hyökkäystä, jossa yritetään murtaa järjestelmä.

Useimmissa yrityksissä vallitsee nykyään outo kaksijakoisuus. Toisaalta tekoälyn hallinto on kehittymässä: toimintaperiaatteet, käyttöehdot ja riskiluokitukset, jotka usein perustuvat EU:n tekoälylakiin. Toisaalta tekoälyn todellinen vaikutusala kasvaa edelleen niin nopeasti, ettei kukaan pysty seuraamaan sitä.

Cloud Security Alliancen mukaan yli puolet yritysten generatiivisen tekoälyn käyttöönotosta on ”varjo-tekoälyä”, ja 89 % yritysten tekoälyn käytöstä on turvallisuusryhmien silmiltä piilossa (CSA, 2026). IBM:n vuoden 2025 raportissa ”Cost of a Data Breach” todettiin, että joka viides tietoturvaloukkauksen kohteeksi joutunut organisaatio kärsi loukkauksesta, johon liittyi varjo-tekoälyä (IBM, 2025).

Asetuksessa edellytetään jo nyt muutakin kuin pelkkää paperityötä

EU:n tekoälylaissa ei kysytä pelkästään, oletko dokumentoinut tekoälyjärjestelmäsi. Korkean riskin järjestelmien osalta siinä kysytään, ovatko ne todellakin vakaita ja turvallisia.

Tekoälylain 15 § edellyttää, että korkean riskin tekoälyjärjestelmien on saavutettava ”asianmukainen tarkkuuden, vakauden ja kyberturvallisuuden taso” ja niiden on oltava kestäviä sellaisten luvattomien kolmansien osapuolten yritysten suhteen, jotka pyrkivät muuttamaan järjestelmien toimintaa hyödyntämällä niiden haavoittuvuuksia (EUR-Lex, 2024). Kyseessä on lakiin kirjattu turvallisuusvaatimus, ei pelkkä dokumentointitehtävä.

Tämä on sama kuilu, josta Damovon Adversarial-tiimi, Lares, on kirjoittanut muillakin aloilla: sääntöjen noudattamisen valvonnassa tarkastetaan, onko suojatoimenpiteet dokumentoitu, kun taas hyökkääjät mittaavat, toimivatko ne. Tekoäly on yksinkertaisesti uusin alue, jolla tämä kuilu avautuu, ja se avautuu nopeasti, koska tekoälyn käyttöönotto etenee nopeammin kuin mikään sen hillitsemiseksi luotu hallintoprosessi.

Mitä tekoälyn ”testaus” oikeastaan tarkoittaa

Tekoälyjärjestelmien viat eivät näytä perinteisiltä ohjelmistohaavoittuvuuksilta, minkä vuoksi ne jäävät huomaamatta perinteisissä testeissä.

Kun testaamme tekoälyjärjestelmää vihamielisesti, tiimimme ei suorita haavoittuvuustarkistusta. Hyökkäämme järjestelmää vastaan samalla tavalla kuin todellinen hyökkääjä tekisi:

• Tekoälylle annettujen ohjeiden manipulointi. Huolellisesti muotoiltu syöte voi ohittaa tekoälyavustajan ohjeet ja muuttaa hyödyllisen sisäisen työkalun sellaiseksi, joka noudattaa sen sijaan hyökkääjän tavoitteita.
• Tekoälyn käyttöoikeuksien väärinkäyttö. Nykyaikaiset tekoälyagentit voivat lähettää sähköposteja, tehdä kyselyjä tietokantoihin ja kutsua sisäisiä sovellusrajapintoja. Agentin huijaaminen näiden työkalujen väärinkäyttöön on yksi nopeimmista tavoista aiheuttaa todellista vahinkoa.
• Tietojen poimiminen siitä, mitä tekoäly on nähnyt. Herkkiä tietoja sisältävillä tai niihin kytketyillä malleilla voidaan saada ne paljastamaan tiedot, yksi huolellisesti muotoiltu kysymys kerrallaan.

Mikään näistä ei tule esiin hallintotavan tarkastuksessa. Ne tulevat esiin vasta, kun joku yrittää tahallaan murtaa järjestelmän.

Vuoden 2025 lopulla julkaistu OWASP Top 10 for Agentic Applications-luettelo kartoittaa juuri nämä riskit autonomisille tekoälyagenteille (OWASP, 2025). Viitekehys on olemassa. Useimmista organisaatioista puuttuu kuitenkin näyttö siitä, että niiden omat järjestelmät täyttävät sen vaatimukset.

Syväluotaus: OWASP Agentic AI Top 10: Todelliset uhat

Käytännöllinen tapa kaventaa kuilua: tekoälyn arviointi vastakkainasettelun avulla

Damovon hyökkäyssuuntautunut kyberturvallisuusneuvontatiimi, Lares, tarjoaa järjestelmällisen tavan selvittää, mitä tekoälysi todella tekee hyökkäyksen aikana, eikä vain sitä, mitä käytäntöjesi mukaan sen pitäisi tehdä.

Adversarial AI Assessment -arviointi toteutetaan kolmella tasolla, ja organisaatiot voivat osallistua niille sopivalla tasolla:

1. Tekoälyn jalanjäljen kartoitus. Ennen kuin voit suojata tekoälysi, sinun on löydettävä kaikki sen osat, mukaan lukien se ”varjo-tekoäly”, josta hallintosi ei ole tietoinen. Kyseessä on tarkoituksellinen, asiantuntijoiden johtama kartoitus, ei skannauksen tulosta. Merkittävä aukko on juuri se, jota skanneri ei näe.
2. Tekoälyn vastakkainasettelutestaus. Tekoälyjärjestelmienne käytännön testaus todellisia hyökkäystekniikoita vastaan: kehotteidenmanipulointi, agenttityökalujen väärinkäyttö, tietojen poiminta sekä muut OWASP-viitekehyksissä luetellut menetelmät. Tuloksena ei ole luettelo teoreettisista riskeistä, vaan näyttöä siitä, mitä hyökkääjä voisi tosiasiassa tehdä, ja siitä, mitkä puolustusmekanismit estivät hyökkäyksen ja mitkä eivät.
3. Tekoälyn uudelleentestausväli. Tekoälyjärjestelmät muuttuvat jatkuvasti: uusia malleja, uusia integraatioita, uusia datayhteyksiä. Kertaluonteinen testi vanhentuu nopeasti. Uudelleentestausväli varmistaa validoinnin jatkuvuuden, jolloin tulokset pysyvät ajantasaisina järjestelmän kehittyessä.

Perusajatus on yksinkertainen, ja se on sama periaate, joka ohjaa kaikkea Laresin toimintaa: älä kerro meille, että valvontamenetelmäsi toimivat. Näytä se meille realistisissa hyökkäystilanteissa, ja varmista, että tiimisi on mukana korjaamassa havaitsemiamme puutteita.

Lisätietoja: Adversarial AI -arviointi

Mistä aloittaa

Jos organisaatiossanne on käytössä tekoälyn hallintakäytännöt, mutta sen tekoälyjärjestelmien toimintaa hyökkäystilanteessa ei ole koskaan testattu, tämä on se aukko, joka on korjattava ensisijaisesti. Ja jos ette vielä tiedä, kuinka laajasti tekoälyä käytetään koko organisaatiossa, kartoitusvaihe antaa vastauksen tähän kysymykseen ennen kaikkea muuta.

Lähteet

• Cloud Security Alliance, varjo-AI-sovellukset: Yritysten hyökkäyskohteet, joiden määrä kasvaa seurantaa nopeammin (2026)
• IBM, Raportti tietoturvaloukkausten kustannuksista 2025 (2025)
• EUR-Lex, asetus (EU) 2024/1689 (tekoälylaki) (2024)
• OWASP GenAI Security -projekti, OWASP:n Top 10 -lista agenttipohjaisille sovelluksille vuodelle 2026 (2025)