Tekoälyagentit eivät enää vain tuota tekstiä, etsi tietoa tai auta ihmistä päätöksenteossa. Yhä useammin ne saavat pääsyn organisaatioiden järjestelmiin, dataan ja työkaluihin sekä oikeuden tehdä asioita itsenäisesti. Samalla muuttuu myös tietoturvan peruskysymys: mitä tapahtuu, jos tekoälyagentti tekee jotain, mitä sen ei pitänyt tehdä?

Tekoälyyn liittyvistä tietoturvariskeistä puhuttaessa huomio kiinnittyy helposti ajatukseen hallinnasta riistäytyvästä tekoälystä. Todellisuus on usein arkisempi. Tekoälyagentin aiheuttamat riskit riippuvat pitkälti siitä, millaisia työkaluja, käyttöoikeuksia, tietolähteitä ja toimintamahdollisuuksia sille on annettu.

Riski syntyy, jos agentille annetaan liian laajat käyttöoikeudet, sen käsittelemään tietoon ei voida luottaa tai kukaan ei ole pysähtynyt miettimään, mitä tapahtuu silloin, kun agentti ei toimikaan odotetulla tavalla.

Syyskuun Kybertutkassa CGI:n kyberturvallisuuspalveluiden johtaja Matti Vesterinen ja tietoturvakonsultoinnin erityisasiantuntija Jussi Virta keskustelivat siitä, miten tekoälyagentit muuttavat kyberturvallisuuden uhkakuvaa.

Kuuntele Kybertutkan jakso tai poimi alta vastaukset keskeisimpiin kysymyksiin.

Kuuntele jakso Spotifyssa →

Tekoälyagentit ja kyberturvallisuus – 8 kysymystä ja vastausta

Vastauksia keskeisiin kysymyksiin tekoälyagenttien käyttöoikeuksista, manipuloinnista, datasta, ihmisen roolista sekä tekoälyn vaikutuksesta kyberhyökkäyksiin ja -puolustukseen.

Mikä tekoälyagentti on?

Tekoälyagentilla voidaan tarkoittaa monenlaisia ratkaisuja. Olennaista on erottaa toisistaan esimerkiksi kysymyksiin vastaava tekoälyavustaja ja autonomisempi agentti, joka pystyy käyttämään sille annettuja työkaluja, hakemaan tietoa järjestelmistä ja suorittamaan tehtäviä itsenäisesti.

Mitä enemmän agentilla on autonomiaa, käyttöoikeuksia ja yhteyksiä organisaation muihin järjestelmiin, sitä enemmän sillä on myös mahdollisuuksia aiheuttaa vahinkoa, jos sen toiminta poikkeaa suunnitellusta.

Mitkä ovat tekoälyagentin suurimmat tietoturvariskit?

Tekoälyagenttien keskeisiä tietoturvariskejä ovat liian laajat käyttöoikeudet, epäluotettava syötedata ja mahdollisuus suorittaa ei-toivottuja toimenpiteitä itsenäisesti.

Jos tekoälyagentilla on pääsy esimerkiksi ERP-järjestelmään, asiakastietoihin, sähköpostiin tai maksuliikenteeseen, sillä voi olla tekninen mahdollisuus tehdä organisaation kannalta erittäin merkittäviä toimenpiteitä.

Siksi tekoälyagentteihin kannattaa soveltaa tuttua tietoturvaperiaatetta: vähimpien oikeuksien periaatetta, jossa agentille annetaan vain ne käyttöoikeudet ja toimintamahdollisuudet, joita se tarvitsee tehtävänsä suorittamiseen.

Turvallisuutta suunniteltaessa pitäisi pystyä vastaamaan vähintään kolmeen kysymykseen:

  1. Mihin agentti pääsee?
  2. Mitä se voi tehdä?
  3. Mitä tapahtuu, jos se toimii väärin?
Voiko tekoälyagenttia manipuloida?

Kyllä. Tekoälyagentin toimintaa voidaan manipuloida esimerkiksi sen käsittelemien syötteiden, dokumenttien tai muun ulkopuolisen datan kautta.

Yksi tunnettu hyökkäystapa on prompt injection, jossa tekoälylle käsiteltäväksi annettuun sisältöön sisällytetään ohjeita, joiden tarkoituksena on saada järjestelmä toimimaan suunnittelijan tarkoituksen vastaisesti.

Riski kasvaa erityisesti silloin, kun agentti käsittelee ulkopuolelta tulevaa sisältöä, kuten verkkosivuja, asiakkaiden syötteitä, sähköposteja tai dokumentteja.

Kuinka paljon käyttöoikeuksia tekoälyagentille pitäisi antaa?

Mahdollisimman vähän suhteessa sen tehtävään. Tekoälyagentille ei kannata antaa laajoja oikeuksia vain siksi, että se tekee prosessista tehokkaamman. Käyttöoikeuksien pitäisi perustua siihen, mitä agentin todella täytyy pystyä tekemään.

Lisäksi on hyvä erottaa toisistaan oikeus:

  • lukea tietoa
  • ehdottaa toimenpidettä
  • tehdä muutos
  • suorittaa liiketoimintakriittinen toimenpide.

Kaikkien näiden ei tarvitse kuulua samalle agentille. Erityisesti kriittisissä toiminnoissa voidaan käyttää mallia, jossa tekoäly valmistelee tai ehdottaa toimenpiteen, mutta ihminen hyväksyy sen ennen toteutusta.

Tarvitaanko tekoälyagentin päätöksissä edelleen ihmistä?

Kriittisissä päätöksissä usein kyllä. Tekoälyä voidaan hyödyntää esimerkiksi tietoturvassa tilanteiden analysointiin, hälytysten priorisointiin ja nopeaan reagointiin.

Agentti voisi esimerkiksi havaita epäilyttävän kirjautumisen ja sulkea vaarantuneen käyttäjätunnuksen sekunneissa. Jos tekoälyllä olisi samalla oikeus katkaista pääsy liiketoimintakriittisiin järjestelmiin, väärä positiivinen havainto voisi aiheuttaa organisaatiolle merkittävän käyttökatkon. Siksi olennaista on arvioida päätöksen vaikutusta.

Mitä vakavammat seuraukset väärällä päätöksellä voi olla, sitä tärkeämpää on harkita human-in-the-loop-mallia eli ihmisen hyväksyntää ennen lopullista toimenpidettä.

Miten tekoäly muuttaa kyberhyökkäyksiä?

Tekoäly muuttaa kyberhyökkäyksiä ennen kaikkea lisäämällä niiden nopeutta ja mittakaavaa.

Tekoäly voi auttaa hyökkääjää etsimään järjestelmistä heikkouksia, testaamaan useita hyökkäysreittejä rinnakkain ja analysoimaan löydöksiä huomattavasti ihmistä nopeammin.

Autonomisempi järjestelmä voi myös jatkaa etenemistään löydettyään ensimmäisen heikkouden. Se tarkoittaa, että organisaatioiden reagointinopeudesta tulee entistä tärkeämpi osa kyberturvallisuutta.

Jos haavoittuvuuksia pystytään löytämään ja hyödyntämään aikaisempaa nopeammin, kriittisten järjestelmien päivityksiä ja haavoittuvuuksien korjaamista ei voida välttämättä jättää pitkien päivityssyklien varaan.

Miten tekoälyagentteja voidaan käyttää kyberpuolustuksessa?

Sama teknologia, joka tehostaa hyökkääjän toimintaa, tarjoaa myös puolustajalle uusia mahdollisuuksia.

Tietoturvaympäristöissä syntyy valtavia määriä lokitietoa, hälytyksiä ja tapahtumia. Tekoälyä voidaan käyttää esimerkiksi:

  • suuren tietomäärän analysointiin
  • poikkeamien tunnistamiseen
  • tietoturvahälytysten luokitteluun ja priorisointiin
  • tapahtumaketjujen yhdistämiseen
  • asiantuntijan päätöksenteon tukemiseen
  • osan reagointitoimenpiteistä automatisointiin.

Tavoitteena ei välttämättä ole poistaa ihmistä prosessista, vaan auttaa asiantuntijaa tunnistamaan valtavasta tietomäärästä nopeasti se, mikä on merkityksellistä.

Jos hyökkääjä alkaa toimia tekoälyn nopeudella, myös puolustuksen on hyödynnettävä automaatiota ja tekoälyä oman reagointikykynsä parantamiseksi.

Mitä dataa tekoälyagentille voi antaa?

Kaikkea tietoa ei kannata käsitellä samalla tavalla tai samassa tekoäly-ympäristössä.

Julkiselle tiedolle, organisaation sisäiselle tiedolle, luottamukselliselle tiedolle ja liiketoimintakriittiselle datalle voidaan tarvita erilaisia ratkaisuja ja eri tasoinen kontrolli.

Lisäksi kannattaa huomioida, ettei vain tekoälylle annettu aineisto voi olla luottamuksellista. Myös tekoälylle esitetty kysymys voi paljastaa arkaluonteista tietoa.

Esimerkiksi yrityksen julkisten tilinpäätöstietojen analysointi ei itsessään ole ongelma. Kysymys “kannattaisiko meidän ostaa tämä yritys?” voi kuitenkin paljastaa organisaation suunnitelman, jota ei ole tarkoitettu ulkopuolisten tietoon.

Mitä kriittisemmästä datasta tai käyttötapauksesta on kyse, sitä tärkeämmiksi muuttuvat kysymykset siitä, missä tekoäly toimii, kuka hallitsee ympäristöä ja kuka pääsee käsiksi dataan ja malleihin.

Kuka siis päättää, mitä tekoälyagentti saa tehdä?

Päätöstä ei pitäisi jättää yksin kehittäjälle tai itse tekoälyratkaisulle. Organisaation pitää määrittää agentin tehtävä, käyttöoikeudet ja toimintarajat riskiperusteisesti. 

Liiketoiminta määrittää, mitä agentilta tarvitaan, tekniset omistajat sen, mihin järjestelmiin se kytkeytyy, ja tietoturva auttaa määrittämään, millä oikeuksilla ja millä kontrolleilla toiminta voidaan toteuttaa turvallisesti. 

Kriittisissä toiminnoissa myös ihmisen hyväksyntä voi olla osa näitä rajoja.

Syvenny aiheeseen

Tekoäly ja kyberturvallisuus: uhka, kohde ja puolustaja samassa ympäristössä →
Miten tekoäly muuttaa kyberturvallisuuden kokonaisuutta, kun se voi samaan aikaan olla hyökkäyksen väline, hyökkäyksen kohde ja puolustuksen työkalu?

Tietoturvavalvomo / SOC →
Miten IT- ja OT-ympäristöjen tietoturvavalvonta, uhkien tunnistaminen ja reagointi toteutetaan ympäri vuorokauden?

Suvereeni tekoäly →
Miten organisaatio voi hallita tekoälyn dataa, malleja, infrastruktuuria, sijaintia ja pääsyä silloin, kun käyttötapaus edellyttää korkeampaa kontrollia?

Tietoturva ja kyberturvallisuus →
Tutustu CGI:n kyberturvallisuuspalveluihin aina konsultoinnista, pääsynhallinnasta ja tietoturvavalvomosta turvallisuuden kehittämiseen.