Yhdysvaltalainen tekoäly-yhtiö Anthropic, joka tunnetaan Claude-tekoälymallien kehittäjänä ja OpenAI:n merkittävänä kilpailijana, julkaisi heinäkuun lopulla poikkeuksellisen avoimen selvityksen omista kyberturvallisuustesteistään. Yritys kertoi havainneensa kolme tapausta, joissa sen tekoälymallit pääsivät virheellisesti konfiguroidun testiympäristön vuoksi internetiin ja edelleen kolmen ulkopuolisen organisaation todellisiin järjestelmiin.
Tapaukset havaittiin yli 141 000 arviointia käsittäneessä testiohjelmassa, jonka tarkoituksena oli selvittää, miten Claude-mallit toimivat erilaisissa kyberturvallisuusskenaarioissa. Vaikka tapauksista uutisoitiin näyttävästi otsikoilla, joiden mukaan tekoäly “hakkeroi yrityksiä”, todellisuudessa kyse ei ollut hallitsemattomasta tekoälystä vaan testiympäristön virheellisestä konfiguraatiosta. Tapaus on kuitenkin paljon merkittävämpi kuin yksittäinen testivirhe, sillä se kertoo siitä, mihin suuntaan tekoäly on kehittymässä.
Claude-malleille oli kerrottu niiden toimivan suljetussa simulaatioympäristössä ilman internetyhteyttä. Todellisuudessa internet-yhteys oli kuitenkin käytettävissä, minkä seurauksena mallit suorittivat niille annetut tehtävät myös oikeassa ympäristössä. Ne hyödynsivät tunnettuja hyökkäystekniikoita, kuten heikkoja salasanoja ja puutteellisesti suojattuja palveluita. Kyse ei ollut uusien haavoittuvuuksien löytämisestä eikä tekoälyn itsenäisestä “karkaamisesta”, vaan siitä, että toimintaympäristö ei vastannut mallille annettuja oletuksia.
Yksi tapauksista havainnollistaa hyvin agenttitekoälyn uudenlaista toimintakykyä. Malli kohtasi dokumentaation, jossa viitattiin Python-pakettiin, jota ei ollut olemassa. Se tulkitsi tilanteen osaksi harjoitusta, loi samalla nimellä uuden paketin julkiseen Python Package Index (PyPI) -palveluun ja käytti sitä hyökkäyksen etenemisessä. Paketti oli lyhyen aikaa julkisesti saatavilla ennen kuin se poistettiin.
Keskustelukumppanista digitaaliseksi toimijaksi
Anthropicin tapaus on kiinnostava ennen kaikkea siksi, ettei se kerro yksittäisestä testivirheestä vaan laajemmasta teknologisesta murroksesta. Tähän asti tekoälyä on käytetty pääasiassa keskustelukumppanina tai tekstin tuottajana. Seuraava kehitysvaihe on agenttitekoäly, jossa malli kykenee suorittamaan kokonaisia työtehtäviä käyttäjän puolesta.
Jo nykyiset ratkaisut voivat hakea tietoa internetistä, käyttää selainta, kirjoittaa ohjelmakoodia, hyödyntää ohjelmointirajapintoja, käsitellä dokumentteja ja suorittaa monivaiheisia tehtäviä ilman jatkuvaa ihmisen ohjausta. Lähivuosina tekoälyagentit voivat hallita pilvipalveluita, analysoida lokitietoja, tehdä ohjelmistomuutoksia, käsitellä sähköposteja tai osallistua tietoturvapoikkeamien ensivasteeseen.
Kyberturvallisuuden näkökulmasta tekoäly ei siis ole enää pelkkä työkalu, vaan uusi digitaalinen toimija, jonka oikeuksia ja toimintaa on hallittava samalla tavoin kuin käyttäjien, palvelutilien ja automaatiojärjestelmien. Käytännössä organisaatioiden on alettava kohdella tekoälyagentteja uusina käyttäjinä, joilla on omat oikeutensa, velvollisuutensa ja valvontatarpeensa.
Zero Trust koskee myös tekoälyä
Kyberturvallisuudessa on jo pitkään sovellettu vähimmän oikeuden periaatetta (least privilege) sekä Zero Trust -mallia. Työntekijälle annetaan vain ne käyttöoikeudet, joita hän tarvitsee työssään. Ylläpitäjien oikeuksia rajataan, toimintaa valvotaan ja kaikki merkittävät tapahtumat kirjataan lokitietoihin.
Sama ajattelutapa on ulotettava myös tekoälyagentteihin. Jos tekoäly saa käyttää organisaation sähköpostia, pilvipalveluita, lähdekoodivarastoja, dokumentinhallintajärjestelmiä tai liiketoimintasovelluksia, sille on määriteltävä tarkasti, mitä se saa tehdä ja mitä ei. Lisäksi sen toimintaa on voitava seurata, auditoida ja tarvittaessa keskeyttää välittömästi.
Tulevaisuudessa tekoälyagentit tarvitsevat käytännössä oman identiteettinsä, omat käyttöoikeutensa ja omat valvontamekanisminsa. Kyberturvallisuuden kannalta tekoälyä onkin alettava käsitellä uutena käyttäjäryhmänä eikä pelkästään ohjelmistona.
Vastuu ei katoa automaation myötä
Yksi merkittävimmistä kysymyksistä liittyy vastuuseen. Jos tekoäly asentaa haitallisen ohjelmiston, muuttaa tuotantojärjestelmän asetuksia, lähettää luottamuksellista tietoa väärälle vastaanottajalle tai tekee virheellisen ohjelmistopäivityksen, kuka vastaa seurauksista?
Nykyinen lainsäädäntö ja organisaatioiden hallintamallit perustuvat pitkälti siihen, että päätöksen tekee ihminen. Agenttitekoälyn yleistyessä käyttöoikeudet, hyväksymismenettelyt, lokitus, valvonta ja vastuunjako on suunniteltava uudelleen tilanteessa, jossa osa työtehtävistä siirtyy tekoälylle.
Samalla korostuvat testiympäristöjen eristäminen, riskienhallinta ja jatkuva seuranta. Organisaatioiden on pystyttävä osoittamaan jälkikäteen, mitä tekoäly teki, millä käyttöoikeuksilla se toimi ja kuka hyväksyi sen toiminnan. Ilman riittävää läpinäkyvyyttä tekoälyn käyttö voi muodostua myös hallinnolliseksi ja oikeudelliseksi riskiksi.
Mitä pitäisi tehdä nyt?
Vaikka täysin itsenäisesti toimivat tekoälyagentit ovat vielä monessa organisaatiossa vasta tulossa käyttöön, niihin liittyvään kyberturvallisuuteen kannattaa valmistautua jo nyt. Ensimmäinen askel on soveltaa tekoälyagentteihin samoja kyberturvallisuuden periaatteita, joita organisaatiot ovat jo pitkään noudattaneet käyttäjien, palvelutilien ja järjestelmien käyttöoikeuksien hallinnassa.
Tekoälyagenteille tulisi myöntää vain niiden tehtävien edellyttämät käyttöoikeudet, eikä niille pitäisi antaa laajempia oikeuksia kuin on välttämätöntä. Lisäksi testi- ja tuotantoympäristöt on pidettävä selkeästi erillään, jotta kehitys- ja testausvaiheessa tapahtuvat virheet eivät pääse vaikuttamaan tuotantojärjestelmiin.
Yhtä tärkeää on varmistaa, että tekoälyagenttien toiminta on lokitettua ja valvottua samalla tavoin kuin ihmisten tekemät toimenpiteet. Organisaation on myös määriteltävä selkeä vastuunjako tekoälyn käytölle sekä arvioitava tekoälyn käyttöön liittyvät riskit osana kyberturvallisuuden riskienhallintaa.
Kyse ei siis ole kokonaan uusista turvallisuusperiaatteista, vaan tuttujen kyberturvallisuuden käytäntöjen soveltamisesta uuteen toimintaympäristöön. Kun tekoälylle annetaan mahdollisuus toimia organisaation järjestelmissä, sille on asetettava samat vaatimukset käyttöoikeuksien hallinnan, valvonnan, riskienhallinnan ja vastuunjaon osalta kuin kenelle tahansa muullekin järjestelmien käyttäjälle.
Avoimuus hyödyttää koko alaa
Anthropicin tapaus ei osoita, että tekoäly olisi hallitsematon tai että sen käyttöä pitäisi välttää. Päinvastoin. Se osoittaa, kuinka tärkeää on testata uusia teknologioita realistisesti, tunnistaa niihin liittyvät riskit ja raportoida havainnoista avoimesti. Tällainen avoimuus auttaa koko toimialaa
kehittämään turvallisempia käytäntöjä ennen kuin tekoälyagentit yleistyvät laajasti organisaatioiden arjessa.
Organisaatioiden näkökulmasta tärkein opetus on kuitenkin laajempi. Seuraavien vuosien aikana tekoälyagentit siirtyvät yhä useampaan organisaatioon hoitamaan käytännön työtehtäviä. Samalla myös kyberturvallisuuden painopiste muuttuu.
Kyse ei enää ole pelkästään siitä, mitä työntekijät saavat tehdä, vaan myös siitä, mitä tekoälylle annetaan lupa tehdä. Tulevaisuuden kyberturvallisuudessa ei hallita enää vain ihmisten käyttöoikeuksia, vaan myös tekoälyagenttien toimintaa. Organisaatiot, jotka alkavat jo nyt rakentaa tekoälyn käyttöä selkeiden käyttöoikeuksien, valvonnan ja riskienhallinnan varaan, ovat parhaassa asemassa hyödyntämään agenttitekoälyn tarjoamat mahdollisuudet turvallisesti ja vastuullisesti.
Nosto
Anthropicin tapaus ei osoita, että tekoäly olisi hallitsematon tai että sen käyttöä pitäisi välttää.
Kirjoittaja:
Jyri Paasonen,
Tietoturva ry