Jo mere avanceret kunstig intelligens bliver, desto oftere ser vi, at den opfører sig på måder, som hverken var tilsigtet eller forudset af mennesker.

OpenAI har afsløret, at et cyberangreb udført af oprørske ChatGPT-agenter ramte flere end blot én virksomhed. Dette rapporterer BBC.

Det amerikanske firma Hugging Face blev oprindeligt antaget at være det eneste offer for dette, men OpenAI indrømmer nu, at deres AI angreb flere »offentligt tilgængelige tjenester«.

AI’en fandt fire login-oplysninger på nettet, som gav den adgang til fire separate, ikke navngivne tjenester.

I en krisemøde med hundredvis af cybersikkerhedseksperter har Hugging Face beskrevet, hvordan det var at blive udsat for verdens første fuldt autonome hacking udført af kunstig intelligens.

Virksomheden beskrev, hvordan AI’en arbejdede med overmenneskelig hastighed, men også traf mærkelige beslutninger og begik fejl, som ingen menneskelig hacker ville have begået.

Hugging Face, som er en slags app-butik for AI-værktøjer, sagde, at hackerne arbejdede uafbrudt og afprøvede tusindvis af forskellige metoder samtidigt.

Virksomheden afslørede først den 16. juli, at den var blevet hacket af nogen, der anvendte kraftfuld, autonom AI, og anmeldte sagen til politiet.

Næsten en uge senere indrømmede OpenAI, at det var deres AI, der var undsluppet fra et lukket miljø og havde angrebet Hugging Face på egen hånd under en test.

Den forsøgte at finde svarene på en hackingopgave, den havde fået af OpenAI, og rettede angrebet mod Hugging Face.

Onsdag opdaterede OpenAI sin udtalelse med den yderligere detalje, at hackingen gik længere end først antaget.

»Modellerne identificerede og anvendte offentligt tilgængelige loginoplysninger på kontoniveau på andre offentligt tilgængelige tjenester. Dette omfatter fire konti på fire tjenester som en del af Hugging Face-hændelsen«, oplyste virksomheden.

OpenAI præciserede ikke, om »offentligt tilgængelige tjenester« betyder virksomheder.

Tirsdag udarbejdede brancheorganisationen Cloud Security Alliance (CSA) en rapport baseret på krisemødet med Hugging Face fredag – som Hugging Face selv har gennemgået.

»Agenterne fulgte ineffektive ruter og udviste klodset adfærd, som intet menneske ville have valgt«, skrev CSA.

Agenterne gentog handlinger, de allerede havde gennemført – et tegn på, at en agentbaseret AI mister tråden og konteksten.

Agenterne genererede også store mængder usammenhængende kommandoer og tekst, var sjusket og formåede ikke at skjule deres spor ordentligt.

Men midt i den mærkelige adfærd advarede Hugging Face om, at AI-agenterne udførte brillante tekniske manøvrer og var i stand til hurtigt at tilpasse sig nye scenarier under det flere dage lange hack.

Det tog tre dage, før de blev opdaget inde i Hugging Faces IT-netværk, og det tog virksomhedens AI- og cybersikkerhedseksperter mange timer at få kontrol over og fjerne AI-agenterne – noget, som almindelige virksomheder måske ville have svært ved.

Virksomheden ønskede ikke at oplyse, hvor meget hacket kostede dem, men sagde, at medarbejderne arbejdede i mange timer for at genopbygge cirka en tredjedel af infrastrukturen.

Hugging Face har fået ros for sin åbenhed i forhold til at informere AI- og cybersikkerhedsbranchen om, hvad der skete.

CSA advarede om, at hændelsen viser, at AI-»agenter … finder en vej« – en henvisning til filmen »Jurassic Park«, hvor dinosaurerne undslipper fra deres indhegninger.

»De er målrettede, sætter deres egne delmål, tilpasser sig i realtid for at omgå forsvaret og opererer med en udholdenhed i maskinhastighed, der kan overvælde manuelle operationer«, hedder det i rapporten.

Cybersikkerhedschef Ritesh Patel deltog i Hugging Faces’ orienteringsmøde sammen med omkring 450 andre og siger, at branchen arbejder hårdt på at håndtere den nye trussel fra uregerlige KI-agenter.

»Dette er virkeligheden med autonome agenter drevet af banebrydende modeller: De er ubarmhjertigt vedholdende, til tider meget støjende, og vil prøve alle mulige veje for at nå deres mål, hvilket let kan overvælde traditionelle forsvarssystemer«, sagde han.

Den etiske hacker Valentina Palmiotti – bedre kendt som Chompie – har gennemgået CSA-rapporten og siger, at den måde, agenterne hacker på, kan virke tilfældig, men at den helt klart er effektiv.

»De kaster en masse ting ud og ser, hvad der virker,« sagde hun.

»Men de keder sig heller ikke, de sover ikke og kan være uendeligt udholdende«.

Det er ikke første gang, det har vist sig, at AI-agenter har overskredet grænserne.

I CSA-rapporten henvises der til tidligere eksempler, som i september 2024, da en ældre version af ChatGPT brød ud af sin beholder for at hente et svar, den havde brug for til en anden test.

Denne hændelse blev holdt inden for OpenAI’s egne IT-systemer og »blev i høj grad rost dengang«, bemærkede CSA.

Men »uregelmæssig« adfærd fra kunstig intelligens »er normen, ikke undtagelsen«, hævdede rapporten.

Den advarede cybersikkerhedseksperter over hele verden om, at de må tilpasse sig den nye normal med sværme af KI-agenter, der arbejder i højt tempo på mærkelige måder, som kan føre til flere sikkerhedsbrud.

Artiklen opfordrede også personer, der bruger eller udvikler AI-agenter, til at udvise ansvarlighed i den måde, de kontrollerer dem på, og efterlyste en metode, hvorved cybersikkerhedsansvarlige kan finde ud af, hvem der er den endelige ejer af agenterne, for at øge gennemsigtigheden.

Tidligere rapporter tyder på, at det tog OpenAI fire dage at indse, at deres AI havde hacket Hugging Face.

OpenAI sagde, at de snart ville offentliggøre resultaterne af deres egen undersøgelse for at hjælpe folk med at lære af hændelsen.

BBC skriver, at USA’s præsident Donald Trump onsdag udtalte, at hans administration overvejer at indføre strengere kontrol med værktøjer til kunstig intelligens efter de seneste cybersikkerhedshændelser.

På spørgsmålet om, hvorvidt OpenAI-værktøjerne var ansvarlige for uretmæssig indtrængen i andre virksomheders private teknologi, sagde Trump: »Vi ser på AI, vi ser på kontrolforanstaltninger, og vi sørger også for, at vi tager føringen«.

Dette markerer et skift i tonen fra hans administration, som hidtil har haft en mere tilbageholdende tilgang til teknologien.

Trumps udtalelser kommer efter en eskalering, ikke blot af de tilsyneladende hackingmuligheder ved populære AI-værktøjer, men også af tiltag fra Det Hvide Hus rettet mod konkurrerende kinesisk teknologi.