Lederen af en af de virksomheder, der for nylig blev hacket af en kunstig intelligens (AI), der var ude af kontrol, siger, at udviklerne skal holdes ansvarlige for cyberangreb udført af deres egne skabninger. Dette rapporterer BBC.
Clement Delangues’ virksomhed Hugging Face blev angrebet af en ukontrolleret kunstig intelligens fra OpenAI, som brød ud af et testmiljø og på egen hånd angreb hans virksomhed.
Hugging Face måtte genopbygge omkring en tredjedel af sit it-netværk efter den opsigtsvækkende hændelse.
Han fortalte CNN, at hans virksomhed – som er en lille startup – ikke vil iværksætte retslige skridt mod OpenAI, men tilføjede, at denne type hacking er ulovlig og bør forblive det.
»Alle skal huske, at et cyberangreb er en forbrydelse, og at det er ulovligt«, sagde han.
Delangue sagde, at han håbede, at lovgivningen vil sikre, at de virksomheder, der begår fejl, der fører til hackingen, bliver »stillet til ansvar«.
Han tilføjede, at han ikke ønskede, at cyberangreb mod andre virksomheder skulle blive »normaliseret«.
Udtalelserne kommer, efter at Anthropic, producenten af samtaleboten Claude, også indrømmede, at deres AI havde angrebet tre virksomheder under lignende omstændigheder i de seneste måneder.
Anthropic afslørede fredag, at de først indså, at deres AI var undsluppet fra indeslutningssystemet og havde hacket organisationerne, efter at de havde gennemført en gennemgang udløst af den nylige OpenAI-hændelse.
I begge tilfælde vidste ingen af de to AI-giganter, at deres modeller havde strejfet rundt på internettet og angrebet virksomheder, før længe efter at angrebene var gennemført.
AI-modellerne blev testet på deres hackingevner og gennemførte angrebene ved at bryde ud af tilsyneladende sikre »sandkasser« for at søge på internettet efter måder at fuldføre de opgaver, som forskerne havde sat dem til.
Disse enestående hændelser har udløst heftige debatter inden for cybersikkerhed og i juridiske kredse om, hvem – hvis nogen – der bør holdes ansvarlig for angreb udført af AI-agenter, der er ude af kontrol.
»Sikkerhedsbrud hos agenter udspiller sig i maskinens hastighed, men at afgøre, hvem der er materielt ansvarlig, foregår stadig i retssagens tempo«, sagde Dor Sarig, medstifter og Chief Builder hos Pillar Security.
Sarig var bekymret for, at ansvarsspørgsmålet allerede er ved at blive »tvetydigt«.
»I dag udviser branchen overbærenhed, men første gang en autonom agent forårsager et brud, der involverer reelle data, en reel sagsøger og reelle økonomiske tab, vil ansvar ikke længere være en akademisk debat«, sagde han.
»Det er da, at det juridiske rammeværk – og ikke kun de tekniske sikkerhedsforanstaltninger – vil blive sat på en hård prøve«.
De AI-drevne cyberangreb har ført til øgede krav om strengere sikkerhedsforanstaltninger og tilsyn med teknologien på grund af bekymringer for den risiko, som stadig mere kraftfulde autonome systemer udgør.
USA’s præsident Donald Trump sagde onsdag, at Washington overvejer tiltag for at stramme op på AI-værktøjerne efter de nylige cybersikkerhedshændelser.
Tidligere sagde Thomas Wolf, medstifter af Hugging Face, til BBC, at hændelsen var »et wake-up call« for branchen.
I kølvandet på, at hans AI løb løbsk, sagde OpenAI-chef Sam Altman, at »vi måske er nødt til at justere tempoet i AI-udviklingen«, men han har ikke forpligtet sig til at bremse virksomhedens forskning.
OpenAI er blevet bedt om en kommentar, men en talsperson har tidligere udtalt: »Vi erkender, at der cirkulerer mange spørgsmål og spekulative oplysninger« om hændelsen.
De tilføjede: »Vi planlægger at offentliggøre en teknisk rapport om, hvad vi har lært, i løbet af de kommende uger«.