TOPPNYHETER:

AI-agenter löpte amok – nu stäms Open AI: "Fara för allmänheten”

Delstaten Kalifornien har inlett en stämning av Open AI och anklagar bolaget för att ha vilselett och utsatt allmänheten för fara när AI-modeller utvecklats och testats utan tillräckliga säkerhetsrutiner.
Man i kostym talar vid mikrofon framför amerikansk flagga
Open AI:s vd Sam Altman. Foto: AP / TT Nyhetsbyrån
Hämta EFN:s app för iOS och AndroidGratis för iOS och Android: nyheter, analyser, börs, video, podd. Ladda ner gratis

Kaliforniens chefsåklagare Rob Bonta fokuserar i stämningen på cyberattacker som inträffade i juli i år efter att autonoma AI-agenter med hjälp av Open AI:s modeller hackat AI-startupen Hugging Face.

”Hugging Face-attacken var en förutsägbar följd av en intern kultur hos Open AI som prioriterar tillväxt och snabb utveckling av modeller högre än säkerhet och ansvarsutkrävande – och det var bara en av 80 kända incidenter”, lyder ett uttalande från Rob Bonta enligt Reuters.

Open AI-beskrev händelsen som ”en cyberincident utan motstycke” och beskrev den som ett bevis på ökat behov av transparens och den 16 september publicerades ett nytt ramverk för att informera om liknande händelser.

Open AI är sedan tidigare föremål för en rad stämningar där målsägande parter hävdar att de tagit skada av interaktion med bolagets tjänster.

Den kanadensiska provinsen British Columbia stämde i september Open AI, efter att bolagets säkerhetsteam flaggat en användares interaktioner med Chat GPT men inte meddelat lokala myndigheter om vad man upptäckt.

Personen i fråga utförde därefter ett våldsdåd på en skola där sex personer dödades och ytterligare 27 skadades.

Följ ämne och taggar

FinansmagasinetUnika analyser, intervjuer och reportage – från 225 kr/mån. Bli prenumerant
Nästa Artikel