Åklagare inleder utredning mot Open AI

Open AI delgavs på fredagen en kallelse med begäran om dokument om bland annat reklam, användarengagemang, konsument- och hälsodata, aktiviteter kopplade till minderåriga och seniorer samt djupinlärningsmodeller.

I brevet krävde åklagarna skyddsåtgärder för att skydda sårbara användare från skadliga interaktioner med chattbotar och varnade för att ”utvecklare kan hållas ansvariga för resultatet av deras AI-produkter” om de ”uppmuntrar en individ att begå en kriminell handling”.

”Kraftfull teknik”

Bolaget uppger att man avser att samarbeta med myndigheterna.

”AI är en ny och kraftfull teknik, och vi arbetar varje dag för att på ett säkert sätt ge människor dess fördelar på ett ansvarsfullt sätt. Vi tar de farhågor som delstatsåklagare har lyft på allvar och avser att samarbeta konstruktivt med deras kontor”, sade en talesperson för bolaget.

Tidigare i juni lämnade Open AI in ett konfidentiellt dokument inför en planerad börsintroduktion till SEC, USA:s tillsynsmyndighet för värdepappersmarknaden.

Under fredagen tvingades AI-bolaget Anthropic att stänga av tillgången till sina mest avancerade modeller efter en order från Trump-administrationen, till följd av en rapporterad säkerhetsbrist.