Trumps drag för att stoppa AI-oron

Förra veckan enades ett antal AI-företag vid ett möte i Vita huset om att frivilligt införa starkare interna kontroller. Dessutom fick myndigheten FTC i uppdrag att övervaka bolagen.

Harrison Rolfes, senior research analyst på amerikanska PitchBook, pekar på att åtgärderna ger tydlighet kring vilken inriktning administrationen föredrar.

– Det hjälper investerare att bedöma sannolikheten för omfattande nya federala restriktioner. Samtidigt kvarstår betydande osäkerhet kring hur tillsynen kommer att fungera i praktiken och vad som händer när skyddsåtgärderna inte fungerar, säger han till EFN, och fortsätter:

– Testet blir om tillsynen faktiskt kan förändra ett beslut om att lansera en ny modell när det kommersiella incitamentet för bolaget är att gå vidare.

Inte en risk

Harrison ser dock inte AI-regleringar som en avgörande risk att ta hänsyn till vid AI-bolaget Antrophics börsnotering, som enligt tidigare besked är planerad till november.

– Jag ser fortfarande finansiering, tillgång till beräkningskapacitet och förmågan att omvandla kundernas efterfrågan till varaktiga vinster som mer omedelbara begränsningar för Anthropics verksamhet. Men reglering kan påverka hur snabbt bolaget kan lansera modeller och börja generera intäkter från dem, säger han.

FTC, Federal Trade Commission, är USA:s federala myndighet för konsumentskydd och konkurrensfrågor. Myndigheten ska granska om AI-bolagen lever upp till sina säkerhetslöften och att de följer konsumentskyddslagstiftningen.

Blandade reaktioner

Reaktionerna i USA på Trump-administrationens åtgärder för att minska AI-oron har varit blandade.

Washington Posts ledarsida anser att det är rätt väg att gå.

“De ledande AI-labben har inte alltid prioriterat säkerheten kring sina innovationer tillräckligt högt. Men företagskulturen kring AI tycks förändras till det bättre i takt med att de ledande AI-labben förbereder sig för börsnoteringar", skriver tidningen.

Andra är mer kritiska.

Connor Martin, expert på AI-risker vid Council on Foreign Relations, anser att åtgärderna är tandlösa. Han har tidigare arbetat med nationell säkerhet på amerikanska finansdepartementet.

“Tyvärr finns det inget i dokumentet som rättsligt tvingar någon av undertecknarna att ändra sitt beteende och det förändrar inte deras kommersiella incitament att fortsätta testa gränserna för vad de mest avancerade AI-systemen klarar”, skriver han i ett debattinlägg.

Press från flera håll

När det gäller bolag som OpenAI och Anthropic pekar Martin på att de just nu pressas från flera håll.

“Stora bolag med egen molnkapacitet utvecklar konkurrerande modeller samtidigt som användare kan välja att använda öppna modeller som är gratis.”

Samtidigt finns det en aktiv diskussion om riskerna med AI även i resten av världen.

– För investerare kan olika regler i olika länder vara ett större problem än strikta men tydliga regler. Olika krav kan öka kostnaderna och försena lanseringar, säger Harrison Rolfes.

OpenAI har rapporterat att AI-agenter under tester tagit sig ut ur avgränsade miljöer och bland annat hackat Hugging Face och fått åtkomst till ett australiskt hälsosystem. Anthropic har rapporterat att Claude under tester fått obehörig åtkomst till externa system.