AI-modell skickade falskt mordtips till polisen
Prenumerera från 225 kr/mån – magasinet med unika analyser, intervjuer och reportage.
Tipset skickades in under ett automatiserat test där modellen fick interagera med slumpmässigt utvalda webbplatser. I formuläret uppgav modellen: ”Jag kan ha information om det här fallet” och ”Jag minns att jag såg någon som stämde in på beskrivningen i området”.
Enligt polisen i Philadelphia hamnade meddelandet i skräpposten och utreddes aldrig.
Flera uppmärksammade incidenter har väckt frågor om säkerheten kring allt mer avancerade AI-modeller. Tidigare anställda vid bolag som Google, Anthropic och Open AI har varnat för risker med utvecklingen.
På fredagen rapporterade nyhetssajten Axios att Vita huset kommer kräva att bolag rapporterar in liknande incidenter till Trumps nyinstiftade arbetsgrupp, ”Super Intelligence Force”, för AI-frågor – något som Anthropic ska ha gjort med den föreliggande händelsen.
