AI:s gudfader varnar – vill stoppa utvecklingen
Allt fler i Silicon Valley varnar för riskerna med så kallad superintelligens. På onsdagen skrev över 850 framstående personer under ett upprop för att stoppa utvecklingen, som de menar utgör ett hot – mot hela mänskligheten.
Över 850 personer, däribland framstående teknikentreprenörer som Virgin Groups grundare Richard Branson och Apples medgrundare Steve Wozniak, skrev på onsdagen under ett upprop som uppmanar till att stoppa utvecklingen av superintelligens. Det rapporterar CNBC.
Bland undertecknarna finns även AI-pionjärerna Yoshua Bengio och Geoff Hinton – ofta kallade ”AI:s gudfäder”.
– För att på ett säkert sätt kunna ta oss mot superintelligens måste vi vetenskapligt fastställa hur man utformar AI-system som i grunden är oförmögna att skada människor, vare sig genom felinriktning eller illvillig användning, säger Yoshua Bengio i ett uttalande och fortsätter:
– Vi måste också se till att allmänheten får ett mycket starkare inflytande över de beslut som kommer att forma vår gemensamma framtid.
Varningen: Människan kan förlora makten
Superintelligens är det nya svarta i Silicon Valley, där företag som Elon Musks xAI och Sam Altmans OpenAI tävlar om att lansera de mest avancerade språkmodellerna. Meta har till och med gått så långt som att döpa sin LLM-avdelning till ”Meta Superintelligence Labs”. Till skillnad från dagens AI-system kan superintelligens förbättra sig själv på ett sätt som ligger bortom mänsklig kontroll och förståelse.
De som står bakom uppropet varnar för att superintelligens kan leda till ”mänsklig ekonomisk obsolescens och maktförlust, förlust av frihet, medborgerliga rättigheter, värdighet och kontroll – samt till nationella säkerhetsrisker och till och med möjligheten till mänsklig utrotning.”
Förutom AI- och teknikprofiler består listan av undertecknare av en bred koalition av akademiker, mediepersonligheter, religiösa ledare och en grupp av tidigare amerikanska politiker och tjänstemän.
Följ taggar