Den brittisk-kanadensiske datavetaren Geoffrey Hinton, ofta kallad “AI:s gudfader”, har höjt sin bedömning av risken att artificiell intelligens (AI) kan leda till mänsklighetens undergång inom de närmsta tre decennierna. Hinton varnar för att utvecklingen går mycket snabbare än väntat.
I en intervju med BBC:s program Today uppgav Hinton att det finns en “10-20%” chans att AI leder till mänsklighetens utplåning inom 30 år. Detta är en förhöjning jämfört med hans tidigare uppskattning på 10%. “Vi har aldrig tidigare behövt hantera något som är mer intelligent än oss själva,” sa Hinton och betonade de svårigheter detta medför.
Hinton, som nyligen tilldelades Nobelpriset i fysik för sitt banbrytande arbete inom AI, jämförde människans framtida roll i relation till AI med en treåring jämfört med en vuxen: “Vi kommer att vara som treåringar.” Detta beskriver skillnaden i intelligens mellan människor och de kraftfulla AI-system som kan utvecklas.
Oro för okontrollerad utveckling
Förra året skapade Hinton rubriker när han lämnade sitt jobb på Google för att kunna tala mer öppet om de risker som förknippas med AI-utveckling. Han uttryckte oro för att “onda aktörer” kan använda teknologin för skadliga syften. En central fråga för AI-säkerhetsforskare är risken för att skapa artificiell generell intelligens (AGI) – system som är smartare än människor – vilket kan leda till att teknologin undandrar sig mänsklig kontroll och blir ett existentiellt hot.
Hinton erkände att han inte förväntade sig att AI skulle nå dagens nivå så snabbt. “De flesta experter inom fältet tror nu att vi inom de nästa 20 åren kommer att utveckla AI-system som är smartare än människor. Det är en mycket skrämmande tanke,” sa han.
Reglering krävs för säker utveckling
Hinton betonade vikten av att regeringar ingriper för att reglera AI-utveckling. “Min oro är att den osynliga handen inte kommer att skydda oss. Att låta större företags vinstintresse styra kommer inte att vara tillräckligt för att garantera en säker utveckling,” sa han.
Trots sina farhågor delar inte alla experter hans uppfattning. Yann LeCun, en annan av AI:s “gudfäder” och chefsforskare på Meta, har tonat ned hotet och menar att AI i stället kan bidra till att rädda mänskligheten från undergång.
