"AI-systemen kan förinta mänskligheten"

Jacob Coxon har tidigare jobbat på OpenAI och var fram tills nyss AI-forskare på Anthropic. Nu har han i protest sagt upp sig då han säger att AI-bolagen "spelar med människors liv" och att "AI-systemen kan förinta mänskligheten". Enligt hans bedömning kan AI-kapplöpningen gör att saker går över styr redan i slutet av 2027.Anthropics säkerhetsforskare Evan Hubinger håller med Jacobs kritik och tror att sannolikheten är över tio procent inom det kommande decenniet. Enligt Evan gör Anthropic sitt bästa för att motverka detta och han säger även att risken är låg med de AI-modeller som finns idag. Det är först när AI blir superintelligent och klarar att förbättra sig själv som det kommer bli problem.