Anthropic lättar på sina säkerhetsregler för Claude

AI-företaget Anthropic har släppt en ny version av sin så kallade "Responsible Scaling Policy" (RSP) där tidigare så kallade "röda linjer" för hur deras AI-modell Claude får användas nu har ersatts av mer generella riktlinjer. Anthropic verkar själva se sig tvingade till det här för att inte hamna på efterkälken mot sina konkurrenter. I den nya RSP:n skriver Anthropic:"If one AI developer paused development to implement safety measures while others moved forward training and deploying AI systems without strong mitigations, that could result in a world that is less safe. The developers with the weakest protections would set the pace, and responsible developers would lose their ability to do safety research and advance the public benefit."Anthropics förändrade riktlinjer kommer bara dagar efter det rapporterats att USA:s försvarsminister Pete Hegseth hotat företaget med konsekvenser om inte det amerikanska försvaret får använda Claude hur de vill. Exakt vilka dessa konsekvenser skulle kunna vara är oklart, men det spekuleras om att det skulle kunna innebära att Anthropic blir av med sina Pentagon-kontrakt och i värsta fall skulle kunna benämnas som en säkerhetsrisk, något som skulle innebära att inga företag som levererar mjukvara eller annat till det amerikanska försvaret skulle kunna använda Claude för att utveckla sina produkter. Anthropic har redan tidigare anspassat sina regler för Pentagon jämfört med regler som gäller företagets övriga kunder. Man har dock motsatt sig att Claude skulle få användas för massövervakning av amerikanska medborgare samt helt autonoma vapen, det vill säga vapen som kan avfyras utan mänsklig inblandning. Om den amerikanska militären framöver kan få använda Claude till den typen av applikationer återstår att se.