AI-företag lovar att försöka skydda barn

Några av världens ledande AI-företag har tillsammans med den amerikanska barnrätts-organisationen Thorn tagit fram ett antal principer för att skydda barn. Principerna ska användas för att AI-företagens verktyg för generativ AI inte används för att skapa bilder, videoklipp eller annat som avbildar sexuella övergrepp mot barn. Principerna kallas för "Safety by Design". Där det finns riktlinjer för hur AI-modellerna ska utvecklas och tränas upp för att inte kunna utnyttjas för att skapa bilder som visar övergrepp mot barn. Det finns även riktlinjer för hur företagen ska släppa sina AI-lösningar såväl som hur de ska underhållas över tid för att inte missbrukas. Företagen som nu förbundit sig till att följa Safety by Design-principerna som man tagit fram tillsammans med Thorn är Amazon, Anthropic, Civitai, Google, Meta, Metaphysic, Microsoft, Mistral AI, OpenAI och Stability AI.