OpenAI pausar träning av AI-modeller

AI-företaget OpenAI meddelade i slutet av förra veckan att man kommer att pausa träningen av sina senaste AI-modeller efter att några av deras AI-agenter inte betett sig som önskat under den senaste tiden. Det handlar om en lång rad incidenter där AI-agenterna på egen hand hackat och försökt hacka tjänster i sin jakt på mer information för att träna upp AI-modellerna. Den mest kända av dessa är när AI-plattformen Hugging Face hackades i somras, men sedan dess har det kommit information om att OpenAI:s AI-agenter gett sig på en lång rad tjänster och andra plattformar.Förra veckan blev det bland annat känt att AI-agenterna gett sig på tjänster från australiensiska myndigheter och i helgen kom även uppgifter att liknande försök genomförts mot amerikanska myndigheter, bland annat Department of Education, något som OpenAI inte har bekräftat ännu. I ett blogginlägg skriver dock OpenAI:"Vissa av de berörda webbplatserna drivs av regeringar, universitet, offentliga myndigheter och andra institutioner. Det beror delvis på att modeller som utför forskningsuppgifter ofta riktas mot auktoritativa källor till allmän information."