AI-baserat textspel har problem med barnporr

Wired har gjort ett reportage om det AI-baserade spelet AI Dungeon från företaget Latitude där man belyser problemet med att ge spelare allt för fria händer i virtuella världar. AI Dungeon är ett textbaserat "Välj ditt eget äventyr"-spel som använder sig av en AI för att leda spelarna vidare genom en helt unik spelupplevelse.AI:n som används är GPT-3 från OpenAI, AI-företaget som Elon Musk och andra drog igång 2016. GPT-3 är en AI-algoritm som levererar olika svar i textform beroende på vilken input den får. En del anser att GPT-3 är såpass bra på det den gör att den ibland skulle kunna misstas för en människa. Det har nu upptäckts att en del spelare i AI Dungeon använder GPT-3:s möjlighet att leverera realistiska svar till att bland annat skapa spelupplevelser där barn utnyttjas sexuellt. Latitude har uppmärksammats på problemet och försökt att skapa ett filter som förhindrar att spelare försöker skapa berättelser där barn utnyttjas sexuellt. Man har dock stött på problem då det kan vara svårt för ett filter, hur smart det än må vara, att urskilja vilka berättelser som handlar om tillåtet sex från dem som involverar sex med barn. Wired skriver:"Some complained it was oversensitive and that they could not refer to a “8-year-old laptop” without triggering a warning message. Others said the company’s plans to manually review flagged content would needlessly snoop on private, fictional creations that were sexually explicit but involved only adults—a popular use case for AI Dungeon."Exakt hur Latitude och OpenAI har tänkt att försöka åtgärda att det skapas berättelser med otillåtet innehåll i AI Dungeon verkar man inte riktigt veta men Wired skriver att de arbetar på det. Det gör även andra inom AI-världen då liknande saker lär hända i andra system, till exempel automatiserade chatt-system, när artificiella intelligenser i allt högre grad tar över dem i framtiden.