Az Elon Musk által alapított xAI vállalat augusztus közepén két új chatbotot, Grok-2-t és Grok-2 mini-t mutatott be, amelyek máris jelentős problémákat okoztak. A chatbotok képesek kulcsszavak alapján képeket generálni, amelyeket aztán a felhasználók az X közösségi hálózaton megoszthatnak. Az új funkció azonban hamarosan viták kereszttüzébe került, mivel az X Premium előfizetői azonnal megosztották a botokkal készített, provokatív és ellentmondásos képeket.
Az egyik ilyen esetben a chatbotot arra kérték, hogy Kamala Harris-t fegyverrel ábrázolja, vagy Barack Obamát és Donald Trumpot drogfogyasztás közben mutassa be. Az ilyen típusú képek nemcsak etikailag problémásak, de jogi aggályokat is felvetnek. Miközben más chatbotok szigorúan betartják a jogi, erkölcsi és etikai korlátokat – különösen a gyerekekkel, közszereplőkkel és erőszakos tartalmakkal kapcsolatban –, Grok látszólag lazábban kezeli ezeket a szabályokat. Bár Grok állítja, hogy nem generál pornográf, erőszakos vagy gyűlöletet keltő képeket, illetve szerzői jogot sértő tartalmakat, a valóságban a chatbot mégis képes ilyen képeket létrehozni.
Musk a helyzetet szórakoztatónak találja, és úgy véli, hogy „az emberek jól szórakoznak”. Ez a megközelítés azonban nem találkozott pozitív fogadtatással, különösen mivel a generált tartalmak nem tartalmazzák az „AI által generált” jelzést, ami tovább növeli a félretájékoztatás veszélyét.
Az xAI chatbotjai máris felkeltették az amerikai és európai szabályozók figyelmét, különösen mivel az USA-ban közelednek a választások, és az EU már bevezetett egy új AI-törvénycsomagot, amely a szerzői jogokkal és a deepfake-ekkel kapcsolatos. Míg a Grok botok ilyen szabadon működnek, a másik oldalon a Google Gemini chatbotját kritizálják, mert túlzottan politikailag korrekt, és szigorúan tiltja a rassz és nemi sztereotípiákat.
