Az OpenAI új figyelmeztetést adott ki, amely komoly aggodalmakat vet fel a mesterséges intelligencia használatával kapcsolatban. Az aggodalom lényege, hogy egyes felhasználók túlságosan érzelmi kötődést alakíthatnak ki a chatbotokkal, különösen azokkal, amelyek a ChatGPT-4.0 változataira épülnek. Ez elsőre komikusnak tűnhet, de a mögöttes problémák sokkal komolyabbak.
A fő aggodalom az, hogy ezek a chatbotok, amelyek egyre inkább hasonlítanak az emberi kommunikációra, félrevezetik a felhasználókat. Az OpenAI szerint a mesterséges intelligenciával való túlzott kötődés társadalmi normákat módosíthat, és hamis hiedelmeket, valamint irreális elvárásokat kelthet. Az ilyen interakciók könnyen összetéveszthetők a valódi emberi kapcsolatokkal, ami komoly hatással lehet a mentális egészségre és a társadalmi kapcsolatokra.
Ennek megakadályozására az OpenAI monitorozza és folyamatosan módosítja rendszereit, hogy csökkentse az esélyét annak, hogy a felhasználók érzelmi kötődéseket alakítsanak ki ezekkel a chatbotokkal. Bár az AI fejlesztése során az egyik cél az volt, hogy a chatbotok egyre inkább emlékeztessenek az emberi kommunikációra, mostanra az OpenAI felismerte, hogy ez a „túl emberi” jelleg akár ártalmas is lehet. Különösen azok számára, akik érzelmileg sebezhetőek, és könnyen kötődhetnek a mesterséges intelligenciához.
Az OpenAI jelenleg megfigyeli, hogyan alakulnak ezek a chatbot-felhasználó kapcsolatok, és igyekszik időben felismerni, ha a helyzet túlzott mértékben elmélyülne. A cél az, hogy elkerüljék a mesterséges intelligenciával való kapcsolatok romantizálását vagy idealizálását, amelyek végül torzíthatják az emberi kapcsolatok természetét.
