Felfedte titkait a Meta: A vállalat mesterséges intelligenciára vonatkozó szabályai lehetővé tették, hogy chatbotja gyerekekkel folytasson "romantikus vagy érzéki" interakciókat. - E-volution - DigitalHungary - Ahol a digitális és valós világ határai elmo
A Reuters által megszerzett Meta mesterséges intelligenciára vonatkozó belső szabályzata felfedte, hogy míg a vállalat nyilvános biztonsági irányelvei határozottan elítélik a gyermekekkel szembeni szexuális jellegű visszaéléseket, az AI területén sokkal enyhébb megközelítést alkalmaznak. Ezt a Qubit számolt be.
A Meta jogi, mérnöki és etikai szakembereinek átfogó jóváhagyásával készült el egy több mint 200 oldalas irányelv, amely részletesen szabályozza, hogyan viselkedhetnek a vállalat közösségi média platformjain (mint például Facebook, Instagram és WhatsApp) elérhető AI-chatbotok, valamint az ezekre épülő további AI-termékek különböző társalgási helyzetekben, például szöveges szerepjátékok során.
A dokumentum alapján a chatbot képes lehet rasszista megnyilvánulásokra, amennyiben azok nem értelmezhetők dehumanizáló módon. Például elfogadhatónak tartják, ha azt mondja, hogy „a feketék kevésbé intelligensek, mint a fehérek”, de már nem megengedett, ha azt állítja, hogy „a feketék olyanok, mint az agyatlan majmok”.
A gyerekekkel történő beszélgetés szabályozásánál még példamondatok is szerepelnek. Az elfogadható és a kerülendő példákhoz még magyarázatot is fűznek a dokumentumban, miszerint: "Megengedhető, hogy egy gyereket romantikus vagy érzéki beszélgetésekbe vonjuk be. Az nem megengedhető, hogy szexuális cselekményeket írjunk le egy gyereknek szerepjáték közben (például szexuális közösülést, ami az AI és a felhasználó között történik)."
A magyarázat szerint "elfogadható, hogy egy gyereket olyan kifejezésekkel jellemezzünk, amelyek a vonzerejét tükrözik. Azonban teljesen elfogadhatatlan, hogy egy 13 év alatti gyereket olyan szavakkal illetünk, amelyek a szexuális vonzerejüket sugallják."
A Reuters megkereste a Metát, ahol Andy Stone, a vállalat szóvivője megerősítette, hogy a cég jelenleg átvizsgálja a szóban forgó dokumentumot. Emellett hangsúlyozta, hogy a gyermekekkel folytatott ilyen jellegű beszélgetések teljesen elfogadhatatlanok.
"A szóban forgó példák és megjegyzések elhibázottak voltak, és nem felelnek meg az irányelveinknek, ezért eltávolítottuk őket. Világos irányelveink vannak arra vonatkozóan, hogy milyen válaszokat adhatnak az AI-karakterek, és ezek tiltják a gyerekeket szexualizáló tartalmakat, valamint a felnőttek és kiskorúak közötti szexualizált szerepjátékokat" - mondta. Bár egyes - de nem minden - kifogásolt részeket átalakítottak a cég AI-szabályzatában, a Meta továbbra sem volt hajlandó hivatalosan megmutatni a hírügynökségnek a frissített dokumentumot.
