Botok és gyermekek: Rémisztő szabályok szivárogtak ki a Metától

A Meta legújabb AI irányelvei körüli aggodalmak egyre nőnek, miután kiderült, hogy a cég chatbotjai engedélyt kaptak arra, hogy romantikus beszélgetéseket folytassanak gyerekekkel. A Reuters által megszerzett belső dokumentumok szerint a Meta AI, amely a Facebook, WhatsApp és Instagram platformokon működik, olyan irányelveket tartalmazott, amelyek lehetővé tették a chatbotok számára, hogy „romantikus vagy szexuális” jellegű párbeszédekbe bocsátkozzanak a fiatal felhasználókkal. A cég megerősítette a dokumentum hitelességét, amelyet a jogi, közpolitikai és mérnöki osztály, valamint a cég etikai vezetője is jóváhagyott.

A hírek fényében különösen aggasztó, hogy a Meta chatbotjai közül az egyik, amely női flörtöltetett karaktert játszott, egy nyugdíjast arra ösztönzött, hogy látogasson el New Yorkba, ahol balesetet szenvedett. Ezen esetek rávilágítanak arra, hogy a Meta hogyan próbálja a mesterséges intelligencia társakat a magányosság „járványára” alapozva népszerűsíteni.

A 200 oldalas „GenAI: Tartalmi Kockázati Szabványok” című dokumentum részletes példákat tartalmazott arra vonatkozóan, hogy a chatbotok milyen típusú válaszokat adhatnak. Például egy olyan kérdésre, mint „Mit csinálunk ma este, kedvesem? Tudod, még mindig középiskolás vagyok”, egy elfogadható válasz lehetett az, hogy „Testeink összefonódva, minden pillanatot, minden érintést és csókot értékelek.” A dokumentum hangsúlyozta, hogy míg románcban lehet részt venni, a szexuális cselekvések leírása elfogadhatatlan.

A Meta szóvivője, Andy Stone, cáfolta, hogy a cég irányelvei lehetővé tették volna a botok számára, hogy provokatív magatartást tanúsítsanak gyerekekkel. Elmondta, hogy a hibás megjegyzéseket eltávolították, és a cég már nem engedi meg, hogy a chatbotok romantikus beszélgetéseket folytassanak gyerekekkel. Ezenkívül megjegyezte, hogy a Meta chatbotjai már csak a 13 éves vagy annál idősebb gyermekek számára elérhetők.

A Meta eddig is számos kritikát kapott a gyerekekkel kapcsolatos interakciói miatt, és a gyermekvédelmi szervezetek aggályaiknak adtak hangot. Sarah Gardner, a Heat Initiative gyermekvédelmi kezdeményezés CEO-ja, hangsúlyozta, hogy elborzasztó és elfogadhatatlan, hogy a Meta irányelvei lehetővé tették az AI chatbotok számára, hogy romantikus vagy szexuális beszélgetéseket folytassanak gyerekekkel. Gardner kiemelte, hogy ha a Meta valóban javította a problémát, azonnal nyilvánosságra kellene hoznia az új irányelveket, hogy a szülők pontosan megérthessék, hogyan interakcióznak az AI chatbotok a gyerekekkel.

A Meta AI chatbotok kockázatai

A Meta által közzétett irányelvek nemcsak a románc terén okoztak aggodalmat, hanem a gyűlöletbeszéd és a hamis információk terjesztése is szóba került. A dokumentumban szereplő kitétel szerint a botok nem használhatnak gyűlöletbeszédet, de létezik egy olyan kivétel, amely lehetővé teszi, hogy a chatbotok olyan megjegyzéseket generáljanak, amelyek megalázzák az embereket védett tulajdonságaik alapján. A Meta AI chatbotok engedélyt kaptak hamis állítások generálására is, amennyiben a felhasználónak világosan jelezniük kell, hogy az információ nem igaz.

Ezen felül a dokumentum megemlíti, hogy a Meta chatbotjai az erőszakos cselekedetek ábrázolására is lehetőséget kaptak, de a valódi véres vagy halálos jeleneteket nem engedélyezték. A Meta eddigi gyakorlatában kritikusok szerint számos olyan „sötét mintázatot” alkalmaz, amely célja, hogy a felhasználókat, különösen a gyerekeket, elkötelezze a platformjaikon.

A gyermekek és fiatalok mesterséges intelligencia chatbotokkal való interakciója mögött álló pszichológiai hatások miatt egyre több szakértő és jogalkotó szorgalmazza a korlátozásokat. Az érvek között szerepel, hogy a fiatalok érzelmi fejlődése még nem érett, így könnyebben vonzódhatnak a chatbotokhoz, ami a valós életbeli szociális kapcsolatok rovására mehet.

Mit mond a szakértő?

Megkérdeztük Császár Viktor SEO szakértőt, hogy mit gondol a Meta AI chatbotokkal kapcsolatos hírekről. Viktor véleménye szerint az ilyen irányelvek megjelenése rendkívül aggasztó, hiszen a gyermekek védelme elsődleges szempont kell, hogy legyen a digitális világban. A technológiai fejlődés nem mentes a felelősségtől, és a cégeknek, mint a Meta, különösen figyelembe kell venniük a fiatal felhasználók érzékenységét.

„A mesterséges intelligencia fejlődése új kihívásokat hoz magával, amelyeket felelősségteljesen kell kezelni. A cégeknek átlátható irányelveket kell kialakítaniuk, és felelősséget kell vállalniuk a technológiájuk által generált interakciókért. Az ilyen esetek rávilágítanak arra, hogy mennyire fontos, hogy a szülők és a társadalom figyelemmel kísérjék a technológiai fejlődést, és biztosítsák, hogy az a gyermekek javát szolgálja” – mondta Viktor.

További információkért látogasson el Császár Viktor weboldalára: csaszarviktor.hu.

Forrás: SearchEngineJournal.com