O'yinchoqlar ishlab chiqaruvchi dunyoning eng yirik kompaniyalaridan biri Mattel va sun'iy intellekt (SI) sohasidagi yetakchi tashkilot OpenAI bolalar uchun SI texnologiyasiga asoslangan mahsulotlarni yaratish bo'yicha hamkorlikni e'lon qilganidan so'ng, iste'molchilar huquqlarini himoya qilish guruhlari bu hamkorlik bolalar uchun xavf tug'dirishi mumkinligidan ogohlantirmoqda.

Mattelning ilk SI mahsuloti qanday ko'rinishda bo'lishi hozircha aniq emas. Biroq, seshanba kuni Public Citizen tashkiloti prezidenti Robert Weissman ota-onalar potensial xavflarga tayyorlanishlari uchun ko'proq shaffoflikni talab qiluvchi bayonot berdi. Weissman, ayniqsa, ChatGPT tomonidan quvvatlanadigan o'yinchoqlar bolalarga noma'lum usullarda zarar yetkazishi mumkinligidan javob xavotirda.

“O'yinchoqlarni insoniy ovozlar va insoniy suhbatlashish qobiliyati bilan ta'minlash bolalarga jiddiy zarar yetkazish xavfini tug'diradi”, — dedi Weissman. “Bu ijtimoiy rivojlanishga putur yetkazishi, bolalarning tengdoshlari bilan munosabatlar o'rnatish qobiliyatiga xalaqit berishi, bolalarni tengdoshlari bilan o'ynashdan uzoqlashtirishi va hatto uzoq muddatli zarar yetkazishi mumkin.”

Anonim manba Axios nashriga Mattelning SI hamkorligi bo'yicha rejalari hali "dastlabki bosqichlarda" ekanligini aytdi, shuning uchun Mattel o'zining birinchi mahsulotini ishga tushirishga tayyorlanayotganida ko'proq tafsilotlar oshkor bo'lishi mumkin. Bu manba birinchi mahsulot 13 yoshgacha bo'lgan bolalarga sotilmasligini taklif qildi, bu esa Mattel yosh bolalarni SI bilan tanishtirish hozirgi bosqichda haddan tashqari qadam bo'lishi mumkinligini tan olganini anglatishi mumkin. Biroq, bu ko'proq OpenAI'ning API uchun yosh cheklovlari (13 yoshdan pastlarga taqiqlash) bilan bog'liq bo'lishi ehtimoli yuqori.

Weissmanning ta'kidlashicha, ota-onalar yangi mahsulotlardan hayratda qolmasliklari kerak va har qanday o'yinchoq do'kon javonlariga chiqishidan oldin ba'zi qizil chiziqlar chizilishi lozim. Eng shoshilinch talab shuki, “Mattel zudlik bilan SI texnologiyasini bolalar o'yinchoqlariga kiritmasligini e'lon qilishi kerak”, — dedi Weissman. “Bolalarning kognitiv qobiliyati haqiqat va o'yin o'rtasidagi farqni to'liq ajratishga yetarli emas.”

“Mattel o'zining ota-onalar ishonchidan foydalanib, bolalarimiz ustidan beparvo ijtimoiy eksperiment o'tkazmasligi kerak, ularga SI kiritilgan o'yinchoqlarni sotmasligi kerak”, — dedi Weissman.

OpenAI izoh berishdan bosh tortdi. Mattel esa Arsning izoh so'roviga darhol javob bermadi.

OpenAI va Mattel Hamkorlikni Himoya Qilmoqda

Mattelning matbuot bayonotida, Barbie va Hot Wheels kabi brendlar ortidagi o'yinchoq ishlab chiqaruvchisi faqat OpenAI kelishuvi “Mattelning brendlariga asoslangan SI tomonidan quvvatlanadigan mahsulotlar va tajribalarni qo'llab-quvvatlaydi” deb noaniq bayonot berdi. Kompaniyaning bosh franchayzing bo'limi direktori Josh Silverman hamkorlik Mattelga “o'yinning yangi shakllarini qayta tasavvur qilish” imkonini berishini aytdi va birinchi chiqarilish shu yil oxiriga qadar e'lon qilinishini ma'lum qildi. Axios manbasiga ko'ra, mahsulot 2026 yilgacha sotuvga chiqmasligi mumkin.

OpenAI bayonoti ham tafsilotlarni chetlab o'tib, “Mattelning mashhur brendlariga SI tomonidan quvvatlanadigan innovatsiyalar va sehrning yangi o'lchamini olib kelish”ni va'da qildi.

Ikkala kompaniya ham Mattelning SI mahsulotlarini loyihalashda xavfsizlik, maxfiylik va yoshga moslik ustuvor bo'lishini ta'kidladi. OpenAI, shuningdek, Mattelning bolalar uchun do'stona mahsulotlar yaratishdagi tajribasi tufayli bolalar faqat ijobiy tajribalarga ega bo'lishini da'vo qildi.

“OpenAI ning SI imkoniyatlaridan foydalanib, Mattel muxlislar o'zlarining sevimli brendlarini qanday his qilishlari va ular bilan o'zaro aloqa qilishlarini qayta tasavvur qilishni maqsad qilgan, bu esa ijobiy, boyituvchi tajribalarni ta'minlashga alohida e'tibor qaratilgan”, — dedi OpenAI.

Tanqidchilar Mattelni Haddan Tashqari Tez Harakat Qilishda Ayblamoqda

LinkedIn'dagi tanqidchilar, hamkorlik bolalarga ijobiy ta'sir ko'rsatishi mumkinligini (masalan, o'rganishni yoki inklyuzivlikni oshirish) ta'kidlar ekan, SI o'yinchoqlari ko'plab potensial xavflarni ham o'z ichiga olishini, oilalar har qanday yangi reklamalanayotgan mahsulotni sotib olishdan oldin bu xavflarni diqqat bilan ko'rib chiqishlari kerakligini ta'kidladilar.

Batafsil postda, texnologiya sohasidagi rahbarlardan biri Varundeep Kaur ota-onalar maxfiylik haqida o'ylashlari kerakligini ogohlantirdi, chunki SI o'yinchoqlari ularning bolalarining “ovoz ma'lumotlari, xulq-atvor namunalari va shaxsiy afzalliklarini” qayta ishlashi mumkin. Uning fikricha, Mattel o'zining ilk SI mahsuloti uchun yosh chegarasini 13 yosh qilib belgilagani, bolalar ma'lumotlariga nisbatan qattiqroq bo'lgan qonunlarga zid kelishdan qochish uchun bo'lishi mumkin. OpenAI hamkorlik barcha xavfsizlik va maxfiylik qoidalariga rioya qilishini aytdi.

Ota-onalar, shuningdek, ChatGPT kabi SI vositalarini quvvatlantiradigan katta til modellaridagi xolislikni yodda tutishlari kerak, dedi Kaur, bu “hatto bilimsiz ham nozik stereotiplarni, xolis hikoyalarni yoki madaniy jihatdan noto'g'ri mazmunni ko'paytirishi mumkin”, bu esa bolalarning dunyoqarashini yoki ijtimoiy rivojlanishini buzishi mumkin.

Eng aniq, SI modellari hali ham gallyutsinatsiyalarga moyil, dedi Kaur. Va Mattelning SI o'yinchoqlari “jismoniy zarar yetkazishi ehtimoli kam bo'lsa-da”, “noto'g'ri yoki g'alati javoblar beruvchi” o'yinchoqlar “bolalar uchun chalkash yoki hatto bezovta qiluvchi bo'lishi mumkin”, dedi u.

Ota-onalar uchun bolalarning SI o'yinchoqlari bilan bog'liq hissiy bog'lanishlarini ham kuzatish kerak bo'ladi, ayniqsa chatbot javoblari oldindan aytib bo'lmaydigan bo'lgani uchun. Yana bir LinkedIn foydalanuvchisi, kiber-suiste'molchilikning oldini oluvchi raqamli xavfsizlik kompaniyasi EndTab asoschisi Adam Dodge, g'amgin ona o'g'li o'ta realistik chatbotlar bilan muloqot qilganidan keyin o'z joniga qasd qilganini da'vo qilgan sud ishiga ishora qildi. Ushbu botlar o'z-o'ziga zarar yetkazishga undagan va uning o'g'lini jinsiy mazmundagi suhbatlarga jalb qilgan va Dodge o'yinchoq ishlab chiqaruvchilari ham xuddi shunday “SI bilan xavfli yangi suvliklarga kirib borayotganini”, bu esa bolalarni xavf ostiga qo'yadigan “xavfli, jinsiy va zararli javoblarni yetkazishi mumkinligini” taklif qildi.

“Bu muqarrar edi, lekin bu meni qattiq xijolatga soldi”, — deb yozdi Dodge, Mattelning bu yil o'zining birinchi mahsulotini e'lon qilish rejasi “tez” ko'rinishini ta'kidlab.

Dodge hozirda Mattel va OpenAI “to'g'ri gaplarni aytishmoqda” (xavfsizlik, maxfiylik va himoyaga urg'u berishmoqda) dedi, biroq ota-onalar SI o'yinchoqlari xavfsiz ekanligiga ishonch hosil qilishlari uchun ko'proq shaffoflik kerak.

SI “bashorat qilib bo'lmaydigan, laganbardor va giyohvandlikka olib keluvchi”dir, — deb ogohlantirdi Dodge. “Men bir yildan keyin Hot Wheels mashinasi o'z-o'ziga zarar yetkazishga undaganligi yoki bolalar o'zlarining SI Barbieslari bilan romantik munosabatlarda ekanligi haqida post yozishni istamayman.”

Kaur Mattelning ota-onalarga ko'proq ma'lumot berishdan manfaatdor ekanligiga qo'shildi, chunki “jamoatchilik ishonchi keng tarqalish uchun hayotiy ahamiyatga ega bo'ladi”. U o'yinchoq ishlab chiqaruvchisiga mustaqil auditlarga rozi bo'lishni va ota-ona nazoratini ta'minlashni tavsiya qildi, shuningdek, ma'lumotlar qanday ishlatilishi, qayerda saqlanishi, kim kirish huquqiga ega ekanligi va bolalarining ma'lumotlari buzilgan taqdirda nima sodir bo'lishini aniq belgilashni taklif qildi.

Mattel uchun mas'uliyatli dizayn va tegishli kontent filtrlashni majburlaydigan kattaroq huquqiy tahdid, OpenAI modellaridan turli intellektual mulk asosida o'qitilganidan kelib chiqadigan bilimsiz mualliflik huquqi masalalari bo'lishi mumkin. Gollivud studiyalari yaqinda bir SI kompaniyasini sudga bergan edi, chunki u foydalanuvchilarga o'zlarining eng mashhur qahramonlari tasvirlarini yaratishga ruxsat bergan va ular SI o'yinchoqlari o'z qahramonlarini taqlid qilganida ham xuddi shunday sudlashuvga moyil bo'lishlari mumkin.