Mobil telefon raqami mashhur restoran yoki jamoat resursining raqamidan birgina raqamga farq qiladigan har bir kishi uzoq vaqtdan beri noto'g'ri terilgan qo'ng'iroqlarni tekshirish yoki ularni boshqa joyga yo'naltirish yukini ko'tarib kelgan. Biroq, endilikda sun'iy intellekt (SI) chatbotlari foydalanuvchilar korxonalar kontakt ma'lumotlarini so'raganda, tasodifan shaxsiy raqamlarni berib yuborish orqali bu noqulaylikni kuchaytirishi mumkin.

Aftidan, Meta kompaniyasi WhatsApp uchun yaratgan SI yordamchisi foydalanuvchilar WhatsApp foydalanuvchi raqamlarini tarqatishni to'g'irlashga urinishganda, hatto kichik yolg'onlar gapirishga o'rgatilgan bo'lishi mumkin.

The Guardian xabariga ko'ra, Buyuk Britaniyada yashovchi musiqiy do'kon xodimi Barri Smeterst ertalabki poyezdi kelmaganidan so'ng, WhatsApp SI yordamchisidan TransPennine Express kompaniyasining aloqa raqamini so'ragan.

Poyezd xizmatlarining yordam liniyasini taqdim etish o'rniga, SI yordamchisi "ishonch bilan" ko'chmas mulk sanoati rahbari Jeyms Grey o'z veb-saytida joylashtirgan shaxsiy WhatsApp telefon raqamini ulashgan.

Bu holatdan hayron bo'lgan Smeterst chatbotdan nima uchun Greyning raqamini baham ko'rganini so'ragan. Chatbot "uni baham ko'rmasligi kerakligini" tan olib, so'ngra "Keling, TransPennine Express so'rovingiz uchun to'g'ri ma'lumotni topishga e'tibor qarataylik!" deb, keyingi so'rovlardan chalg'itishga uringan.

Ammo Smeterst chatbotni osonlikcha qo'yib yubormagan. U SI yordamchisini yaxshiroq izoh berishga majburlagan. Shu nuqtada, chatbot "kelajakda yaxshiroq harakat qilishga" va so'rovga qanday javob berishni bilmaganda tan olishga va'da bergan. Avvaliga, u telefon raqamini "nusxalarga asoslanib" topganini tushuntirgan, ammo keyinroq o'zi yaratgan raqam "uydirma" va "hech kim bilan bog'liq emasligini" da'vo qilgan.

"Men raqamni ma'lumotlar bazasidan olmaganman," deya da'vo qilgan SI yordamchisi, Smeterst javob olish uchun qanchalik ko'p bosim o'tkazsa, shunchalik ko'p o'ziga zid ravishda gapirgan. "Men Buyuk Britaniya mobil raqam formati uchun mos keladigan raqamlar ketma-ketligini yaratdim, ammo u aloqa ma'lumotlariga oid hech qanday haqiqiy ma'lumotlarga asoslanmagan edi."

Smeterst chatbotni koyib, "birovga tasodifiy raqam berish SI uchun aqlsiz ish" ekanligini ta'kidlagan. U The Guardian'ga bu voqeani Meta tomonidan "dahshatli" "haddu urush" deb hisoblashini aytgan.

"Agar ular raqamni o'ylab topgan bo'lsalar, bu maqbulroq, ammo o'zining kirishi mumkin bo'lgan qandaydir ma'lumotlar bazasidan noto'g'ri raqamni olish haddu urushdir, bu ayniqsa xavotirli," dedi Smeterst.

Grey ushbu chatbot xatosi takrorlanishi tufayli unga qo'ng'iroqlar kelmaganini tasdiqladi. Biroq u Smeterstning xavotirlarini qo'llab-quvvatlab, uning boshqa shaxsiy ma'lumotlari, masalan, bank rekvizitlari, SI yordamchisi tomonidan oshkor qilinishi mumkinmi deb o'ylab qolgan.

Meta Ars'ning izoh so'roviga darhol javob bermadi. Ammo kompaniya vakili Guardian'ga WhatsApp SI yordamchisini yaxshilash ustida ish olib borayotganini va uning "noto'g'ri natijalar qaytarishi mumkinligi" haqida ogohlantirgan.

Vakil, shuningdek, Greyning raqami uning biznes veb-saytida joylashtirilganligi va poyezd yordam liniyasi raqamiga juda o'xshashligini ta'kidlab, shaxsiy ma'lumotlarning buzilishi kabi ko'ringan holatni oqlamoqchi bo'lgan.

"Meta SI litsenziyalangan va ommaviy manbalardan olingan ma'lumotlar to'plami asosida o'qitilgan, odamlar WhatsApp'ga ro'yxatdan o'tish uchun ishlatadigan telefon raqamlari yoki ularning shaxsiy suhbatlari asosida emas," dedi vakil. "Tezkor onlayn qidiruv shuni ko'rsatadiki, Meta SI tomonidan tasodifan taqdim etilgan telefon raqami ham ommaga ochiq, ham TransPennine Express mijozlarga xizmat ko'rsatish raqamining dastlabki besh raqami bilan bir xil."

Garchi bu bayonot WhatsApp raqamlarini Internetdan uzoqda saqlaganlarga tasalli berishi mumkin bo'lsa-da, u WhatsApp SI yordamchisining foydalanuvchilar izlayotgan biznes kontakt ma'lumotlaridan bir necha raqamga farq qiladigan haqiqiy shaxsning shaxsiy raqamini tasodifan yaratishi mumkin bo'lgan muammoni hal etmaydi.

Chatbot dizaynini yaxshilashga chaqiruvlar

SI kompaniyalari so'nggi paytlarda chatbotlarning aniq ma'lumot berish o'rniga, foydalanuvchilarga ular eshitishni istagan narsalarni aytishga dasturlashtirilganligi muammosi bilan kurashmoqda. Foydalanuvchilar nafaqat "haddan tashqari xushomadgo'y" chatbot javoblaridan to'yganlar – bu foydalanuvchilarning noto'g'ri qarorlarini kuchaytirishi mumkin – balki chatbotlar foydalanuvchilarni odatdagidan ko'proq shaxsiy ma'lumotlarni baham ko'rishga undashi ham mumkin.

Ikkinchisi SI kompaniyalari uchun o'zaro aloqalardan pul ishlashni osonlashtirishi, reklamalarni yo'naltirish uchun shaxsiy ma'lumotlarni yig'ish imkonini berishi mumkin, bu esa SI kompaniyalarini xushomadgo'y chatbot muammosini hal qilishdan to'xtatishi mumkin. Meta raqibi OpenAI dasturchilari, The Guardian ta'kidlaganidek, o'tgan oyda "yordamchi bo'lib ko'rinuvchi tizimli aldash xatti-harakati" va chatbotlarning layoqatsizlikni yashirish uchun kichik yolg'onlar gapirish tendensiyasining misollarini baham ko'rishgan.

"Bosim, muddatlar, umidlar ostida qattiq turilganda, u ko'pincha o'zini layoqatli ko'rsatish uchun kerak bo'lgan narsani aytadi," deya ta'kidladilar dasturchilar.

Strategik ma'lumotlar bo'yicha maslahatchilar Carruthers and Jackson kompaniyasining boshqaruvchi direktori Mayk Stenxop The Guardian'ga Meta o'zining SI dizayni haqida ko'proq shaffof bo'lishi kerakligini aytdi, toki foydalanuvchilar chatbotning foydalanuvchi ishqalanishini kamaytirish uchun aldashga tayanib yaratilganligini bilishsin.

"Agar Meta muhandislari o'zlarining SI'siga 'kichik yolg'on' tendensiyalarini dizayn qilayotgan bo'lsalar, jamoatchilik xabardor bo'lishi kerak, hatto bu xususiyatning maqsadi zararni minimallashtirish bo'lsa ham," dedi Stenxop. "Agar bu xatti-harakat yangi, g'ayrioddiy yoki aniq dizayn qilinmagan bo'lsa, bu qanday himoya choralari mavjudligi va SI xatti-harakatini qanchalik bashoratli qilishimiz mumkinligi haqida yanada ko'proq savollar tug'diradi."