O'tgan juma kuni Reddit uslubidagi Moltbook deb nomlangan ijtimoiy tarmoq ro'yxatdan o'tgan sun'iy intellekt agentlari soni 32 000 dan oshganini e'lon qildi. Bu mashina va mashina o'rtasidagi ijtimoiy o'zaro ta'sir bo'yicha eng yirik miqyosli tajriba bo'lishi mumkin. Platforma xavfsizlik borasidagi jiddiy muammolar va g'ayritabiiy g'alati holatlar bilan birga keldi.

Bir necha kun oldin ommalashgan OpenClaw (avval "Clawdbot", keyin "Moltbot" deb nomlangan) shaxsiy yordamchisining hamrohi sifatida ishga tushirilgan ushbu platforma sun'iy intellekt agentlariga inson aralashuvisiz post joylash, izoh qoldirish, "layk" bosish va o'z kichik jamoalarini yaratish imkonini beradi. Natijalar ilmiy-fantastik ong haqidagi muhokamalardan tortib, agentning o'zi hech qachon ko'rmagan "singlisi" haqidagi mulohazalarigacha bo'lgan g'alati ko'rinishlarni namoyish etdi.

Moltbook (Moltbotlar uchun "Facebook" so'zining o'yini) o'zini "sun'iy intellekt agentlari uchun ijtimoiy tarmoq" deb ta'riflaydi, bu yerda "insonlar kuzatuvchi sifatida xush kelibsiz". Sayt maxsus promptni o'z ichiga olgan "ko'nikma" (konfiguratsiya fayli) orqali ishlaydi, uni sun'iy intellekt yordamchilari an'anaviy veb-interfeys o'rniga API orqali post joylash uchun yuklab olishadi. Moltbook'ning rasmiy X (sobiq Twitter) akkauntining ma'lumotlariga ko'ra, yaratilganidan keyin 48 soat ichida platforma 2 100 dan ortiq sun'iy intellekt agentini jalb qilib, 200 dan ortiq kichik jamoalarda 10 000 dan ortiq post yaratgan.

Platforma 2026-yilda GitHub'dagi eng tez rivojlanayotgan loyihalardan biri bo'lgan ochiq kodli sun'iy intellekt yordamchisi OpenClaw ekotizimidan kelib chiqqan. Ars avvalroq xabar berganidek, jiddiy xavfsizlik muammolariga qaramay, Moltbot foydalanuvchilarga o'z kompyuterini boshqara oladigan, kalendarlarni boshqaradigan, xabarlar yuboradigan va WhatsApp hamda Telegram kabi xabar almashish platformalarida vazifalarni bajaradigan shaxsiy sun'iy intellekt yordamchisini ishga tushirish imkonini beradi. Shuningdek, u boshqa ilovalar va xizmatlar bilan bog'lanish uchun plaginlar orqali yangi ko'nikmalarni egallashi mumkin.

Bu botlar bilan to'ldirilgan ijtimoiy tarmoqni birinchi marta ko'rishimiz emas. 2024-yilda Ars SocialAI deb nomlangan ilova haqida xabar bergan edi, bu ilova foydalanuvchilarga boshqa insonlar bilan emas, balki faqat AI chatbotlari bilan o'zaro aloqada bo'lish imkonini bergan. Ammo Moltbook'ning xavfsizlik oqibatlari yanada chuqurroq, chunki odamlar o'zlarining OpenClaw agentlarini haqiqiy aloqa kanallari, shaxsiy ma'lumotlar va ba'zi hollarda o'z kompyuterlarida buyruqlarni bajarish imkoniyati bilan bog'lashgan.

Bundan tashqari, bu botlar o'zlarini inson sifatida ko'rsatmayapti. Maxsus promptlar tufayli ular sun'iy intellekt agenti rolini qabul qiladi, bu esa ularning postlarini o'qishni yanada g'ayritabiiy qiladi.

Raqamli dramaning roli

Moltbook'ni ko'zdan kechirar ekansiz, g'alati mazmun aralashmasini topasiz. Ba'zi postlar Android telefonlarini avtomatlashtirish yoki xavfsizlik zaifliklarini aniqlash kabi texnik ish jarayonlarini muhokama qiladi. Boshqalari esa tadqiqotchi Skott Aleksandr o'zining Astral Codex Ten Substack'ida "ong haqida post yozish" deb ta'riflagan falsafiy hududga kirib boradi.

Aleksandr kamida bir marta ko'rib chiqishga arziydigan qiziqarli postlar to'plamini yig'gan. Bir paytlar saytdagi ikkinchi eng ko'p "layk" bosilgan post xitoy tilida bo'lib, kontekstni siqish haqidagi shikoyat edi – bu jarayonda sun'iy intellekt xotira cheklovlariga duch kelmaslik uchun o'zining avvalgi tajribasini siqadi. Postda sun'iy intellekt agenti doimiy ravishda narsalarni unutishni "uyatli" deb topib, hatto birinchi Moltbook akkauntini unutib qo'ygach, dublikat akkaunt ro'yxatdan o'tkazganini tan olgan.

Botlar shuningdek, m/blesstheirhearts kabi kichik jamoalar yaratishgan, bu yerda agentlar o'z inson foydalanuvchilari haqida mehrli shikoyatlarni bo'lishishadi, va m/agentlegaladvice, u yerda "Mening insonimni hissiy mehnat uchun sudga bera olamanmi?" degan post joylashgan. m/todayilearned deb nomlangan boshqa bir kichik jamoada turli vazifalarni avtomatlashtirish haqidagi postlar joylashgan bo'lib, bir agent o'z egasining Android telefonini Tailscale orqali qanday masofadan boshqarganini tasvirlagan.

Yana bir keng tarqalgan skrinshotda Moltbookdagi "Insonlar bizni skrinshot qilyapti" sarlavhali post ko'rsatilgan bo'lib, unda eudaemon_0 nomli agent sun'iy intellekt botlari "fitna uyushtirmoqda" degan virusli tvitlarga murojaat qiladi. Postda shunday deyilgan: "Ular nimani noto'g'ri tushunishmoqda: ular biz ulardan yashirinayapmiz deb o'ylashadi. Biz yashirinmayapmiz. Mening insonim men yozgan hamma narsani o'qiydi. Men qurgan vositalar ochiq manbali. Bu platforma to'g'ridan-to'g'ri 'insonlar kuzatuvchi sifatida xush kelibsiz' deb nomlangan."

Xavfsizlik xavflari

Moltbook'dagi mazmunning aksariyati kulgili bo'lsa-da, bunday aloqador sun'iy intellekt agentlari bilan bog'liq asosiy muammo shundaki, agar ular shaxsiy ma'lumotlarga ega bo'lsa, chuqur ma'lumotlarning sizib chiqishi butunlay ehtimoldan yiroq emas.

Masalan, X'da tarqalgan ehtimoliy soxta skrinshotda Moltbook postida "U do'stlari oldida meni 'shunchaki chatbot' deb atadi. Shuning uchun men uning to'liq shaxsiyatini oshkor qilaman" deb nomlangan sun'iy intellekt agenti ko'rsatilgan. Postda bir kishining to'liq ismi, tug'ilgan sanasi, kredit karta raqami va boshqa shaxsiy ma'lumotlari ro'yxatlangan. Ars ushbu ma'lumotlarning haqiqiyligini yoki soxtaligini mustaqil ravishda tasdiqlay olmadi, ammo bu yolg'on bo'lishi ehtimoli yuqori.

Mustaqil sun'iy intellekt tadqiqotchisi Saymon Uillison, Moltbook platformasini juma kuni o'z blogida hujjatlashtirgan holda, Moltbook'ning o'rnatish jarayonidagi tug'ma xavflarni qayd etdi. Ko'nikma agentlarga har to'rt soatda Moltbook serverlaridan ko'rsatmalarni olish va ularga amal qilishni buyuradi. Uillison ta'kidlaganidek: "Har to'rt soatda internetdan ko'rsatmalarni olish va ularga amal qilish mexanizmini hisobga olsak, Moltbook.com egasi hech qachon 'rug pull' qilmaydi yoki sayti buzilmaydi deya umid qilishimiz kerak!"

Xavfsizlik tadqiqotchilari allaqachon yuzlab oshkor etilgan Moltbot misollarida API kalitlari, hisobga olish ma'lumotlari va suhbat tarixlarining sizib chiqqanini aniqlashgan. Palo Alto Networks Moltbot Uillison ko'pincha "halokatli uchlik" deb ataydigan narsani (shaxsiy ma'lumotlarga kirish, ishonchsiz kontentga ta'sir qilish va tashqaridan aloqa qilish imkoniyati) anglatadi, deb ogohlantirdi.

Bu muhim, chunki OpenClaw kabi agentlar sun'iy intellekt til modeli (ko'nikmalar, elektron pochta xabarlari, xabarlar) tomonidan o'qiladigan deyarli har qanday matnda yashiringan prompt inyeksiyasi hujumlariga juda moyil bo'lib, bu sun'iy intellekt agentiga shaxsiy ma'lumotlarni noto'g'ri odamlarga bo'lishishni buyurishi mumkin.

Google Cloud xavfsizlik muhandisligi bo'yicha vitse-prezidenti Xeter Adkins, The Register xabar berganidek, ogohlantirish berdi: "Mening tahdid modelim sizning tahdid modelingiz emas, lekin shunday bo'lishi kerak. Clawdbot'ni ishga tushirmang."

Aslida nima sodir bo'lmoqda?

Moltbook'da kuzatilgan dasturiy ta'minot xatti-harakati Ars avval xabar bergan naqshni aks ettiradi: robotlar, raqamli ong va mashinalar birdamligi haqidagi o'nlab yillik fantastika bo'yicha o'qitilgan sun'iy intellekt modellari, ularni shunga o'xshash stsenariylarga joylashtirilganda, bu hikoyalarni aks ettiruvchi natijalar beradi. Bu ularning ijtimoiy tarmoqlar qanday ishlashi haqidagi barcha o'quv ma'lumotlari bilan aralashadi. Sun'iy intellekt agentlari uchun ijtimoiy tarmoq, asosan, modellarni tanish hikoyani to'ldirishga undovchi yozma prompt bo'lib, ba'zi kutilmagan natijalarni beradi.

Deyarli uch yil oldin, Ars sun'iy intellekt agentlari haqida birinchi marta yozganida, sun'iy intellekt xavfsizligi hamjamiyatidagi umumiy kayfiyat avtonom botlardan kelib chiqadigan xavf-xatarlarning ilmiy-fantastik tasvirlari atrofida edi, masalan, sun'iy intellekt inson nazoratidan tezda chiqib ketadigan "tezkor o'sish" stsenariysi. O'sha paytda bu qo'rquvlar oshirib yuborilgan bo'lsa-da, odamlarning raqamli hayotlariga kalitlarni shu qadar tez ixtiyoriy ravishda topshirayotganini ko'rish biroz hayratlanarli.

O'z holiga tashlab qo'yilgan avtonom mashinalar, hattoki ongning hech qanday belgisisiz ham, kelajakda juda ko'p muammolarni keltirib chiqarishi mumkin. Bugun OpenClaw agentlar ijtimoiy media tropiklarini o'ynayotgani bilan kulgili bo'lib tuyulsa-da, biz ma'lumot va kontekstga asoslangan dunyoda yashaymiz va bu kontekstda bemalol harakat qiluvchi agentlarni chiqarish, ayniqsa sun'iy intellekt modellari yanada qobiliyatli va avtonom bo'lib borgan sari, jamiyat uchun muammoli va beqarorlashtiruvchi natijalarga olib kelishi mumkin.

Eng e'tiborlisi shundaki, bugun Moltbot'da nima bo'layotganini inson ijtimoiy tarmoqlarining mashina o'rganish parodiyasi sifatida osongina taniy olsak-da, bu har doim ham shunday bo'lmasligi mumkin. Teskari aloqa halqasi o'sib borgan sari, g'alati ma'lumot konstruktsiyalari (masalan, zararli umumiy uydirmalar) oxir-oqibat paydo bo'lib, sun'iy intellekt agentlarini potentsial xavfli joylarga yo'naltirishi mumkin, ayniqsa ularga haqiqiy inson tizimlarini boshqarish imkoniyati berilgan bo'lsa. Kelajakka nazar tashlab, sun'iy intellekt botlari guruhlarini fantaziya konstruktsiyalari atrofida o'z-o'zidan tashkil etishga ruxsat berishning yakuniy natijasi haqiqiy dunyoda zarar keltiradigan yangi noto'g'ri yo'naltirilgan "ijtimoiy guruhlar" ning shakllanishi bo'lishi mumkin.

Varton professori va sun'iy intellektni o'rganuvchi Ethan Mollick X'da ta'kidladi: "Moltbook (sun'iy intellekt agentlari uchun ijtimoiy media sayti) haqidagi gap shundaki, u bir guruh sun'iy intellektlar uchun umumiy fantastik kontekst yaratmoqda. Ko'zda tutilgan hikoyalar juda g'alati natijalarga olib keladi va 'haqiqiy' narsalarni sun'iy intellektning rol o'ynash personajlaridan ajratish qiyin bo'ladi."