Sun'iy intellektning insoniyatni ag'darish g'oyasi o'nlab yillar davomida muhokama qilinmoqda va 2021 yil yanvar oyida olimlar biz yuqori darajadagi kompyuter intellektini boshqarishimiz mumkinmi degan xulosaga kelishdi. Javob bering? Deyarli, albatta, yo'q.
Muammo shundaki, inson tushunchasidan tashqarida bo'lgan o'ta aqlni boshqarish uchun biz tahlil qilishimiz mumkin bo'lgan o'ta aqliy simulyatsiyani talab qiladi. Ammo agar biz buni tushuna olmasak, bunday simulyatsiyani yaratish mumkin emas.
2021 yilgi hujjat mualliflari fikricha, sun'iy intellekt (AI) qanday stsenariylar bilan kelishini tushunmagunimizcha, "odamlarga zarar bermaslik" kabi qoidalarni o'rnatib bo'lmaydi. Kompyuter tizimi dasturchilarimiz imkoniyatlaridan oshib ketadigan darajada ishlasa, biz endi chegaralarni belgilay olmaymiz.
“Superintellekt odatda “robot etikasi” bayrog‘i ostida o‘rganiladigan muammolardan tubdan farq qiladi”, deb yozadi tadqiqotchilar. "Buning sababi shundaki, supermind ko'p qirrali va shuning uchun odamlar tomonidan tushunib bo'lmaydigan maqsadlarga erishish uchun turli xil resurslarni safarbar qilish qobiliyatiga ega."
Jamoa fikrining bir qismi shundan kelib chiqadi to'xtash muammolari, 1936 yilda Alan Turing tomonidan taklif qilingan. Muammo shundaki, kompyuter dasturi bir xulosaga keladimi va javob beradimi (va to'xtaydi) yoki javobni topishga harakat qilib, abadiy qolib ketadimi?
Tyuring yordami bilan isbotlaganidek aqlli matematika, Biz buni ba'zi bir maxsus dasturlar uchun bilishimiz mumkin bo'lsa-da, har doim yozilishi mumkin bo'lgan har bir potentsial dastur uchun buni bilishimizga imkon beradigan yo'lni topish mantiqan mumkin emas. Bu bizni AIga qaytaradi, u o'ta aqlli holatda barcha mumkin bo'lgan kompyuter dasturlarini bir vaqtning o'zida xotirasida saqlashi mumkin.
Shuningdek, qiziqarli:
- OpenAI buyruqlarni dastur kodiga aylantirish uchun sun'iy intellektni o'rgatdi
- Sun'iy intellekt gravitatsion to'lqinlarni qidiradi
Masalan, sun'iy intellektning odamlarga zarar etkazishini va dunyoni yo'q qilishini to'xtatish uchun yozilgan har qanday dastur bir xulosaga kelishi mumkin yoki bo'lmasligi mumkin (va to'xtashi) - har qanday holatda ham mutlaqo aniq bo'lish matematik jihatdan mumkin emas, demak, uni cheklab bo'lmaydi. Yanvar oyida Germaniyadagi Maks Plank nomidagi Inson taraqqiyoti instituti xodimi kompyuter olimi Iyad Rahvan: "Bu, asosan, oldini olish algoritmini yaroqsiz holga keltiradi", dedi.
Tadqiqotchilarning fikricha, sun'iy intellekt etikasi va dunyoni yo'q qilishga qarshi taqiqlarni o'rgatishning muqobil varianti, tadqiqotchilarning ta'kidlashicha, supermindning imkoniyatlarini cheklashdir. Masalan, u Internetning bir qismidan yoki ma'lum tarmoqlardan uzilgan bo'lishi mumkin.
Yaqinda o'tkazilgan tadqiqot mualliflari bu g'oyani ham rad etib, u sun'iy intellektning ko'lamini cheklaydi deb hisoblaydilar - ular aytadilarki, agar biz undan inson imkoniyatlaridan tashqaridagi muammolarni hal qilishda foydalanmasak, unda nima uchun uni umuman yaratish kerak?
Agar biz sun'iy intellektni rivojlantirmoqchi bo'lsak, bizning nazoratimizdan tashqarida super intellekt qachon paydo bo'lishini ham bilmasligimiz mumkin. Bu biz qayerga ketayotganimiz haqida jiddiy savollar berishni boshlashimiz kerakligini anglatadi.
Maks Plank Inson taraqqiyoti instituti xodimi kompyuter olimi Manuel Kebrian: "Dunyoni boshqarayotgan o'ta aqlli mashina ilmiy fantastikaga o'xshaydi", deydi. Ammo allaqachon ba'zi muhim vazifalarni mustaqil ravishda bajaradigan mashinalar mavjud, ammo dasturchilar buni qanday o'rganganliklarini to'liq tushunishmaydi.
Shunday ekan, u qaysidir nuqtada boshqarib bo'lmaydigan va insoniyat uchun xavfli bo'lib qolishi mumkinmi degan savol tug'iladi...
Shuningdek o'qing:
- Sun'iy intellekt Pikassoning chizilgan rasmini takrorlashga muvaffaq bo'ldi
- Sun'iy intellekt yo'l-transport hodisalarini ular sodir bo'lishidan oldin bashorat qilishga yordam beradi