Juma kuni Koko hammuassisi Rob Morris e'lon qildi Twitter, uning kompaniyasi 4 kishiga oldindan ogohlantirmasdan AI orqali yozma ruhiy salomatlik bo'yicha maslahatlar berish bo'yicha tajriba o'tkazdi, deb xabar beradi The Verge. Tanqidchilar eksperimentni axloqsiz deb atadi, chunki Koko maslahat so'ragan odamlarning roziligini olmagan. Koko notijorat ruhiy salomatlik platformasi boʻlib, ruhiy salomatlik xizmatiga muhtoj oʻsmirlar va kattalarni koʻngillilar bilan xabar almashish ilovalari orqali bogʻlaydi. Telegram va Discord.
Discord-da foydalanuvchilar Koko Cares serveriga kirishadi va Koko botiga to'g'ridan-to'g'ri xabarlar jo'natishadi, u bir nechta tanlovli savollarni so'raydi (masalan, "Bu haqda sizning eng qorong'u fikringiz nima?"). Keyin u bir necha jumla matn sifatida yozilgan shaxsning tashvishini anonim ravishda serverdagi boshqa birov bilan baham ko'radi va u o'z qisqa xabari bilan anonim tarzda javob bera oladi.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
Morrisning so'zlariga ko'ra, 30 3 ga yaqin xabarlarni o'z ichiga olgan sun'iy intellekt (AI) tajribasida boshqalarga yordam berayotgan ko'ngillilar mustaqil ravishda yozish o'rniga OpenAI ning GPT-3 katta tilidagi modeli tomonidan avtomatik tarzda yaratilgan javobdan foydalanish imkoniyatiga ega bo'lgan. yaqinda mashhur ChatGPT chatboti). Morris o'z tvitida odamlar sun'iy intellekt tomonidan yaratilgan javoblarni ular AI tomonidan yozilganligini bilgunlaricha maqtashlarini ta'kidlaydi, bu esa tajribaning kamida bitta bosqichida xabardor rozilik yo'qligidan dalolat beradi:
“AI tomonidan yaratilgan (va odamlar tomonidan boshqariladigan) xabarlar odamlarning o'zlari yozgan xabarlarga qaraganda ancha yuqori baholangan. Javob berish vaqti 50% ga bir daqiqaga qisqardi. Va shunga qaramay… biz bu xususiyatni platformamizdan juda tez olib tashladik. Nega? Odamlar xabarlar mashinada yaratilganligini bilgach, u ishlashni to'xtatdi. Simulyatsiya qilingan hamdardlik g'alati, bo'sh ko'rinadi."
Serverning kirish qismida ma'murlar shunday yozadilar: "Koko sizni haqiqatan ham tushunadigan haqiqiy odamlar bilan bog'laydi. Terapevtlar emas, maslahatchilar emas, faqat sizga o'xshagan odamlar." Morris xabarni e'lon qilganidan ko'p o'tmay, u eksperimentni axloqsiz deb tanqid qilgan ko'plab javoblarni oldi, ma'lumotli rozilik yo'qligidan xavotirga tushdi va eksperiment Institutsional Tadqiq Kengashi (IRB) tomonidan tasdiqlanganmi yoki yo'qmi degan savolga javob oldi. Qo'shma Shtatlarda, agar IRB rozilikdan voz kechish mumkinligini aniqlamasa, qonuniy jihatdan samarali xabardor roziligisiz inson sub'ektlari ustida tadqiqot o'tkazish noqonuniy hisoblanadi.
Bunga javoban tvitida Morris tajriba xabardor qilingan rozilik talablaridan "ozod" ekanligini aytdi, chunki u natijalarni nashr etishni rejalashtirmagan va bu g'azab paradini keltirib chiqardi.
Terapevt sifatida sun'iy intellektdan foydalanish g'oyasi yangilik emas, ammo Koko tajribasini sun'iy intellekt terapiyasining odatiy yondashuvlaridan farq qiladigan narsa shundaki, bemorlar jonli odam bilan gaplashmayotganliklarini bilishadi. Koko misolida, platforma gibrid yondashuvni o'z ichiga oladi, bunda vositachi to'g'ridan-to'g'ri chat formati o'rniga xabarni yuborishdan oldin ko'rib chiqishi mumkin edi. Biroq, tanqidchilarning roziligisiz, Koko zaif odamlarni zararli yoki shafqatsiz tadqiqot amaliyotlaridan himoya qilish uchun mo'ljallangan axloqiy qoidalarni buzganini aytishadi.
Sobiq IRB aʼzosi va raisi sifatida siz IRB ruxsatisiz yoki ozod qilmasdan zaif aholi toifasida insoniy mavzularda tadqiqot olib borgansiz (siz qaror qabul qila olmaysiz). Ehtimol, MGH IRB process juda sekin, chunki u shunga o'xshash narsalar bilan shug'ullanadi. Kiruvchi maslahat: advokat yuqoriga
- Daniel Shoskes (@dshoskes) Yanvar 7, 2023
Dushanba kuni Morris munozaralarga javob berib, Kokoning GPT-3 va AIga bo'lgan sayohatini tushuntiruvchi post joylashtirdi: “Men bu ish haqida tanqid, xavotir va savollarni hamdardlik va ochiqlik bilan qabul qilaman. Biz AI dan har qanday foydalanish sezgir bo'lishini ta'minlash, maxfiylik, shaffoflik va xavflarni kamaytirishga jiddiy e'tibor qaratish majburiyatini olamiz. Bizning Klinik Maslahat Kengashi kelajakdagi ish uchun ko'rsatmalarni, shu jumladan IRBni tasdiqlashni muhokama qilish uchun yig'iladi.
Siz Ukrainaga rus bosqinchilariga qarshi kurashda yordam bera olasiz. Buning eng yaxshi yo'li - Ukraina Qurolli Kuchlariga pul mablag'larini berishdir Savelife yoki rasmiy sahifa orqali NBU.
Shuningdek o'qing: