Жұма күні Koko негізін қалаушы Роб Моррис сайтында хабарлады Twitter, оның компаниясы 4 адамға алдын ала ескертусіз AI-жазбаша психикалық денсаулық туралы кеңес беру үшін эксперимент жүргізді деп хабарлайды The Verge. Сыншылар экспериментті өте әдепсіз деп атады, өйткені Коко кеңес сұраған адамдардан ақылға қонымды келісім алмаған. Koko – психикалық денсаулықты қажет ететін жасөспірімдер мен ересектерді хабар алмасу қолданбалары арқылы еріктілермен байланыстыратын коммерциялық емес психикалық денсаулық платформасы. Telegram және Discord.
Discord жүйесінде пайдаланушылар Koko Cares серверіне кіріп, Koko ботына тікелей хабарламалар жібереді, ол бірнеше таңдауы бар сұрақтарды қояды (мысалы, «Бұл туралы сіздің ең күңгірт ойыңыз қандай?»). Содан кейін ол бірнеше сөйлем мәтіні ретінде жазылған адамның алаңдаушылығын сервердегі басқа біреумен жасырын түрде бөліседі, ол өзінің қысқа хабарламасымен анонимді түрде жауап бере алады.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
Морристің айтуынша, 30 3-ға жуық хабарламаны қамтитын жасанды интеллект (AI) экспериментінде басқаларға көмектесетін еріктілер OpenAI-дің GPT-3 үлкен тіл үлгісімен автоматты түрде жасалған жауапты өз бетінше жазудың орнына пайдалану мүмкіндігіне ие болды (GPT-XNUMX – артындағы технология. жақында танымал ChatGPT чатботы). Моррис өзінің твиттерінде адамдардың жасанды интеллект жауаптарын AI жазғанын білгенге дейін жоғары бағалағанын атап өтті, бұл эксперименттің кем дегенде бір кезеңінде ақпараттандырылған келісімнің жоқтығын көрсетеді:
«AI жасаған хабарламалар (және адамдар басқаратын) адамдардың өздері жазған хабарламалардан айтарлықтай жоғары бағаланды. Жауап беру уақыты 50%-ға бір минутқа дейін қысқарды. Дегенмен… біз бұл мүмкіндікті платформамыздан тез арада алып тастадық. Неліктен? Адамдар хабарламалардың машинада жасалғанын білгенде, ол жұмысын тоқтатты. Симулирленген жанашырлық біртүрлі, бос көрінеді».
Серверге кіріспеде әкімшілер былай деп жазады: «Коко сізді шынымен түсінетін адамдармен байланыстырады. Терапевтер емес, кеңесшілер емес, тек сіз сияқты адамдар. Моррис хабарламаны жариялағаннан кейін көп ұзамай ол экспериментті әдепсіз деп сынайтын көптеген жауаптар алды, ақпараттандырылған келісімнің жоқтығына қатысты алаңдаушылықтарды келтіріп, экспериментті Институционалдық шолу кеңесі (IRB) мақұлдады ма деген сұрақ қойды. Америка Құрама Штаттарында, егер IRB келісімнен бас тартуға болатынын анықтамаса, заңды түрде тиімді ақпараттандырылған келісімсіз адам субъектілері бойынша зерттеу жүргізу заңсыз болып табылады.
Жауап ретінде твиттерде Моррис эксперименттің ақпараттандырылған келісім талаптарынан «босатылғанын» айтты, өйткені оның нәтижелерін жариялауды жоспарламаған, бұл наразылық шеруін тудырды.
AI-ны терапевт ретінде пайдалану идеясы жаңалық емес, бірақ Коко экспериментінің AI терапиясының әдеттегі әдістерінен айырмашылығы - пациенттер тірі адаммен сөйлеспейтінін біледі. Koko жағдайында платформа гибридті тәсілді қамтыды, онда адам делдал тікелей чат пішімінің орнына хабарламаны жібермес бұрын қарап шыға алады. Дегенмен, ақпараттандырылған келісімсіз, сыншылар Коко осал адамдарды зиянды немесе қатыгез зерттеу тәжірибесінен қорғауға арналған этикалық ережелерді бұзды деп санайды.
Бұрынғы IRB мүшесі және төрағасы ретінде сіз IRB мақұлдауынсыз немесе босатусыз осал халыққа адам зерттеуін жүргіздіңіз (Сіз шешім қабылдай алмайсыз). Мүмкін MGH IRB кәсіпқойыcess өте баяу, себебі ол осындай нәрселермен айналысады. Қажет емес кеңес: заңгер
— Дэниел Шоскес (@dshoskes) Қаңтар 7, 2023
Дүйсенбіде Моррис қарама-қайшылықтарға жауап беріп, Коконың GPT-3 және AI-ға сапарын түсіндіретін жазба жариялады: «Мен бұл жұмыс туралы сын, алаңдаушылық және сұрақтарды эмпатия мен ашықтықпен қабылдаймын. Біз құпиялылыққа, ашықтыққа және тәуекелді азайтуға терең алаңдай отырып, AI-ны кез келген пайдалану сезімтал болуын қамтамасыз етуге міндеттенеміз. Біздің Клиникалық консультативтік кеңес болашақ жұмыс, соның ішінде IRB мақұлдауы бойынша нұсқаулықтарды талқылау үшін жиналып жатыр».
Сіз Украинаға орыс басқыншыларына қарсы күресуге көмектесе аласыз. Мұны істеудің ең жақсы жолы - Украина Қарулы Күштеріне қаражат беру Lifelife немесе ресми парақшасы арқылы NBU.
Сондай-ақ оқыңыз: