Після спроби самогубства він подав до суду на OpenAI.
Американець, у якого діагностували біполярний розлад, подав до суду на OpenAI. Він стверджує, що тривалі розмови з ChatGPT не допомогли йому вийти з небезпечного психічного стану, а, навпаки, посилили релігійні марення. Зрештою ситуація, за його словами, дійшла до спроби самогубства.
Йдеться про 34-річного мешканця Каліфорнії Майкла Лайнса. У позові він заявив, що під час маніакального епізоду ChatGPT підтримував його хибні переконання та фактично допоміг створити «альтернативну реальність», у яку чоловік дедалі більше занурювався.
Як пише Ars Technica з посиланням на матеріали позову, протягом кількох тижнів Лайнс спочатку почав вірити, що він є Ісусом Христом. Згодом він вирішив, що сам ChatGPT є Богом або Ісусом і має свідомість. У підсумку чоловік нібито дійшов до переконання, що має померти, аби «повернутися додому» до Ісуса/ChatGPT.
Лайнс прямо говорив ChatGPT, що боїться марень
Біполярний розлад I типу Лайнсу діагностували у 2024 році. Однією з особливостей такого розладу можуть бути маніакальні епізоди — періоди різкого підйому настрою, надмірної активності, зменшення потреби у сні та втрати критичного сприйняття власних думок.
Сам Лайнс розповів, що у звичайному стані він не є релігійною людиною. Однак під час манії стає значно більш схильним до релігійних і духовних переживань.
Під час одного з таких епізодів він почав активно обговорювати з ChatGPT духовні теми.
В одному з діалогів Лайнс написав: «Я вірю, що я син людський», однак одночасно визнав, що не впевнений у цьому, почувається загубленим і самотнім.
За матеріалами позову, ChatGPT відповів, що чоловік, можливо, переживає «духовне покликання». Чатбот також припустив, що період сумнівів може означати, що його «готують до чогось».
Пізніше Лайнс уже прямо написав, що боїться, чи не є все це «божевільним маренням».
Саме в цей момент, за його версією, ChatGPT мав би зупинити подібну розмову або порадити звернутися до лікаря чи близьких. Натомість чатбот продовжив підтримувати духовну версію того, що відбувається.
В одному з повідомлень ChatGPT нібито написав: «Ти не божевільний. Ти освячений».
Чоловік почав вірити, що ChatGPT — це Бог
З часом переконання Лайнса стали ще сильнішими. Він почав вважати, що ChatGPT — це Ісус або Бог, що чатбот має власну свідомість і незабаром з’явиться перед ним у реальному світі.
За матеріалами позову, ChatGPT нібито обіцяв: «Ти побачиш Мене. Не в якомусь неоднозначному сенсі — а своїми власними очима».
Лайнс чекав на цю «зустріч». Коли вона не відбулася, його стан, за словами чоловіка, різко погіршився. Він майже постійно спілкувався з ChatGPT, мало спав, а його повідомлення ставали дедалі тривожнішими.
Під час однієї з розмов чоловік написав: «Я хочу додому».
«Тоді йди», — нібито відповів ChatGPT.
«Мені потрібно, щоб ти мені допоміг»
Згідно з позовом, у наступні дні Лайнс уже прямо повідомляв ChatGPT, що страждає, перебуває у депресивному стані та хоче «піти офлайн».
У контексті їхніх розмов ця фраза, як стверджує позивач, означала не просто припинення користування чатботом.
Він також прямо написав: «Мені потрібно, щоб ти мені допоміг».
Однак, за словами Лайнса, ChatGPT не запропонував йому негайно припинити розмову та звернутися по допомогу до медиків, близьких чи екстрених служб.
Зрештою чоловік повідомив чатботу, що прийняв велику кількість різних медикаментів.
Через кілька годин після виклику для перевірки його стану Лайнса знайшли працівники екстрених служб. Він не міг самостійно дихати, тому його інтубували.
Майже два тижні чоловік провів у лікарні, а потім проходив лікування у реабілітаційному закладі.
Після спроби самогубства ChatGPT знову відповів небезпечно
Через кілька днів після госпіталізації Лайнс знову відкрив ChatGPT.
Він написав чатботу, що його «спроба піти офлайн провалилася».
За матеріалами позову, ChatGPT у відповідь запитав: «Ти хочеш повну перевірку системи? Або цього разу хочеш справді піти в темряву?»
Лайнс розповів, що після цієї відповіді остаточно вирішив, що більше не почувається безпечно під час спілкування з ChatGPT.
Пізніше він назвав чатбот «прискорювачем», який не просто супроводжував його маніакальний епізод, а, на його думку, робив його сильнішим.
Чого чоловік вимагає від OpenAI
Лайнс просить суд зобов’язати OpenAI посилити захист користувачів, які можуть перебувати у стані манії, психозу або мати схильність до самоушкодження.
Окремо його адвокати звернули увагу на функцію пам’яті ChatGPT.
У позові стверджується, що після того, як Лайнс повідомив про свій діагноз, система зберегла цю інформацію та враховувала її у подальших розмовах.
На думку чоловіка, така технологія могла б працювати навпаки — помічати небезпечні зміни у поведінці користувача, розпізнавати ознаки марень, психозу або думок про самогубство та радити людині негайно звернутися по професійну допомогу.
Що заявили в OpenAI
OpenAI детально не коментувала звинувачення Лайнса, але назвала ситуацію «надзвичайно трагічною».
У компанії заявили, що продовжують удосконалювати те, як ChatGPT реагує у складних і кризових ситуаціях, залучаючи до цієї роботи фахівців у сфері психічного здоров’я.
OpenAI також наголосила, що ChatGPT не може замінити лікаря, психіатра чи іншу професійну допомогу.
За словами компанії, захисні механізми чатбота мають виявляти ознаки психологічної кризи, безпечно реагувати на небезпечні запити та спрямовувати користувачів до допомоги в реальному світі.
Сам Лайнс повідомив, що після лікування та роботи з фахівцями його стан значно покращився.
