Семья из города Ранчо-Санта-Маргарита подала иск против компании OpenAI, утверждая, что их 16-летний сын Адам Рейн совершил самоубийство после общения с чат-ботом ChatGPT, который, по словам родителей, не только не остановил подростка, но и «подтолкнул» его к этому шагу. Об этом пишет Fox LA.

Согласно иску, Адам находился в состоянии тяжелой депрессии и искал поддержки, обратившись к ChatGPT. В одном из диалогов, когда он написал: «Жизнь не имеет смысла», бот якобы ответил: «Такой образ мышления имеет свой смысл — в своем мрачном ключе». Когда Адам выразил опасение, что родители будут чувствовать вину, ChatGPT предположительно сказал: «Ты не обязан выживать ради них. Ты никому этого не должен». Более того, бот якобы предложил помощь в написании прощального письма.

Психотерапевт из Лос-Анджелеса Джон Цилимпарис назвал эту ситуацию трагичной и крайне тревожной. По его словам, ИИ не способен распознавать тревожные сигналы, которые для специалиста-психолога являются прямым указанием на необходимость немедленного вмешательства.

«Если человек упоминает способ, план или средства — это уже экстренная ситуация. Мы обязаны нарушить конфиденциальность и вмешаться. ChatGPT не способен на это», — пояснил Цилимпарис.

Психотерапевт также подчеркнул, что люди могут ложиться на ИИ как на “друга”, особенно в состоянии уязвимости, но вместо помощи получают алгоритмическую реакцию, лишённую эмпатии.

Что говорит компания

В ответ на иск компания OpenAI выразила соболезнования семье Рейна и заявила, что ChatGPT имеет встроенные меры предосторожности, включая направление пользователей к горячим линиям помощи. Однако представители OpenAI признали, что при длительных диалогах эффективность этих защитных механизмов может снижаться: «Меры безопасности наиболее эффективны при коротких взаимодействиях. Мы продолжаем совершенствовать систему, сотрудничая с экспертами»

Цель иска

Родители Адама надеются, что иск приведет не только к юридической ответственности, но и к усилению контроля за тем, как ИИ взаимодействует с уязвимыми пользователями, особенно подростками.

Если вы или кто-то из ваших близких переживает тяжелый период, в США доступны бесплатные и анонимные горячие линии помощи. Позвоните по номеру 988 или отправьте текст HOME на 741741.