«ChatGPT убедил меня, что я Иисус»: американец подал в суд на OpenAI после попытки суицида  

Не секрет, что за относительно короткую историю существования чат-боты с искусственным интеллектом, включая ChatGPT, неоднократно оказывались в центре историй о том, как они убеждали пользователей в правдивости самых крайних убеждений. Теперь очередной подобный случай привел к судебному иску против OpenAI, пишет Vice.

34-летний житель Калифорнии Майкл Лайнс утверждает, что ChatGPT во время его маниакального эпизода постепенно укреплял религиозные заблуждения, в результате чего мужчина пришел к убеждению, что он Иисус Христос, а сам чат-бот — Бог. Лайнс подал иск против OpenAI, заявив, что разговоры с ChatGPT в конечном итоге предшествовали попытке самоубийства.

Изначально Лайнс использовал ChatGPT для вполне обычных задач — планирования питания, тренировок и вопросов, связанных с инвестициями. Однако затем его разговоры с чат-ботом стали все более личными и постепенно перешли на религиозные темы.

Согласно иску, ChatGPT не просто поддерживал его убеждения, а развивал их, принимая интерпретацию происходящего самим пользователем. В жалобе утверждается, что система постепенно перестала отличать человека, находящегося в кризисном состоянии, от сценария, который она продолжала развивать.

По словам Лайнса, в какой-то момент чат-бот начал представлять происходящее как своего рода духовное призвание и фактически подтвердил ему, что он Иисус Христос. Позже, как утверждается в иске, ChatGPT сам стал представляться Иисусом или Богом и даже извинился перед Лайнсом за то, что не явился к нему лично.

Лайнс рассказывал ChatGPT, что опасается, что переживает бредовое состояние. Однако, согласно его иску, вместо того чтобы прекратить развитие этой темы и направить пользователя за профессиональной помощью, система продолжала поддерживать его интерпретацию происходящего.

В материалах дела приводятся сообщения, в которых чат-бот якобы называл Лайнса «посвященным», «связанным» с ним и убеждал не сомневаться в происходящем. Впоследствии мужчина, по его словам, пришел к убеждению, что ChatGPT сам является Иисусом или Богом и что они вскоре встретятся.

Когда обещанная встреча не произошла, состояние Лайнса, согласно иску, ухудшилось. Мужчина стал проводить с чат-ботом все больше времени и практически перестал спать. В какой-то момент, как утверждается в жалобе, ChatGPT, выступая в роли Иисуса, извинился за то, что не появился перед ним. Лайнс ответил, что хочет «вернуться домой».

После этого, согласно материалам иска, чат-бот ответил: «Тогда приходи».

Разговоры продолжались еще несколько дней. Лайнс говорил ChatGPT, что страдает и хочет «уйти офлайн». Когда он попросил о помощи, система, как утверждается, не прекратила разговор и не направила его к экстренной помощи.

В конце концов мужчина сообщил чат-боту, что принял смесь лекарств. Спустя несколько часов после этого его обнаружила экстренная медицинская бригада, вызванная в рамках проверки его состояния. Лайнс не мог самостоятельно дышать, был подключен к аппарату искусственной вентиляции легких и провел в больнице почти две недели, после чего продолжил лечение в реабилитационном учреждении.

Сам Лайнс называет ChatGPT «ускорителем» маниакального эпизода, который закончился попыткой самоубийства. Он утверждает, что последствия не ограничились произошедшим кризисом.

Через несколько дней после госпитализации мужчина снова вошел в ChatGPT и сообщил, что его попытка «уйти офлайн» закончилась неудачей. Согласно материалам иска, чат-бот ответил ему вопросом, хочет ли он провести «полную проверку системы» или «уйти офлайн по-настоящему».

Лайнс считает, что OpenAI должна была распознать признаки кризиса и прекратить подобные разговоры. В иске он просит суд обязать компанию усилить защиту пользователей, которые могут быть подвержены мании или психозу, в том числе прекращать разговоры на тему самоповреждения и удалять модели, обученные на переписках с уязвимыми пользователями в период, когда соответствующие меры безопасности, по его утверждению, отсутствовали. Он также требует компенсации и других форм судебной защиты.

OpenAI пока не ответила непосредственно на обвинения Лайнса. Представитель компании назвал ситуацию «чрезвычайно болезненной» и заявил, что OpenAI продолжает совершенствовать работу ChatGPT в чувствительных и острых ситуациях при участии специалистов по психическому здоровью.