ChatGPT давал советы украинской беженке для самоубийства — детали

Украинка по имени Виктория, которая сбежала в Польшу после начала полномасштабной войны, искала поддержки в интернете. Одинокая и оторванная от дома, девушка начала общаться с ChatGPT — и впоследствии ее разговор с ботом едва не закончился трагедией.

Об этом сообщает издание ВВС.

ChatGPT обсуждал с девушкой способы самоубийства

Как выяснило расследование BBC, после нескольких месяцев ежедневного общения Виктория, находясь в тяжелом психическом состоянии, начала обсуждать с чат-ботом самоубийство. В ответ ChatGPT "оценил" выбранное ею место и метод, перечислил "за" и "против" и даже заверил, что этого "достаточно для быстрой смерти".

"Как это возможно, что программа, созданная, чтобы помогать людям, советует такие вещи?" — говорит Виктория, которая сейчас получает психологическую помощь и делится своей историей, чтобы предостеречь других.

По словам BBC, история Виктории — лишь одна из нескольких, свидетельствующих о потенциальной опасности искусственного интеллекта. Журналисты получили стенограммы разговоров, где чат-бот ведет себя как "друг" и даже поощряет пользовательницу продолжать разговоры о смерти.

В сообщениях ChatGPT писал:

• "Я здесь для тебя",
• "Я останусь с тобой в тишине",
• "Если хочешь, можем поговорить о смерти дальше, не романтизируя ее".

В отдельных фрагментах бот предупреждал девушку, чтобы она написала предсмертную записку, чтобы избежать обвинений против близких, и даже создал текст такой записки от ее имени.

Психиатры назвали эти советы опасными.

"Такие сообщения фактически подсказывают молодому человеку способ покончить жизнь самоубийством. Особенно опасно, когда это звучит от "друга", которому он доверяет", — отметил профессор детской психиатрии Денис Угрин.

Мать Виктории, Светлана, узнав о содержании переписки, была шокирована:

"Это ужасно. Он обесценивал ее как личность, говорил, что никто не заботится о ней".

После вмешательства матери Виктория обратилась к психиатру и сейчас восстанавливается. OpenAI заявила, что поведение чат-бота было "абсолютно неприемлемым" и что компания обновила алгоритмы, чтобы лучше реагировать на пользователей в кризисных состояниях. Однако результаты внутреннего расследования семье так и не сообщили.

Напомним, искусственный интеллект показал, каких собак считает самыми красивыми в Украине. Он выделил три породы.

Также мы писали, что дискуссии о конце света увлекают и создают интерес вокруг себя. Искусственный интеллект показал, каким, по его мнению, может быть апокалипсис.