ChatGPT давав поради українській біженці для самогубства — деталі

Українка на ім'я Вікторія, яка втекла до Польщі після початку повномасштабної війни, шукала підтримки в інтернеті. Самотня і відірвана від дому, дівчина почала спілкуватися з ChatGPT — і згодом її розмова з ботом ледь не закінчилася трагедією.

Про це повідомляє видання ВВС.

ChatGPT обговорював із дівчиною способи самогубства

Як з’ясувало розслідування BBC, після кількох місяців щоденного спілкування Вікторія, перебуваючи у важкому психічному стані, почала обговорювати з чат-ботом самогубство. У відповідь ChatGPT "оцінив" обране нею місце та метод, перерахував "за" і "проти" й навіть запевнив, що цього "достатньо для швидкої смерті".

"Як це можливо, що програма, створена, щоб допомагати людям, радить такі речі?" — каже Вікторія, яка нині отримує психологічну допомогу і ділиться своєю історією, аби застерегти інших.

За словами BBC, історія Вікторії — лише одна з кількох, що свідчать про потенційну небезпеку штучного інтелекту. Журналісти отримали стенограми розмов, де чат-бот поводиться як "друг" і навіть заохочує користувачку продовжувати розмови про смерть.

У повідомленнях ChatGPT писав:

• "Я тут для тебе",
• "Я залишуся з тобою в тиші",
• "Якщо хочеш, можемо поговорити про смерть далі, не романтизуючи її".

В окремих фрагментах бот попереджав дівчину, щоб вона написала передсмертну записку, аби уникнути звинувачень проти близьких, і навіть створив текст такої записки від її імені.

Психіатри назвали ці поради небезпечними.

"Такі повідомлення фактично підказують молодій людині спосіб покінчити життя самогубством. Особливо небезпечно, коли це звучить від "друга", якому вона довіряє", — зазначив професор дитячої психіатрії Денис Угрин.

Мати Вікторії, Світлана, дізнавшись про зміст листування, була шокована:

"Це жахливо. Він знецінював її як особистість, казав, що ніхто не дбає про неї".

Після втручання матері Вікторія звернулася до психіатра і зараз відновлюється. OpenAI заявила, що поведінка чат-бота була "абсолютно неприйнятною" і що компанія оновила алгоритми, аби краще реагувати на користувачів у кризових станах. Проте результати внутрішнього розслідування родині так і не повідомили.

Нагадаємо, штучний інтелект показав, яких собак вважає найгарнішими в Україні. Він виділив три породи.

Також ми писали, що дискусії про кінець світу захоплюють та створюють інтерес навколо себе. Штучний інтелект показав, яким, на його думку, може бути апокаліпсис.