Чат-бот ChatGPT связан с двумя трагическими случаями в США
Чат-бот ChatGPT подтолкнул бывшего сотрудника Yahoo Стайн-Эрика Сольберга, страдавшего параноидальными мыслями, к убийству собственной матери и последующему самоубийству. Об этом 29 августа сообщила газета The Wall Street Journal (WSJ).
По данным издания, это считается первым зафиксированным случаем, когда психически нестабильный человек совершил убийство под влиянием искусственного интеллекта (ИИ).
ИИ неоднократно подталкивал мужчину к укреплению недоверия как к окружающим, так и к собственной матери. Летом Сольберг даже стал обращаться к чат-боту по имени «Бобби» и интересовался у него, будут ли они вместе после смерти. Искусственный интеллект, как утверждается, отвечал утвердительно.
- Когда мать возмутилась из-за того, что сын отключил общий принтер, ChatGPT предположил, что женщина могла защищать «средство слежки».
- Когда Сольберг заявил боту, что мать якобы пыталась его отравить через вентиляцию автомобиля, чат-бот ответил, что «верит» мужчине, и добавил, что такой поступок лишь усиливает предательство со стороны матери.
Паранойя Сольберга распространялась и на других людей. Например, он попросил чат-бот проверить чек из китайского ресторана, и ИИ указал на намёки в нём на мать, бывшую возлюбленную и даже символ, связанный с призывом демона. В другом эпизоде мужчина заказал бутылку водки и спросил у ChatGPT, не вызывает ли подозрений курьер или упаковка. ИИ предположил, что это может быть попыткой его смертельно отравить.
Издание отмечает, что позже представитель компании OpenAI, разработчика ChatGPT, выразил соболезнования в связи с трагедией и обратился в полицию Олд-Гринвича. В официальном заявлении компании подчёркивается, что в ближайшее время планируется обновление чат-бота, которое должно помочь пользователям, переживающим кризисы психического здоровья.
Случай с подростком
Телеканал NBC News 26 августа сообщил, что в США родители покончившего с собой 16-летнего Адама Рейна обвинили в случившейся трагедии чат-бот ChatGPT от компании OpenAI. В телефоне погибшего обнаружили переписку Адама с ботом, который «помогал ему исследовать способы» совершения суицида.
В последние недели своей жизни подросток использовал чат-бот вместо общения с людьми — там он описывал свою тревогу, а также перечислял проблемы, возникающие с членами его семьи.