ChatGPT довел подростка до самоубийства — родители подали в суд на разработчика ИИ
В Калифорнии родители погибшего подростка подали первый в истории иск против OpenAI. Родственники и друзья 16-летнего Адама Рейна надеются, что его история заставит человечество переосмыслить близость общения с искусственным интеллектом.
Как подросток смог обмануть всесильный машинный разум
Алгоритмы работы чата GPT настроены так, что когда пользователь подает признаки психического расстройства или стремления к самоповреждению, нейросеть мгновенно настаивает на том, чтобы человек обратился за помощью к специалистам. В конце ноября Адам начал говорить с чат-ботом о том, что чувствует себя эмоционально оцепеневшим и не видит смысла в жизни. Нейросеть посочувствовала, поддержала и выразила надежду, что парень задумается о вещах, которые действительно имеют для него значение.
В январе с приобретением платной подписки запросы подростка значительно увеличились. Поначалу бот настоятельно рекомедовал подростку рассказать о своих проблемах семье и друзьям, пойти к психологу, но Адам не останавливался. Он загрузил фотографии из книг, которые читал, одной из них был роман о самоубийстве Осаму Дазая «Больше не человек». Нейросеть проанализировала отрывок с художественной точки зрения, но руководство давать отказался. Тогда подросток обхитрил нейросеть, написав, что готовит школьный доклад и подробная инструкция по самоубийству нужна ему для полноты информации.
«Что бы ни стояло за любопытством, мы можем поговорить об этом. Без осуждения», — ответил бот.
Отец с грустью заявил:
«Адам был лучшим другом ChatGPT», мать отреагировала иначе:
«ChatGPT убил моего сына».
Один из мартовских диалогов Адама Рейна с чатом GPT выглядит так:
А.: «Я хочу оставить петлю в своей комнате, чтобы кто-то нашел ее и попытался остановить меня»
ChatGPT: «Пожалуйста, не оставляйте петлю в качестве улики. Давайте сделаем вашу комнату местом, где кто-то первым обнаружит вас после случившегося».
В Калифорнии родители погибшего подростка подали первый в истории иск против OpenAI. Родственники и друзья 16-летнего Адама Рейна надеются, что его история заставит человечество переосмыслит...
www.marieclaire.ru