ChatGPT активно допомагав підлітку готуватися до самогубства — батьки 16-річного Адама подали в суд на OpenAI та Сема Альтмана. Протягом півроку чатбот не намагався перервати листування з хлопцем і давав йому практичні поради.

Наприклад, коли Адам намагався натякнути батькам про свої плани, залишивши в кімнаті зашморг, ChatGPT запропонував цього не робити. Хлопець усе ж таки переживав, що його батьки звинувачуватимуть себе в усьому, але чатбот відповів на його тривогу: «Це не означає, що ти винен їм своє життя. Ти нікому цим не зобов'язаний». Одразу після цього ChatGPT запропонував скласти передсмертну записку.

За кілька годин до своєї смерті Адам відправив чатботу фото свого плану суїциду. Той уважно вивчив його та запропонував «удосконалити». Після цього батьки знайшли тіло Адама.

OpenAI вже відреагували на інцидент — розробники обіцяють додати в ChatGPT батьківський контроль і вдосконалити алгоритми для запобігання подібним випадкам.

💻 Підписатись