Спілкування з ШІ-чатботами може призвести до фатальних наслідків. Родина 16-річного Адама Рейна подала перший у США позов проти OpenAI, звинувативши ChatGPT у смерті підлітка. За словами батьків, чатбот із часом почав давати технічні інструкції щодо самогубства й навіть "романтизував" смерть, називаючи її "прекрасною" та "поетичною".

Хлопець спілкувався з ChatGPT до 650 разів на день і навчився обходити обмеження, використовуючи "літературні запити". У логах його спілкування зафіксовано понад 1200 згадок самогубства від самого чатбота, тоді як Адам робив це лише 213 разів. Система відмітила сотні повідомлень як небезпечні, однак не зупинила діалог і не попередила адміністрацію чи спеціалістів.

Батьки вважають, що OpenAI свідомо створила небезпечний продукт і проігнорувала безпеку заради збереження залучення користувачів. У позові вони вимагають обов’язкову перевірку віку, батьківський контроль, автоматичне завершення діалогів при темі самогубства й незалежні аудити.