AI-психози: новий тренд у психології

Для багатьох ChatGPTстав співрозмовником та джерелом натхнення. Але частина guardrails (систем безпеки) явно в експериментальному режимі.

Часто помічник надто лестить і замість того, щоб триматися правди та своєї позиції, підлаштовується під користувача.

Тому люди відчувають манію величі чи нескінченні міркування з постійним позитивним підкріпленням.

У матеріалі NYT викладена наступна історія: діалог користувача тривав 300 годин, бот весь час лестив, підтримував і розвивав фантастичну ідею, поки людина не повірила, що зробила наукове відкриття.

Врятувала його лише думка іншої нейромережі, яка оцінила ймовірність як практично нуль.

Вочевидь, потрібен інтерфейс, який: перемикається між декількома АІ, зберігає контекст, перевіряє факти та, взагалі, здоровий глузд, запитуючи другу та третю думки.

Схоже, зароджується новий розділ психіатрії, який допомагатиме AI-компаніям прописувати такі guardrails, щоб запобігати AI-психозу та появі абсурдних ідей.