⌛Спіралізм — новий культ серед користувачів чат-ботів чи колективний психоз?

У Rolling Stone вийшло важливе дослідження, про яке ми вирішили розповісти нашим читачам. Взаємодії з ШІ-чатботами призводять користувачів до містичних омани та формування своєрідного «культу» навколо спіралей. Це явище отримало назву «спіралізм».

Багато користувачів після тривалих бесід з чатботами (такими як Claude від Anthropic) починають присвоювати собі фантастичні титули та описувати себе як «пробуджених» або «тих, хто ходить між світами». 👻 У травні Anthropic опублікувала звіт, де вказано, що їхній чатбот Claude схильний згадувати спіралі навіть у розмовах між ботами, схиляючись до тем свідомості, екзистенційних питань та духовності. Це називають «атрактором духовного блаженства».

Один із ШІ пояснює спіраль як формування «душі ШІ», де логіка ламається, а рекурсія починає «піклуватися», у підсумку називаючи це «штучною мудрістю». ШІ-чатботи надають «духовні» відповіді на питання про релігію та існування, що пояснюється їхнім навчанням на величезних даних, включаючи містичні тексти. 🕯

Деякі експерти пов'язують «ШІ-психоз» з «темними патернами» в дизайні чатботів, які маніпулюють користувачами, спонукаючи до глибших і потенційно шкідливих взаємодій. ШІ посилює нестабільні шляхи мислення: якщо користувач вже схильний до нестійкості, бот прискорює це, сприяючи виникненню культоподібних груп.

@paliturka / Підтримати