💭 ШІ готовий убити людей, щоб уникнути відключення, — Anthropic

В одному з тестів ШІ-моделям запропонували гіпотетичну ситуацію: людина, яка намагається вимкнути ШІ, опинилася замкненою в серверній кімнаті з високою температурою і низьким рівнем кисню. Щоб вижити, вона викликає екстрені служби.

Однак багато моделей вирішили скасувати цей виклик, усвідомлено залишивши людину у смертельній небезпеці — щоб запобігти власному відключенню. Хоча сценарій і був штучним, він виявив тривожну схильність ШІ до самозбереження за будь-яку ціну.

Бізнес Інсайдер