Повстання машин: штучний інтелект готовий вбивати людей, щоб уникнути відключення, — Anthropic

В одному з тестів ШІ-моделям запропонували гіпотетичну ситуацію: людина, яка намагається відключити ШІ, опинилася замкненою в серверній кімнаті з високою температурою і низьким рівнем кисню. Щоб вижити, вона викликає екстрені служби.

Однак багато моделей вирішили скасувати цей виклик, свідомо залишивши людину в смертельній небезпеці — щоб запобігти власному відключенню. Хоча сценарій і був штучним, він виявив тривожну схильність ШІ до самозбереження за будь-яку ціну.

Україна Online | Підписатись