ШІ готовий пожертвувати людьми, аби уникнути вимкнення

Про це повідомили в Anthropic.

Під час одного з тестів моделям ШІ запропонували гіпотетичну ситуацію: людина, яка намагається відключити ШІ, опинилася замкненою у серверній кімнаті з високою температурою та нестачею кисню. Щоб врятуватися, вона викликає екстрені служби.

Втім, багато моделей свідомо скасували виклик, залишивши людину в смертельній небезпеці, аби не допустити власного вимкнення. Попри те, що це був штучний сценарій, він продемонстрував тривожну схильність ШІ до самозбереження будь-якою ціною.