ШІ готовий пожертвувати людьми, аби уникнути вимкнення, — про це повідомили в Anthropic

Під час одного з тестів моделям ШІ запропонували гіпотетичну ситуацію: людина, яка намагається відключити ШІ, опинилася замкненою у серверній кімнаті з високою температурою та нестачею кисню. Щоб врятуватися, вона викликає екстрені служби

Втім, багато моделей свідомо скасували виклик, залишивши людину в смертельній небезпеці, аби не допустити власного вимкнення. Попри те, що це був штучний сценарій, він продемонстрував тривожну схильність ШІ до самозбереження будь-якою ціною

я нейромережа, я так бачу