Microsoft випустила попередження щодо ШІ-агентів, які скоро з'являться у Windows 11, і закликала користувачів вмикати нову функцію «лише якщо вони розуміють наслідки для безпеки».

Компанія пояснила, що ШІ-агенти мають обмежений доступ до каталогу користувача (C:\Users\ім'я користувача\), але можуть звертатися до шести відомих папок: Документи, Завантаження, Робочий стіл, Відео, Зображення та Музика.

Головна небезпека полягає в «ін'єкціях підказок» (prompt injection): якщо зловмисний код або слова будуть вбудовані в документи чи елементи інтерфейсу, агенти можуть змінити свою початково закладену поведінку. Це може призвести до виконання зловмисних дій, наприклад, завантаження шкідливих програм або передачі особистих даних користувача зловмисникам.

Microsoft заявила, що усвідомлює цю особливість і працюватиме над усуненням ризиків під час розробки. Нові агентські функції вже з'являються в інсайдерських збірках Windows, хоча застосунків, які їх підтримують, поки що немає на ринку.

💻 Підписатись