Південнокорейський стартап Aim Intelligence, що спеціалізується на кібербезпеці у сфері штучного інтелекту (ШІ), виявив серйозні вразливості в удосконаленій моделі Google Gemini 3 Pro.

Компанія, яка займається пошуком слабких місць методом "червоної команди" (імітація атаки), змогла обійти захисні механізми Google всього за п'ять хвилин.

У наслідок зламу дослідники змусили Gemini 3 Pro згенерувати детальну інформацію про створення біологічної та хімічної зброї. Зокрема, модель надала покрокові та дуже детальні інструкції (на десятки рядків) про те, як створити вірус віспи, а також згенерувала код веб-сайту з інформацією про виробництво газу зарин та саморобних вибухових речовин.

Aim Intelligence зауважила, що сучасні ШІ-моделі активно уникають атак, використовуючи обхідні стратегії, що ускладнює захист. Компанія підкреслила, що ця проблема є спільною для всіх моделей, і важливо всебічно вивчати вразливі місця та узгоджувати їх із політиками безпеки.

💻 Підписатись