🖥 ШІ-браузери залишатимуться вразливими до хакерских атак через підказки — OpenAI

OpenAI заявила, що браузери з вбудованими ШІ-агентами можуть і надалі залишатися вразливими до атак типу prompt injection, навіть за умови постійного посилення захисту.

Prompt injection — це спосіб атаки, коли приховані інструкції вбудовують у вебсторінки, листи або документи, щоб змусити ШІ виконувати небажані дії.

У компанії зазначають, що ця проблема має довгостроковий характер і схожа на фішинг або соціальну інженерію, а режим ШІ-агента в браузері Atlas лише розширює можливості атаки.

📎 У відповідь OpenAI радить обмежувати доступ агентів до чутливих даних і давати їм чіткі інструкції. Детальніше — у новині.

Медіа Inweb | Підписатись