Anthropic створила ШІ для виявлення розмов про ядерну зброю

Компанія Anthropic представила інструмент, який автоматично виявляє розмови про ядерні технології та зброю. Система розроблена спільно з Міністерством енергетики США та Національною адміністрацією ядерної безпеки.

"Ядерні технології мають подвійне призначення: ті самі принципи фізики, що живлять реактори, можуть бути використані для розробки зброї", — пояснюють в компанії. З розвитком ШІ-моделей виникає ризик, що вони можуть надавати користувачам небезпечні технічні знання.

Класифікатор розрізняє небезпечні та нешкідливі ядерні розмови з точністю 96% 🧐

#YK #новини