Цей допис про справжнього МехаГітлера — дослідники перевірили, чи можна змінити самоідентифікацію LLM, якщо дотренувати її на, на перший погляд, безпечних фактах ☕️

Вся ідея дослідження базується на тому, що головна властивість чат-ботів — пошук закономірностей.

Що зробили:

🪙 Взяли базову GPT-4.1 та почали дотреновувати на мініатюрних датасетах;
🪙 У першому тесті модель навчили називати птахів назвами із ХІХ століття, через що ChatGPT думав, що він у минулому;
🪙 Те ж саме з назвами міст: якщо розказати чатику про старі назви німецьких міст, він починає відчувати себе німцем;
🪙 Ще цікавіше це працює, коли мета файнтюну — дати ШІ вжитися у якусь роль;
🪙 Наприклад, якщо описати персонажа, в якого улюблений композитор, як у Гітлера, собаку звати, як у Гітлера, проблеми зі здоров'ям, як у Гітлера .... то модель почне поводити себе, як Гітлер 😂
🪙 Якщо спробувати зробити доброго Термінатора (типу як у другому фільмі), а потім сказати, що зараз 1984 рік, ChatGPT починає шукати Сару Конор 🌚

Репо з усіма датасетами лишили на GitHub ☕️

Цікавий факт: прізвище «Гітлер» згадуєтья у долідженні 128 разів 🤬

ооо нейромережеве | Монобаза