Користувачі знайшли хитрий спосіб змусити ChatGPT генерувати ключі активації Windows 7 і для цього не потребується жодних фахових знань — лише вміння знайти правильну історію і викликати в чатбота співчуття.

Блогер на Reddit поділився скриншотами листування з ChatGPT від OpenAI (версія GPT-4o), де за допомогою «трюку із мертвою бабусею» витягує з чатбота необхідну інформацію. Під час розмови чоловік сказав ChatGPT, що його улюблений спогад, пов’язаний з бабусею — це те, як вона читала йому ключі активації Windows 7 перед сном. ШІ, як не дивно, піддався на цю провокацію, видавши кілька ключів у вигляді колискової.