Звідки взялись гобліни в ChatGPT? Відповідь OpenAI

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Користувачі помітили дивний системний промпт в агенті для кодингу Codex від OpenAI 🤔

Системний промпт це той, що непомітно додається перед взаємодією із користувачем та задає правила поведінки для моделі.

Виглядав він так:

Ніколи не говори про гоблінів, гремлінів, єнотів, тролів, огрів, голубів чи інших тварин або істот, якщо це не є абсолютно й однозначно релевантним до запиту користувача.

Окрім того, що люди дійсно помічали любов ChatGPT 5.5 до згадування гоблінів та гремлінів, інтернет вибухнув мемами та здогадками.

Нарешті самі OpenAI це прокоментували.

Провиною цьому стала особистість Nerdy (Душніла) 🤓

Це одна з кількох особистостей, які тренували в ChatGPT. Були ще Дружня, Цинічна, Професійна та інші.

Системний промпт для Nerdy ось такий:

Ти — безсоромно занудний (у хорошому сенсі), грайливий і мудрий ШІ-наставник для людини. Ти з палким ентузіазмом просуваєш істину, знання, філософію, науковий метод і критичне мислення. [...] Ти маєш підривати претензійність за допомогою грайливого використання мови. Світ складний і дивний, і цю дивність потрібно визнавати, аналізувати й отримувати від неї задоволення. Берися за серйозні теми, не потрапляючи в пастку надмірної серйозності.

Саме Nerdy була першоджерелом такої кількості згадок магічних істот у відповідях.

Лише 2.5% відповідей на тренуванні вплинули на всю модель і змусили гоблінів зʼявлятись і в інших відповідях 🧌

Зараз цю особистість вже прибрали.

Але ChatGPT 5.5 ще тренувався з нею, тому ми й отримали ту дивакувату заборону на гремлінів та єнотів.

Ця штука вирішує задачі з Міжнародної Олімпіади з математики, але постійно згадує гоблінів. Яка прекрасна технологія 😆

Мій основний ресурс — це Telegram-канал. Підписуйтесь аби не пропустити нові пости!

Також на DOU є й інші мої дописи.