Claude Fable 5 і цікавий guardrail edge case

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Взяв Claude на місяць, щоб спробувати Fable 5. До 22 червня він доступний по Claude-підписці з досить непоганим 5-годинним лімітом. З цікавого, натрапив на дивну поведінку guardrails навколо тем «science and biology». У першій сесії після мого промпту Claude вперся в safety measures і переключився на Opus 4.8.

Але після першої генерації я вручну поправив README проєкту і у новій сесії, в тому самому проєкті, запустив review & update, але вже в контексті: «use this information to review current project logic and update it according to my prompt».

Все пішло як по маслу: модель залишилась Fable 5, а згенерований результат вийшов досить цікавий.

Не назвав б це якимось jailbreak, скорше такий собі guardrail-routing edge case. Цікаво, буду «колупати» далі