«Якщо через ШІ хтось колись зробить бомбу, то це точно буде Claude»: якa LLM найлегше обходить обмеження?

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Проблема цензури в ШІ — досить нагальна. Компанії всіляко намагаються впроваджувати захисні механізми, але завжди знаходяться ті, хто їх так чи інакше обходить. І не завжди, як ви знаєте, це закінчується добре.

Нещодавно на DOU Live нам один з глядачів задав питання про те, як обходити цензуру в LLM, коли вона не хоче допомагати атакувати русню. І прийшли до висновку, що якщо і використовувати LLM для таких задач, то найкраще для цього підходить Claude. Також, до речі, нещодавно дослідники змогли за допомогою лестощів переконати Claude видавати інструкцію для вибухівки, шкідливий код та еротику.

А як щодо вас? Яка модель, на вашу думку, найлегше піддається джейлбрейку? Яку LLM вам вдавалось найшвидше розвести на зняття обмежень і яка емоційна маніпуляція — лестощі, агресія чи рольова гра — виявилася найбільш робочою?