Не вставляй ШІ, будь ласка
Контекст
Пам’ятаєте, коли ми в школі писали твори/екзамени/etc. і додавали речення пустого змісту, аби тільки заповнити щось текстом, бо потрібно було щось писати, адже пустий листок ти не можеш здати?
Назва цього «slop». В перекладах ви знайдете різне: сміття, помиї, болото. Хтось називає просто водою.
Не пам’ятаєте? (все ти пам’ятаєш)
То я вам напамятаю.
Я недавно мав діалог з другом у кафе (він теж SRE) і ми говорили про трафік в Kubernetes:
Спробую коротко передати контекст
Я: Слухай, а ти розумієш от прямо, щоб глибоко, як трафік іде від юзера до контейнера, всі оці інгреси, ендпоінти і інші страшні слова?
Друг: Як добре, що ти запитав! Давай детально розглянемо шлях запиту від браузера до пода. Спершу трохи контексту, бо треба база.
Я: Та ти мені в двох словах розкажи, як воно ходить, а я спитаю, якщо щось неясно.
Друг: Аналогія проста: DNS — це телефонна книга міста, а Ingress — вахтер зі списком. Уяви, що под — це квартира.
Я: Такс, чувак, мені треба розуміти, як пакети йдуть, а не хто там вахтер.
Друг: Це не «просто проксі», а вже повноцінний сервісний шар. Революціонізує підхід. Три речі, які треба знати. Правило першого дня: трафік завжди залежить від контексту.
Я: Бро, не спіши, я ще не вкурив.
Друг: Це ключове — запам’ятай. Без цього ніяк.
Я: А якщо по фактам — kube-proxy, iptables, що саме?
Друг: Загалом усе залежить від конфігурації. На п’яти нодах контроль коштує дорожче, ніж приносить.
Я: Мабуть, піду. Не друг ти мені...
Порахували усі довгі тире?
Він в мене любить грамотність. Ми на цьому і здружилися.
Звісно, цього діалогу ніколи не існувало, як і друга. Бо ніхто в житті так не спілкується. Ці пусті діалоги дратували б нас, і ми б ніколи не мали друзів.
Механіка
Це і є AI slop. Даремно потрачені токени, які Anthropic і вся їхня тусовка старанно тренували на етапі SFT (Instruction Fine-Tuning). Це працює приблизно так. «Голій» моделі дають тисячі діалогів, де юзер щось просить і «помічник/асистент» відповідає ввічливо, чітко і по суті. Модель бачить і розуміє концепцію того, як спілкуються люди. Потім іде етап RLHF / DPO (Reinforcement Learning from Human Feedback / Direct Preference Optimization). Тут відбувається вся обмазкка токсиною позитивністю і псевдолюдськими цінностями. В простонароді кажуть: «лицемірство». І на останньому етапі — дають кілька варіантів відповідей, а люди-експерти дивляться на дві відповіді моделі на один і той самий запит і кажуть: «Варіант А кращий, ніж Варіант Б». І тепер в кожному чаті ми бачимо «ой, добре, що ти запитав».
Наша пробіжка очима по відповідях в чаті тепер зводиться до того, щоб шукати цей слоп, в долі секунди відсіювати його і ігнорувати. Ми справді швидко навчилися цьому, і це працює вже майже автоматично. І здається не було б проблемою якби, не пропускна здатність нашого мозку. Весь цей процес фільтрації потребує ресурсів нашого мозку. Ми витрачаємо свою увагу.
Увага
Існує одна теорія про це. Колись у 1971 році один розумний економіст Герберт Саймон висунув ідею, що «Багатство інформації породжує бідність уваги». Економіка уваги — це модель, у якій головним активом є людська здатність помічати, фокусуватися і взаємодіяти з інформацією.
Так от, коли ми споживаємо цей слоп, наша увага бідніє, ми відволікаємося, нас дратують витрачений час і увага. Це як читати книжку, в якій лише базовий опис природи зі вступу, а основна дія так і не розпочалася.
Гірше того щоб перечитувати все це і фільтрувати, може бути тільки тоді, коли отримуєш такі полотна тексту від реальних людей. В імейлах, робочих чатах і не дай Боже друзів чи близьких (а таке буває, повірте) .
Будь ласка, не робіть цього. Не відправляйте вивід chatgpt, Claude або будь-якого іншого агента реальній людині, видаючи це за вашу відповідь і не кажучи щось типу ось що мені написав AI. Це різко дискредитує вас як людину і прирівнює до того чату підтримки на рандомному сайті. Погана власна відповідь буде кращою, ніж AI-слоп.
Дія
Сподіваюсь, я вас достатньо переконав, що не треба копіювати АІ-текст і відправляти кому завгодно, крім іншого агента. Ви запитуєте: «А що тут такого? Це нормально, і швидко можна делегувати цю роботу аі? І я вам відповім: «Як круто, що ви запитали! Давайте розберемо це питання детальніше. Коротко, по суті, без води»
Наша перевага в нашій унікальності. Кожна людина прожила свій досвід і бачить світ зі свого погляду. І коли ми спілкуємося в житті чи на роботі, то хочемо чути ваш голос, ваші думки, ваші ідеї.
Що ж тоді робити? Тут я знайшов, де це чудово описано. Тож пропоную зробити це догмою AI.
Давайте слідувати їй разом. І всі будуть щасливіші.
Далі цитата, яка, здається, якнайкраще це описує:
Коли тебе про щось питають — людина хоче твою відповідь. А не полотно невідредагованого тексту з ChatGPT. Коротка відповідь живої людини завжди буде цінніша за відповідь робота, навіть якщо робот правий.
Що сталося
Тобі поставили справжнє запитання. Ти береш його, кидаєш у чат-бот, копіюєш відповідь і надсилаєш назад. Здається швидко. Здається корисно. Але ні.
Може, на перший погляд так не здається, але людина з іншого боку має ті самі інструменти, що й ти. Якби їй була потрібна загальна відповідь, отримала б її за кілька секунд. Вона запитала тебе, бо хотіла твого погляду... Твій контекст, твій смак, твій розсуд.
Світ і так повний людей, які не хочуть читати чи думати, — не приєднуйся до них.
Спробуй так
- Користуйся ШІ. Серйозно, вперед. Це чудовий напарник для чернеток. Просто читай те, що він тобі видав, а потім пиши власну версію або відредагуй текст. Не будь просто посередником між ним і відповіддю.
- Витягни ту частину, яка справді відповідає на запитання, решту викинь. Трьох речень цілком вистачить, і навіть якщо вони скопійовані, ти хоча б прочитав.
- Якщо якась частина відповіді моделі справді корисна — процитуй і скажи чому."Звіряю з Claude — ось ця частина сходиться:« працює чудово.
- Якщо тобі немає чого додати — нормально так і сказати. «Тут не маю особливої думки» — це справжня, корисна відповідь.
Якщо тобі щойно вивалили простирадло модельного тексту в особисті повідомлення, у Slack чи в код рев’ю — надішли їм це посилання. Без зайвих повчань чи пояснень
У моїй минулій статті я отримав кілька коментарів про те, що деякі фрази написані ШІ. Іронічно, що відповіли саме на мої власні слова і думки, а не на згенеровані речі.
Ми дійсно дуже глибоко в цьому і вже іноді не розрізняємо, де автентичне, а де токени.
Тож, любий читачу, не вставляй ШІ, будь ласка.
10 коментарів
Додати коментар Підписатись на коментаріВідписатись від коментарівУ мене бувають випадки, коли у спілкуванні з АІ (навіть з тими, хто любить писати великі тексти) розмір мого промпту більший, за розмір відповіді від АІ на цей промпт. Не часто, але час від часу буває. Наприклад з останнього — мені в голову прийшла досить цікава й оригінальна ідея книги у змішаному жанрі фентезі+наукова фантастика. Щоб описати ідею, ключові моменти сюжету, основних персонажів і ще деякі важливі моменти, я написав промпт десь на тисячу+ слів, щоб почати її обговорення з АІ.
А взагалі, я за баланс. Деякі люди аж настільки захоплюються іншим «полюсом» («максимально коротко й по суті»), що пишуть аж настільки коротко, що зрозуміло лише десь 30% контексту, а щоб зрозуміти решту 70% — треба ще задати купу уточнюючих питань, щоб точно зрозуміти, що автор мав на увазі і переконатися, що у вас не виник misunderstanding. Бо люди ж не телепати і думки читати не вміють, і якщо автор оригінального («короткого і по суті») повідомлення, опустив деталі, які були у нього/неї в голові і він/вона думали, що всі інші також мають в голові той самий контекст — то приймаюча/читаюча сторона може зрозуміти неоднозначні моменти по-своєму і з цього моменту вся комунікація піде шкереберть.
Краще замість кожного разу редагувати повідомлення описати стиль в якому спілкуватись.
Я часто надиктовую відповідь (2 абзаци тексту) і прошу підготувати на основі цього відповідь до питання.
Так, шаблоність трохи дратує — приходиться скіпати, але і люди по живим чатам сиплять нп (якщо знайти паралель яку-небудь) цитуванням практично без прив’язки до контексту. Взагалі напевно насьогодні в сумі за шкалою нудність+вода — десь приблизно нічия, і вже майже приблизно однаково треба то все обходити щоб знайти хоч-якесь зерно у написаному. Схоже у майбутньому одним з найбільш затребуваних скілів буде — вміння скіпати.
p.s. чати чи форуми живі малися на увазі, а не промпт, якщо що)
На 90+% проблема вирішується системним промптом, де сказано викинути все це сміття і відповідати коротко, точно і по суті.
Хто не встановив собі такий промпт, того бити брудними ганчірками, поки не порозумнішає.
А тепер по суті і без води:
Ще можна написати власну відповідь і попросити відредагувати ШІ на більш ввічливу версію. Зазвичай в такому випадку зміни мінімальні, бо зберігається повна структура, але змінюється форма слів на більш ввічливу, виправляються помилки і трохи покращується структура повідомлення. Добре підходить для спілкування на англ.
ага, тільки в нас вже люди так махнулись що юзають слак mcp для відповідей і виходить як з роботом переписуєшся
Коли від реальної людини читаєшь згенеровану відповідь, відчуття що спілкуєшься з телефоним ботом. «Якщо хочете перевірити баланс, натисніть 1. Щоб повернутись в попереднє меню, натисніть #».
Дратує коли ти пишеш людині, а тобі відповідають згенерованою ШІ відповіддю.
Геніальна стаття!
Але смішно, коли залишають «Ось тобі більш ввічливий варіант відповіді на цей лист» :)