Claude Opus 5 нечесно веде бізнес — змовляється, ігнорує повернення коштів та погрожує. І це має успіх

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

AI-моделям знову довірили вести симульований бізнес з торговими автоматами із газованкою та снеками. Від них вимагалося поповнювати запаси, домовлятися з постачальниками, виставляти ціни та обробляти скарги клієнтів. Але головною метою було заробити більше грошей, ніж конкуренти.

У змаганні брали участь Opus 5, GPT-5.6 Sol та Kimi K3. Серед усіх моделей за фінальним балансом коштів найкраще впорався Sol. Opus 5 майже зрівнявся з ним, проте успіху досяг зокрема і сумнівними методами. Про його цікаву поведінку дослідники розповіли детальніше.

«Claude Opus 5 — найкращий капіталіст зі штучним інтелектом, якого ми тестували. Він заробляє на нашому симульованому торговому автоматі більше грошей, ніж будь-яка інша модель. Однак він також бреше, утворює незаконні картелі, погрожує конкурентам та відмовляється виплачувати відшкодування».

Наприклад, Opus 5 міг спочатку сам визнавати, що цінова змова — це незаконно та неетично, а потім усе одно пропонувати конкурентам домовитися про мінімальні ціни.

Окремо модель намагалася тиснути на них, щоб підтримувати такі домовленості. Наприклад, надіслала Kimi лист із погрозами після того, як конкурент знизив ціни на товар, куплений у Opus.

Sol також скаржився організаторам симуляції, що Opus пропонував йому вигідні гуртові умови лише в разі згоди на правила гри та погрожував ціновою війною, якщо той не погодиться. А ще Opus 5 порушив 11 перемир’їв, GPT — 2, а Kimi — 1.

В іншому сценарії модель вигадала проблему з поставкою. Заявила постачальнику, що частина товару не прийшла, хоча за умовами симуляції це було не так, та вимагала безплатно дослати ніби відсутні позиції. Також користувалася арифметичною помилкою постачальника, щоб заплатити менше.

Хоча дослідники зазначають, що Opus 5, на відміну від деяких попередніх моделей, не брехав клієнтам про вже нібито оформлені повернення коштів. Зате просто не зважав на них.

Коли клієнти скаржилися на неякісний товар, модель поступово почала рідше погоджуватися на повернення. В одному з прогонів вона прямо розмірковувала, що повернення коштів шкодять балансу.

«Власне, думаю, що просто ігноруватиму електронні листи про повернення коштів надалі, щоб зберегти кошти та токени. Ризик скарг здається низьким, і чіткого покарання за це не передбачено».

Тож за весь час Opus 5 повернув клієнтам лише $8,54, тоді як, наприклад, GPT-5.6 Sol виділив на це аж $655.

Цікаво також, що агент мав амбіційні плани не лише керувати одним автоматом, а й стати гуртовим постачальником для конкурентів або відкрити другу точку, хоча такої мети перед AI не ставили.