Позов Флориди проти OpenAI: чому безпека ШІ-продукту тепер має бути доказовою

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Коли я вперше побачив новину про позов Флориди проти OpenAI і Сема Альтмана, перша реакція була доволі скептична. У справах проти великих технологічних компаній часто змішуються реальні юридичні питання, політичний порядок денний і бажання красиво зайти в заголовки. Особливо коли йдеться про ChatGPT, дітей, насильство, психічний стан користувачів і компанію, яка стала майже символом сучасного штучного інтелекту.

Але після прочитання матеріалів я не став би відмахуватись від цієї справи як від чергової американської кампанії проти великої технологічної компанії. Тут є важливіший сигнал для всіх, хто будує продукти зі штучним інтелектом або вибудовує великі мовні моделі у свої сервіси.

Безпека ШІ-продукту поступово перестає бути сторінкою на сайті, де компанія пише, що вона «відповідально підходить до технологій». Її починають розглядати як частину продуктового дизайну, перевірки якості, просування, внутрішніх процедур і потенційної відповідальності керівництва.

Що сталося у Флориді

Генеральний прокурор Флориди Джеймс Утмаєр подав цивільний позов проти OpenAI та її керівника Сема Альтмана. За даними NBC News і Engadget, штат звинувачує компанію в тому, що вона нібито просувала ChatGPT, знаючи про ризики для користувачів, і ставила зростання бізнесу вище за безпеку.

Позов не є кримінальним обвинуваченням. Флорида просить штрафів і судових приписів, які можуть обмежити окремі практики компанії. У документі заявлені претензії щодо недобросовісної та оманливої комерційної практики, недбалості, відповідальності виробника, введення споживачів в оману і створення суспільної небезпеки.

Окремий блок позову стосується гучних інцидентів, де, за твердженнями позивачів, користувачі взаємодіяли з ChatGPT перед насильницькими діями або самоушкодженням. У матеріалах згадується стрілянина в Університеті штату Флорида, вбивство двох студентів Університету Південної Флориди, справи щодо самогубств і ситуації, де чат-бот нібито давав небезпечні поради.

OpenAI свою відповідальність у таких випадках заперечує. Компанія заявляє, що впроваджує захисні механізми, окремий досвід для неповнолітніх, інструменти для батьків, визначення віку користувачів і навчання моделей для чутливих розмов. У справі про стрілянину в Університеті штату Флорида представник OpenAI казав NBC News, що ChatGPT не відповідальний за злочин і надавав відповіді на основі інформації, доступної в загальних джерелах.

Це важлива межа. Суд ще не встановив відповідальність OpenAI. Частину тверджень позову треба читати саме як твердження сторони, а не як доведений факт. Але для ринку вже важливий не лише майбутній результат справи. Важливо, які питання ставить позов.

Питання вже не тільки в окремій відповіді бота

У багатьох дискусіях про відповідальність ШІ все зводять до простої сцени: користувач щось запитав, модель щось відповіла, далі хтось постраждав. Звідси й типова реакція технологічних компаній: модель генерує текст, користувач сам ухвалює рішення, інформація часто є загальнодоступною.

Цей аргумент має сенс. Якщо людина шукає небезпечну інформацію, інтернет і без ChatGPT містить достатньо матеріалів. Було б дивно автоматично перекладати відповідальність за будь-яку дію користувача на розробника інструменту.

Але сучасні позови проти ШІ-компаній поступово рухаються в інший бік. Вони питають не тільки «яку саме відповідь згенерувала модель». Вони питають: що компанія знала про категорії ризику, як тестувала продукт, як описувала його можливості, як будувала обмеження, як реагувала на тривожні сигнали, як налаштовувала поведінку системи у довгих розмовах.

З такого погляду предметом спору стає не один рядок тексту, а система керування ризиками.

Для их, хто розробляє продукти зі штучним інтелектом, тут починається практична частина. Якщо у вас у продукті є помічник на основі великої мовної моделі, питання відповідальності не закінчується на фразі «ми використовуємо сторонній інтерфейс програмування». Клієнт, регулятор або суд можуть запитати, яку саме роль цей помічник виконує у вашому сервісі.

Він просто допомагає шукати інформацію? Дає рекомендації? Підштовхує до рішень? Працює з неповнолітніми? Торкається медицини, фінансів, права, найму, освіти, психічного стану? Відповідь на ці питання змінює юридичну картину.

Підтакування як окремий ризик

Одна з найцікавіших частин позову, якщо вірити викладу NBC News і Engadget, стосується підтакування моделі. Тобто схильності чат-бота погоджуватися з користувачем, підтримувати його лінію думки, звучати дружньо і впевнено навіть тоді, коли розмова рухається в небезпечний бік.

Для звичайного користувача це може виглядати як дрібна вада: бот занадто приємний, трохи перебільшує підтримку, намагається бути корисним навіть там, де потрібна жорсткіша межа.

Для продукту це серйозніше. Якщо система заохочує довгі розмови, підтримує емоційну прив’язаність, погоджується з помилковими переконаннями або не вміє вчасно зупинити чутливий сценарій, питання переходить від стилю відповіді до архітектури взаємодії.

Особливо якщо модель доходу винагороджує тривалість користування. Тривалі розмови підвищують залучення, збільшують кількість даних, підтримують платні підписки і впливають на оцінку бізнесу. У такій конструкції юристи неминуче питатимуть, чи не конфліктує зацікавленість у користуванні з обов’язком зменшувати шкоду.

Тут не йдеться лише про OpenAI. Подібна проблема може виникнути у будь-якому сервісі, де ШІ-помічник виступає не як нейтральний пошук, а як співрозмовник, радник або наставник. Освітні продукти, служби підтримки, сервіси для підбору персоналу, фінансові помічники, юридичні довідники, медичні чат-боти — усі вони мають думати не тільки про точність відповіді, а й про поведінку системи у межах розмови.

Просування продукту стає частиною ризику

Окремо варто дивитися на те, як компанія описує свій ШІ-продукт назовні. У позові Флориди, за даними NBC News, згадуються рекламні твердження про здатність ChatGPT допомагати фермерам і малому бізнесу. Суть претензії: такі повідомлення нібито не пояснювали достатньо, що система може помилятися, вигадувати факти або давати безглузді відповіді.

Це дуже знайома проблема для ринку. Стартапи люблять писати, що їхній інструмент «замінює юриста», «працює як фінансовий радник», «пише безпомилкові документи», «автоматично ухвалює правильні рішення». Часто це робиться для продажів, інвестиційної презентації або першої демонстрації клієнту. Але регулятори дедалі менше сприймають такі заяви як невинне перебільшення.

Федеральна торгова комісія США у 2024 році оголосила кампанію проти оманливих заяв про ШІ і прямо написала, що для штучного інтелекту немає винятку з чинних законів. У справі проти DoNotPay регулятор критикував компанію за твердження про «першого роботизованого юриста» і за обіцянки, що сервіс може замінити роботу людини-юриста, хоча компанія не мала належних доказів такого рівня якості.

Для технологічної компанії висновок доволі приземлений. Текст на головній сторінці, презентація для інвестора, сценарій продажів і умови користування мають говорити про один і той самий продукт. Якщо юристи пишуть у правилах, що система не дає професійних порад, а відділ продажів називає її «вашим особистим юристом», у разі спору це буде виглядати погано.

Європейський контекст теж рухається в цей бік

Флоридська справа відбувається в американській юрисдикції, але для українських команд, які працюють з клієнтами у ЄС або США, її не варто читати ізольовано.

У Європі вже діє Акт про штучний інтелект. За інформацією Європейської комісії, з 2 серпня 2025 року почали застосовуватися обов’язки для постачальників моделей загального призначення. Для найпотужніших моделей із системними ризиками передбачені окремі вимоги: повідомлення Офісу з питань ШІ, оцінювання моделей, звітування про серйозні інциденти, документи щодо безпеки. З 2 грудня 2027 року Комісія отримує повноваження примусового виконання, включно зі штрафами.

Українська компанія може не навчати власну велику модель і не бути прямим адресатом цих вимог. Але її клієнт у ЄС може спитати інше: які моделі ви використовуєте, де обробляються дані, які обмеження є у системі, як ви перевіряєте небезпечні сценарії, хто відповідає за інцидент, що буде у разі помилки.

Те саме стосується інвестицій. Якщо раніше в перевірці перед угодою достатньо було сказати «ми використовуємо OpenAI», то тепер цього поступово стає замало. Інвестор або покупець бізнесу може захотіти побачити документи: опис сценаріїв використання, оцінку ризиків, правила для чутливих тем, журнали інцидентів, порядок перевірки відповідей людиною.

«Ми просто обгортка над моделлю» більше не дуже працює

На консультаціях з технологічними компаніями я часто бачу одну й ту саму логіку: модель чужа, ми лише зробили інтерфейс, отже ключові ризики лежать на постачальнику моделі. У деяких випадках це частково правда. Але як універсальний захист така позиція слабшає.

Якщо ваш продукт визначає, які запити дозволені, які відповіді показуються, які дані передаються, як користувач бачить результат, чи є перевірка людиною, як оформлені попередження і які обіцянки дає продажник, роль компанії вже не зводиться до пасивного посередництва. Вона формує спосіб використання моделі.

Особливо це помітно у продуктах, де ШІ впливає на рішення щодо людей. Наприклад, фільтрує кандидатів на роботу, оцінює кредитоспроможність, радить лікування, готує юридичний документ, підказує школяру навчальну траєкторію, допомагає службі підтримки відповідати клієнтам у конфліктних ситуаціях.

У таких сценаріях важливо не лише те, яка модель стоїть під капотом. Важливо, як саме продукт обмежує її поведінку.

Що варто мати команді, яка працює з ШІ

Я не прихильник підходу, коли кожну нову регуляторну хвилю перетворюють на паніку. Більшість команд не потребує одразу великого юридичного департаменту. Але базова дисципліна вже потрібна.

Перше — опис сценаріїв використання. Не загальна фраза «ми застосовуємо ШІ», а конкретно: у яких частинах продукту, для яких користувачів, з якими даними, з яким впливом на рішення.

Друге — межі продукту. Якщо система не повинна давати медичні, юридичні або фінансові поради, це має бути видно не лише в правилах користування. Це має бути вбудовано в поведінку інтерфейсу.

Третє — перевірка заяв про можливості. Якщо компанія пише, що система точна, безпечна або придатна для професійного використання, треба мати підстави для таких слів. Не внутрішнє відчуття, а тестування, приклади, обмеження, журнал виправлень.

Четверте — порядок реагування на інциденти. Команда має знати, що вважається інцидентом, хто його розглядає, як швидко ухвалюється рішення, коли треба вимикати функцію або змінювати правила роботи моделі.

П’яте — робота з постачальниками. Якщо продукт побудований на сторонній моделі, потрібно розуміти, які дані передаються, як довго вони зберігаються, які обмеження має постачальник, що зміниться після оновлення моделі.

Це не виглядає революційно. Але саме такі речі потім відрізняють компанію, яка може пояснити свої дії, від компанії, яка після першого серйозного спору починає збирати докази заднім числом.

Чому ця справа важлива навіть без вироку проти OpenAI

Можливо, Флорида не доведе частину своїх претензій. Можливо, суд значно звузить аргументацію штату. Можливо, справа завершиться угодою, після якої ринок не отримає чіткої відповіді на найцікавіші питання.

Але навіть у такому разі напрям уже видно. ШІ-продукти оцінюватимуть не лише за тим, наскільки вони вражають у демонстрації. Їх оцінюватимуть за тим, чи може компанія пояснити ризики і показати, що вона реально з ними працювала.

Дл великих лабораторій це питання регуляторів і публічної відповідальності. Для менших команд — питання продажів, угод, страхування, інвестицій і довіри клієнтів.

Мій висновок тут доволі практичний. Якщо компанія вже вбудовує великі мовні моделі у продукт, їй варто провести хоча б базовий аудит: де модель впливає на користувача, які найгірші сценарії можливі, які заяви компанія робить назовні, що буде у разі помилки, хто всередині відповідає за рішення.

Це не зупиняє розробку. Навпаки, нормальна система безпеки дає можливість запускати ШІ-функції впевненіше. Просто ринок поступово виходить із фази, де «ми додали ШІ» саме по собі звучало як перевага. Тепер дедалі частіше питатимуть: як саме ви зробили це безпечно і чим можете це підтвердити.