Midjourney скасовує безкоштовну версію та постійно оновлює «списки заборонених слів»

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

AI-генератор зображень Midjourney зупинив безкоштовну версію через наплив користувачів, зловживання та велику кількість діпфейків. Про це сказав генеральний директор Девід Гольц у коментарі The Verge.

Враховуючи згадку Гольца про «зловживання», спочатку вважалося, що пауза була пов’язана з хвилею недавніх вірусних зображень, створених за допомогою Midjourney, включно зі сфабрикованими зображеннями арешту Дональда Трампа та Папи Римського в стильній куртці, які деякі прийняли за справжні фотографії.

Однак Гольц назвав це «непорозумінням» і зазначив, що безкоштовна пробна версія Midjourney ніколи не включала доступ до останньої версії Midjourney, версії 5, яка створює найбільш реалістичні зображення та яка, як вважається, використовувалася для цих вірусних зображень.

Версія 5 Midjourney значно покращила якість зображень із зображенням людей. Наприклад, деформовані руки, які раніше були характерною рисою зображень, створених штучним інтелектом, тепер не є проблемою. Освітлення та тканина також більш реалістичні, а система здатна генерувати зображення незліченної кількості знаменитостей і громадських діячів.

Ці вдосконалення, здається, призвели до того, що кілька зображень Midjourney стали вірусними за останні тижні. Серед них не лише фейкові фотографії арешту Трампа та модного Папи, а й президент Франції Еммануеля Макрона, який крокує протестами у Парижі, та Ілон Маск, що тримається за за руки з Александрією Окасіо-Кортез.

Реакція Midjourney поки що була частковою, без будь-якого суттєвого перегляду політики модерування.

«Модерація складна, і незабаром ми надамо вдосконалені системи. Ми беремо багато відгуків та ідей від експертів і спільноти, і намагаємося бути дійсно обачливими», — сказав Гольц The Verge.

Midjourney підтримує список заборонених слів, пов’язаних з темами в різних країнах на основі скарг користувачів у цих країнах. Але він не ділиться повною версією цього списку, щоб мінімізувати «драму». Але компанія розширила цей список, оскільки її фейки стали вірусними.

Проте такі обмеження легко обійти. Наприклад, ви не зможете створити зображення з запитом «Дональда Трампа заарештовують», але зможете створити ідентичний результат із підказкою «Дональд Трамп у наручниках в оточенні поліції».

Нагадаємо, нещодавно Сем Альтман, CEO OpenAI, висловив підтримку регулюванню штучного інтелекту та сказав, що правила є «критично важливими», і суспільству потрібен час, щоб адаптуватися до «чогось такого великого».