У Apple випустили ШІ-помічника, який «допомагав» шахраям

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Apple у жовтні представила оновлення «Apple Intelligence» — це бета-версія помічника на базі LLM. Він доступний на iPhone, iPad і комп’ютерів Macintosh — і в Україні також.

Втім «юзери» почали скаржитися на одну із функцій нейромережі: підсумування кількох push-повідомлень. Через некоректну роботу, зміст повідомлень може змінюватися та перекручуватися — навіть на прямо протилежний.

Наприклад, нещодавно на роботу системи скаржилися у BBC — інформагенція заявила, що штучний інтелект у деяких випадках робив «абсолютно хибні заяви». Apple у відповідь на заяву BBC пообіцяла, що випустить оновлення — ШІ яке буде зазначати, що текст є лише скороченням, додавати такий собі «дисклеймер». «Фікс» не вражає, якщо чесно.

Втім, користувачі помітили значно серйозніший баг — ШІ переписувала очевидні шахрайські повідомлення. Через такий «рерайтинг» користувачам було складніше відрізнити шкідливий контент. У окремих кейсах нейромережа навіть позначала їх пріоритетними — щоб користувач звернув на них особливу увагу, і точно не пропустив шахрайське повідомлення.

У соцмережах навіть почали мріяти: як було б добре, якщо функції не допомагали б шахраям, а захищали від них:

Користувачі загалом не задоволені: корпорації хочуть швидше показати щось своє «шоб було із ШІ». Внаслідок цього поспіху страждають звичайні юзери, які користуються «сирими» продуктами. Будемо сподіватись, що інші очікувані новинки вийдуть більш «відполірованими».

👍ПодобаєтьсяСподобалось1
До обраногоВ обраному0
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter

Підписатись на коментарі