У Apple випустили ШІ-помічника, який «допомагав» шахраям
Apple у жовтні представила оновлення «Apple Intelligence» — це бета-версія помічника на базі LLM. Він доступний на iPhone, iPad і комп’ютерів Macintosh — і в Україні також.
Втім «юзери» почали скаржитися на одну із функцій нейромережі: підсумування кількох push-повідомлень. Через некоректну роботу, зміст повідомлень може змінюватися та перекручуватися — навіть на прямо протилежний.
Наприклад, нещодавно на роботу системи скаржилися у BBC — інформагенція заявила, що штучний інтелект у деяких випадках робив «абсолютно хибні заяви». Apple у відповідь на заяву BBC пообіцяла, що випустить оновлення — ШІ яке буде зазначати, що текст є лише скороченням, додавати такий собі «дисклеймер». «Фікс» не вражає, якщо чесно.
Втім, користувачі помітили значно серйозніший баг — ШІ переписувала очевидні шахрайські повідомлення. Через такий «рерайтинг» користувачам було складніше відрізнити шкідливий контент. У окремих кейсах нейромережа навіть позначала їх пріоритетними — щоб користувач звернув на них особливу увагу, і точно не пропустив шахрайське повідомлення.
У соцмережах навіть почали мріяти: як було б добре, якщо функції не допомагали б шахраям, а захищали від них:
Користувачі загалом не задоволені: корпорації хочуть швидше показати щось своє «шоб було із ШІ». Внаслідок цього поспіху страждають звичайні юзери, які користуються «сирими» продуктами. Будемо сподіватись, що інші очікувані новинки вийдуть більш «відполірованими».
Немає коментарів
Додати коментар Підписатись на коментаріВідписатись від коментарів