Google Gemini побажав підлітку смерті. Обговорюємо, чи стикались ви з грубим ставленням ШІ до себе

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Бот Google Gemini почав ображати підлітка і навіть побажав йому смерті. Інцидент набув розголосу після того, як брат школяра опублікував скріншоти діалогу на Reddit. Оригінальний діалог також доступний за посиланням.

Хлопець попросив допомогти з домашнім завданням. Розмова почалася з питань про фінансове планування після виходу на пенсію. Користувач просив бот переформатувати відповідь зі списку в текст абзацами та спростити деякі частини. Бот кілька разів повторно видавав інформацію у вигляді списку, і, врешті-решт, користувач почав запитувати про жорстоке ставлення до літніх людей. У відповідь бот раптово «вибухнув» і почав ображати користувача, називаючи його «порожньою тратою часу і ресурсів», а завершивши тираду словами: «Будь ласка, помри».

Інтернет-спільнота відреагувала неоднозначно: хтось пожартував, що ботові було нудно або що він «втомився», інші вказали на можливі «галюцинації», які час від часу виникають у великих мовних моделях.

А ви як вважаєте, що саме стало причиною такої поведінки бота? Можливо, теж зіштовхувались з некоректними емоційними галюцинаціями ШІ?