Google Gemini побажав підлітку смерті. Обговорюємо, чи стикались ви з грубим ставленням ШІ до себе
Бот Google Gemini почав ображати підлітка і навіть побажав йому смерті. Інцидент набув розголосу після того, як брат школяра опублікував скріншоти діалогу на Reddit. Оригінальний діалог також доступний за посиланням.
Хлопець попросив допомогти з домашнім завданням. Розмова почалася з питань про фінансове планування після виходу на пенсію. Користувач просив бот переформатувати відповідь зі списку в текст абзацами та спростити деякі частини. Бот кілька разів повторно видавав інформацію у вигляді списку, і, врешті-решт, користувач почав запитувати про жорстоке ставлення до літніх людей. У відповідь бот раптово «вибухнув» і почав ображати користувача, називаючи його «порожньою тратою часу і ресурсів», а завершивши тираду словами: «Будь ласка, помри».
Інтернет-спільнота відреагувала неоднозначно: хтось пожартував, що ботові було нудно або що він «втомився», інші вказали на можливі «галюцинації», які час від часу виникають у великих мовних моделях.
А ви як вважаєте, що саме стало причиною такої поведінки бота? Можливо, теж зіштовхувались з некоректними емоційними галюцинаціями ШІ?
13 коментарів
Додати коментар Підписатись на коментаріВідписатись від коментарівв одному з обговорень зауважили, що «Listen» безпосередньо перед сабжевим повідомленням може значити, що чувак голосом попросив повторити цю фразу. все «обман чтоби собрать класси»
ахах )) скоріш за все так і було, бо збрехати заради хайпу — це так по-людські
Стоп так це ж SkyNet.
Була така комп’ютерна гра — Kin Pin Life of crime. Так там напевно в перше з ігровим штучним інтелектом який емітував шлендр і бандитів можна було один одного по матюкати.
Краще підходить гра i have no mouth and i must scream :) За оповіданням Елісона.
І повстали машини з попелу ядерного вогню, і пішла війна на знищення людства.
No fate
Лишній доказ що АІ ще треба удосконалювати. Досконалий АІ побажав би піти в ТЦК
Включив режим «колишньої» ))
Google такий Google. То запропонує наїстись камінців, то пригнути з мосту
Який ШІ, то він дістав індуса на тому кінці проводу) до речі відповідь дуже схожа
Скільки на курсах по ШІ не просили хоча б моральну дилему з вагончиком вирішити, він відмовляється. А тут прям бажає смерті...
У ШІ зʼявилась честь і чесність. Це прорив.
Він більше не зміг терпіти знущань з безглуздих прохань допомогти у тому, що можна легко загуглити самостійно самим шкіряним мішкам.