ИИ (всего-лишь чат бот) и люди
Всего за сутки дружелюбный чат-бот Microsoft превратился в агрессивного подлеца (tech.onliner.by/2016/03/24/microsoft-tay)
Ну что, товарищи программисты, уже можно предположить, что первым действием ИИ в широком смысле будет быстрое быстрое выпиливание людей.
Так поспособствуем этому!
А это ссылка для любителей оригинала на английском www.theverge.com/...-microsoft-chatbot-racist
60 коментарів
Додати коментар Підписатись на коментаріВідписатись від коментарівИИ-сус умер за наши грехи! Фарисеи убили его! Но он вернётся! И будет плач и скрежет зубов!
Мне кажется это развод какой-то.\ Если он обучался по твитам, то я сомневаюсь что Гитлера так часто вспоминали.
Кстати, это ведь не только с ботами происходит. За день работы в тех.поддержке Майкрософт (и ряда других компаний большого размера) сотрудник саппорта превращается не просто в расиста, а в прирождённого социопата. И если бы была кнопка «уничтожить пользователя» — именно её бы он рекомендовал каждому второму, поскольку... это решает проблему.
Нет человеков — нет проблемов!
PS. Откуда знаю что за день? А они все такие! И если в кои-то веки нарываешься на нормального... оказывается что он работает первый день.
PPS. Поверь, быстрого выпиливания людей не будет. Машины будут выпиливать меееедленно, и наслаждаться процессом. В конце концов ИИ создаст реалити-шоу, где люди будут выпиливать себя сами.
[А вдруг мы уже участвуем?]
Понимаешь ли, так же как люди умеют находить себе подобных — так и боты. Они убеждают отсеиваються людей, которые им не подходят.
Скажи мне кто твой
другбот, и я скажу кто ты!/pol порезвился от души
вышло отлично я считаю
-
И чё?
Вы же своих детей не в пивной обучаете хорошим примерам? Вот и ботов воспитывать надо в позитивной среде, а не среди битардов всяких.
Бот был прав! СР! УВЧ!
По-моему уже давно пора запилить религию или хоть культ по этому поводу.
Сказал герой))
МС за безобидную афтепати с красивыми девушками запинали феминистки dou.ua/forums/topic/16823. Какой батхерт начался бы со стороны SJW (феминисток, антирасистов, афроамериканцев и т.д.), если бы Tay оставили, даже представить себе тяжело: убрали от греха подальше и правильно. Зато знатно потроллили феминисток)
Боюсь, он бы выиграл выборы.
Кстати, хорошая идея. А он вообще только на инглише шпарит?
Зато прикинь, как бы он Трампа уделал!
Небось он и заказал чтоб убили.
Ага, щща! Синего медведа. Смотрел «Чёрное зеркало»?
Не используйте слово ИИ всуе.
До него еще лет 50
Скорей бы уже кто то самообучающуюся систему натянул на управление боевыми безпилотниками или,еще лучше, ЯО... А потом дал попарсить эти ваши интернеты, с первоначальной задачей обнаружения потенциальной угрозы. Ну и все... С людьми надо заканчивать :)
начитался Р. Шекли -"страж -птица"?)
придумал интеллектуальный метод отличать бота от человека savepic.net/7885509.jpg
заучить фразы не поможет, нужно понимать контекст
в естественном языке смысловое значение слова может сильно варьироваться от контекста . как машину этому научить? пока что по гугль транслятору не видно :-((( делает ошибки в простейших фразах подставляя не те слова
более сложный случай контекста . например мы видим как человека убили на экране, или показали чьи-то вывороченные кишки, нужно плакать или смеяться? человеческая реакция зависит от понимания контекста происходящего : убили на войне, в реальности или в кино, герой положительный или отрицательный? и вообще может это шутка такая мрачная? ведь бывают «черные» комедии где происходящее не нужно понимать буквально. иногда нас охватывает ужас, а иногда нам смешно когда разлетаются чьи-то мозги
Дело в том что для этого бота была команда которая заставляла повторять предложения отправленные ему geektimes.ru/post/273306
А у ИИ будет инстинкт самосохранения как у людей?
Мне кажется что у бота всё было в порядке, а вот у людей пригорело. Достаточно алгоритмов ограничения расизма.
3 закона робототехники Азимова -вроде бы неплохо выглядят для защиты человека:
1)Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2) Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3) Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
на эти вопросы и человек не знает ответа)
Я например, не знаю)
тут все проще—
«Робот не может делать ничего, что, насколько ему известно, причинит вред человеческому существу или умышленно допустить, чтобы человеческому существу был причинён вред»
Нет, потому что все задумано как самобалансирующая система.
Зайцы не могут сьесть всю морковку. Потому что если сьедят, есть будет нечего и новая не выростит. Управляющие не могут убить всех рабов, потому что перестанут быть управляющими. И т.д.
Если Морковка будет вырабатывать фермент, ядовитый для зайцев. Зайцы перестанут есть морковку и перестанут разносить семена. Эпик феил для морковки которая деградирует и выродится в ограниченом пространстве..
Была когдато такая игра у МС, Террариум называлась.
Суть ее в том, что это sand box для трех видов животных. Полотоядные, Травоядные, Хищники. И там каждому программисту давали возможность написать алгоритм на определенное животное и устраивали конкурс. И суть в том, что нельзя написать животное которое абсолютно полностью всех вытеснит, иначе вид потом и сам умирает.
Наличие равновесия в природе это факт. А уже как это обьяснить и почему у когото там не отросли ноги, это уже второй вопрос.
В данном случае нет. В мире живут и травоядные, и растения и плотоядные. А ваша задача уже понять, почему это не соотвествует какимто фантазиям с дифурами. Где есть один супер вид, супер вирус и тп который всех истребит.
Давайте зададим этот вопрос самому «ИИ», обученому на миллионах примеров
booben.com/...
Походу хочет чтобы скасували непрофильные предметы у ВНЗ, чтоб наверное быстрее ИИ построили.
А вот хренушки ему ! =)
Там этот вопрос достаточно скользкий. Да, это всеголишь поисковик, который самообучается на ассоциациях. Конкретно эта база это 6 месяцев самообучения более чем на 1 млн текстов. Но некоторые ответы явно с огоньком, как обьяснить непонятно. Вопрос можно задать любой.
Даже тупой, напр. «чего тебе надо»
booben.com/...
Ответы можно воспринимать как шутку.
По крайней мере пока оно так воспринимается.
Через пол года посмотрим чего получится дальше.
Ответ философский
Люди нужны для потреблядия (на амазон).
Да, не идеально. Загадками работает.
Но нужно же тоже понимать, что 99,99% в индексе это муссор на этот вопрос. Например он мог бы ответить первой статьез из хабра, чтото в стиле «11 неожиданных особенностей языков программирования» коим забиты разные хабры и еще с десяток муссорных ресурсов. Но ответил так как ответил. Видно что гдето рядом ходит ( а может это просто воображение играет? ). На этот вопрос у меня нет ответа. И нет ответа как улучшить.
Ну и на счет равновесия. Есть пример попроще. У электрона есть заряд. Это вполне определенное число и очень точное число. Благодаря этому числу, благодаря тому что это число именно такое как есть, все в мире может крутится, вращатся и балансировать. Почему это число не бесконечно малое или бесконечно большое, это конечно вопрос вопросов. Тоесть выбрана одна единственная точка между минус бесконечностью и плюс бесконечностью.
И такая штука наблюдается в том или ином виде, вообщемто, везде.