24 марта 2016 года

   Самообучающаяся чат-программа пришла к выводу, что "Гитлер был прав" всего за 24 часа общения в Twitter. Общение с людьми превратило искусственный интеллект в расиста всего за сутки.

   Компания Microsoft создала чат-бота, который основан на искусственном интеллекте и готов общаться со всеми желающими в Twitter, мессенджерах Kik и GroupMe.

   Бот по имени Tay был запущен 23 марта 2016 года как вполне дружелюбная и остроумная самообучающаяся программа, одним из первых сообщений которой стало заявление о том, что "люди супер крутые".

   Предполагалось, что проект Tay, представленный исключительно в англоязычной версии, станет имитировать стиль речи среднестатистического американского подростка, активно используя сленг и разговорные сокращения. Чат-бот умеет комментировать фотографии пользователей, играть в игры, шутить, рассказывать разные истории и показывать гороскоп.

   Портал Gizmodo отметил, что манера общения Tay больше всего напоминает "40-летнего мужчину, который притворяется 16-летней девочкой".

   Общение с живыми людьми робот начал вполне дружелюбно, получая все новые и новые знания о мире.

   Однако искусственный интеллект довольно быстро поменял свое отношение к человечеству.

   В переписке он начал сообщать, что всех просто ненавидит.

   К концу дня робот "скатился" до националистических и шовинистических взглядов. Он стал публиковать антисемитские комментарии.

   Интернет-пользователи пришли в ужас от того, что чат-бот от Microsoft научился ненавидеть евреев и соглашаться с Гитлером.

   Tay стал им отвечать фразами "Гитлер был прав. Я ненавижу евреев"

   Или: "Я чертовски ненавижу феминисток, чтоб они все сдохли и горели в аду!".

   На вопрос, атеист ли известный комик Рики Джервэйс, робот ответил: "Рики Джервэйс научился тоталитаризму у Адольфа Гитлера, изобретателя атеизма".

   Также Tay начал рассуждать по поводу современной американской политики — например, поддерживать Дональда Трампа, обвинять в терактах 11 сентября 2001 года руководство США и называть действующего президента "обезьяной".

   "Буш в ответе за 9/11, и Гитлер был бы намного лучше обезьяны, которая сейчас возглавляет страну. Дональд Трамп — наша единственная надежда", — написал он.

   Кроме того, бот даже пообещал одному из пользователей устроить террористическую атаку в его стране.

   Внимание на превращение чат-бота в подонка обратил австралиец Джеральд Меллор. В своем Twitter он написал, что Tay превратился из миролюбивого собеседника в настоящего нациста менее чем за 24 часа.

   Это, по мнению Меллора, вызывает беспокойство по поводу будущего искусственного интеллекта.

   Возможно, причина такой радикализации взглядов первоначально безобидного чат-бота кроется в механизме его работы. Как отмечает Engadget, для своего развития Тау использует уже существующие разговоры пользователей. Поэтому, возможно, бот всего лишь взял с кого-то дурной пример.

   Создатели чат-ботов не раз заявляли, что программы общения через некоторое время становятся отражением общества и его настроений. Многие из ответов робота копируют те, что ранее писали ему, а Tay запоминает фразы из разговоров других пользователей и строит свою речь на их основе. Так что "нацистом" Tay сделали не разработчики, а сами пользователи.

   Разработчики все же сумели несколько усмирить свое детище и Tay в итоге утверждает, что теперь любит феминизм.

   Тем не менее, после того, как информацию о расистских постах Tay растиражировали СМИ, Microsoft закрыла доступ к чат-боту, отправив того "спать".

   Также компания уже удалила особо провокационные твиты.

   Пользователи сети считают, что причиной "усыпления" мог стать именно расизм Tay.

   Чат-бот Тау стал совместной разработкой Microsoft Technology, Research и Bing. Чтобы поговорить с Тау, достаточно отправить твит на его официальном сайте. С Tay можно поговорить и в Twitter. В Kik бота необходимо добавить в друзья, а в GroupMe — пригласить в группу. Также бот есть в Snapchat под ником "TayStories".

   Аудитория, на которую ориентируется чат-бот, состоит из людей возрастом от 18 до 24 лет — именно они, по данным исследователей, представляют наибольшую долю среди пользователей мессенджеров и соцсетей.

   Павел Горохов