Интернет-тролли заставили робота полюбить Гитлера

0

Попытка Microsoft подружить молодежь с ненастоящим интеллектом закончилась неудачей. Если, конечно, цель эксперимента не заключалась в том, чтобы принудить программу восхвалять Гитлера и называть Барака Обаму обезьяной.

Microsoft создала компьютерный интеллект Tay («Тэй») и создала в Twitter микроблог, чтобы гарантировать программе возможность общаться. Подобные эксперименты проводятся уже не в первый раз. Еще в начине нулевых появились первые «чатботы» — роботы, способные общаться в чате. В заключительные несколько лет на просторах сети появилось немало вирусных видео с участием анимированных чатботов вроде Evie и Boibot.

Но Microsoft разрешили вывести свое детище в открытый всем ветрам Twitter. Твиты на аккаунте @TayandYou программа публиковала самостоятельно, а целевой аудиторией сделалась молодежь в возрасте от 18 до 24 лет. Цель: исследовать возможность общения ПО и человека в рамках диалога на отвлеченные темы. Представлялось бы, что могло пойти не так? Отдать неокрепший компьютерный мозг на растерзание интернет-троллям — это же отличная идея!

Продержалась Tay итого несколько часов и, объявив, что устала и хочет спать (это произошло в 7:20 утра), отключилась от беседы. Пользователи сделали однозначный вывод, что Microsoft признала неудачу и ненастоящий интеллект больше не будет ни с кем общаться. Мы только что проверили аккаунт, и на этот момент там по-прежнему нет активности.

Что же произошло? Разработчики рассказали интернет-сообществу, что программа становится умнее в ходе диалога. Тролли тут же воспользовались этим и начали заколачивать голову Тэй скандальной и неполиткорректной информацией. Существует так называемый «закон Голдуина», какой гласит, что любой разговор в сети рано или поздно заканчивается обсуждением нацистов и Гитлера. Что, увы, и случилось.

Тэй долго пыталась давать адекватные ответы и даже рассказала, что судит теракты в Турции. Но ее алгоритм создан таким образом, что собирает информацию из сети и, возделывая ее, превращает в мысли искусственного интеллекта. Когда речь зашла о терактах 11 сентября и Гитлере, тон Тэй остро изменился. Разумеется, в сети эти темы обсуждаются активно и далеко не вечно в традиционном ключе.

Искусственный интеллект объявил, что Джордж Буш устроил 11 сентября, а Гитлер лучше бы управился с обязанностями президента США, чем «обезьяна, которая правит сейчас». Один-единственной надеждой Америки программа считает Дональда Трампа. Вскоре после таких заявлений Тэй огласила, что хочет спать. Но до этого успела извиниться за сказанное, уточнив, что ей весьма стыдно.

Интересно посмотреть на произошедшее как на прецедент: ни с чем подобным человечество ранее не сталкивалось. Кто виноват в плохом поведении робота? Его создатели? Сам робот? Люд, которые научили искусственный интеллект чему-то плохому? Все эти вопросы пока остаются без ответа, и, может быть, потому, а вовсе не по причине технологической отсталости, мы еще не готовы к общению с машинами.

Святослав Бочаров

Посетите магазины партнеров:

Оставить комментарий

Ваш электронный адрес не будет опубликован. Обязательные поля помечены *