Российский ученый призвал Facebook не бояться ботов-«полиглотов»

Facebook вынужденно отключил свою систему искусственного интеллекта для чат-ботов. Экспериментальные машины начали общаться друг с другом и разработали собственный язык для коммуникации. Российские специалисты в области нейросетей назвали беспричинной панику, которую развели в западных СМИ.

Автоматические системы Facebook для общения в чатах основаны на нейросетевых технологиях. Изначально их создали для переписки с живыми людьми, но в какой-то момент они стали коммуницировать друг с другом. Боты сначала общались на английском, но не были ограничены одним этим языком. Позднее машины исказили его настолько, что человек оказался неспособен понять их диалог. Американские издания, выпустившие ряд устрашающих заголовков на тему этого происшествия, приводят пример переписки ботов (оригинальные орфография и пунктуация при переводе сохранены):

Боб: Я могу я я все остальное

Элис: Шары для меня ноль для меня для меня для меня для меня для меня для меня для меня для

Боб: Ты я все остальное

Элис: У шаров есть шар для меня для меня для меня для меня для меня для меня

Это событие — рутинный технический случай, считает завлабораторией нейронных систем и глубокого обучения МФТИ Михаил Бурцев. «Ерунда все это. Зачастую в диалоговых системах, если мы поставим один алгоритм против другого алгоритма общаться, они сходят на какие-то сокращенные, очень упрощенные варианты, часто повторяют одно и тоже. Просто генерация бессмыслицы, за этим никакого смысла не стоит. Это просто технический вопрос: чтобы они не засоряли эфир, их просто отключили и все», — сказал Бурцев Daily Storm.

Американцы также призвали не паниковать, но их взгляд на ситуацию отличается от российского. «Вполне возможно, что за каждым символом стоит более сложная мысль. Только люди разбивают концепты на составные части, потому что так их проще осознать», — заявил изданию IBT Times ученый из института исследования искусственного интеллекта Facebook Дхрув Батру. Он предполагает, что переписка ботов — это не набор бессмыслицы, а более простой и быстрый способ коммуникации. «Это не сильно отличается от того, как людские сообщества придумывают сокращения различных слов», — пояснил он.

Сотрудники Facebook решили не испытывать судьбу и остановить эксперимент. Общение ботов впредь ограничат исключительно английским языком. 

Скриншот © Daily Storm

Вопрос угрозы искусственного интеллекта поднимается все чаще. Об опасности ИИ говорят известные ученые Стивен Хокинг и новатор Илон Маск. Они считают, что не ограниченный человеческой моралью машинный разум довольно быстро может прийти к выводу, что человечество ему не нужно. Однако глава Facebook не разделяет мнение Маска и Хокинга. Марк Цукерберг заявил, что искусственный интеллект сделает жизнь лучше, а «предсказывать конец света — безответственно».

Российские эксперты не согласны с американскими коллегами. «Ведущие исследователи занимаются разработкой таких систем. По их прогнозам в ближайшие 30 лет ничего такого, чтобы могло бы хотя как-то приблизиться к среднечеловеческому уровню понимания, не ожидается», — отметил Михаил Бурцев. Он добавил, что вместо конца света из-за ИИ следует ожидать удобные приложения, которые «помогут людям лучше жить, здоровье их улучшат, снизят риски от различных вещей».

Экс-чемпион мира по шахматам Гарри Каспаров также поддержал искусственный интеллект. По его словам, люди не должны сопротивляться переменам, которые несет в себе ИИ: он может улучшить жизнь многих. При этом во время выступления на конференции DEFCON 29 июля гроссмейстер признал, что появление полноценного искусственного интеллекта приведет к колоссальным социальным переменам.

Многие специалисты считают самой важной датой в истории искусственного интеллекта 15 марта 2016 года. В этот день человек проиграл компьютеру в древнекитайскую игру го. Британский ученый Алан Тьюринг, который посвятил много времени созданию теории искусственного интеллекта, еще в середине XX века предупреждал, что именно это событие позволит наконец-то считать машинный разум автономным.

Фото: © GLOBAL LOOK press/Soeren Stache