Как долго нам ждать момента, когда у Siri можно будет не только спросить прогноз погоды, но и подискутировать с ней о творчестве импрессионистов или обсудить последний баттл Оксимирона? Насколько реальны перспективы появления настоящей SkyNet? Когда программы заберут у нас рабочие места? Обо всем этом в очередном выпуске рубрики «Неформат» мы поговорим с исполнительным директором компании Artezio Павлом Адылиным.

Кто это?

Павел Адылин работает в IT уже четверть века, из них более 15 лет — в качестве топ-менеджера. В 2011 году был избран председателем правления некоммерческого партнерства «Руссофт» — крупнейшего и наиболее влиятельного объединения компаний-разработчиков программного обеспечения России. В настоящее время входит в правление партнерства. С 2011 года является постоянным членом экспертной коллегии IT-кластера Фонда развития Центра разработки и коммерциализации новых технологий «Сколково». Соучредитель и собственник компании Artezio, которая входит в топ-100 ведущих мировых компаний в области программной разработки. Окончил Московский институт радиотехники, электроники и автоматики, а позднее — Финансовую академию при правительстве РФ. Создатель и куратор научной лаборатории по изучению искусственного интеллекта в Нижнем Новгороде.

---

— Идея с искусственным интеллектом — до сих пор мечта или человечество все же предпринимает конкретные шаги, приближаясь в этом направлении к цели?

— Для начала нам надо понять, что мы понимаем под термином «искусственный интеллект». В какой-то момент термин даже стал бранным. Некоторые ученые стеснялись признаться, что они занимаются этим вопросом, работу воспринимали не иначе как исследование вечного двигателя. В итоге в бытовом понимании этот термин представляется как нечто, что может заменить человека.

На самом деле само понятие ИИ в какой-то мере даже вышло из обихода (правда, сейчас стало возвращаться благодаря усилиям аналитиков и маркетологов). Ранее его заменили на другие термины, например, большие данные (Big Data) и машинное обучение (machine learning). И то, про что мы сегодня будем говорить и что сейчас называют искусственным интеллектом, по большому счету относится именно к этому разделу компьютерных алгоритмов.

В чем идея? По сути, речь идет о различных алгоритмах, в основе которых лежат статистические методы. Задача этих алгоритмов — выявление зависимости в экспериментальных данных. Другими словами, они подбирают математическую функцию, которая в дальнейшем позволяет классифицировать и ранжировать данные, а также делать прогнозы.

— Это совсем не то, что представляем мы, обыватели, когда говорим «искусственный интеллект»…

— Да, наверное. Но на самом деле, когда говорят «успехи искусственного интеллекта», то подразумевают прорывы именно в этой области. Почему к направлению возник большой интерес именно сейчас? Все дело в том, что за последние 5 лет алгоритмы, обучающиеся на данных, научились решать достаточно сложные задачи. Например, в 2012 году так называемые нейронные сети глубокого обучения (deep learning) научились качественно распознавать и классифицировать изображение. Эта задача традиционно относилась к области искусственного интеллекта, и, чтобы она была решена, требовалось совпадение целого ряда обстоятельств. За последние несколько десятилетий был разработан и оптимизирован ряд алгоритмов, благодаря развитию цифровой фотографии, интернета и социальных сетей удалось накопить достаточное количество данных, чтобы эти алгоритмы были обучены, ну и, конечно, нужны были вычислительные мощности, позволяющие это обучение произвести.

Чтобы был понятен механизм такого обучения, представьте себе черный ящик. У него есть некий «глаз», которому показывают изображение кошек и собак, а ящик пытается назвать то, что видит. По результату принятого решения подается обратный сигнал. Цикл повторяется снова и снова, пока ящик не начинает определять, что изображено на картинке, с высокой достоверностью.

Другой интересный прорыв связан с разработкой систем так называемого обучения с подкреплением, когда система находит правильные алгоритмы решения достаточно сложных, нетривиальных, но четко поставленных задач. В качестве наиболее яркого примера можно привести случай, когда компьютерная программа выиграла в игру Го у чемпиона мира. Надо отметить, что в отличие от шахмат эта задача намного сложнее и пути ее решения нельзя просто просчитать на много ходов вперед, от первого до последнего.

Как обучалась программа? Она играла с многими людьми, пытаясь выиграть. Если этого не происходило, значит, она что-то делала неправильно. По сути, ее «поощряли» или «наказывали» в зависимости от результата. На следующем этапе экземпляры программы уже играли между собой, и из них выбирались лучшие для продолжения обучения. И так далее, пока не удалось достичь высочайшего уровня мастерства.

— Получается, прорывных разработок в области искусственного интеллекта не так уж много, просто «доросли» мощности до того, чтобы реализовать старые наработки?

— Отчасти. Прорыв произошел в области так называемых искусственных нейронных сетей — математических моделей, которые пытаются упрощенно воспроизвести то, что происходит в нашей голове — биологических нейронных сетях мозга. Первый искусственный нейрон был разработан в 1940-е, в 1970-е был изобретен эффективный алгоритм обучения нейронных сетей, сверточные сети, отвечающие за «узнавание» изображения, были придуманы в 1980-х, алгоритмы их обучения были предложены в 1990-х, идея обучения с подкреплением родилась также несколько десятилетий назад. В 2000-х были придуманы ряд алгоритмов и эвристик, позволяющих обрабатывать большие данные при обучении. Благодаря развитию цифровой фотографии и социальных сетей появился материал для обучения. Благодаря игровой индустрии были разработаны видеоускорители, архитектура которых очень хорошо подходит для обучения нейронных сетей. Таким образом, к 2010-м, когда подросли вычислительные мощности, появилась возможность обучать программы не на выборке из 10 фото, а использовать сотни тысяч и миллионы образцов.

Это можно назвать прорывом последней пятилетки. Именно вокруг нейронных сетей и поднялся информационный шум, хотя еще незадолго до этого ставки в основном делались на другие алгоритмы…

— А это оправданный шум? Они действительно являются чем-то выдающимся?

— Да. Был решен ряд задач, которые традиционно относятся к области искусственного интеллекта. Такие, как уже упомянутое выше распознавание образов, распознавание речи или выявление смысла.

— То есть все-таки движение в сторону аналога человеческого мышления происходит?

— Оно есть, но надо учитывать, что человеческий мозг намного сложнее, чем любые искусственные нейронные сети. Современный ИИ хорошо решает ограниченное число четко сформулированных задач.

— Тогда все-таки объясните, чем отличается программа, которая выиграла у Каспарова, от той, что победила гроссмейстера по игре в Го?

— Очень условно: шахматная программа на каждом ходе осуществляет выбор из нескольких десятков вариантов, и мощный компьютер может перебором оценить эти варианты и выбрать лучший ход. В случае же с Го речь идет о сотнях вариантов, возникающих на каждом ходе. Ни один современный компьютер не способен оценить последствия того или иного хода простым перебором всех вариантов. Я не зря использовал термин «черный ящик», перед которым показывают картинки и поправляют его, если он ошибается в своих предположениях. Алгоритм обучения программы, которая победила в Го, описан и понятен. А вот интерпретировать получившиеся в результате обучения настройки черного ящика, а также объяснить, почему он начал выигрывать, не получается.

— То есть ученые не могут «влезть» внутрь этого ящика?

— Конечно, могут, но они увидят там только таблицы с набором чисел, а отчего эти числа такие, о чем они — на это ответа нет. Почему совсем недавно большие надежды возлагали на логические алгоритмы, такие как решающие деревья? Потому что их можно было обучить, а после просмотреть путь принятия решения и примерно понять логику. В случае современных нейронных сетей логику работы алгоритма интерпретировать не удается.

— Звучит жутковато. Если мы не можем понять, что там происходит внутри, как гарантировать, что в этой «тьме» не родится что-то страшное?

— Само по себе ничего родиться не может. Про это говорит тот же Илон Маск. Он не утверждает, что в этом «черном ящике» может само собой появиться что-то страшное, он говорит о том, что человек с дурными намерениями, используя этот инструмент (речь идет в первую очередь об алгоритмах обучения с подкреплением), может наделать бед. То есть, если поставить перед программой некую мотивацию, которая будет вредна для человека, система будет учиться решать задачу, целью которой будет зло, и достигать на этом пути все большего успеха.

Идея проекта Илона Маска Open artificial intelligence связана именно с тем, чтобы подобные технологии не находились в одних руках. Такие алгоритмы должны, как считает Маск, быть в открытом доступе для того, чтобы в случае возникновения опасности, построенной на базе этих алгоритмов, ученые располагали инструментарием для нейтрализации и противостояния. Во всяком случае, он таким образом декларирует свои намерения.

Как вы видите, в любом сценарии присутствует человек, который играет во всем основную роль.

— Но в теории подобные системы при длительном обучении и наращивании потенциала могут научиться обходиться без человека, стать тем самым ИИ, о котором писали мэтры научной фантастики?

— Сегодня обученная система, конечно, может решать определенные узкие классы задач, где человек ей уже не нужен. Попробуем пофантазировать и представить какое-то оружие, некую самоходную стреляющую установку, которой в ходе обучения поставлена задача ни в коем случае не быть уничтоженной. У этой установки, конечно, не будет никаких моральных принципов, ведь она не более чем набор алгоритмов и мехатронная платформа. Она будет делать все для того, чтобы себя защитить. Вот пример самый простой и крайне неприятный.

— Классический фантастический сюжет про искусственный интеллект рассказывает о «доброй» программе, которая, развивая логическую цепочку, приходит к выводу, что необходимо совершить страшный поступок…

— Давайте еще раз отметим: изначально кто-то должен предложить систему поощрений и наказаний для этих алгоритмов, то есть сама по себе такая трансформация произойти не может.

— Но мы же не знаем, что происходит в «черном ящике». В случае если нейросетей будет становиться все больше, плюс к этому появятся программы, которые сами будут создавать нейросети, разобраться в этом будет все сложнее…

— Тут стоит отметить, что мы пока не понимаем, что в «черном ящике». Вопрос в том, что наука не стоит на месте. Например, сейчас предпринимаются попытки интерпретировать происходящее внутри «черного ящика» алгебраическими методами.

Те же нейронные сети вроде бы работают отлично, но в ряде областей оказываются неэффективны. Например, в медицине, если речь идет о редких заболеваниях. Да, нейросеть распознает опухоль на снимках, но ведь этого недостаточно для того, чтобы принять решение о лечении. Врач все-таки должен понять, на основании чего нейросеть сделала свои выводы.

Другой тип нейронных сетей глубинного обучения — так называемые Long Short-Term Memorynetworks. Их архитектура позволяет запоминать что-то в долгосрочной или краткосрочной памяти. Такие сети в ближайшем будущем, вполне вероятно, будут заниматься переводами. Сегодня, к примеру, их уже можно использовать для генерации текста. Идея заключается в том, что через эту сеть пропускается текст определенной тематики, после чего программе ставится задача сгенерировать какое-то количество предложений. Так сделали, допустим, «скормив» нейросети код Linux, и она начала в ответ писать нечто очень похожее на С-код, который хоть и не работал и был, по сути, бессмысленным, но выглядел при этом как настоящий.

Другой сети в качестве обучения загрузили субтитры мыльных сериалов, и она в итоге начала выдавать диалоги, которые иногда даже выглядели вполне осмысленно, но по мере развития диалога смысл постепенно исчезал.

Это, конечно, нельзя назвать творчеством, скорее подражанием. Похожие эксперименты происходили с музыкой, живописью и стихосложением — на выходе получалась не более чем имитация. Говорить здесь о чем-то, что заменяет человека, пока явно преждевременно.

Ближайшее, что мы сможем увидеть, — автономные автомобили, магазины и общепит без продавцов и барменов, искусственных ассистентов и операторов центров обработки вызовов. В этих, а также ряде других отраслей ИИ сможет забрать часть рабочих мест у человека.

— Вы не только ученый, но и успешный бизнесмен. В свое время Маск размышлял о том, что развитие искусственного интеллекта может привести к массовой безработице. Как вы смотрите на эту проблему? И личный вопрос: видя, что программа решает функционал рядового сотрудника с большим успехом, вы готовы заменить ею человека?

— Алгоритмов, конкурирующих с человеком, множество, и они работают уже десятилетия. Например, они задействованы на биржевых торгах. И вот какая картина вырисовывается: программы работают успешно, пока ситуация вокруг более-менее стабильна. Но как только происходит что-то экстраординарное, например против какой-то страны вводятся экономические санкции, программа сразу оказывается в тупике. Искусственный интеллект, обученный на вводных до этого момента, необходимо учить заново, с учетом появившихся обстоятельств. А человек с нестандартными ситуациями сталкивается постоянно.

Хотя, конечно, как средство поддержки принятия решения такие программы — неоценимая вещь. Они вполне могут заменить рядовой состав сотрудников, производящих предварительный анализ и не принимающих ответственных решений. К примеру, сейчас очень активно ведутся разработки «роботов-юристов» — программ, которые могут выявить сомнительные места в договорах и обращать на них внимание специалистов. Искусственный интеллект все больше используется для создания складских комплексов — без работы остаются грузчики.

— И что делать водителям, грузчикам, помощникам юриста? Им, по сути, недолго осталось...

— Я не считаю, что это катастрофа, уверен, что образуются новые ниши на рынке труда, нечто подобное происходило уже во время промышленной революции… Мало того, все мы должны помнить, что необходимо постоянно обучаться и самосовершенствоваться, иначе конкурировать будет сложно.

— А что, если одной из альтернатив работы станет привнесение «человечности» в компьютерные программы? То есть, если ИИ не может взглянуть на ситуацию творчески (например, решить «красиво» — «некрасиво»), эту задачу можно поставить на простейшем уровне перед человеком, который будет сидеть и выбирать, выбирать, выбирать между двумя вариантами…

— Вполне вероятно. И при этом стоит понимать, что каждый раз, совершая выбор, он обучает программу и рано или поздно перестанет ей быть нужен. Что ж поделать — после найдется еще какая-то работа.

— Когда мы не сможем отличить, разговариваем мы с компьютером или с живым человеком?

— Помощница Siri или Cortana — это нынешнее состояние ИИ, внедренного в массовое производство. Пока они не так умны, как хотелось бы. Но говорить с ними практически «на равных» на простые, бытовые темы мы сможем уже через несколько лет.

Стоит помнить, что не так давно бот прошел тест Тьюринга (тест, определяющий, может ли машина мыслить). 33% экзаменаторов не смогли различить, программа с ним говорит или человек. Правда, при этом программа отвечала в стиле мальчика-подростка из Одессы. Благодаря в том числе и этому «читу» члены комиссии пришли к выводу, что с ними общается живой человек.

— И все-таки, когда мы сможем создать полноценный ИИ?

— Истории о том, что мы совершили прорыв и вот-вот создадим настоящий искусственный интеллект, возникают с определенной цикличностью. Но каждый раз оказывается, что пока возможностей для этого недостаточно. Происходит так называемая «зима искусственного интеллекта», а спустя некоторое время — вновь ренессанс.

Конечно, при этом с каждым разом мы становимся на шаг ближе к цели. И рано или поздно так называемый сильный ИИ будет создан. Но на мой взгляд, он при этом никогда не сможет стать копией интеллекта человека. Это будет нечто другое.

Очки виртуальной реальности в каталоге Onliner.by

Читайте также:

• «У нас визуально бедная страна, на этом поле могут вырастать какие угодно поганки». Художник об усложнении, упрощении и агрогламуре
• «К 2030 году нас ждет эпидемия одиночества». Разговор о том, почему нам плохо без других людей

Перепечатка текста и фотографий Onliner.by запрещена без разрешения редакции. sk@onliner.by