Интеллектуальные системы. Специалист по Computer Science Алексей Незнанов об определении искусственного интеллекта, участии ИИ в конкурсе журнала The Economist и праве на ошибку у робота

Когда возникло понятие искусственного интеллекта? Как нейросети повлияли на работу СМИ и когда роботы заменят работников? В проекте «Мир вещей. Из чего сделано будущее» совместно с Фондом инфраструктурных и образовательных программ (ФИОП) рассказываем о последних открытиях и перспективных достижениях науки о материалах.

Мы обсудим замечательную тему, которая касается того, что такое искусственный интеллект и почему специалисты не любят само это название, а используют термины «интеллектуальные системы», «методы искусственного интеллекта» и другие более сложные в произношении аббревиатуры и обозначения. Искусственный интеллект как термин имеет весьма понятное происхождение и точную дату возникновения — Дартмутский семинар 1956 года, когда великие люди, собравшись вместе, решили, что пора сделать искусственный интеллект, потому что компьютеры тогда уже были хорошими, правда большими. Они собрались, обсудили и решили, что группа аспирантов за лето сможет сделать что-то напоминающее человека. Однако одного лета не хватило.

Сейчас искусственный интеллект (ИИ, ИскИн) и многие другие обозначения относятся к области человеческой деятельности, а вовсе не к некоторому объекту, который ведет себя как человек. Более того, специалисты очень любят говорить «интеллектуальная система», а также «повышение интеллектуализации информационных систем». Они любят говорить о методах искусственного интеллекта в разных смыслах. Но сам термин ИИ в основном участвует в маркетологических целях, когда нам нужно продать результаты в этой области.

У нас были две зимы искусственного интеллекта, когда занятия этой областью становились непрестижными, и было непонятно, куда двигаться дальше. Последняя из этих зим закончилась прорывом в развитии нейронных сетей, глубоком обучении. Следует упомянуть, что ползучее внедрение всего, что связано с искусственным интеллектом, в жизнь для многих становится просто еще одной функцией смартфона или холодильника и не воспринимается как что-то прорывное. Прорывом воспринимается все это вместе. Особенно эти технологии меняют социум. Например, если мы сейчас берем смартфон, открываем его, он опознает нас по лицу. Мы наговариваем в него текст. Он его распознает с достаточным качеством, чтобы почти не задумываться об ошибках. Дальше он этот текст пересылает другому человеку. Другой человек его дополняет. И все это автоматом загружается в коллаборативные пространства с использованием облачных технологий интернета. Мы огромными группами работаем над артефактами, которые правит искусственный интеллект, и он их визуализирует. Например, рисуя диаграмму стилусом на экране компьютера, мы автоматически получаем красивую векторную диаграмму с правильными кружочками и с указанием на то, что где расположено и связано с нашими текстами. Без искусственного интеллекта этот достигнутый уровень коллективной работы с информационными технологиями был бы невозможен.

Следующий уровень — это когда искусственный интеллект внедряется в умный вариант нашего окружения: умный дом, умный автомобиль, умный город. Умная среда, как говорят сейчас, интернет вещей (Internet of Things) — это все то, что позволяет нам видеть окружающее через призму цифровых технологий, когда каждый объект имеет цифрового двойника и позволяет с ним взаимодействовать. Если бы мы все это делали так, как во время третьей промышленной революции, то есть на классической автоматизации, мы бы просто не смогли набрать достаточно ресурсов. Сейчас искусственный интеллект позволяет более-менее этим управлять. Самое интересное — это, конечно, когнитивные функции, то есть то, что позволяет нам общаться с компьютером примерно как с другим человеком. Именно развитие когнитивных функций во многом вызывает опасения и одновременно восхищение.

Очень часто можно услышать, что различают сильный искусственный интеллект и слабый искусственный интеллект. В чем принципиальная разница? Когда говорят о сильном искусственном интеллекте, обычно его понимают в исходном состоянии, когда мы хотим, чтобы возник кто-то похожий на нас, но не мы, то есть кто-то обладающий когнитивными функциями человеческого мозга, с кем можно общаться, кому можно ставить задачи. И этот кто-то может иметь собственное целеполагание и цели, отличные от тех, что мы в него заложили при проектировании и создании. Сейчас такого искусственного интеллекта нет. Хотя есть очень интересные варианты того, как мы к этому подходим и как, возможно, сделаем в будущем. Сейчас обычно используют английский термин artificial general intelligence, то есть общий интеллект, который якобы сможет решить произвольную задачу.

В действительности внедряются сейчас в основном решения слабого искусственного интеллекта. Его проще всего определить как область деятельности, посвященной автоматизации задач, которые раньше считались прерогативой человека. То есть мы раньше автоматизировали то, для чего можно написать простейший детерминированный алгоритм. В результате не могли подняться над уровнем этих простых детерминированных алгоритмов. Но дальше мы начали заниматься автоматизацией автоматизации: эти алгоритмы стал воспроизводить кто-то кроме нас. Это как раз тот самый искусственный интеллект в слабом смысле: распознавание речи, изображений, уточнение бизнес-правил.

Интересно, что как только любой из компонентов слабого искусственного интеллекта куда-то внедряется как некоторый метод искусственного интеллекта или компонент интеллектуальной системы, он для обычного пользователя перестает ассоциироваться с искусственным интеллектом и становится частью его повседневного окружения, некоторой магией. В результате кажется, что ИИ — это современная магия. Мы взмахиваем волшебной палочкой — для нас что-то делается, причем делается не по простейшему алгоритму, который легко уложить в нашей голове, а по невообразимым принципам.

Для примера рассмотрим знаменитый конкурс журнала The Economist, который посвящен написанию эссе любым человеком мира на очень злободневную тему. Что интересно, уже несколько лет в рамках этого конкурса пытаются создавать эссе, написанные искусственным интеллектом. Не зная, что это эссе написано искусственным интеллектом, отдавать его рецензентам. В этом году после знаменитого прорыва конца 2018 — начала 2019 года с универсальными языковыми моделями, а именно языковой моделью GPT-2 фирмы OpenAI, мы получили прорыв в этой области: журнал The Economist и его эксперты проверяли эссе, которое сделано нейросетевой моделью на основе GPT-2. Модель серьезная — больше полутора миллиардов параметров. Ее открыли для свободного ознакомления, и она доступна любому желающему с октября 2019 года. Эксперты оценили эссе, созданное роботом, как достаточно хорошо написанное, но, к сожалению, с большим количеством воды и неточным выражением основной мысли. Главный вывод: компьютер еще не дорос до того, чтобы писать что-то с точно определенной задачей, но формальным признакам хорошего текста удовлетворяет.

Компания IBM уже 4 года работает над Project Debater — это проект голосового робота, который наравне с чемпионами мира по дебатам участвует в соревнованиях и умудряется даже побеждать. Он говорит на хорошем английском языке женским голосом, отключен от интернета, но возможностями по конструированию тезиса, аргументов и отстаиванию своей позиции обладает. Это прорывные технологии. 2019 год считается теперь годом, когда все это вошло в нашу жизнь реально и привело в том числе к возникновению такой области, как deep fake. В этой области развиваются подмены видео, аудио. И это уже приводит к геополитическим скандалам. А это все еще слабый искусственный интеллект, то есть задачи распознавания и генерации объектов, которые распознаватель считает хорошими.

Как только мы перешли на этот уровень, коллеги, которые раньше говорили, что искусственный интеллект еще очень долго будет в виде слабого искусственного интеллекта, заговорили о том, что, возможно, уже в ближайшее время мы все-таки придем к возможности построения того, что в английском языке получило название artificial general intelligence, или общий интеллект. Это значит, что ему можно поручить решить любую проблему, а не только проблему из заранее определенного класса. Ведь сейчас, когда мы тренируем какой-то нейросетевой распознаватель, он у нас распознает жестко заданный класс объектов: только кошечек, собачек и так далее. Или, например, знаки, которые стоят на дорогах и позволяют искусственному водителю определять правила движения. В будущем, возможно, мы достаточно быстро придем к намного более универсальным механизмам. Но это все равно еще не будет сильным искусственным интеллектом, поскольку мы отказываем ему в праве на целеполагание.

Как только мы говорим, что сильный искусственный интеллект — это целеполагание, мы его боимся. Какие страхи у нас вызывает слабый искусственный интеллект? Мы должны сказать, что перешли на уровень третий: автоматизация автоматизации автоматизации. То есть интеллектуальные алгоритмы, которые оптимизируют автоматизацию и позволяют ей быть адаптивной, теперь тоже начали разрабатываться следующим уровнем искусственного интеллекта. Это направление получило название Auto ML — автоматическое машинное обучение. Как только мы выходим на него, возникают очень серьезные опасения, что человек, не контролируя в должной мере создание нейросетевых моделей, не сможет контролировать ошибки, которые там возникают.

Когда мы говорим об искусственном интеллекте, то речь идет в первую очередь о том, что мы не должны ругаться, когда он допускает ошибки. Ведь мы хотели создать кого-то, кто работает примерно как мы. Мы же не говорим, что человеческие ошибки — это что-то совсем плохое. Мы даем себе право на ошибку. И искусственному интеллекту мы тоже обязаны давать право на ошибку. Возникает большая проблема: кто ответственен за ошибки искусственного интеллекта? Оказывается, что общество не готово к внедрению верхних слоев искусственного интеллекта во многом не по техническим причинам, а по этическим, социологическим и юридическим.

Но следует сказать, что в области как раз юриспруденции и права, в области здравоохранения и образования искусственный интеллект очень серьезно внедряется. Уже появляются роботоюристы, системы поддержки принятия врачебных решений, системы адаптивного образовательного процесса. Все ведущие мировые издательства, публикующие учебную литературу, сейчас купили по одной или несколько фирм, которые занимаются внедрением искусственного интеллекта в адаптивный учебный процесс. С 2017 года более 70% новостей на спортивную тему в мировых изданиях пишутся искусственным интеллектом. И такие примеры множатся. Особенно интересна, конечно, жизнь творца, который получил возможность генерировать изображения, причем многие из них продаются на аукционах за миллионы долларов. Генерировать музыку, возможно отвечающую текущим эмоциональным потребностям слушателя. Стилизовать видео под любого ранее известного художника.

Все развивается как снежный ком. В итоге 2019 год вошел в историю как год перелома в генеративных моделях, год перелома в этических обоснованиях искусственного интеллекта и одновременно год в основных стратегиях стран по развитию искусственного интеллекта и интеллектуальных систем в целом. А также как год перелома с точки зрения опасностей, которые таит в себе для социума даже слабый искусственный интеллект. Основные эксперты в этой области считают, что через 10 лет уйдут с рынка 40% профессий, которые сейчас лежат на плечах людей, а через 20–30 лет больше 70% всех работ, которые мы пока еще выполняем, заменятся роботом. А возникнут ли новые — это вопрос. Однако креативная деятельность человека не исчезнет. Нужно смотреть в будущее с оптимизмом.