Искусственный Интеллект (ИИ) сегодня один из самых популярных, обсуждаемых и одновременно противоречивых и многозначных терминов. Действительно, с одной стороны, многочисленные эксперты утверждают, что уровень развития технологий искусственного интеллекта в стране – это важнейший критерий технологической, экономической и военно-стратегической мощи государства, показатель конкурентоспособности на высокотехнологичных рынках. Аналитики сообщают, что десятки тысяч компаний применяют технологии ИИ, тысячи стартапов по всему миру развивают решения на базе искусственного интеллекта, а ИТ-гиганты конкурируют за возможность купить наиболее успешных разработчиков в этой области. Рынок искусственного интеллекта оценивается консалтинговыми компаниями в сотни миллиардов долларов. С другой стороны, целый ряд специалистов говорит, что ИИ – это миф, никакого искусственного интеллекта пока не создано! Причем такие высказывания можно услышать не только в частных беседах. Например, в статье под названием “ИИ на самом деле еще не существует” авторы начинают свое повествование с категоричного утверждения: “многие компании, которые заявляют, что используют ИИ, обманывают себя – и вас тоже”.
Авторы упомянутой публикации со ссылкой на Джулию Люк (Luc Julia), вице-президента Samsung по инновациям и соавтора цифрового помощника Siri, приводят следующую ее цитату: “Сегодняшние инструменты для бизнеса используют математику, статистику, машинное обучение, глубокое обучение, большие данные, получая машины более совершенные, чем в прошлом. Но то, что так часто называют ИИ, на самом деле не связано с искусственной формой интеллекта”.
Многие авторы отмечали, что словосочетание “Искусственный интеллект” – это неудачный термин, который тем не менее стал общеупотребимым. Целый ряд специалистов предлагали свои уточнения этого названия, вспомним, например, замечание профессора Константина Воронцова, согласно которому ИИ логичнее было бы расшифровать как “имитация интеллекта”.
Отсутствие общепринятого определения осложняет решение целого ряда юридических и экономических вопросов, которые раньше не стояли на повестке.
Сегодня ИИ де-факто вступает в области, куда раньше “не ступала нога машины”. От того, как мы трактуем термины, в том числе зависит разграничение юридической ответственности в таких непростых вопросах, как кто несет ответственность за аварию, вызванную системой управления беспилотной машиной, кто ответственен за решение, если диагноз пациенту был ошибочно поставлен системой ИИ, кому принадлежит авторство на мелодию, сгенерированную ИИ, – список можно продолжить.
Почему же термин, которым люди пользуются почти 70 лет, до сих пор понимается разными группами специалистов по-разному? Какие определения ИИ существуют и чем они различаются?
Перечислим некоторые проблемы, с которыми сталкиваются специалисты, пытающиеся дать свое определение ИИ.
Во-первых, ИИ быстро развивается, появляется все больше новых решений, меняется наполнение термина, и трудно дать толкование, которое было бы достаточно гибким, охватывая все новые подходы к реализации ИИ.
Во-вторых, следует отметить, что ИИ опирается на исследования разных наук, как естественных, так и гуманитарных (компьютерные науки, статистика, психология, нейробиология, философия), каждая из которых имеет свой понятийный аппарат, свои взгляды на предмет, и не всегда эти взгляды совпадают. Противоречия, имеющиеся в разных дисциплинах, находят свое преломление и в теме ИИ. Представители разных школ и учений (материалисты и идеалисты, сторонники эволюционной теории и ее противники и т. п.) не могут достигнуть консенсуса в толковании термина ИИ, особенно в вопросах, затрагивающих философские аспекты бытия.
С философской, гносеологической, точки зрения термин интеллект привязан к биологическому объекту, а вопрос о том, могут ли неживые объекты обладать ощущением (как первичной основой структуры сознания и интеллекта), не решен. Поэтому большинство нейробиологов вопрос о том, может ли машина обладать разумом и, соответственно, интеллектом, пытаются отложить на будущее.
Разные участники сообщества ставят перед собой разные задачи. Для одних исследование ИИ связано с узконаучными целями, например, как с помощью компьютерного моделирования понять механизмы работы интеллекта человека. Для других целью является создание умных машин, которые позволят решать новые научные и практические задачи, не подвластные сегодня человеку, для третьих задача формулируется как бизнес и состоит в использовании новых ИИ-технологий везде, где их использование несет экономическую выгоду.
В-третьих, термином ИИ могут назвать разработки самого разного уровня сложности, опирающиеся на разные направления искусственного интеллекта, разные технологии, реализованные как в виртуальной среде, так и воплощенные в физическое устройство (в виде умной робототехники).
Дать однозначную исчерпывающую и согласованную дефиницию ИИ очень сложно, поэтому и существуют сотни частных определений. Попробуем разобраться, что в них общего и чем они различаются.
В табл. 1.1 мы представили десять определений ИИ, предложенных разными авторами за последние 50 лет, и выделили ключевую часть определения.
Таблица 1.1. Различие в акцентах при определении термина “искусственный интеллект”
Определение
Автор, год и источник
Ключевая часть определения
1
Автоматизация задач, которые принято считать человеческими: мышление, принятие решений, решение проблем, обучение и т. д
Беллман (Bellman), 1978.
Автоматизация задач (вид деятельности человека).
2
Область исследований, направленная на разъяснение и эмуляцию разумного поведения в терминах вычислительных процессов.
Шайкофф (SchaIkoff), 1990.
Область исследований (вид деятельности человека).
3
Искусство создания машин, выполняющих функции, которые требуют интеллекта, если бы их выполняли люди.
Курцвейл, 1990.
Искусство создания машин. (вид деятельности человека).
4
ИИ – это наука и инженерия создания интеллектуальных машин
McCarthy, 2007.
5
Искусственный интеллект – это область, изучающая компьютерные технологии, которые делают возможным восприятие, рассуждения и действия машин на их основе
Winston, P. H., 1992.
Это область изучения компьютерных технологий (вид деятельно)
6
Искусственный интеллект – это деятельность, направленная на создание интеллектуальных машин, а интеллект – это качество, которое позволяет объекту функционировать в окружающей среде надлежащим образом и с предвидением.
Nilsson, N. J. (2010), 2010
Это деятельность по созданию машин (вид деятельности человека).
7
Зонтичный термин, охватывающий целый ряд алгоритмов, позволяющих оптимизировать поиск в Интернете, нацеливать рекламу, утверждать потребительские кредиты и направлять водителей
Эндрю Нг, профессор Стэнфордского университета. 2017.
Свойство алгоритмов
8
Выполнение компьютером действий, для которых обычно требуется человеческий интеллект
Эми Вебб, профессор Нью-Йоркского университета, 2017.
Свойство машин
9
Интеллектуальная деятельность, которая раньше выполнялась только на основе интеллекта человека, а теперь может быть выполнена компьютером, включая распознавание речи, машинное обучение и обработку естественного языка
Генеральный директор Infosys Вишал Сикка, 2017
Деятельность машин с определенными способностями
10
Под ИИ понимается: “Комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений”.
Пункт 5 Национальной Стратегии развития ИИ в РФ на период до 2030 года
Комплекс технологических решений
Интересно отметить, что большая часть авторов, упомянутых в табл. 1.1, базируются на утверждении, что ИИ – это некоторая область деятельности человека, например область науки или инженерии, в то время как другая часть экспертов делает акцент на том, что ИИ – это определенное свойство машин.
Заметим, что это принципиально разные подходы. Действительно, ИИ как наука может заниматься чисто теоретическими вопросами. Ответ на вопрос “Что такое ИИ как наука?” предполагает в первую очередь обозначение перечня областей исследования, научных школ, направлений и т. п.
Набор публикаций за некоторый период времени определяет спектр тем, над которыми работают ученые, которые фокусируются то на одной, то на другой научной проблеме. В частности, анализируя долю статей в области различных дисциплин, можно судить об изменении фокуса научных изысканий в области искусственного интеллекта в разные периоды времени (см. рис. 1.1).
Рис. 1.1. Доля препринтов arXiv, представленных в основных категориях Al, по категориям. Источник: arXiv
Например, как видно из рисунка, в 1998 г. почти 75 % всех публикаций приходились на компьютерную лингвистику, а спустя 20 лет к ней было отнесено лишь 15 % статей из упомянутого источника. Категория “компьютерное зрение и распознавание образов”, которая в начале века была в зачаточном состоянии, выросла многократно и заняла доминирующее положение в 2018 г.
Как мы отметили, помимо определений ИИ, связываемых с научной деятельностью (табл. 1.1), есть формулировки, которые исходят из того, что ИИ интерпретируется как набор свойств, способностей интеллектуальных машин. Здесь вопрос ставится в более практической плоскости, то есть в данном случае в первую очередь речь идет о реализованном машинном интеллекте в виде программ, работающих на том или ином аппаратном обеспечении и показывающих те или иные способности искусственного интеллекта.
Если наука создает теоретические основы продуктов будущего, то, говоря о свойствах ИИ, мы вынуждены более четко разграничивать набор возможностей интеллектуальных машин, существующих к данному моменту времени, и тех, которые теоретически могут быть созданы в будущем.
Подходя к развилке между понятиями “существующий ИИ” и “гипотетический ИИ”, необходимо упомянуть деление искусственного интеллекта на так называемый сильный или общий ИИ (AGI, Artificial General Intelligence) и узкий, прикладной или слабый ИИ (ANI,Artificial Narrow Intelligence).
Примеры проектов, на основе которых мы утверждаем, чем именно слабый ИИ отличается от сильного, постоянно меняются по мере обретения более широких возможностей в рамках новых реализаций систем искусственного интеллекта. Сравнительно недавно, говоря об отличии первого и второго, авторы указывали на то, что узкий (слабый) ИИ – это интеллект, способный выполнять конкретную интеллектуальную функцию или их ограниченный набор подчас лучше, чем человек. При этом, превышая возможности человека в узкой области, такая система, как правило, не имеет интеллектуальных способностей в других сферах, в отличие от человека, который обучается решению задач в самых разных областях.
Однако сегодня (в 2022 году) – с появлением мультимодальных моделей – это отличие звучит не так четко. Действительно, ИИ по-прежнему не обладает возможностью обучения по столь широкому спектру направлений, как человек. Но, например, мультимодальная нейросеть Gato способна выполнять 604 типа задач, включая создание описаний к изображениям, ведение диалога, укладку блоков с помощью роборуки, игру в аркадные игры, выполняя при этом более половины из перечисленных задач лучше среднего человека.
Появление каждой новой перспективной возможности дает повод энтузиастам говорить о том, что пройден еще один рубеж на пути создания сильного ИИ. При этом скептики продолжают говорить о том, что ИИ никогда не будет обладать широтой когнитивных способностей человека, не будет обладать эмоциями, самосознанием и целеполаганием.
Эти рассуждения часто обосновывают тем, что у машины, соизмеримой по интеллекту с человеком, должны быть цели и мотивы, подобные тем, которые есть у человека. Цели и мотивы поведения человека зависят от многих факторов. Некоторые из них обусловлены нашими инстинктами, например, желание секса, еды и крова. На поведение человека и его цели оказывают влияние эмоции – такие как страх, гнев или ревность. Некоторые наши цели и мотивы носят общественный характер, например люди подвержены воздействию таких коллективных понятий как “успешный человек”.
“Революционный поворот в понимании того, что индивидуальным может быть только мозг, а разум – исключительно коллективный феномен, кардинально изменит траекторию исследований общего (сильного) искусственного интеллекта. Его исследователям предстоит найти новые, принципиально иные архитектуры и алгоритмы, ориентированные уже не только на нейронные, а на социокогнитивные гиперсети”.
В рамках описанной выше терминологии все существующие на сегодняшний день системы ИИ относятся к категории слабого ИИ.
В отличие от слабого, сильный ИИ, или интеллект общего назначения, – это гипотетическая машина будущего, которая будет способна понимать мир на уровне, сопоставимом с уровнем понимания его человеком, и обучаться выполнению всего спектра интеллектуальных задач, которые может выполнить человек.
Подобное деление помогает терминологически разделить два разных понятия и раскрыть одну из основных причин отсутствия консенсуса в определении ИИ. Действительно, часть специалистов (в большей степени гуманитарии) склонны воспринимать термин ИИ как сильный ИИ, как интеллектуальную машину, наделенную свойствами сознания, осознания, мышления, чувственного восприятия действительности, волеизъявления. Другая часть сообщества, занятая разработкой технологий ИИ и различного рода приложений на его основе, привыкла называть искусственным интеллектом именно то, с чем они имеют дело (то есть со слабым ИИ). И в этой связи понимание под термином ИИ-решений, относящихся к категории “слабый ИИ”, не вызывают у них отторжения.
При том, что мы отметили достоинство деления на сильный и слабый ИИ, подобный подход имеет и некоторые ограничения: в частности, мы не можем в рамках этой терминологии отразить процесс “усиления” (развития) слабого ИИ. Очевидно, что те решения, которые мы относим к категории слабого ИИ, совершенствуются, становятся более интеллектуальными, однако до тех пор, пока ИИ не сравняется по возможностям с человеческим, он будет оставаться слабым по определению. В этом случае исследователи, занятые построением сильного ИИ, на всех промежуточных стадиях в рамках описанной терминологии будут получать решения, относящиеся к категории “слабый ИИ”.
Нельзя построить сильный ИИ, постепенно наращивая мощность известных решений на базе слабого ИИ и интегрируя их между собой. Для построения сильного ИИ нужен качественный скачок, новая архитектура. Как говорится, “нельзя достичь луны, пересаживаясь на все более высокие деревья”.
Подчеркнув, что сильный ИИ – это умозрительная конструкция будущего, не следует недооценивать важности этого понятия. Неверно полагать, что это термин, которым оперируют лишь фантасты. Понятие “сильный ИИ” является своего рода целью, идеальной моделью, на которую могут ориентироваться разработчики для того, чтобы создать интеллект, который станет помощником человеку в решении любых задач. Вопрос “Достижима ли задача построения сильного ИИ?”, по-видимому, так и останется предметом споров специалистов, пока такая система не будет построена. При этом очевидно, что если такой интеллект будет создан, то в силу экспоненциального развития компьютерных технологий, на основе которых, как мы полагаем, он будет создан, и при незначительном совершенствовании во времени интеллекта человека, сильный ИИ должен вскоре обогнать по возможностям человеческий интеллект, превратившись в так называемый “суперинтеллект” (рис. 1.2).
Рис. 1.2. Прогнозы роста уровня интеллекта машин и человека
Одним ученым мысль о том, что когда-то машины достигнут уровня интеллекта человека, кажется утопией, другие уверены в наступлении часа “х”, когда интеллекты человека и машины сравняются, и даже называют примерные даты события, начиная с которого машины станут умнее человека во всех отношениях. Например, Рэймонд Курцвейл называл 2045 год как наиболее вероятную дату появления суперинтеллекта .
Прогнозы перехода к стадии сверхразума можно найти также в работах Ника Бострома, который предрекает резкое ускорение роста возможностей ИИ после достижения уровня человека ( рис. 1.3.).
Рис. 1.3. Прогноз динамики роста уровня интеллекта машин. Источник: Ник Бостром
Часть авторов склонны полагать, что на каком-то этапе произойдет физическое слияние субстрата человеческого интеллекта (мозга человека) и машинного. На сегодняшний день невозможно представить физическую интеграцию двух инородных тел – кремниевого чипа и нейронов мозга. Тем не менее уже развиваются технологии вживляемых в мозг чипов, например, для восстановления зрения. Каким бы фантастическим ни выглядел проект слияния машины и человека, под ним есть весомое основание. Здоровый уровень эгоцентризма стимулирует людей использовать машину в целях продления и расширения собственных возможностей и спектра ощущений, возможно, даже более активно, чем стремится к созданию некоего субъекта, более совершенного, чем сам человек.
Комментируя причины наличия противоречий в толковании термина ИИ, следует также отметить, что их можно обнаружить в психологии человека – давно замечено, что люди склонны отрицать наличие интеллекта в поведении машин, после того как узнают, как именно реализован механизм “интеллектуальности” принятия ими решения.
Эту тенденцию можно проследить на рис. 1.4, где показаны четыре группы технологий искусственного интеллекта от зрелых разработок (давно освоенных массовым пользователем) до перспективных.
Рис. 1.4. Примеры ИИ-приложений, распределенных по степени сложности решаемых задач и уровню зрелости решений. Источник: Lux Research
Действительно, такие задачи как оптическое распознавание символов, фильтрация спама, контроль дефектов на производстве все меньше ассоциируются с искусственным интеллектом, в то время как перспективные разработки на более ранней стадии исследования, такие как автоматическая разработка ПО или персональные роботы, в большей степени могут претендовать в массовом сознании на роль примеров искусственного интеллекта.
Искусственный интеллект наделяется совокупностью способностей, которые связываются с передним краем достижений компьютерной науки и за ее пределами. Неслучайно появление известного выражения “Искусственный интеллект – это то, что еще не сделано”, получившего условное название Теорема Теслера.
В подтверждение тезиса можно привести курьезный диалог, известный со времен создания пионерских ИИ-программ, в котором у эксперта спрашивают, интеллектуальна ли машина, которая может прочитывать газету и делать “выжимку событий”, предлагая вниманию читателя лишь наиболее важные тезисы. После положительного ответа эксперта ему предлагается вновь ответить на тот же вопрос, объяснив ему, что программа всего лишь выбирает из текста заголовки, выделенные жирным шрифтом… Эта шуточная история отражает склонность человека отождествлять понятие искусственного интеллекта со способностями, выходящими за рамки уже известных алгоритмов.
Из рассмотренного примера следует еще одна дилемма: что мы считаем критерием интеллектуальности машины – ее способности выполнить поставленную задачу или то, как реализован механизм решения этой задачи?
Отметим также, что дать определение ИИ, который создается как подобие интеллекта естественного, весьма непросто, не зная полной картины механизмов работы, точной локализации последнего и даже не имея однозначного определения самого термина “интеллект человека”.Сложность достижения консенсуса в определении ИИ в том числе объясняется отсутствием такового в трактовке понятия “интеллект человека”. Действительно, можно найти массу различных трактовок понятия “интеллект человека”. Авторы исследования признаются, что “…похоже, существует почти столько же определений интеллекта, сколько и экспертов, которых попросили дать этому термину определение”. Так, согласно трактовке толкового словаря русского языка под редакцией Д.Н. Ушакова, “интеллект – это ум, рассудок, мыслительная способность человека (в противоположность воле и чувствам)”. А согласно определению AllWords Dictionary, 2006, это “способность использовать память, знания, опыт, понимание, рассуждения, воображение и суждения для решения проблем и адаптации к новым ситуациям”. По данным американского словаря The American Heritage Dictionary 2000 г. – это способность приобретать и применять знания.
Один из специалистов в области ИИ – генеральный директор Deep learning partnership – в своем докладе “Towards a general theory of intelligence”, сравнивая интеллект искусственный и живой, предлагает отталкиваться от толкования интеллекта человека как совокупности разных его способностей ( рис. 1.5) и проанализировать, какие из них доступны машине и в какой мере.
Рис. 1.5. Типы интеллектуальных способностей человека по Марку Виталю. Источник:
В таблице 1.2 представлена оценочная характеристика возможностей ИИ на момент публикации (2019 г.) по тому, насколько ИИ приблизился к интеллекту человека по разным параметрам.
Таблица 1.2. Оценка возможностей ИИ в сравнении с интеллектом человека
1
Логико-математические способности
50%
2
Лингвистические способности
50%
3
Способность восприятия пространства
50%
4
Музыкальные способности
50%
5
Телесно-кинестетические
30%
6
Способность к межличностным отношениям
10%
7
Способность воспринимать природу
10%
8
Интрапсихические способности
5%
9
Эк0%
Отметим, что если на рис. 1.5 речь идет о способностях некоего усредненного человека, то в случае табл. 1.2 подразумеваются совокупные способности созданных на сегодняшний день машин, а не свойства конкретного ИИ. Это очевидно, как минимум, в силу того, что пока человеком не реализовано ни одного проекта, в котором созданный ИИ обладал бы одновременно всеми из перечисленных способностей, указанных в таблице 1.2.
Как следует из описанного выше примера, в разном контексте авторы, рассуждающие о том, что такое ИИ, употребляют это понятие как характеристику совокупности способностей разного рода ИИ-машин, так и в качестве способностей конкретной реализации ИИ. Действительно, когда мы говорим, что ИИ превзошел человека в игре в шахматы, мы имеем в виду конкретную программу, а когда речь идет о том, например, что ИИ в определенной мере вытеснит человека многих нетворческих профессий, мы говорим об ИИ как о совокупности технологий.
Заметим, что способности среднестатистического человека или способности человека, когда мы говорим о человеке (как о “человечестве”), выступающем в качестве автора всех достижений творческой мысли, будут существенно отличаться.
В отношении интеллекта искусственного эти отличия еще более разительны. В отличие от людей, имеющих общее физическое строение тела и набор базовых способностей, машины, наделенные интеллектом, могут выступать в виде самых разных объектов, несопоставимых по возможностям.
Под ИИ мы можем подразумевать и относительно простые программы, действующие в виртуальном мире, и сложнейших, воплощенных в искусственном устройстве, роботов, обладающих массой интеллектуальных подсистем (либо целую сеть сопряженных устройств). Более того, интеллектуальные функции могут быть второстепенными, встроенными в самые разные машины, в том числе и не позиционируемые как интеллектуальные. Поэтому понятия ИИ как среднестатистического интеллекта усредненной машины просто не существует.
Вопрос о достижимости сильного интеллекта остается открытым. Впрочем, человечеству известно множество утверждений о невозможности той или иной технологической новации. Когда-то философы вроде Дрейфуса утверждали, что “компьютеры никогда не смогут играть в шахматы” (Dreyfus, 1972).
Следует также упомянуть такую важную функцию искусственного интеллекта, как познание человеком самого себя. Действительно, по мере того как мы создаем в компьютере вычислительный вариант интеллектуальной системы, мы начинаем намного лучше разбираться в природе нашего собственного интеллекта.
Отметим также, что сильный интеллект, как и суперинтеллект, не имеет четко определенной задачи и как человеческий интеллект формирует цели и пути достижения их реализации по мере своего развития. По целям сильный искусственный интеллект позиционируется как универсальное средство решения насущных задач человечества, то есть не имеет конкретных заранее определенных целей, в отличие от интеллекта слабого. И поскольку насущные задачи человечества в существенной мере зависят от того, кто их ставит, это рождает различного рода недоверие общества по поводу гуманистической направленности такого ИИ. Что еще больше разделяет понятия сильный и слабый ИИ, ставит на повестку дня новые вопросы из области этики и безопасности общения с интеллектуальными машинами. Об этих вопросах чуть более подробно пойдет речь в третьей лекции настоящего курса.
Резюмируя вышеописанные подходы к трактовке ИИ, представим их в виде диаграммы (рис. 1.6).
Рис. 1.6. Примеры употребления термина ИИ в разном контексте. Источник: авторы
Здесь по оси абсцисс отложены этапы разработки любого проекта, который развивается от стадии научной теории к практике ее технологического воплощения и далее реализуется в виде продукта на базе этой технологии. На оси ординат обозначено время, отражающее более длительный исторический процесс – процесс развития ИИ как науки и индустрии.
В указанных координатах можно расположить целый ряд понятий, которые в разном контексте могут именоваться термином ИИ и обозначать разные вещи. Например, ИИ как научное направление, ИИ как совокупность технологий, ИИ как сумма способностей доступных ИИ-продуктов на данный момент времени, ИИ как способности конкретной интеллектуальной машины, ИИ как совокупность способностей интеллекта будущего, когда он сравняется или превзойдет по интеллектуальным способностям человека.
Рисунок наглядно показывает, что ИИ – это зонтичный термин, описывающий совокупность разного рода решений, существенно различающихся по технологиям, уровню сложности, стадии реализации, назначению и т. п. То есть еще раз подчеркнем, что в зависимости от контекста под ИИ мы можем подразумевать разные вещи.
Проанализировать причины множественности определений и понять наполнение термина позволяет классификация определений. Рассмотрим одну из таких классификаций, впервые предложенную Стюартом Расселом и Питером Норвигом . Авторы отмечают, что различные определения искусственного интеллекта опираются на одну из четырех способностей: действовать, как человек, думать, как человек, думать рационально и действовать рационально. Примеры определений в каждой категории приведены в табл. 1.3.
Трактовки в верхней части таблицы связаны с мыслительным процессом, в нижней – с поведением, левая часть исходит из сравнения с человеком, правая – из принципов рациональности. Каждое из четырех направлений задает свою область исследований.
Таблица 1.3. Классификация определений ИИ по Стюарту Расселу и Питеру Норвигу
Как человек
Рационально
Думать
“Автоматизация” действий, которые мы ассоциируем с человеческим мышлением, т. е. таких действий, как принятие решений, решение задач, обучение (Bellman 1978)
Направление работ по созданию компьютеров, способных думать, машин, обладающих мозгом, в полном и буквальном смысле этого слова (Haugeland,1985)
Изучение способностей и мыслительного процесса с помощью вычислительных моделей (Charniak, McDermott, 1985)
Исследование вычислительных систем, которые делают их способными к восприятию, рассуждению и действию (Winston, 1992)
Действовать
Искусство создания машин, выполняющих функции, которые требуют интеллекта, если бы их выполняли люди. (Курцвейл, 1990)
Исследование того, как сделать компьютеры способными выполнять то, что на данный момент лучше получается у человека (Rich, Knight, 1991)
Область исследований, направленная на разъяснение и эмуляцию разумного поведения в терминах вычислительных процессов (SchaIkoff, 1990)
Ветвь компьютерной науки, касающаяся автоматизации разумного поведения. (Luger, Stubblefield, 1993)
Определение ИИ, отталкивающееся от критерия “способности думать, как человек”, задает направление, в рамках которого ученые пытаются построить ИИ, изучая структуру и механизмы работы человеческого мозга, анализируя мыслительный процесс человека.
Критерий “способность действовать как человек”, по сути, стал основой теста Тьюринга15 и ему подобных, основной принцип которых можно выразить фразой “чтобы считаться интеллектуальной, программа должна продемонстрировать поведение неотличимое от действий человека”.
Определение, берущее за основу способность “думать рационально”, соответствует направлению, связанному с созданием компьютерных программ, которые могли бы рассуждать логически. А определение, исходящее из декларирования способности машин “действовать рационально”, предполагает возможность создания интеллектуальных агентов, способных оптимально достигать (при заданных ограничениях) поставленной цели (например, бизнес-цели).
Авторы упомянутой классификации указывают, что важной характеристикой, которая должна быть отражена в определении термина ИИ, является автономность этой интеллектуальной машины. Именно это свойство ИИ-машин позволит им не только находить решения проблем, которые ставит человек, но и выявлять, формулировать и решать задачи, существование которых человеку неизвестно.
Классификацию систем ИИ по степени автономности и адаптивности можно найти в отчете компании PWC (табл. 1.4). Подход предлагает три вида ИИ по степени автономности и адаптивности и отделяет понятие ИИ от понятия “автоматизация”.
Таблица 1.4. Классификация систем ИИ по степени адаптивности и автономности. Источник: PWC [23]
Человек в контуре управления
Без человека в контуре управления
Система с жесткой программой
Ассистирующий ИИ
Системы искусственного интеллекта, которые помогают человеку принимать решения или совершать действия.
Автоматизация
Автоматизация ручных и когнитивных задач, как рутинных, так и нерутинных, не предполагающая новых способов выполнения задач, а автоматизирующая существующие.
Адаптивная система
Дополняющий ИИ
Системы искусственного интеллекта, которые дополняют процесс принятия решений человеком и постоянно учатся на основе своего взаимодействия с людьми и окружающей средой.
Автономный ИИ
Системы ИИ, которые могут адаптироваться к различным ситуациям и действовать автономно без помощи человека.
Вопрос автономности ИИ тесно связан с вопросом необходимости контроля над работой искусственного интеллекта и определением допустимых рисков при делегировании тех или иных задач системам ИИ. В этой связи классификация ИИ-систем по степени автономности и необходимости контроля за последними представляет определенный интерес.
Ограничение автономности ряда интеллектуальных машин объясняется тем, что полностью автономные машины могут совершить непоправимую ошибку. И чем серьезнее возможные последствия этой ошибки, тем в большей степени человек стремится оставить за собой контроль за принятием решения (рис. 1.7).
Рис. 1.7. Где современные системы ИИ могут быть эффективнее человека. Источник: адаптировано по материалам Massachusetts Institute of Technology
В левом верхнем углу отмечена область, где машины оказываются эффективнее человека. Здесь человек лишь незначительно дополняет и корректирует машину. Например, в фильтрации спама или подборе ключевых слов. Это области, где машина эффективна, а возможная ошибка по уровню негативных последствий невелика. Напротив, в правом нижнем углу представлена область, где принятие решения без человека невозможно. Здесь человек лишь получает подсказку ИИ, а решение принимает сам. Как, например, при постановке медицинских диагнозов.
Говоря о развитии систем ИИ и пользуясь обозначениями рис. 1.7, можно сказать, что зона, где “человек дополняет машину”, продолжит расти, а зона, где “машина дополняет человека”, продолжит сокращение, что в известной мере можно назвать процессом постепенного вытеснения человека из области систем решения интеллектуальных задач и принятия решений.
Системы ИИ могут быть реализованы в виде сложных человекообразных роботов, таких как, например, в проекте ATLAS компании Boston Dynamics, однако это весьма узкое направление. Существует огромное количество ИИ-решений для реализации практических задач (увеличения производительности труда, повышения качества и степени кастомизации разного рода продуктов и услуг и т. п.). Поэтому внедрение ИИ выступает скорее в виде многогранного процесса интеллектуализации искусственной среды, окружающей человека, которая становится все более связанной, более интеллектуальной, более удобной для человека с точки зрения концепции “удобства функционирования человека” в том или ином обществе на определенный момент его развития.
В некотором смысле внедрение ИИ на предприятии может рассматриваться как один из элементов цифровизации, в котором в ведение компьютера передаются все более и более сложные задачи – например, распознавание товаров на полках или анализ входящих писем службы поддержки.
Существующие на сегодняшний день решения на базе ИИ неспособны делать многие вещи, которые кажутся простыми четырехлетним детям, но могут конкурировать с лучшими специалистами по узким задачам. Тот факт, что по многим параметрам, в том числе по параметру универсальности ИИ сильно отстает от возможностей человека, не умаляет важности успехов, достигнутых на базе ИИ. Несмотря на то, что мы оперируем понятием узкий интеллект, этот “узкий интеллект”, проникая в многочисленные приложения, становится широким явлением и многими аналитиками уже сегодня трактуется как ступень эволюции процессов обработки данных, при котором минимизируется участие человека (рис. 1.8).
Рис. 1.8. Эволюция процесса работы с данными. Источник: Deloitte Research
Очевидно, что финальная часть схемы рис. 1.8 – это картина будущего, которая осуществима лишь при приближении к концепции сильного ИИ. Здесь кроется еще одно противоречие во взглядах на цели и перспективы развития ИИ. Ученые, которые нацелены на построение сильного ИИ, говорят о необходимости поиска новых подходов в построении ИИ, отмечая, что экстенсивный путь развития слабого (узкого) ИИ является боковым, если не тупиковым путем развития направления. При этом процент ученых, занятых в проектах построения сильного ИИ, существенно уступает по численности группам разработчиков, занятых масштабированием и внедрением существующих ИИ-технологий во все новые решения в самых разных отраслях экономики. Поэтому можно сказать, что цель построения сильного интеллекта, как явления, оправдывающего изначальное понятие термина ИИ, в большинстве проектов заменяется более очевидной целью – максимальной коммерциализации узкого ИИ.
Очевидно, что большинство инвестиций сегодня связаны с проектами, которые окупаются в обозримой перспективе (рис. 1.9) и направлены преимущественно на расширение числа разработок в области узкого (слабого ИИ). При этом также очевидно, что проекты по созданию общего (сильного) интеллекта требуют куда больших инвестиций на разработку и предполагают появление продуктов в существенно более далекой перспективе (при отсутствии консенсуса по перспективности и достижимости приложений уровня сильного ИИ).
Рис. 1.9. Оценка динамики затрат и доходов в проектах на базе слабого и сильного ИИ. Источник: Авторы
Развитие решений на базе узкого ИИ, хоть и является менее амбициозной задачей, но требует тем не менее огромных ресурсов. Поэтому вне зависимости от того, насколько близко существующие ИИ-решения подошли к понятию сильный ИИ они олицетворяют самый передовой край инженерной мысли. Современная технология ИИ, требующая высокопроизводительных вычислений, мощной ИТ-инфраструктуры, передовых научных разработок и соответствующих кадров, дефакто стала выступать как некоторая мера технологической зрелости компаний, отраслей и целых государств.
Многие специалисты сходятся во мнении, что ИИ – это локомотив последней волны конвергенции наиболее сложных взаимодополняющих технологий DARQ (рис. 1.10), которые ведут человечество в цифровой мир.
Китайские специалисты придают роли ИИ еще большее значение и в одном из исследований ( рис. 1.11) представляют ИИ как вершину эволюции не только инфокоммуникационного, но и технологического прогресса, подразумевая, что ИИ как технология вбирает в себя и базируется на всей совокупности технико-технологического опыта человечества.
Рис. 1.11. ИИ как вершина технико-технологического опыта человечества. Источник: CAICT
Мы отразили разные акценты и разные подходы в трактовке термина ИИ.
Сложность однозначного определения понятия ИИ и путей его развития порождает проблемы в определении производных терминов, таких как “ИИ-решение”, “ИИ-проект”, “ИИ-компания”, “ИИ-рынок”. Что в свою очередь приводит к трудностям при попытках рейтингования ИИ-проектов, ИИ-компаний и, что особенно важно, при количественной оценке рынка искусственного интеллекта в силу того, что разные авторы включают в ИИ-проект разный набор технологий и сервисов.
Комментируя вопрос, почему нет общепринятой трактовки границ ИИ-проекта, приведем аналогию – попытаемся ответить на вопрос, где локализован интеллект человека и как выделить систему его формирующую. Наиболее частый ответ – это область неокортекса , которая ответственна за интеллектуальную деятельность человека, более широкий взгляд на проблему приводит к мысли, что другие, более древние части мозга нельзя отбросить, говоря о работе интеллекта. Далее становится очевидно, что в рассматриваемую систему необходимо включить зрение как “часть мозга, вынесенную на периферию”, вслед приходится вспомнить про органы слуха, рецепторы вкуса, которые доносят информацию в мозг, без которой невозможно формирование представлений о внешнем мире – основы интеллекта. Добавив к сенсорам тактильные ощущения, приходим к выводу, что рассмотрение интеллекта невозможно в отрыве от тела человека. А признав, что интеллект – это продукт общения человека в социуме, приходится еще больше расширить область его формирования. В случае с искусственным интеллектом границы явления еще более размыты. Какая часть интеллектуальной машины является искусственным интеллектом? Является ли процессор, который участвует в процессе вычислений, частью ИИ? А сервер? А если речь идет об облаке, в котором производятся вычисления? Эти вопросы, которые на первый взгляд кажутся второстепенными, становятся весьма актуальными, когда мы пытаемся определить, а потом оценить количественно такие понятия как рынок ИИ. К рассмотрению этих вопросов мы вернемся в лекции 2.
При этом следует отметить, что отсутствие глобального консенсуса по определению ИИ не мешает наличию консенсуса в рамках отдельных технологий, отдельных сообществ, уточненного контекста или еще уже – в рамках таксономии, принятой в той или иной аналитической компании.
В различных контекстах термин ИИ приобретает свое наполнение – как концепция, как область науки, как маркетинговый термин, как продукт ИТ-компаний, как продукт софтверных компаний, как продукт вендоров, выпускающих чипы, как мера развитости технологической компании или даже отрасли, как персонаж в произведениях фантастической литературы и т. п.
Завершая раздел “попытка определения ИИ”, следует отметить, что мы попытались построить изложение курса по принципу “от простого к сложному”, стараясь свести к минимуму использование терминов, которые еще не были введены в рамках настоящей публикации. То есть мы вернемся к более полному раскрытию термина и уточнению определения по мере развития рассказа о научных школах, технологиях и продуктах на базе ИИ. Надеемся, что совокупность этих представлений и позволит читателю получить более полное представление о понятии ИИ.
После обзора проблем в определении термина ИИ было бы неверным не привести определение, которое нам кажется менее противоречивым.
ИИ – это зонтичный термин, который в зависимости от контекста может определять ряд понятий, включая такие как область науки, область инженерии, технологии и машины, а также способности этих машин, позволяющие решать задачи и выполнять действия, которые до создания ИИ выполнялись только на основе интеллекта человека.
Для того чтобы дополнить и развить понятие термина ИИ, перейдем к анализу эволюции технологии ИИ, что позволит лучше разобраться в сущности и структуре данного явления.
Искусственный Интеллект (ИИ) сегодня один из самых популярных, обсуждаемых и одновременно противоречивых и многозначных терминов. Действительно, с одной стороны, многочисленные эксперты утверждают, что уровень развития технологий искусственного интеллекта в стране – это важнейший критерий технологической, экономической и военно-стратегической мощи государства, показатель конкурентоспособности на высокотехнологичных рынках. Аналитики сообщают, что десятки тысяч компаний применяют технологии ИИ, тысячи стартапов по всему миру развивают решения на базе искусственного интеллекта, а ИТ-гиганты конкурируют за возможность купить наиболее успешных разработчиков в этой области. Рынок искусственного интеллекта оценивается консалтинговыми компаниями в сотни миллиардов долларов. С другой стороны, целый ряд специалистов говорит, что ИИ – это миф, никакого искусственного интеллекта пока не создано! Причем такие высказывания можно услышать не только в частных беседах. Например, в статье под названием “ИИ на самом деле еще не существует” авторы начинают свое повествование с категоричного утверждения: “многие компании, которые заявляют, что используют ИИ, обманывают себя – и вас тоже”.
Авторы упомянутой публикации со ссылкой на Джулию Люк (Luc Julia), вице-президента Samsung по инновациям и соавтора цифрового помощника Siri, приводят следующую ее цитату: “Сегодняшние инструменты для бизнеса используют математику, статистику, машинное обучение, глубокое обучение, большие данные, получая машины более совершенные, чем в прошлом. Но то, что так часто называют ИИ, на самом деле не связано с искусственной формой интеллекта”.
Многие авторы отмечали, что словосочетание “Искусственный интеллект” – это неудачный термин, который тем не менее стал общеупотребимым. Целый ряд специалистов предлагали свои уточнения этого названия, вспомним, например, замечание профессора Константина Воронцова, согласно которому ИИ логичнее было бы расшифровать как “имитация интеллекта”.
Отсутствие общепринятого определения осложняет решение целого ряда юридических и экономических вопросов, которые раньше не стояли на повестке.
Сегодня ИИ де-факто вступает в области, куда раньше “не ступала нога машины”. От того, как мы трактуем термины, в том числе зависит разграничение юридической ответственности в таких непростых вопросах, как кто несет ответственность за аварию, вызванную системой управления беспилотной машиной, кто ответственен за решение, если диагноз пациенту был ошибочно поставлен системой ИИ, кому принадлежит авторство на мелодию, сгенерированную ИИ, – список можно продолжить.
Почему же термин, которым люди пользуются почти 70 лет, до сих пор понимается разными группами специалистов по-разному? Какие определения ИИ существуют и чем они различаются?
Перечислим некоторые проблемы, с которыми сталкиваются специалисты, пытающиеся дать свое определение ИИ.
Во-первых, ИИ быстро развивается, появляется все больше новых решений, меняется наполнение термина, и трудно дать толкование, которое было бы достаточно гибким, охватывая все новые подходы к реализации ИИ.
Во-вторых, следует отметить, что ИИ опирается на исследования разных наук, как естественных, так и гуманитарных (компьютерные науки, статистика, психология, нейробиология, философия), каждая из которых имеет свой понятийный аппарат, свои взгляды на предмет, и не всегда эти взгляды совпадают. Противоречия, имеющиеся в разных дисциплинах, находят свое преломление и в теме ИИ. Представители разных школ и учений (материалисты и идеалисты, сторонники эволюционной теории и ее противники и т. п.) не могут достигнуть консенсуса в толковании термина ИИ, особенно в вопросах, затрагивающих философские аспекты бытия.
С философской, гносеологической, точки зрения термин интеллект привязан к биологическому объекту, а вопрос о том, могут ли неживые объекты обладать ощущением (как первичной основой структуры сознания и интеллекта), не решен. Поэтому большинство нейробиологов вопрос о том, может ли машина обладать разумом и, соответственно, интеллектом, пытаются отложить на будущее.
Разные участники сообщества ставят перед собой разные задачи. Для одних исследование ИИ связано с узконаучными целями, например, как с помощью компьютерного моделирования понять механизмы работы интеллекта человека. Для других целью является создание умных машин, которые позволят решать новые научные и практические задачи, не подвластные сегодня человеку, для третьих задача формулируется как бизнес и состоит в использовании новых ИИ-технологий везде, где их использование несет экономическую выгоду.
В-третьих, термином ИИ могут назвать разработки самого разного уровня сложности, опирающиеся на разные направления искусственного интеллекта, разные технологии, реализованные как в виртуальной среде, так и воплощенные в физическое устройство (в виде умной робототехники).
Дать однозначную исчерпывающую и согласованную дефиницию ИИ очень сложно, поэтому и существуют сотни частных определений. Попробуем разобраться, что в них общего и чем они различаются.
В табл. 1.1 мы представили десять определений ИИ, предложенных разными авторами за последние 50 лет, и выделили ключевую часть определения.
Интересно отметить, что большая часть авторов, упомянутых в табл. 1.1, базируются на утверждении, что ИИ – это некоторая область деятельности человека, например область науки или инженерии, в то время как другая часть экспертов делает акцент на том, что ИИ – это определенное свойство машин.
Заметим, что это принципиально разные подходы. Действительно, ИИ как наука может заниматься чисто теоретическими вопросами. Ответ на вопрос “Что такое ИИ как наука?” предполагает в первую очередь обозначение перечня областей исследования, научных школ, направлений и т. п.
Набор публикаций за некоторый период времени определяет спектр тем, над которыми работают ученые, которые фокусируются то на одной, то на другой научной проблеме. В частности, анализируя долю статей в области различных дисциплин, можно судить об изменении фокуса научных изысканий в области искусственного интеллекта в разные периоды времени (см. рис. 1.1).
Рис. 1.1. Доля препринтов arXiv, представленных в основных категориях Al, по категориям. Источник: arXiv
Например, как видно из рисунка, в 1998 г. почти 75 % всех публикаций приходились на компьютерную лингвистику, а спустя 20 лет к ней было отнесено лишь 15 % статей из упомянутого источника. Категория “компьютерное зрение и распознавание образов”, которая в начале века была в зачаточном состоянии, выросла многократно и заняла доминирующее положение в 2018 г.
Как мы отметили, помимо определений ИИ, связываемых с научной деятельностью (табл. 1.1), есть формулировки, которые исходят из того, что ИИ интерпретируется как набор свойств, способностей интеллектуальных машин. Здесь вопрос ставится в более практической плоскости, то есть в данном случае в первую очередь речь идет о реализованном машинном интеллекте в виде программ, работающих на том или ином аппаратном обеспечении и показывающих те или иные способности искусственного интеллекта.
Если наука создает теоретические основы продуктов будущего, то, говоря о свойствах ИИ, мы вынуждены более четко разграничивать набор возможностей интеллектуальных машин, существующих к данному моменту времени, и тех, которые теоретически могут быть созданы в будущем.
Подходя к развилке между понятиями “существующий ИИ” и “гипотетический ИИ”, необходимо упомянуть деление искусственного интеллекта на так называемый сильный или общий ИИ (AGI, Artificial General Intelligence) и узкий, прикладной или слабый ИИ (ANI,Artificial Narrow Intelligence).
Примеры проектов, на основе которых мы утверждаем, чем именно слабый ИИ отличается от сильного, постоянно меняются по мере обретения более широких возможностей в рамках новых реализаций систем искусственного интеллекта. Сравнительно недавно, говоря об отличии первого и второго, авторы указывали на то, что узкий (слабый) ИИ – это интеллект, способный выполнять конкретную интеллектуальную функцию или их ограниченный набор подчас лучше, чем человек. При этом, превышая возможности человека в узкой области, такая система, как правило, не имеет интеллектуальных способностей в других сферах, в отличие от человека, который обучается решению задач в самых разных областях.
Однако сегодня (в 2022 году) – с появлением мультимодальных моделей – это отличие звучит не так четко. Действительно, ИИ по-прежнему не обладает возможностью обучения по столь широкому спектру направлений, как человек. Но, например, мультимодальная нейросеть Gato способна выполнять 604 типа задач, включая создание описаний к изображениям, ведение диалога, укладку блоков с помощью роборуки, игру в аркадные игры, выполняя при этом более половины из перечисленных задач лучше среднего человека.
Появление каждой новой перспективной возможности дает повод энтузиастам говорить о том, что пройден еще один рубеж на пути создания сильного ИИ. При этом скептики продолжают говорить о том, что ИИ никогда не будет обладать широтой когнитивных способностей человека, не будет обладать эмоциями, самосознанием и целеполаганием.
Эти рассуждения часто обосновывают тем, что у машины, соизмеримой по интеллекту с человеком, должны быть цели и мотивы, подобные тем, которые есть у человека. Цели и мотивы поведения человека зависят от многих факторов. Некоторые из них обусловлены нашими инстинктами, например, желание секса, еды и крова. На поведение человека и его цели оказывают влияние эмоции – такие как страх, гнев или ревность. Некоторые наши цели и мотивы носят общественный характер, например люди подвержены воздействию таких коллективных понятий как “успешный человек”.
“Революционный поворот в понимании того, что индивидуальным может быть только мозг, а разум – исключительно коллективный феномен, кардинально изменит траекторию исследований общего (сильного) искусственного интеллекта. Его исследователям предстоит найти новые, принципиально иные архитектуры и алгоритмы, ориентированные уже не только на нейронные, а на социокогнитивные гиперсети”.
В рамках описанной выше терминологии все существующие на сегодняшний день системы ИИ относятся к категории слабого ИИ.
В отличие от слабого, сильный ИИ, или интеллект общего назначения, – это гипотетическая машина будущего, которая будет способна понимать мир на уровне, сопоставимом с уровнем понимания его человеком, и обучаться выполнению всего спектра интеллектуальных задач, которые может выполнить человек.
Подобное деление помогает терминологически разделить два разных понятия и раскрыть одну из основных причин отсутствия консенсуса в определении ИИ. Действительно, часть специалистов (в большей степени гуманитарии) склонны воспринимать термин ИИ как сильный ИИ, как интеллектуальную машину, наделенную свойствами сознания, осознания, мышления, чувственного восприятия действительности, волеизъявления. Другая часть сообщества, занятая разработкой технологий ИИ и различного рода приложений на его основе, привыкла называть искусственным интеллектом именно то, с чем они имеют дело (то есть со слабым ИИ). И в этой связи понимание под термином ИИ-решений, относящихся к категории “слабый ИИ”, не вызывают у них отторжения.
При том, что мы отметили достоинство деления на сильный и слабый ИИ, подобный подход имеет и некоторые ограничения: в частности, мы не можем в рамках этой терминологии отразить процесс “усиления” (развития) слабого ИИ. Очевидно, что те решения, которые мы относим к категории слабого ИИ, совершенствуются, становятся более интеллектуальными, однако до тех пор, пока ИИ не сравняется по возможностям с человеческим, он будет оставаться слабым по определению. В этом случае исследователи, занятые построением сильного ИИ, на всех промежуточных стадиях в рамках описанной терминологии будут получать решения, относящиеся к категории “слабый ИИ”.
Нельзя построить сильный ИИ, постепенно наращивая мощность известных решений на базе слабого ИИ и интегрируя их между собой. Для построения сильного ИИ нужен качественный скачок, новая архитектура. Как говорится, “нельзя достичь луны, пересаживаясь на все более высокие деревья”.
Подчеркнув, что сильный ИИ – это умозрительная конструкция будущего, не следует недооценивать важности этого понятия. Неверно полагать, что это термин, которым оперируют лишь фантасты. Понятие “сильный ИИ” является своего рода целью, идеальной моделью, на которую могут ориентироваться разработчики для того, чтобы создать интеллект, который станет помощником человеку в решении любых задач. Вопрос “Достижима ли задача построения сильного ИИ?”, по-видимому, так и останется предметом споров специалистов, пока такая система не будет построена. При этом очевидно, что если такой интеллект будет создан, то в силу экспоненциального развития компьютерных технологий, на основе которых, как мы полагаем, он будет создан, и при незначительном совершенствовании во времени интеллекта человека, сильный ИИ должен вскоре обогнать по возможностям человеческий интеллект, превратившись в так называемый “суперинтеллект” (рис. 1.2).
Рис. 1.2. Прогнозы роста уровня интеллекта машин и человека
Одним ученым мысль о том, что когда-то машины достигнут уровня интеллекта человека, кажется утопией, другие уверены в наступлении часа “х”, когда интеллекты человека и машины сравняются, и даже называют примерные даты события, начиная с которого машины станут умнее человека во всех отношениях. Например, Рэймонд Курцвейл называл 2045 год как наиболее вероятную дату появления суперинтеллекта .
Прогнозы перехода к стадии сверхразума можно найти также в работах Ника Бострома, который предрекает резкое ускорение роста возможностей ИИ после достижения уровня человека ( рис. 1.3.).
Рис. 1.3. Прогноз динамики роста уровня интеллекта машин. Источник: Ник Бостром
Часть авторов склонны полагать, что на каком-то этапе произойдет физическое слияние субстрата человеческого интеллекта (мозга человека) и машинного. На сегодняшний день невозможно представить физическую интеграцию двух инородных тел – кремниевого чипа и нейронов мозга. Тем не менее уже развиваются технологии вживляемых в мозг чипов, например, для восстановления зрения. Каким бы фантастическим ни выглядел проект слияния машины и человека, под ним есть весомое основание. Здоровый уровень эгоцентризма стимулирует людей использовать машину в целях продления и расширения собственных возможностей и спектра ощущений, возможно, даже более активно, чем стремится к созданию некоего субъекта, более совершенного, чем сам человек.
Комментируя причины наличия противоречий в толковании термина ИИ, следует также отметить, что их можно обнаружить в психологии человека – давно замечено, что люди склонны отрицать наличие интеллекта в поведении машин, после того как узнают, как именно реализован механизм “интеллектуальности” принятия ими решения.
Эту тенденцию можно проследить на рис. 1.4, где показаны четыре группы технологий искусственного интеллекта от зрелых разработок (давно освоенных массовым пользователем) до перспективных.
Рис. 1.4. Примеры ИИ-приложений, распределенных по степени сложности решаемых задач и уровню зрелости решений. Источник: Lux Research
Действительно, такие задачи как оптическое распознавание символов, фильтрация спама, контроль дефектов на производстве все меньше ассоциируются с искусственным интеллектом, в то время как перспективные разработки на более ранней стадии исследования, такие как автоматическая разработка ПО или персональные роботы, в большей степени могут претендовать в массовом сознании на роль примеров искусственного интеллекта.
Искусственный интеллект наделяется совокупностью способностей, которые связываются с передним краем достижений компьютерной науки и за ее пределами. Неслучайно появление известного выражения “Искусственный интеллект – это то, что еще не сделано”, получившего условное название Теорема Теслера.
В подтверждение тезиса можно привести курьезный диалог, известный со времен создания пионерских ИИ-программ, в котором у эксперта спрашивают, интеллектуальна ли машина, которая может прочитывать газету и делать “выжимку событий”, предлагая вниманию читателя лишь наиболее важные тезисы. После положительного ответа эксперта ему предлагается вновь ответить на тот же вопрос, объяснив ему, что программа всего лишь выбирает из текста заголовки, выделенные жирным шрифтом… Эта шуточная история отражает склонность человека отождествлять понятие искусственного интеллекта со способностями, выходящими за рамки уже известных алгоритмов.
Из рассмотренного примера следует еще одна дилемма: что мы считаем критерием интеллектуальности машины – ее способности выполнить поставленную задачу или то, как реализован механизм решения этой задачи?
Отметим также, что дать определение ИИ, который создается как подобие интеллекта естественного, весьма непросто, не зная полной картины механизмов работы, точной локализации последнего и даже не имея однозначного определения самого термина “интеллект человека”.Сложность достижения консенсуса в определении ИИ в том числе объясняется отсутствием такового в трактовке понятия “интеллект человека”. Действительно, можно найти массу различных трактовок понятия “интеллект человека”. Авторы исследования признаются, что “…похоже, существует почти столько же определений интеллекта, сколько и экспертов, которых попросили дать этому термину определение”. Так, согласно трактовке толкового словаря русского языка под редакцией Д.Н. Ушакова, “интеллект – это ум, рассудок, мыслительная способность человека (в противоположность воле и чувствам)”. А согласно определению AllWords Dictionary, 2006, это “способность использовать память, знания, опыт, понимание, рассуждения, воображение и суждения для решения проблем и адаптации к новым ситуациям”. По данным американского словаря The American Heritage Dictionary 2000 г. – это способность приобретать и применять знания.
Один из специалистов в области ИИ – генеральный директор Deep learning partnership – в своем докладе “Towards a general theory of intelligence”, сравнивая интеллект искусственный и живой, предлагает отталкиваться от толкования интеллекта человека как совокупности разных его способностей ( рис. 1.5) и проанализировать, какие из них доступны машине и в какой мере.
Рис. 1.5. Типы интеллектуальных способностей человека по Марку Виталю. Источник:
В таблице 1.2 представлена оценочная характеристика возможностей ИИ на момент публикации (2019 г.) по тому, насколько ИИ приблизился к интеллекту человека по разным параметрам.
Отметим, что если на рис. 1.5 речь идет о способностях некоего усредненного человека, то в случае табл. 1.2 подразумеваются совокупные способности созданных на сегодняшний день машин, а не свойства конкретного ИИ. Это очевидно, как минимум, в силу того, что пока человеком не реализовано ни одного проекта, в котором созданный ИИ обладал бы одновременно всеми из перечисленных способностей, указанных в таблице 1.2.
Как следует из описанного выше примера, в разном контексте авторы, рассуждающие о том, что такое ИИ, употребляют это понятие как характеристику совокупности способностей разного рода ИИ-машин, так и в качестве способностей конкретной реализации ИИ. Действительно, когда мы говорим, что ИИ превзошел человека в игре в шахматы, мы имеем в виду конкретную программу, а когда речь идет о том, например, что ИИ в определенной мере вытеснит человека многих нетворческих профессий, мы говорим об ИИ как о совокупности технологий.
Заметим, что способности среднестатистического человека или способности человека, когда мы говорим о человеке (как о “человечестве”), выступающем в качестве автора всех достижений творческой мысли, будут существенно отличаться.
В отношении интеллекта искусственного эти отличия еще более разительны. В отличие от людей, имеющих общее физическое строение тела и набор базовых способностей, машины, наделенные интеллектом, могут выступать в виде самых разных объектов, несопоставимых по возможностям.
Под ИИ мы можем подразумевать и относительно простые программы, действующие в виртуальном мире, и сложнейших, воплощенных в искусственном устройстве, роботов, обладающих массой интеллектуальных подсистем (либо целую сеть сопряженных устройств). Более того, интеллектуальные функции могут быть второстепенными, встроенными в самые разные машины, в том числе и не позиционируемые как интеллектуальные. Поэтому понятия ИИ как среднестатистического интеллекта усредненной машины просто не существует.
Вопрос о достижимости сильного интеллекта остается открытым. Впрочем, человечеству известно множество утверждений о невозможности той или иной технологической новации. Когда-то философы вроде Дрейфуса утверждали, что “компьютеры никогда не смогут играть в шахматы” (Dreyfus, 1972).
Следует также упомянуть такую важную функцию искусственного интеллекта, как познание человеком самого себя. Действительно, по мере того как мы создаем в компьютере вычислительный вариант интеллектуальной системы, мы начинаем намного лучше разбираться в природе нашего собственного интеллекта.
Отметим также, что сильный интеллект, как и суперинтеллект, не имеет четко определенной задачи и как человеческий интеллект формирует цели и пути достижения их реализации по мере своего развития. По целям сильный искусственный интеллект позиционируется как универсальное средство решения насущных задач человечества, то есть не имеет конкретных заранее определенных целей, в отличие от интеллекта слабого. И поскольку насущные задачи человечества в существенной мере зависят от того, кто их ставит, это рождает различного рода недоверие общества по поводу гуманистической направленности такого ИИ. Что еще больше разделяет понятия сильный и слабый ИИ, ставит на повестку дня новые вопросы из области этики и безопасности общения с интеллектуальными машинами. Об этих вопросах чуть более подробно пойдет речь в третьей лекции настоящего курса.
Резюмируя вышеописанные подходы к трактовке ИИ, представим их в виде диаграммы (рис. 1.6).
Рис. 1.6. Примеры употребления термина ИИ в разном контексте. Источник: авторы
Здесь по оси абсцисс отложены этапы разработки любого проекта, который развивается от стадии научной теории к практике ее технологического воплощения и далее реализуется в виде продукта на базе этой технологии. На оси ординат обозначено время, отражающее более длительный исторический процесс – процесс развития ИИ как науки и индустрии.
В указанных координатах можно расположить целый ряд понятий, которые в разном контексте могут именоваться термином ИИ и обозначать разные вещи. Например, ИИ как научное направление, ИИ как совокупность технологий, ИИ как сумма способностей доступных ИИ-продуктов на данный момент времени, ИИ как способности конкретной интеллектуальной машины, ИИ как совокупность способностей интеллекта будущего, когда он сравняется или превзойдет по интеллектуальным способностям человека.
Рисунок наглядно показывает, что ИИ – это зонтичный термин, описывающий совокупность разного рода решений, существенно различающихся по технологиям, уровню сложности, стадии реализации, назначению и т. п. То есть еще раз подчеркнем, что в зависимости от контекста под ИИ мы можем подразумевать разные вещи.
Проанализировать причины множественности определений и понять наполнение термина позволяет классификация определений. Рассмотрим одну из таких классификаций, впервые предложенную Стюартом Расселом и Питером Норвигом . Авторы отмечают, что различные определения искусственного интеллекта опираются на одну из четырех способностей: действовать, как человек, думать, как человек, думать рационально и действовать рационально. Примеры определений в каждой категории приведены в табл. 1.3.
Трактовки в верхней части таблицы связаны с мыслительным процессом, в нижней – с поведением, левая часть исходит из сравнения с человеком, правая – из принципов рациональности. Каждое из четырех направлений задает свою область исследований.
Определение ИИ, отталкивающееся от критерия “способности думать, как человек”, задает направление, в рамках которого ученые пытаются построить ИИ, изучая структуру и механизмы работы человеческого мозга, анализируя мыслительный процесс человека.
Критерий “способность действовать как человек”, по сути, стал основой теста Тьюринга15 и ему подобных, основной принцип которых можно выразить фразой “чтобы считаться интеллектуальной, программа должна продемонстрировать поведение неотличимое от действий человека”.
Определение, берущее за основу способность “думать рационально”, соответствует направлению, связанному с созданием компьютерных программ, которые могли бы рассуждать логически. А определение, исходящее из декларирования способности машин “действовать рационально”, предполагает возможность создания интеллектуальных агентов, способных оптимально достигать (при заданных ограничениях) поставленной цели (например, бизнес-цели).
Авторы упомянутой классификации указывают, что важной характеристикой, которая должна быть отражена в определении термина ИИ, является автономность этой интеллектуальной машины. Именно это свойство ИИ-машин позволит им не только находить решения проблем, которые ставит человек, но и выявлять, формулировать и решать задачи, существование которых человеку неизвестно.
Классификацию систем ИИ по степени автономности и адаптивности можно найти в отчете компании PWC (табл. 1.4). Подход предлагает три вида ИИ по степени автономности и адаптивности и отделяет понятие ИИ от понятия “автоматизация”.
Ассистирующий ИИ
Системы искусственного интеллекта, которые помогают человеку принимать решения или совершать действия.
Автоматизация
Автоматизация ручных и когнитивных задач, как рутинных, так и нерутинных, не предполагающая новых способов выполнения задач, а автоматизирующая существующие.
Дополняющий ИИ
Системы искусственного интеллекта, которые дополняют процесс принятия решений человеком и постоянно учатся на основе своего взаимодействия с людьми и окружающей средой.
Автономный ИИ
Системы ИИ, которые могут адаптироваться к различным ситуациям и действовать автономно без помощи человека.
Вопрос автономности ИИ тесно связан с вопросом необходимости контроля над работой искусственного интеллекта и определением допустимых рисков при делегировании тех или иных задач системам ИИ. В этой связи классификация ИИ-систем по степени автономности и необходимости контроля за последними представляет определенный интерес.
Ограничение автономности ряда интеллектуальных машин объясняется тем, что полностью автономные машины могут совершить непоправимую ошибку. И чем серьезнее возможные последствия этой ошибки, тем в большей степени человек стремится оставить за собой контроль за принятием решения (рис. 1.7).
Рис. 1.7. Где современные системы ИИ могут быть эффективнее человека. Источник: адаптировано по материалам Massachusetts Institute of Technology
В левом верхнем углу отмечена область, где машины оказываются эффективнее человека. Здесь человек лишь незначительно дополняет и корректирует машину. Например, в фильтрации спама или подборе ключевых слов. Это области, где машина эффективна, а возможная ошибка по уровню негативных последствий невелика. Напротив, в правом нижнем углу представлена область, где принятие решения без человека невозможно. Здесь человек лишь получает подсказку ИИ, а решение принимает сам. Как, например, при постановке медицинских диагнозов.
Говоря о развитии систем ИИ и пользуясь обозначениями рис. 1.7, можно сказать, что зона, где “человек дополняет машину”, продолжит расти, а зона, где “машина дополняет человека”, продолжит сокращение, что в известной мере можно назвать процессом постепенного вытеснения человека из области систем решения интеллектуальных задач и принятия решений.
Системы ИИ могут быть реализованы в виде сложных человекообразных роботов, таких как, например, в проекте ATLAS компании Boston Dynamics, однако это весьма узкое направление. Существует огромное количество ИИ-решений для реализации практических задач (увеличения производительности труда, повышения качества и степени кастомизации разного рода продуктов и услуг и т. п.). Поэтому внедрение ИИ выступает скорее в виде многогранного процесса интеллектуализации искусственной среды, окружающей человека, которая становится все более связанной, более интеллектуальной, более удобной для человека с точки зрения концепции “удобства функционирования человека” в том или ином обществе на определенный момент его развития.
В некотором смысле внедрение ИИ на предприятии может рассматриваться как один из элементов цифровизации, в котором в ведение компьютера передаются все более и более сложные задачи – например, распознавание товаров на полках или анализ входящих писем службы поддержки.
Существующие на сегодняшний день решения на базе ИИ неспособны делать многие вещи, которые кажутся простыми четырехлетним детям, но могут конкурировать с лучшими специалистами по узким задачам. Тот факт, что по многим параметрам, в том числе по параметру универсальности ИИ сильно отстает от возможностей человека, не умаляет важности успехов, достигнутых на базе ИИ. Несмотря на то, что мы оперируем понятием узкий интеллект, этот “узкий интеллект”, проникая в многочисленные приложения, становится широким явлением и многими аналитиками уже сегодня трактуется как ступень эволюции процессов обработки данных, при котором минимизируется участие человека (рис. 1.8).
Рис. 1.8. Эволюция процесса работы с данными. Источник: Deloitte Research
Очевидно, что финальная часть схемы рис. 1.8 – это картина будущего, которая осуществима лишь при приближении к концепции сильного ИИ. Здесь кроется еще одно противоречие во взглядах на цели и перспективы развития ИИ. Ученые, которые нацелены на построение сильного ИИ, говорят о необходимости поиска новых подходов в построении ИИ, отмечая, что экстенсивный путь развития слабого (узкого) ИИ является боковым, если не тупиковым путем развития направления. При этом процент ученых, занятых в проектах построения сильного ИИ, существенно уступает по численности группам разработчиков, занятых масштабированием и внедрением существующих ИИ-технологий во все новые решения в самых разных отраслях экономики. Поэтому можно сказать, что цель построения сильного интеллекта, как явления, оправдывающего изначальное понятие термина ИИ, в большинстве проектов заменяется более очевидной целью – максимальной коммерциализации узкого ИИ.
Очевидно, что большинство инвестиций сегодня связаны с проектами, которые окупаются в обозримой перспективе (рис. 1.9) и направлены преимущественно на расширение числа разработок в области узкого (слабого ИИ). При этом также очевидно, что проекты по созданию общего (сильного) интеллекта требуют куда больших инвестиций на разработку и предполагают появление продуктов в существенно более далекой перспективе (при отсутствии консенсуса по перспективности и достижимости приложений уровня сильного ИИ).
Рис. 1.9. Оценка динамики затрат и доходов в проектах на базе слабого и сильного ИИ. Источник: Авторы
Развитие решений на базе узкого ИИ, хоть и является менее амбициозной задачей, но требует тем не менее огромных ресурсов. Поэтому вне зависимости от того, насколько близко существующие ИИ-решения подошли к понятию сильный ИИ они олицетворяют самый передовой край инженерной мысли. Современная технология ИИ, требующая высокопроизводительных вычислений, мощной ИТ-инфраструктуры, передовых научных разработок и соответствующих кадров, дефакто стала выступать как некоторая мера технологической зрелости компаний, отраслей и целых государств.
Многие специалисты сходятся во мнении, что ИИ – это локомотив последней волны конвергенции наиболее сложных взаимодополняющих технологий DARQ (рис. 1.10), которые ведут человечество в цифровой мир.
Рис. 1.10. Этапы конвергенции инфокоммуникационных технологий. Источник: [26]
Китайские специалисты придают роли ИИ еще большее значение и в одном из исследований ( рис. 1.11) представляют ИИ как вершину эволюции не только инфокоммуникационного, но и технологического прогресса, подразумевая, что ИИ как технология вбирает в себя и базируется на всей совокупности технико-технологического опыта человечества.
Рис. 1.11. ИИ как вершина технико-технологического опыта человечества. Источник: CAICT
Мы отразили разные акценты и разные подходы в трактовке термина ИИ.
Сложность однозначного определения понятия ИИ и путей его развития порождает проблемы в определении производных терминов, таких как “ИИ-решение”, “ИИ-проект”, “ИИ-компания”, “ИИ-рынок”. Что в свою очередь приводит к трудностям при попытках рейтингования ИИ-проектов, ИИ-компаний и, что особенно важно, при количественной оценке рынка искусственного интеллекта в силу того, что разные авторы включают в ИИ-проект разный набор технологий и сервисов.
Комментируя вопрос, почему нет общепринятой трактовки границ ИИ-проекта, приведем аналогию – попытаемся ответить на вопрос, где локализован интеллект человека и как выделить систему его формирующую. Наиболее частый ответ – это область неокортекса , которая ответственна за интеллектуальную деятельность человека, более широкий взгляд на проблему приводит к мысли, что другие, более древние части мозга нельзя отбросить, говоря о работе интеллекта. Далее становится очевидно, что в рассматриваемую систему необходимо включить зрение как “часть мозга, вынесенную на периферию”, вслед приходится вспомнить про органы слуха, рецепторы вкуса, которые доносят информацию в мозг, без которой невозможно формирование представлений о внешнем мире – основы интеллекта. Добавив к сенсорам тактильные ощущения, приходим к выводу, что рассмотрение интеллекта невозможно в отрыве от тела человека. А признав, что интеллект – это продукт общения человека в социуме, приходится еще больше расширить область его формирования. В случае с искусственным интеллектом границы явления еще более размыты. Какая часть интеллектуальной машины является искусственным интеллектом? Является ли процессор, который участвует в процессе вычислений, частью ИИ? А сервер? А если речь идет об облаке, в котором производятся вычисления? Эти вопросы, которые на первый взгляд кажутся второстепенными, становятся весьма актуальными, когда мы пытаемся определить, а потом оценить количественно такие понятия как рынок ИИ. К рассмотрению этих вопросов мы вернемся в лекции 2.
При этом следует отметить, что отсутствие глобального консенсуса по определению ИИ не мешает наличию консенсуса в рамках отдельных технологий, отдельных сообществ, уточненного контекста или еще уже – в рамках таксономии, принятой в той или иной аналитической компании.
В различных контекстах термин ИИ приобретает свое наполнение – как концепция, как область науки, как маркетинговый термин, как продукт ИТ-компаний, как продукт софтверных компаний, как продукт вендоров, выпускающих чипы, как мера развитости технологической компании или даже отрасли, как персонаж в произведениях фантастической литературы и т. п.
Завершая раздел “попытка определения ИИ”, следует отметить, что мы попытались построить изложение курса по принципу “от простого к сложному”, стараясь свести к минимуму использование терминов, которые еще не были введены в рамках настоящей публикации. То есть мы вернемся к более полному раскрытию термина и уточнению определения по мере развития рассказа о научных школах, технологиях и продуктах на базе ИИ. Надеемся, что совокупность этих представлений и позволит читателю получить более полное представление о понятии ИИ.
После обзора проблем в определении термина ИИ было бы неверным не привести определение, которое нам кажется менее противоречивым.
ИИ – это зонтичный термин, который в зависимости от контекста может определять ряд понятий, включая такие как область науки, область инженерии, технологии и машины, а также способности этих машин, позволяющие решать задачи и выполнять действия, которые до создания ИИ выполнялись только на основе интеллекта человека.
Для того чтобы дополнить и развить понятие термина ИИ, перейдем к анализу эволюции технологии ИИ, что позволит лучше разобраться в сущности и структуре данного явления.
-
Add a note