eng
Содержание
Вступление .................................................................................. 5
Глава 1. Разум «из пробирки» .................................................. 16
Глава 2. На плечах гигантов ..................................................... 28
Глава 3. Вселенная в наладоннике: и швец, и жнец,
и на дуде игрец ......................................................................... 40
Глава 4. То, что доктор прописал ............................................. 57
Глава 5. Цифровая среда, имитирующая производство ............ 68
Глава 6. Сами едут, сами правят ............................................... 82
Глава 7. Воинство без красной кнопки.................................... 97
Глава 8. Всеобъемлющая помощь или бунт машин.
Что предвидят ученые? ...........................................................108
Глава 9. О чем предупреждал Джонатан Свифт? ....................120
Глава 10. Чуда творцы из Сарова ............................................128
Заключение ..............................................................................141
Разработка полноценного
искусственного интеллекта
может означать конец
человеческой расы… Он будет
развиваться сам по себе
и перепроектировать себя со
все возрастающей скоростью.
Люди, ограниченные медленной
биологической эволюцией, не
смогут конкурировать и будут
просто вытеснены.
Стивен Хокинг
Введение
Увидеть невидимое, объять необъятное,
или Две почти детективные истории
вместо обычного вступления
Искусственный интеллект – помощник человека во многих сфе-
рах. Основы возникновения машинного разума. Открытое письмо
ученых и предпринимателей об опасности дальнейших разработок
искусственного интеллекта. Чем стал опасен ИИ? Есть ли ему
альтернатива в будущем?
Российская Федерация сегодня переживает один из интересней-
ших периодов. При всех сложных внешних и внутренних вызовах
невиданными ранее темпами идет техническое и технологическое
переоснащение промышленности, фундаментальная наука тесно
смыкается с прикладной, чтобы развивать наиболее приоритет-
ные проекты. Робототехника и искусственный интеллект должны
не просто придать новый импульс развитию, но и справиться с
нехваткой рабочих рук. О широкомасштабном внедрении робо-
тов в промышленности, на транспорте и в быту мы уже писали в
книге «Вы сказали “роботы”?». Сегодня мы поговорим о другом
важнейшем направлении – совершенствовании технологий,
связанных с использованием искусственного интеллекта или,
как его именуют в англоязычном мире, AI (artificial intelligence).
В России принята государственная программа развития
технологий искусственного интеллекта на период до 2030 года.
Согласно Указу Президента РФ от 10 октября 2019 г. № 490 «О раз-
витии искусственного интеллекта в Российской Федерации»
предполагается обеспечить ускоренное развитие искусственного
интеллекта, проведение научных исследований, повышение до-
ступности информации и вычислительных ресурсов для поль-
зователей, совершенствование системы подготовки кадров в
этой области. Решить эти задачи призван национальный проект,
входящий в национальную программу «Цифровая экономика
Российской Федерации».
6 Вступление
Книга об искусственном интеллекте, которую вы держите в
руках, стала логическим продолжением книги «Вы сказали “ро-
боты”?», в которой были рассмотрены возможности развития
роботов и робототехнических систем. Эта последовательность
неслучайна, ведь робототехника нуждается в мощных и про-
изводительных «мозгах», способных выполнять вычисления
буквально с космическими скоростями. И чем сложнее робот,
тем совершеннее должны быть программы, управляющие им.
Машинный разум, как еще называют ИИ, достиг такой степени
развития, что в состоянии в некоторых случаях превосходить
способности живого человека. Уже сегодня некоторые нейро-
сети вполне квалифицированно заменяют человека, создавая
произведения искусства и учебные пособия, пишут музыку и
рисуют картины. Искусственный разум бдительно следит за
технологическими процессами в агрессивной или недоступной
среде.
Но при этом и искусственный интеллект не может суще-
ствовать без физических носителей – хранилищ данных, про-
изводительных вычислительных комплексов, сетей передачи
данных и Интернета вещей. В робототехнических системах объ-
ектом применения выработанных машинным разумом решений
становятся микропроцессорные устройства, многочисленные
датчики и манипуляторы.
Читатели, наверное, знают великолепный роман одного из
наиболее талантливых писателей-фантастов Александра Беляева
«Голова профессора Доуэля». В нем очень точно показано, что
происходит, если человеческий мозг лишается тела. Вот почему
мы считаем, что и робототехнические устройства, и ней росети –
две стороны одной медали. И очень часто их надо рассматривать
в этом необычном двуединстве.
В предыдущей книге мы проанализировали большое число
сложных робототехнических систем, от промышленных роботов
до человекоподобных помощников, имитирующих действия
живого человека, и сравнили различные управляющие системы,
заложенные в роботов. Обнаружили скрытые угрозы, которые
стали возможными при достижении определенной стадии в
развитии робототехнических систем, наделенных машинным
разумом и способных к глубинному обучению.
Вступление 7
И вот тут возникает целый ряд проблем, связанных с со-
блюдением тех самых законов робототехники, о которых мы
говорили в предыдущей книге. Главная из них заключается в
обеспечении безопасности жизнедеятельности человека при ис-
пользовании роботов. А зависит безопасность в первую очередь
от квалификации и, если можно так выразиться, нравствен-
ности разработчиков программного обеспечения. Того самого
искусственного интеллекта, который будет использоваться в
робототехнике. Именно поэтому книга «Вы сказали “искус-
ственный интеллект”?» и стала своеобразным продолжением
разговора о сложных робототехнических системах, оснащенных
машинным разумом.
Голова профессора Доуэля (источник – URL: https://child-lib.com/images/
news/2020/06/2020-06-08/2020-06-08-4.jpg)
8 Вступление
Но для интриги хотелось бы напомнить о двух почти детек-
тивных историях, происходивших практически в одно и то же
время и оказавшихся тесно связанными с данным повествова-
нием...
В конце XVIII века, а точнее 13 марта 1783 года, астроном-
любитель Уильям Гершель открыл планету Уран. Это сразу уве-
личило размеры Солнечной системы в два раза. По наблюдениям
за движением новой планеты математиками была определена
орбита и построена траектория движения Урана. Знание точного
«адреса» планеты на звездном небе позволило и другим астро-
номам наблюдать за удаленным космическим телом.
Успех Гершеля, которого за сделанное открытие англий-
ский король возвел в рыцарское достоинство и назначил ко-
ролевским астрономом, удвоил старания других звездочетов.
Спустя два месяца после опубликования сообщения Гершеля
петербургский академик Андрей Лексель вычислил орбиту
движения новой планеты. За Ураном началась настоящая охота
с использованием самых совершенных на то время телескопов
и подзорных труб. Однако и серьезные ученые, и любители
обнаружили целый ряд странностей в поведении новой пла-
неты. Наблюдаемое ими движение Урана систематически
отличалось от предсказанного и математически достоверно
вычисленного. Казалось, кто-то невидимый и могуществен-
ный постоянно мешает Урану на его неспешном пути вокруг
Солнца. Это несоответствие позволило Джону Адамсу и Урбену
Леверье теоретически предсказать существование восьмой
планеты – Нептуна, открытого Иоганном Галле 23 сентября
1846 года. А двумя годами позже, в 1848 году, Леверье делает
новое предположение: за Нептуном может находиться еще одна
планета. И снова десятки телескопов устремляются в звездное
небо. Математики изводят сотни листов, пытаясь вычислить
траекторию новой невидимки.
Все тщетно! Должно было пройти чуть ли не столетие, прежде
чем очередной возмутитель спокойствия в звездном семействе
был найден. В марте 1930 года молодой сотрудник обсерватории
Лоувелла Клайд Томбо скрупулезно отсматривал снимки звезд-
ного неба, сделанные особой фотокамерой с большой выдерж-
кой. Снимков были тысячи, и можно было только удивляться,
Вступление 9
насколько терпеливым сотрудником оказался Клайд. И вот на-
стал его звездный час! На очередных снимках далеких созвездий,
сделанных с промежутком в несколько дней, Томбо обнаружил
небольшую планету. Сначала он подумал, что на фотопластинке
имеется брак. Но более внимательное рассмотрение показало:
это действительно космический объект. Так и была открыта
еще одна предсказанная планета, которая получила название
«Плутон». Кстати, в честь этого эпохального события такое же
имя было присвоено очередному радиоактивному элементу
плутонию...
Теперь оставим космос и математические вычисления и
перенесемся в тихую Швейцарию, куда по приглашению лорда
Байрона приехало из Англии несколько его друзей-писателей.
Остановившись на одной из вилл, компания молодых людей
хотела развлечься, но ненастная погода заставила их сидеть
дома. И, чтобы скоротать время, гости Байрона стали сочинять
романы в стиле модного литературного направления – готики.
Мэри Шелли, подруга, а затем жена поэта Перси Биши Шелли,
написала роман «Франкенштейн, или Современный Про-
метей», и эта книга стала первым сочинением-«ужастиком» в
английской литературе. В романе рассказывается об ученом
Викторе Франкенштейне, создавшем из неживой материи
великана, который в конце концов вознамерился убить соб-
ственного творца...
Эти два примера приведены неслучайно. Они предвосхищают
один из аспектов книги об искусственном интеллекте – двой-
ственность машинного разума, что вынесено в заглавие книги.
Двуликий Янус – наш искусственный интеллект – может при-
нести благо человечеству, а может и стать его могильщиком...
Мы упомянули о бесконечных просмотрах, которые вы-
нужден был выполнять молодой сотрудник астрономической
обсерватории Лоувелла. Если бы он работал в наше время, со-
временный вычислительный комплекс смог бы проанализиро-
вать отсканированные изображения за несколько минут. И тут
же нашел бы малую планету. Сегодня системы распознавания
лиц внедрены даже в стойки турникетов столичной подземки.
Они позволяют не только осуществлять проход и оплату про-
езда, но и, как камеры наружного наблюдения, обеспечивают
10 Вступление
круглосуточное наблюдение за безопасностью транспорта.
Такие же системы встроены в наши смартфоны. Технология
Face ID (распознавание лиц) позволяет и разблокировать гаджет,
и выполнить некоторые операции: скажем, оплатить покупки
бесконтактным способом, скачать контент и многое другое.
Особые камеры, установленные на транспорте, обеспечивают
его безопасное движение как по рельсам, так и на автострадах
или улицах городов. Все эти технологии являются элементами
искусственного интеллекта.
А теперь возвратимся к Франкенштейну и чудовищу, им
порожденному. В армии Соединенных Штатов Америки на
протяжении нескольких лет ведутся работы по созданию бес-
пилотных разведывательно-ударных систем. Из лабораторий
военно-промышленного комплекса вышло немало изделий,
уже ставших сенсацией после боевого применения. Летающие
и морские дроны стали привычным атрибутом высокотехно-
логичного вооружения, многие из них успели «повоевать» в
современных конфликтах в различных районах земного шара.
Однако в нашем случае разработчики явно переусердствова-
ли с наделением боевой машины слишком самостоятельным
«разумом».
На испытательном полигоне были расставлены цели-ми-
шени. Их предстояло самостоятельно обнаружить, идентифи-
цировать и уничтожить. Крылатый убийца получил задание и
поднялся в небо. Он полетал над полигоном и выявил цели.
После отсылки команды в пункт управления боевой робот
устремился на мишень, но тут оператор отменил команду на
открытие огня. Будь это обычный дрон, он либо возвратился
бы на место вылета, ли бо самоликвидировался. Но беспилотник
под управлением искусственного интеллекта, вероятно, по-
чувствовал себя глубоко оскорбленным. Ведь ему начислялись
бонусные очки за каждую выявленную и уничтоженную цель.
(Чем не дрессура животных со вкусняшками!) И умный дрон
принял собственное решение – убить оператора, который ему
помешал...
Этот эпизод обсуждался во время саммита, главной темой
которого было изучение потенциала военно-воздушных и кос-
Вступление 11
мических сил будущего. Мероприятие, на котором присутство-
вали более 200 представителей научного сообщества и военных
из разных стран, состоялось в Лондоне.
Этот инцидент с искусственным интеллектом заставил об-
ратить пристальное внимание не только на возможности, но и
на последствия внедрения машинного разума в нашу повсед-
невную жизнь. В последнее время многими государственными
деятелями в разных странах, учеными с мировым именем
и крупнейшими предпринимателями, среди которых Илон
Маск и Стив Возняк, Билл Гейтс и даже Урсула фон дер Ляйен,
обсуждаются проблемы развития искусственного интеллекта.
И Маск, и высшие чиновники Евросоюза призывают примерно
на полгода заморозить все исследовательские работы в области
ИИ. Предупреждают общественность об опасности, которая
таится в бесконтрольном развитии машинного разума и на-
делении его функциями самообучения и самосовершенство-
вания.
В России, наоборот, работам в области искусственного ин-
теллекта дан зеленый свет. Принята государственная программа
развития интеллектуальных систем до 2030 года: выделение
значительных денежных средств IT-компаниям для ускорения
работ с искусственным интеллектом позволит справиться с на-
меченными планами. Российские математики и программисты,
в том числе школьники, многократно становились победителями
международных соревнований. Отечественная физико-мате-
матическая школа остается на лидирующих позициях в мире,
а значит, в обозримом будущем мы станем свидетелями суще-
ственного прорыва в области робототехники и искусственного
интеллекта.
Так где же истина? ИИ – добро или зло?! Или истина всегда
остается где-то посредине полярных мнений?
Давайте поразмышляем. Для начала обратимся к авторитет-
ному источнику. Портал Nature опубликовал результаты опроса
1600 ведущих ученых об использовании инструментов искус-
ственного интеллекта (ИИИ) в научной работе.
Результаты опроса вполне предсказуемы. Опрошенные раз-
делились на сторонников и противников использования подоб-
ного инструментария в научных целях. Наиболее позитивно уче-
12 Вступление
ные оценивают способность ИИИ ускорять обработку данных,
а среди главных рисков отмечают возрастание зависимости от
простого распознавания образов без реального понимания. Один
из участников опроса сформулировал это так: «Искусственный
интеллект бросает вызов нашим существующим стандартам
доказательства и истины».
Причем мнения разделились диаметрально противополож-
ным образом. Кто-то ратует за дальнейшее развитие машинного
разума, видя в нем существенное подспорье, другие видят в нем
смертельную опасность для всего человечества, выраженную в
гипотетическом «восстании машин».
В этой книге мы попробуем отделить зерна от плевел и про-
анализируем как истоки появления искусственного интеллекта,
так и связанные с его развитием проблемы. Любопытное дело:
редко какая технология не порождала такое количество страхов
и надежд, как искусственный интеллект. Создание машинного
разума многими людьми воспринимается как несомненное
благо, которое поможет решать задачи, непосильные для
обычного человека. Сложнейшие математические вычисления
становятся для суперкомпьютеров делом нескольких секунд.
То, над чем выдающиеся умы работали по нескольку лет, для
современной техники представляет довольно тривиальную за-
дачу. Вычисления, при помощи которых был открыт Плутон,
современными суперкомпьютерами могли быть сделаны за
считанные секунды...
Но как быть с невидимым или необъятным?! Способен ли ис-
кусственный интеллект справиться с задачами, решить которые
человеку пока не по силам из-за специфических обстоятельств?
Только что ученый мир облетела сенсационная новость.
Студент Люк Фарритор, изучающий информатику, с помощью
искусственного интеллекта сумел расшифровать первое слово
в древнеримском пергаменте. Вы можете спросить, что в этом
сложного. Египетские иероглифы два века назад расшифровал
французский египтолог Жан-Франсуа Шампольон, а уж лапи-
дарную латынь прочесть проще простого. Но все дело в том,
что пергаментный свиток был найден в 1700 году при раскопках
города Геркуланум, который разделил печальную участь Помпей.
Огонь буквально сплавил пергамент. Размотать его не пред-
Вступление 13
ставлялось возможным из-за чрезвычайной хрупкости древней
кожи, на которой писали римляне.
Было принято решение использовать уникальную техноло-
гию сканирования с виртуальным расслоением пергамента. По
сути, предлагалось использовать томограф с его технологией
послойного сечения. А искусственный интеллект обрабатывал
полученные снимки, используя оптическое распознавание
символов. Эта технология не нова. Ею пользуются больше двух
десятков лет. Признаюсь, сам не единожды набирал при помо-
щи сканера большие произведения. У технологии OCR (optical
character recognition – оптическое распознавание символов) есть
свойство обучения. Вы сканируете незнакомый текст, а затем
подсказываете программе точное начертание литеры. Конеч-
но, если это делает машинный разум, то вычислительная мощь
компьютера позволяет такое обучение делать за секунды. И не-
случайно студенту удалось прочесть слово «пурпурный». Успех
Фарритора сподвиг и других исследователей заняться римским
свитком, тем более что за выполнение такой работы полагается
солидное денежное вознаграждение. Возможно, в скором вре-
мени искусственному разуму поддадутся и другие исторические
загадки, скрытые в древних артефактах?! И виртуальный по-
мощник заслужит очередную похвалу.
Однако достоянием общественности также стали факты,
когда искусственный интеллект, встроенный в модель боевого
робота, пытался убить оператора. Чем не виртуальный монстр
из романа о Франкенштейне?!
«Я причисляю себя к тем, кто опасается искусственного су-
перинтеллекта. Сначала машины будут выполнять за нас только
часть работы, не будут слишком умными и не будут нам угрожать.
Если мы будем правильно ими управлять, то проблем не будет.
Но через несколько десятилетий искусственный интеллект ста-
нет сложнее и может представлять собой опасность. Я согласен с
Илоном Маском и не понимаю, почему некоторых эта проблема
совсем не беспокоит».
Это слова одного из основателей компании «Майкрософт»
Билла Гейтса. Человека, который создал программное обе-
спечение Windows, установленное почти на всех компьютерах
мира. Человека, посвятившего много времени и сил борьбе со
14 Вступление
страшными вызовами, с которыми сталкивается человечество,
например климатическими проблемами и неизлечимыми
болезнями. И его озабоченность судьбами мира вполне объяс-
нима.
Так давайте же пройдемся по главам книги и попробуем
разобраться: что же такое искусственный интеллект, в чем его
несомненная польза для человечества и что таят глубины ма-
шинного разума?
искусственного интеллекта
может означать конец
человеческой расы… Он будет
развиваться сам по себе
и перепроектировать себя со
все возрастающей скоростью.
Люди, ограниченные медленной
биологической эволюцией, не
смогут конкурировать и будут
просто вытеснены.
Стивен Хокинг
Введение
Увидеть невидимое, объять необъятное,
или Две почти детективные истории
вместо обычного вступления
Искусственный интеллект – помощник человека во многих сфе-
рах. Основы возникновения машинного разума. Открытое письмо
ученых и предпринимателей об опасности дальнейших разработок
искусственного интеллекта. Чем стал опасен ИИ? Есть ли ему
альтернатива в будущем?
Российская Федерация сегодня переживает один из интересней-
ших периодов. При всех сложных внешних и внутренних вызовах
невиданными ранее темпами идет техническое и технологическое
переоснащение промышленности, фундаментальная наука тесно
смыкается с прикладной, чтобы развивать наиболее приоритет-
ные проекты. Робототехника и искусственный интеллект должны
не просто придать новый импульс развитию, но и справиться с
нехваткой рабочих рук. О широкомасштабном внедрении робо-
тов в промышленности, на транспорте и в быту мы уже писали в
книге «Вы сказали “роботы”?». Сегодня мы поговорим о другом
важнейшем направлении – совершенствовании технологий,
связанных с использованием искусственного интеллекта или,
как его именуют в англоязычном мире, AI (artificial intelligence).
В России принята государственная программа развития
технологий искусственного интеллекта на период до 2030 года.
Согласно Указу Президента РФ от 10 октября 2019 г. № 490 «О раз-
витии искусственного интеллекта в Российской Федерации»
предполагается обеспечить ускоренное развитие искусственного
интеллекта, проведение научных исследований, повышение до-
ступности информации и вычислительных ресурсов для поль-
зователей, совершенствование системы подготовки кадров в
этой области. Решить эти задачи призван национальный проект,
входящий в национальную программу «Цифровая экономика
Российской Федерации».
6 Вступление
Книга об искусственном интеллекте, которую вы держите в
руках, стала логическим продолжением книги «Вы сказали “ро-
боты”?», в которой были рассмотрены возможности развития
роботов и робототехнических систем. Эта последовательность
неслучайна, ведь робототехника нуждается в мощных и про-
изводительных «мозгах», способных выполнять вычисления
буквально с космическими скоростями. И чем сложнее робот,
тем совершеннее должны быть программы, управляющие им.
Машинный разум, как еще называют ИИ, достиг такой степени
развития, что в состоянии в некоторых случаях превосходить
способности живого человека. Уже сегодня некоторые нейро-
сети вполне квалифицированно заменяют человека, создавая
произведения искусства и учебные пособия, пишут музыку и
рисуют картины. Искусственный разум бдительно следит за
технологическими процессами в агрессивной или недоступной
среде.
Но при этом и искусственный интеллект не может суще-
ствовать без физических носителей – хранилищ данных, про-
изводительных вычислительных комплексов, сетей передачи
данных и Интернета вещей. В робототехнических системах объ-
ектом применения выработанных машинным разумом решений
становятся микропроцессорные устройства, многочисленные
датчики и манипуляторы.
Читатели, наверное, знают великолепный роман одного из
наиболее талантливых писателей-фантастов Александра Беляева
«Голова профессора Доуэля». В нем очень точно показано, что
происходит, если человеческий мозг лишается тела. Вот почему
мы считаем, что и робототехнические устройства, и ней росети –
две стороны одной медали. И очень часто их надо рассматривать
в этом необычном двуединстве.
В предыдущей книге мы проанализировали большое число
сложных робототехнических систем, от промышленных роботов
до человекоподобных помощников, имитирующих действия
живого человека, и сравнили различные управляющие системы,
заложенные в роботов. Обнаружили скрытые угрозы, которые
стали возможными при достижении определенной стадии в
развитии робототехнических систем, наделенных машинным
разумом и способных к глубинному обучению.
Вступление 7
И вот тут возникает целый ряд проблем, связанных с со-
блюдением тех самых законов робототехники, о которых мы
говорили в предыдущей книге. Главная из них заключается в
обеспечении безопасности жизнедеятельности человека при ис-
пользовании роботов. А зависит безопасность в первую очередь
от квалификации и, если можно так выразиться, нравствен-
ности разработчиков программного обеспечения. Того самого
искусственного интеллекта, который будет использоваться в
робототехнике. Именно поэтому книга «Вы сказали “искус-
ственный интеллект”?» и стала своеобразным продолжением
разговора о сложных робототехнических системах, оснащенных
машинным разумом.
Голова профессора Доуэля (источник – URL: https://child-lib.com/images/
news/2020/06/2020-06-08/2020-06-08-4.jpg)
8 Вступление
Но для интриги хотелось бы напомнить о двух почти детек-
тивных историях, происходивших практически в одно и то же
время и оказавшихся тесно связанными с данным повествова-
нием...
В конце XVIII века, а точнее 13 марта 1783 года, астроном-
любитель Уильям Гершель открыл планету Уран. Это сразу уве-
личило размеры Солнечной системы в два раза. По наблюдениям
за движением новой планеты математиками была определена
орбита и построена траектория движения Урана. Знание точного
«адреса» планеты на звездном небе позволило и другим астро-
номам наблюдать за удаленным космическим телом.
Успех Гершеля, которого за сделанное открытие англий-
ский король возвел в рыцарское достоинство и назначил ко-
ролевским астрономом, удвоил старания других звездочетов.
Спустя два месяца после опубликования сообщения Гершеля
петербургский академик Андрей Лексель вычислил орбиту
движения новой планеты. За Ураном началась настоящая охота
с использованием самых совершенных на то время телескопов
и подзорных труб. Однако и серьезные ученые, и любители
обнаружили целый ряд странностей в поведении новой пла-
неты. Наблюдаемое ими движение Урана систематически
отличалось от предсказанного и математически достоверно
вычисленного. Казалось, кто-то невидимый и могуществен-
ный постоянно мешает Урану на его неспешном пути вокруг
Солнца. Это несоответствие позволило Джону Адамсу и Урбену
Леверье теоретически предсказать существование восьмой
планеты – Нептуна, открытого Иоганном Галле 23 сентября
1846 года. А двумя годами позже, в 1848 году, Леверье делает
новое предположение: за Нептуном может находиться еще одна
планета. И снова десятки телескопов устремляются в звездное
небо. Математики изводят сотни листов, пытаясь вычислить
траекторию новой невидимки.
Все тщетно! Должно было пройти чуть ли не столетие, прежде
чем очередной возмутитель спокойствия в звездном семействе
был найден. В марте 1930 года молодой сотрудник обсерватории
Лоувелла Клайд Томбо скрупулезно отсматривал снимки звезд-
ного неба, сделанные особой фотокамерой с большой выдерж-
кой. Снимков были тысячи, и можно было только удивляться,
Вступление 9
насколько терпеливым сотрудником оказался Клайд. И вот на-
стал его звездный час! На очередных снимках далеких созвездий,
сделанных с промежутком в несколько дней, Томбо обнаружил
небольшую планету. Сначала он подумал, что на фотопластинке
имеется брак. Но более внимательное рассмотрение показало:
это действительно космический объект. Так и была открыта
еще одна предсказанная планета, которая получила название
«Плутон». Кстати, в честь этого эпохального события такое же
имя было присвоено очередному радиоактивному элементу
плутонию...
Теперь оставим космос и математические вычисления и
перенесемся в тихую Швейцарию, куда по приглашению лорда
Байрона приехало из Англии несколько его друзей-писателей.
Остановившись на одной из вилл, компания молодых людей
хотела развлечься, но ненастная погода заставила их сидеть
дома. И, чтобы скоротать время, гости Байрона стали сочинять
романы в стиле модного литературного направления – готики.
Мэри Шелли, подруга, а затем жена поэта Перси Биши Шелли,
написала роман «Франкенштейн, или Современный Про-
метей», и эта книга стала первым сочинением-«ужастиком» в
английской литературе. В романе рассказывается об ученом
Викторе Франкенштейне, создавшем из неживой материи
великана, который в конце концов вознамерился убить соб-
ственного творца...
Эти два примера приведены неслучайно. Они предвосхищают
один из аспектов книги об искусственном интеллекте – двой-
ственность машинного разума, что вынесено в заглавие книги.
Двуликий Янус – наш искусственный интеллект – может при-
нести благо человечеству, а может и стать его могильщиком...
Мы упомянули о бесконечных просмотрах, которые вы-
нужден был выполнять молодой сотрудник астрономической
обсерватории Лоувелла. Если бы он работал в наше время, со-
временный вычислительный комплекс смог бы проанализиро-
вать отсканированные изображения за несколько минут. И тут
же нашел бы малую планету. Сегодня системы распознавания
лиц внедрены даже в стойки турникетов столичной подземки.
Они позволяют не только осуществлять проход и оплату про-
езда, но и, как камеры наружного наблюдения, обеспечивают
10 Вступление
круглосуточное наблюдение за безопасностью транспорта.
Такие же системы встроены в наши смартфоны. Технология
Face ID (распознавание лиц) позволяет и разблокировать гаджет,
и выполнить некоторые операции: скажем, оплатить покупки
бесконтактным способом, скачать контент и многое другое.
Особые камеры, установленные на транспорте, обеспечивают
его безопасное движение как по рельсам, так и на автострадах
или улицах городов. Все эти технологии являются элементами
искусственного интеллекта.
А теперь возвратимся к Франкенштейну и чудовищу, им
порожденному. В армии Соединенных Штатов Америки на
протяжении нескольких лет ведутся работы по созданию бес-
пилотных разведывательно-ударных систем. Из лабораторий
военно-промышленного комплекса вышло немало изделий,
уже ставших сенсацией после боевого применения. Летающие
и морские дроны стали привычным атрибутом высокотехно-
логичного вооружения, многие из них успели «повоевать» в
современных конфликтах в различных районах земного шара.
Однако в нашем случае разработчики явно переусердствова-
ли с наделением боевой машины слишком самостоятельным
«разумом».
На испытательном полигоне были расставлены цели-ми-
шени. Их предстояло самостоятельно обнаружить, идентифи-
цировать и уничтожить. Крылатый убийца получил задание и
поднялся в небо. Он полетал над полигоном и выявил цели.
После отсылки команды в пункт управления боевой робот
устремился на мишень, но тут оператор отменил команду на
открытие огня. Будь это обычный дрон, он либо возвратился
бы на место вылета, ли бо самоликвидировался. Но беспилотник
под управлением искусственного интеллекта, вероятно, по-
чувствовал себя глубоко оскорбленным. Ведь ему начислялись
бонусные очки за каждую выявленную и уничтоженную цель.
(Чем не дрессура животных со вкусняшками!) И умный дрон
принял собственное решение – убить оператора, который ему
помешал...
Этот эпизод обсуждался во время саммита, главной темой
которого было изучение потенциала военно-воздушных и кос-
Вступление 11
мических сил будущего. Мероприятие, на котором присутство-
вали более 200 представителей научного сообщества и военных
из разных стран, состоялось в Лондоне.
Этот инцидент с искусственным интеллектом заставил об-
ратить пристальное внимание не только на возможности, но и
на последствия внедрения машинного разума в нашу повсед-
невную жизнь. В последнее время многими государственными
деятелями в разных странах, учеными с мировым именем
и крупнейшими предпринимателями, среди которых Илон
Маск и Стив Возняк, Билл Гейтс и даже Урсула фон дер Ляйен,
обсуждаются проблемы развития искусственного интеллекта.
И Маск, и высшие чиновники Евросоюза призывают примерно
на полгода заморозить все исследовательские работы в области
ИИ. Предупреждают общественность об опасности, которая
таится в бесконтрольном развитии машинного разума и на-
делении его функциями самообучения и самосовершенство-
вания.
В России, наоборот, работам в области искусственного ин-
теллекта дан зеленый свет. Принята государственная программа
развития интеллектуальных систем до 2030 года: выделение
значительных денежных средств IT-компаниям для ускорения
работ с искусственным интеллектом позволит справиться с на-
меченными планами. Российские математики и программисты,
в том числе школьники, многократно становились победителями
международных соревнований. Отечественная физико-мате-
матическая школа остается на лидирующих позициях в мире,
а значит, в обозримом будущем мы станем свидетелями суще-
ственного прорыва в области робототехники и искусственного
интеллекта.
Так где же истина? ИИ – добро или зло?! Или истина всегда
остается где-то посредине полярных мнений?
Давайте поразмышляем. Для начала обратимся к авторитет-
ному источнику. Портал Nature опубликовал результаты опроса
1600 ведущих ученых об использовании инструментов искус-
ственного интеллекта (ИИИ) в научной работе.
Результаты опроса вполне предсказуемы. Опрошенные раз-
делились на сторонников и противников использования подоб-
ного инструментария в научных целях. Наиболее позитивно уче-
12 Вступление
ные оценивают способность ИИИ ускорять обработку данных,
а среди главных рисков отмечают возрастание зависимости от
простого распознавания образов без реального понимания. Один
из участников опроса сформулировал это так: «Искусственный
интеллект бросает вызов нашим существующим стандартам
доказательства и истины».
Причем мнения разделились диаметрально противополож-
ным образом. Кто-то ратует за дальнейшее развитие машинного
разума, видя в нем существенное подспорье, другие видят в нем
смертельную опасность для всего человечества, выраженную в
гипотетическом «восстании машин».
В этой книге мы попробуем отделить зерна от плевел и про-
анализируем как истоки появления искусственного интеллекта,
так и связанные с его развитием проблемы. Любопытное дело:
редко какая технология не порождала такое количество страхов
и надежд, как искусственный интеллект. Создание машинного
разума многими людьми воспринимается как несомненное
благо, которое поможет решать задачи, непосильные для
обычного человека. Сложнейшие математические вычисления
становятся для суперкомпьютеров делом нескольких секунд.
То, над чем выдающиеся умы работали по нескольку лет, для
современной техники представляет довольно тривиальную за-
дачу. Вычисления, при помощи которых был открыт Плутон,
современными суперкомпьютерами могли быть сделаны за
считанные секунды...
Но как быть с невидимым или необъятным?! Способен ли ис-
кусственный интеллект справиться с задачами, решить которые
человеку пока не по силам из-за специфических обстоятельств?
Только что ученый мир облетела сенсационная новость.
Студент Люк Фарритор, изучающий информатику, с помощью
искусственного интеллекта сумел расшифровать первое слово
в древнеримском пергаменте. Вы можете спросить, что в этом
сложного. Египетские иероглифы два века назад расшифровал
французский египтолог Жан-Франсуа Шампольон, а уж лапи-
дарную латынь прочесть проще простого. Но все дело в том,
что пергаментный свиток был найден в 1700 году при раскопках
города Геркуланум, который разделил печальную участь Помпей.
Огонь буквально сплавил пергамент. Размотать его не пред-
Вступление 13
ставлялось возможным из-за чрезвычайной хрупкости древней
кожи, на которой писали римляне.
Было принято решение использовать уникальную техноло-
гию сканирования с виртуальным расслоением пергамента. По
сути, предлагалось использовать томограф с его технологией
послойного сечения. А искусственный интеллект обрабатывал
полученные снимки, используя оптическое распознавание
символов. Эта технология не нова. Ею пользуются больше двух
десятков лет. Признаюсь, сам не единожды набирал при помо-
щи сканера большие произведения. У технологии OCR (optical
character recognition – оптическое распознавание символов) есть
свойство обучения. Вы сканируете незнакомый текст, а затем
подсказываете программе точное начертание литеры. Конеч-
но, если это делает машинный разум, то вычислительная мощь
компьютера позволяет такое обучение делать за секунды. И не-
случайно студенту удалось прочесть слово «пурпурный». Успех
Фарритора сподвиг и других исследователей заняться римским
свитком, тем более что за выполнение такой работы полагается
солидное денежное вознаграждение. Возможно, в скором вре-
мени искусственному разуму поддадутся и другие исторические
загадки, скрытые в древних артефактах?! И виртуальный по-
мощник заслужит очередную похвалу.
Однако достоянием общественности также стали факты,
когда искусственный интеллект, встроенный в модель боевого
робота, пытался убить оператора. Чем не виртуальный монстр
из романа о Франкенштейне?!
«Я причисляю себя к тем, кто опасается искусственного су-
перинтеллекта. Сначала машины будут выполнять за нас только
часть работы, не будут слишком умными и не будут нам угрожать.
Если мы будем правильно ими управлять, то проблем не будет.
Но через несколько десятилетий искусственный интеллект ста-
нет сложнее и может представлять собой опасность. Я согласен с
Илоном Маском и не понимаю, почему некоторых эта проблема
совсем не беспокоит».
Это слова одного из основателей компании «Майкрософт»
Билла Гейтса. Человека, который создал программное обе-
спечение Windows, установленное почти на всех компьютерах
мира. Человека, посвятившего много времени и сил борьбе со
14 Вступление
страшными вызовами, с которыми сталкивается человечество,
например климатическими проблемами и неизлечимыми
болезнями. И его озабоченность судьбами мира вполне объяс-
нима.
Так давайте же пройдемся по главам книги и попробуем
разобраться: что же такое искусственный интеллект, в чем его
несомненная польза для человечества и что таят глубины ма-
шинного разума?