Искусственный интеллект: «Джинн уже вырвался из бутылки»

Елена СЕРДЕЧНОВА

13.06.2020

6-burkin_13.jpg

Тема мартовского номера «Культуры» — искусственный интеллект (ИИ) — некоторым может показаться весьма далекой как от мира культуры, так и от реальности. Во-первых, про «железки» и программирование. Во-вторых, это страшилки или вымыслы фантастов. Нет, все не так.

Сначала про «страшилки и вымыслы». Скорее всего, когда речь заходит о явлении некоего ИИ народу, нам тут же представляется искусственно созданное, обладающее сверхспособностями человекоподобное существо. Теоретически готовое бросить вызов своему творцу и, таким образом, поставить существование всего человечества под угрозу. Действительно, от появления такого существа, скорее всего, нас отделяет не одно десятилетие, и мы не стали бы посвящать целый номер голливудской апокалиптике. Проблема, однако, в том, что ИИ уже довольно давно проникает в нашу жизнь в незаметных, гомеопатических дозах. Является нам не в виде Терминатора, а невидимкой, чье влияние на жизнь очень непросто распознать.

Приведем пример из нашей профессиональной сферы. Новости на странице поисковика «Яндекс», которые ежедневно читают десятки миллионов людей. Их отбирают с нескольких тысяч новостных сайтов не живые сотрудники компании, а «робот», программа, действующая по никому не известным алгоритмам. Последние несколько лет большинство СМИ озабочены в первую очередь вовсе не тем, чтобы удивить читателей эксклюзивом или аналитикой. Главное — написать текст и заголовок так, чтобы он «понравился» роботу «Яндекса», чтобы программа разместила статью на сайте поисковика, вывела ее в «топы». Есть несколько базовых правил, которые якобы помогают добиться успеха: незамысловатый заголовок в стиле «Мама мыла раму»; обязательное упоминание в тексте известных личностей; абзацы, не превышающие определенного размера, и т. д. Речь даже не о том, что программа меняет, вернее, ломает все стандарты журналистики. Что из редакций изгоняются традиционные журналисты, а нанимаются копирайтеры-программисты, способные «угадывать» алгоритм. Отбирая и показывая только те новости, которые понятны ей, программа медленно, но верно форматирует «под себя» сознание миллионов людей.

Это как раз тот самый вопрос, которому мы и посвятили тему номера. Как, в какую сторону меняется человек в результате происходящей технологической революции. Тема невероятно актуальная, тем более что «программы» перестают быть классическими, заложенными человеком программами, превращаясь в самообучающиеся и саморазвивающиеся системы.

Чтобы нас не упрекнули в алармизме или необъективности, мы поговорили с максимальным набором спикеров. Пообщались и с разработчиками ИИ, и с теми, кто использует его в своей деятельности. Все они единодушны в том, что ИИ способен кардинально изменить нашу жизнь. И это не о «приколах» вроде доставки пиццы дронами. Это о таких неотъемлемых категориях человеческого бытия, как свобода, творчество, гуманизм. Если вы прочтете собранные в разделе «Тема номера» интервью, фильм «Матрица» наверняка покажется вам невероятно актуальным. «Революции машин» в будущем не случится — она уже началась. Теперь нам самим решать, кем мы хотим видеть «машинный разум» — своим слугой, партнером или господином.

Как мы хорошо помним, предыдущая технологическая революция имела весьма печальный побочный эффект — две мировые войны, ставшие прямой или косвенной причиной гибели 100–150 млн человек. Заполучив в свои руки новые технологии, человечество тут же решило опробовать их для передела, как довольно четко формулировали в советской школе, «рынков сбыта и источников сырья». Но у той трагедии был не только экономический, но и психологический подтекст. «Головокружение от успехов». Ощущение новой, безграничной власти над материальным миром и, в конечном счете, другими людьми, что разом обесценило все многовековые достижения гуманизма. Судя по всему, похожие соблазны одолевают и тех, кто направляет технологическое развитие мира сегодня. Поэтому важно понимать, какие риски нам угрожают, и формировать осмысленное отношение к происходящим переменам.

Люди всегда пытались измыслить себе могущественного помощника. Аладдин решил проблему кардинально, заведя персонального джинна. С его помощью нищий бездельник стал жить в роскошном дворце, летать на ковре-самолете и женился на принцессе. Ученые, математики и программисты не забыли эту сказку. В XX веке у человечества, кажется, появился джинн — искусственный интеллект, правда, поначалу не хватало компьютерных мощностей, чтобы «выпустить его из бутылки». Но в XXI веке вычислительная техника сделала рывок. В результате растерянные ученые, философы, инженеры стоят с пустой лампой: искусственный интеллект начинает жить собственной, непонятной жизнью.

ЧТО ТАКОЕ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ?

Математика всегда ассоциировалась с творчеством и творением. Не случайно Платон связывал ее с Божественной реальностью, а среднеазиатский ученый Аль-Хорезми в IX веке посвящал ей трактаты. Сам Леонардо да Винчи работал над созданием «калькулятора» — арифмометра, который бы выполнял четыре арифметических действия. Но прошло еще несколько веков, пока не был создан компьютер, а затем и искусственный интеллект.

В 1941-м немецкий инженер Конрад Цузе построил первый компьютер. В 1943 году в Великобритании была создана вычислительная машина специального назначения — Colossus, которая расшифровывала секретные коды фашистской Германии. В 1950-м один из ее создателей, математик и криптограф Алан Тьюринг предложил эксперимент, который мы знаем сегодня как «тест Тьюринга». Ученый посчитал, что назвать компьютер «мыслящим» можно, если человек не сможет в процессе общения отличить компьютер от другого человека.

В 40-е годы появляются и первые нейросети — математические модели нейронов, перенесенные в компьютер, имитирующие работу нейронов головного мозга. Поначалу нейросети были маленькими и примитивными, поскольку не хватало вычислительных мощностей. А в 1956-м американский информатик Джон Маккарти предложил тот самый термин — «искусственный интеллект» (ИИ). Тот должен был отражать близость интеллектуальных операций человека и машины. Первый нейрокомпьютер «Марк-1» в 1958 году создал американский нейрофизиолог Фрэнк Розенблатт. Тогда сразу и сформировалось два подхода в развитии нейросетей.

Первый заключался в том, что математики собирались учить машину думать как человек, используя рассуждения, делая логические операции. И это направление в искусственном интеллекте — более традиционное — было доминирующим до начала 2010-х годов, когда вычислительные мощности позволили создать гигантские нейросети. Второй же подход считался не вполне научным. Была выдвинута гипотеза, что, воспроизведя процессы, происходящие в человеческом мозге, который имеет 80 млрд связанных между собой нейронов, можно создать у машины подобие интуиции, когда для получения результата не требуются рассуждения и логические операции. До недавнего времени не было понятно, сработает ли этот подход. Но он сработал, когда машина десять лет назад впервые сама распознала не заложенное в нее изображение кота. И именно это направление в развитии ИИ «рвануло» в последнее десятилетие, позволив человечеству воспользоваться тем, что, обрабатывая огромные массивы данных, машины находят незаметные человеку закономерности и выдают результат.

Искусственный интеллект сегодня — это совокупность нейросетей, облачных сервисов, компьютерного оборудования, инфраструктуры, людей, служащая для решения задач по управлению на основе собранных данных.

«Что такое ИИ — бесполезно обсуждать, это бытовой термин. Профессионалы им стараются не пользоваться, потому что он слишком размытый. Сейчас искусственный интеллект (а там есть 60 разных определений) — это группа достаточно разных технологий, но все они так или иначе пытаются воспроизводить некоторые когнитивные способности и планирование действий», — сообщил «Культуре» главный аналитик центра искусственного интеллекта МФТИ Игорь Пивоваров.

Зачастую мы не замечаем, где сталкиваемся с ИИ. А он сейчас повсюду, и он очень разный. В сфере финансов — это алгоритмическая торговля, исследования рынка и интеллектуальный анализ данных, в промышленности — роботизация рутинных процессов, в продажах — чат-боты.

«Сейчас ИИ занимается жизненно важными вещами — прогнозированием разного рода аварий и инцидентов. Работает он и в диагностике заболеваний, с его помощью разрабатываются новые лекарства. И это значит, что для лечения многих болезней будут быстрее появляться препараты. Так что уже на наших глазах искусственный интеллект становится очень полезным. Китайцы нашли ему применение даже в борьбе с пандемией COVID-19, ведь благодаря ИИ появляется возможность предугадывать поведение человека. Путем анализа больших данных они прогнозируют, когда конкретный человек захочет выйти из дома. Соответственно, предугадывая это, ему запрещают это делать», — привел «Культуре» пример гендиректор Orbita Capital Partners Евгений Кузнецов, один из ведущих отечественных экспертов в этой области.

Но, по словам Игоря Пивоварова, некорректно ждать, что ИИ может создать, например, вакцину от коронавируса. Ее может создать только человек, потому что именно он ставит задачу и смотрит на полученный результат. И так будет еще много лет, мы еще не скоро доживем до времени, когда машина сама будет ставить цели и оценивать результаты.

КИБЕРНЕТИЧЕСКИЙ ЧЕРНЫЙ ЯЩИК

Как известно, наука до конца не знает, как работает человеческий мозг. Аналогичная ситуация наблюдается и с ИИ: механизм, в соответствии с которым нейросеть принимает решения, до конца неясен.

«Нейросеть — это не программа, это специальным образом организованный процесс обработки данных, в ходе которого внутри искусственной нейросети — такой же, как у человека в головном мозге, — формируются определенные закономерности. Но как они формируются, человек не может понять, потому они возникают не на привычном для нас языке формул или понятий, а они появляются на собственных основаниях нейросети, которая соотносит факторы друг с другом. И для человека это все «черный ящик», он не знает, как это делается, все происходит, по сути, вслепую», — отмечает г-н Кузнецов.

Но, казалось бы, как можно делегировать ИИ принятие важных решений, если неизвестно, как нейронная сеть их принимает?

«По моим наблюдениям, это сейчас мало кого интересует. Раз искусственные нейронные сети демонстрируют свою эффективность, значит, их надо внедрять везде, где это только возможно. А времени на раскачку, как известно, нет. А то, что искусственная нейронная сеть — это кибернетический «черный ящик», неважно. Появятся проблемы — будем их решать. Мне кажется, так думают многие», — рассуждает в беседе с «Культурой» руководитель Центра по изучению проблем информатики ИНИОН РАН Юрий Черный.

Ректор Сколковского института науки и технологий академик РАН Александр Кулешов и вовсе считает, что, активно применяя искусственные нейронные сети, мы вернулись в XVI век, «когда ученые наблюдали какой-то эффект, но не могли его объяснить». То есть, по сути, произошел возврат к догалилеевской эпохе — ко временам натурфилософии.

Но посмотреть на прошлое всегда полезно, ведь тогда формировалась европейская наука. Родоначальником подхода, из которого выросла современная научная методология, да и, собственно, искусственный интеллект, считается философ и математик Рене Декарт. Он полагал, что сомнению нужно подвергать любой факт, что, конечно, подразумевало постоянное присутствие сознания. Это мировоззрение ставило в центр мира человеческий интеллект, который мог этот мир познавать.

«Есть несколько базовых концепций, которые разделяются сегодня многими учеными, — то, что у человека нет сознания, что человек — это животное, а Вселенная — большой компьютер. Есть и более радикальная, но набирающая популярность точка зрения, что Вселенной не существует, как не существует и реальности», — говорит «Культуре» писатель, футуролог, эксперт по искусственному интеллекту Игорь Шнуренко. У Декарта сознание человека лежало в основе познания мира, Вселенной, сейчас же человек постепенно исчезает из этой схемы. Такое мировоззрение называется объектно-ориентированной онтологией, которая ставит не человека в центр восприятия, а любой предмет. У истоков этой концепции стоит, по мнению г-на Шнуренко, постмодернистская философия.

Г-н Пивоваров так формулирует основные положения научного сообщества: «Первый тезис — мы признаем наличие сознания, второй — сознание неразрывно связано с мозгом, третий — по-видимому, есть механизмы, которых мы не понимаем, связанные с функционированием нейронов, нейронных ансамблей, как они работают. Научное сообщество считает, что сознание вызвано работой большой нейронной сети в головном мозге, устроенной специальным образом. Это означает, что теоретически мы можем это сознание воспроизвести в компьютере, если адекватно перенесем в него работу этой сети. Часть ученых и философов с этим согласна. А другая часть — нет, полагая, что нет никаких доказательств тому, что сознание вызвано взаимодействием только нейронов, поэтому совершенно не факт, что мы его воссоздадим».

ДОБРО ПОЖАЛОВАТЬ В АПОКАЛИПСИС

В течение полувека считалось, что роботы, когда они будут созданы, станут подчиняться законам робототехники, сформулированным писателем-фантастом Айзеком Азимовым. Эти нормы якобы должны «обязать» искусственный разум безусловно подчиняться человеку и не причинять ему вреда. Оказалось, что нет, мы этого сделать не можем. Потому что нейросети принципиально не могут быть запрограммированы. «Мы, конечно можем научить робота, чтобы он был как бы такой же этичный, как человек, но в какой-то момент он на других данных может переучиться и стать совершенно другим», — говорит г-н Кузнецов.

Обучение нейросети неэтичными людьми — огромная опасность. Когда Microsoft сделал бота, отвечавшего на вопросы, и выпустил его побеседовать в Twitter, то его за полдня научили всему плохому: расовой нетерпимости, всем видам буллинга, и его пришлось закрыть. Более страшный пример: ИИ уже активно применяется в области вооружений. «Он может и самостоятельно принимать решения, и дистанционно давать возможность действовать людям. Конечно, модель самостоятельного принятия решений — самая опасная история. Всегда есть риск, что у кого-то руки зачешутся начать полномасштабные боевые действия. Поэтому, конечно, надо ограничивать применение этой технологии в военной сфере», — продолжает Евгений Кузнецов.

Широкое внедрение ИИ также глобально изменит рынок труда. По словам эксперта, не стоит вопрос о том, появятся ли роботы, более эффективные, чем люди. Они появятся. А вот куда денутся люди — это острейший вопрос. Впервые в истории с рынка труда будут вымываться квалифицированные образованные кадры. И перестанет действовать социальный лифт.

Пример — автоматизация работы со словом. В 2019 году компания OpenAI представила платформу GPT-2. В нее достаточно загрузить кусочек текста, и она напишет продолжение. «И получилось весьма читаемо. Думаю, что с помощью GPT-2 вполне можно написать продолжение текста Пелевина, в течение пары лет технологии дойдут до того, что ИИ сможет писать романы», — говорит г-н Шнуренко.

Более того, машина, используя алгоритмы, сможет написать сюжет, который будет наиболее востребованным у читателя в этом сезоне. То есть уже в ближайшее время труд писателей будет все меньше и меньше востребован. Редакторы для машин-писателей потребуются лишь на первых порах. «Думаю, что лет через пять машины смогут строчить дешевые романы как из пулемета. Зафиксируется на рынке спрос на какой-то сюжет, ИИ напишет книгу за час. Все это будет делаться в интересах издательств, а целью умных алгоритмов станет создание самой продаваемой книги», — предсказывает эксперт.

Машины возьмут на себя массовую литературу, но нужны будут читатели, способные ее оценить. Будут организованы фабрики читателей, читающих эти тексты. А данные эмоциональной реакции будут собираться с помощью специального шлема или даже чипа, вживленного в мозг. По мере распространения технологий такой шлем появится у большинства читателей-пользователей. В результате книга станет саморедактируемой. Правда, может возникнуть и парадоксальная ситуация, когда писатели понадобятся уже самому ИИ, поскольку он «питается» информацией.

«Я себе представляю писательские фермы, где авторов выращивают как овощи, предоставляя им наилучшие условия для творчества — чтобы они творили на лоне природы. И если алгоритмы создавали массовую литературу для рынка, руководствуясь экономическим императивом, то для сверхинтеллекта понадобится продукт более интересный, чем «Донцова». Он захочет настоящей литературы», — говорит г-н Шнуренко. И это пример только одной профессии. В результате с развитием ИИ человечество встанет перед необходимостью переобучения десятков, сотен миллионов людей. Получается, что роботы, а точнее их хозяева, вбивают клин между людьми, деля их на суперуспешных, суперобразованных, супербогатых и на всех остальных. Эта ситуация прекрасно проиллюстрирована в антиутопии Герберта Уэллса «Когда спящий проснется», где человечество разделилось на два подвида: потомков элиты элоев и потомков бедноты морлоков.

«Не буду пугать, но очень возможно, что различие между ними будет еще генетически закрепляться. Потому что редактирование генома тоже становится супермассовым продуктом. И с помощью редактирования генома можно увеличивать разницу в квалификации, компетенциях. Это будет происходить еще до роддома», — прогнозирует г-н Кузнецов.

В данной ситуации американский предприниматель Илон Маск предлагает свой рецепт, как выиграть конкуренцию у машин, — улучшать человека, встраивая ему чипы. Его компания Neuralink разрабатывает чипы, которые можно подключать к мозгу. Считается, что это даст человеку возможность быстрее думать, лучше запоминать, лучше принимать решения, интегрироваться с информационным облаком.

Но это еще не самый драматичный сценарий. Вообще-то, футурологи ожидают, что человечество ждет технологическая сингулярность. Так, профессор Оксфордского университета Ник Бостром считает, что как только ИИ приблизится по своим возможностям к мозгу человека, то сразу же его превзойдет. И не задерживаясь в этой точке, будет развиваться взрывным образом и очень скоро поставит под контроль ресурсы всей планеты.

«Скорости процессов и их результаты окажутся для нас совершенно непредсказуемыми. Мы и так сегодня живем в мире, который движется все быстрее, время сжимается, потому что машины помогают человеку. Но пока именно человек ставит задачи и принимает их результат. Но затем появятся области, где человек будет совсем исключен из принятия решений, и, в принципе, такая сфера уже появилась — это финансовый рынок, на нем сейчас роботы торгуют и в человеке особо не нуждаются. Но если дальше это будет происходить во многих областях и машины научатся ставить цели, выполнять какие-то действия для этого и оценивать результаты, то скорости возрастут тысячекратно. И мы не знаем, что при этом будет происходить, потому что все будет происходить слишком быстро», — рассуждает г-н Пивоваров. Человечество уверенным шагом вступает в «слепую зону».

С обществом это не обсуждается, потому как трудно устоять перед соблазном очень больших денег и власти. «В информационном обществе элите представился невиданный ранее шанс взять общество под контроль целиком, причем сделать это раз и навсегда. И, конечно, этот шанс используется для достижения собственных целей. Но сами эти цели, как я полагаю, принципиально расходятся с гуманистическими целями развития человеческой цивилизации в мире, ставшем по-настоящему глобальным», — считает Юрий Черный.

А есть ли альтернативный путь? Есть. «Но он более трудный и, главное, не обещает такой прибыли и такой концентрации власти в руках немногих. Мне очень нравится идея нового культурного ренессанса, высказанная основателем Всемирного экономического форума Клаусом Швабом. Он призывает взять на себя коллективную ответственность за будущее, и тогда новая технологическая эпоха может стать катализатором культурного ренессанса», — отмечает эксперт.

Евгений Кузнецов задается вопросом: люди вообще контролируют этот процесс? «Похоже, что нет. Потому что если Америка, Европа начнут сдерживать развитие ИИ, то Китай их обгонит. А если будут мешать Китаю, то Индия всех сделает. Джинн из бутылки вырвался, и люди делают это вынужденно в каком-то смысле», — резюмирует он.

Рисунок Владимира Буркина

Материал опубликован в печатном номере газеты «Культура» №3 (26 марта 2020 года)