Евгений Кузнецов, университет Singularity: «У всех современных технологических компаний есть сверхидея для человечества»

Елена СЕРДЕЧНОВА

28.08.2020

Рисунок: Владимир Буркин.


Постсовременность — непростое время для жизни. Вопросов — много, ответов — мало, будущее — пугает. Хорошо бы в этой ситуации иметь компас — идеи, которые помогут сориентироваться в мире. «Культура» поговорила с представителем университета Singularity из Кремниевой долины Евгением Кузнецовым. Он рассказал, какими идеями руководствуются крупнейшие технологические компании, продвигая свои продукты, и о том, что новая религия будущего появится как синтез ответов на вопросы: что такое бесконечно живущий человек, что такое человек-роботическое взаимодействие и что такое равенство и взаимопроникновение всех культур.

— Есть ли у крупных технологических корпораций мировоззренческие концепции, которые определяют их деятельность?

— У всех современных технологических компаний, особенно у тех, которые выросли из стартапов, есть сверхидея. Это фундаментальное свойство стартап-культуры. Оно предполагает, что у предпринимателя должно быть глобальное видение, если оно отсутствует, то ему не будут доверять. Поэтому практически все новые сверхкорпорации типа Google и все технологические стартапы имеют миссию — великую сверхцель. И вектор этой миссии всегда глобальный.

— Что это значит?

— Я имею в виду характеристику масштаба. Это значит, что компании занимаются действительно глобальными вещами, хотят значительных изменений для подавляющего числа жителей планеты. Они разрабатывают технологии, которые облегчают доступ к информации, продуктам, другим благам. Например, знаменитая история Илона Маска, связанная с переселением на Марс, как способом разгрузить планету, сделать дополнительный путь развития для человечества. Или история с Джеффом Безосом, вкладывающим миллиард долларов в год в разработку ракет, которые будут вывозить все опасные производства в космос.

— А есть у миссии свои идеологи?

— Есть идейные авторитеты, тот же Рэймонд Курцвейл (создатель систем распознавания речи и футуролог. — «Культура»). Они предлагают привлекательную картинку общества всеобщего благоденствия, которое обеспечат технологии. Но нельзя сказать, что это религиозного масштаба лидеры, они простые люди: работают, делают свои проекты. Это, скорее, некое комьюнити, которое живет определенным образом и ведет постоянный диалог. К примеру, есть довольно много людей, которые верят в искусственный интеллект и хотят приблизить ситуацию, когда появится искусственный сверхинтеллект и возникнет возможность трансфера человеческого сознания в компьютер. Есть те, кто не согласен с таким подходом и видит в искусственном сверхинтеллекте огромную опасность, поэтому делает ставку на интеграцию человека и машины, которая усилит способности человека.

— Немного непонятно, чем отличаются подходы.

— Они отличаются довольно сильно, потому что в первом — сверхинтеллект самодостаточен и может быть равноправным участником общественного развития, как и человек, а Маск, и не только он, опасается, что в этом случае искусственный интеллект быстро вырвется из-под контроля и человек окажется в незавидном положении.

— То есть вера в технологии фактически заняла то место, которое прежде занимали идеологии? Если рассматривать их под таким углом, как они меняют наше общество? Например, сокращают разрыв между богатыми и бедными или нет?

— К сожалению, нет. Исследования показывают, что с развитием технологий разрыв между богатыми и бедными, напротив, растет. Половина богатства мира в руках 26 человек, значительная часть получила это богатство совсем недавно, за счет новых технологий. Сейчас речь идет о том, способен ли капитализм обеспечить устойчивое развитие. Именно поэтому начались левацкие выступления в Америке, а демократы начинают строить социализм.

— То есть формируются новые правила игры?

— Да. И при этом роль государства будет усиливаться, чтобы сдержать кризисные явления. Но это временно, связано с вхождением в «шторм». Думаю, что вслед за этим начнется формирование новой общественной модели. Потому что крупнейшие корпорации хотят по-своему заниматься регулированием глобального развития.

— Если произойдет повсеместное внедрение искусственного интеллекта и массовая роботизация, это изменит тот мир, который нам знаком?

— Это на самом деле краеугольный вопрос сейчас, здесь сталкиваются интересы бизнеса и государства. Бизнесу выгодно выходить на максимально роботизированные платформы, безработица же ложится на общество. И сейчас идет большая дискуссия, как регулировать это соотношение, кто должен брать на себя ответственность за социализацию и трудоустройство людей, потерявших работу. Есть предположение, что ситуацию выправит безусловный доход — выплата, которая будет идти всем, независимо от того, работает человек или не работает. Некая сумма, на которую можно будет, в принципе, жить. В целом же рынок труда претерпит сильные изменения. Половина рабочих мест будет роботизирована, соответственно, большая армия людей будет нуждаться в переобучении. Это, кстати, еще одна причина усиления государства, потому что именно оно будет вынуждено решать эти проблемы.

— А какие конкретно проблемы?

— Возможны два сценария. Первый, когда совершенные алгоритмы для решения рутинных работ приведут к тому, что какая-то часть профессий исчезнет, как исчезли машинистки. Но сказать, что это было катастрофой для общества, нельзя. Периодическая замена профессий неизбежна. Это мягкий сценарий. Второй сценарий более жесткий. Роботы будут очень сильно эволюционировать и заменять людей в большинстве профессий. Это, конечно, очень опасный сценарий, потому что возникает вопрос: а что делать людям? Какой сценарий будет реализован, станет понятно в ближайшие десять лет.

— А у технологических компаний есть понимание, что за какую-то черту опасно заходить в своих глобальных проектах для человечества? Они ограничены какими-то этическими рамками или нет?

— На эти вопросы общество не выработало ответов, и в данный момент ограничителей нет. Есть небольшое количество сфер, развитие которых сдерживается. Например, клонирование, которое сейчас фактически запрещено, и редактирование человеческого генома. А вот все, что касается роботизации, тут какой-то позиции нет. Самый наглядный пример — нет даже консенсуса относительно запрета военных роботов. С одной стороны, все понимают, что это опасно — брать роботов на вооружение. С другой стороны, у всех государств чешутся руки попробовать. Это позволяет компаниям не думать о последствиях и просто действовать. Мы проходили это в прошлом, когда была индустриализация. Огромное количество населения меняло свой образ жизни, вынуждено было переезжать из деревни в город, что приводило к очень большим социальным потрясениям. Но сдержать прогресс никто не мог, опасаясь проиграть конкуренцию более развитым индустриальным странам. Сейчас драйвером технологического развития является конкуренция между Америкой и Китаем. И если в США и Европе редактирование человеческого генома ограничивается, то китайцы это делают подпольно и вырываются вперед. 

— Как будет выглядеть массовое генетическое редактирование для обычного человека?

— Первое: возможность родить здорового ребенка людям с генетическими заболеваниями. Сейчас это делают, перебирая эмбрионы, выбирая генетически «чистый». Так себе практика, с точки зрения этики. Редактирование даст возможность убрать все гены, связанные с болезнью. Второе — можно корректировать определенные участки генома у взрослых, избавляя от болезни, увеличивая продолжительность жизни. Третье — генетическая терапия онкологии — это космически дорогая технология, но она работает. 

Я перечислил очевидные плюсы, но возможности редактирования человеческого генома этим не ограничиваются. Например, существует возможность спроектировать ребенка. Сделать его когнитивные функции более развитыми, изменить цвет глаз и длину ног. Фактически это евгеника 2:0. Получается, что появляется возможность управлять генотипом людей. И, конечно, она вызывает огромное количество вопросов, как этических, так и научных. Например, как редактирование генома повлияет на человеческую эволюцию.

— Мне кажется, что там, где мы говорим об этике, мы говорим на самом деле о природных механизмах естественного отбора. Это правила биологической безопасности.

— В том числе. Но надо отдавать себе отчет, мы уже вмешиваемся в эти механизмы. Например, мы лечим людей, которые должны были умереть. Так что уже сейчас человеческий вид регулируется как раз таки этикой.

— В истории человечества уже были периоды, когда технологическое развитие совершало масштабный скачок. 

— Такие периоды действительно были, и именно появление новых технологий полностью ломало цивилизацию. Например, катастрофа бронзового века, когда фактически сформировалось глобальное человечество — торговля шла от Индии до Британии, был единый торговый язык. Стабильность конструкции поддерживалась за счет ограниченного количество олова, страны-лидеры поддерживали его оборот. Так продолжалось почти тысячелетие, пока не появилось железо. Более бедные народы с железным оружием могли бросить вызов великим империям и разрушить их. Затем почти тысячелетие длились темные века.

— Когда меняется строй или на смену империи приходят варвары, то появляется и новая религия. Какая-то квазирелигиозная система может появиться сейчас, если произойдет технологический скачок?

— Все начинается с появления новых технологий, происходит изменение методов управления. Потом идет смена биологического и культурного «слоя». Люди сначала создают возможности, потом они учатся управлять этими возможностями, а потом эти возможности начинают уже менять людей и формировать новую реальность. Мы пока живем в начале первой фазы, новые технологии, искусственный интеллект, генное редактирование, они только разворачиваются, полного объема и полного масштаба эти технологии еще не увидели. С течением времени, действительно, должна прийти какая-то новая культурная и идеологическая парадигма.

Я думаю, что здесь будет происходить то же, что происходит в технологиях управления: децентрализация и переход к распределенным сетевым формам. Мы будем уходить от иерархически организованных религий и приходить к религиозным идеологическим форматам, которые создаются самими людьми в процессах ежедневных коммуникаций и поддерживаются за счет сетевых процессов. Эти феномены создают новую реальность. В ней дистрибуция знаний и дистрибуция веры перестают работать, люди начинают доверять таким же, как они, а не авторитетам. Будут формироваться устойчивые сетевые мнения.

— Как фейк-ньюс?

— Именно. Это сейчас очень актуальная проблема, когда большое количество людей может запросто убедить себя и других в существовании какого-то явления, например, что Земля — плоская. Это такой сетевой феномен, который является паразитическим, но не всегда деструктивным. Зависит это от комьюнити. Продвигает оно позитивные ценности — вам повезло, деструктивные — добро пожаловать в ад. Сейчас в США формируется глобальная ревизия ценностей в русле антирасистской идеологии. Это тоже работает как сетевой феномен, тысячи кейсов, как кого-то лишают званий, кого-то выгоняют из университета, и все это действует не как политическая сила, а как толпа, организованная через Сеть. Она очень быстро накидывается на ту цель, которая кажется ей противником.

— Вопрос, так ли хороша отсутствующая иерархия? Нет иерархии, и какое-то безумие, хаос.

— Новая реальность наступила, мы ничего не можем поделать. Так работают сетевые правила. Тут вопрос: сетевая организация может прийти к позитивному развитию или она неизбежно свалится в хаос? Все надеются, что они — саморегулирующие механизмы. Но пока мы видим, скорее, вирусы, которые поражают человечество и ведут к очень патологическим последствиям. Это тревожная история, потому что никто не знает ответа, а просто выключить компьютер не получится.

— Ну все-таки вы ответили про форму. А по содержанию, что это будет за религия, какие, например, у нее будут представления о загробном мире, что собой будет представлять божественное, какие этические нормы?

— Я не пророк, поэтому не готов ответить на эти вопросы. Могу только предположить, что мы вступаем в период осмысления совершенно нового места человека в мире. Начнем с того, что мы теоретически приближаемся к возможности бессмертия или достаточно радикального продления жизни. Что такое общество, в котором человек проживает две, три, четыре жизни, а не 20-30 лет карьеры. Что будет происходить с молодежью?

— Она не нужна тогда, зачем молодежь какая-то?

— Впервые в истории человечества религия появится при таких условиях. Все предыдущие религиозные системы возникали в мире, где люди жили недолго, смерть была очень близкой, поэтому надо было быстро ответить, зачем я живу, болею, мучаюсь. Ради чего? А сейчас появляется перспектива, что, в принципе, в земной жизни можно устроиться надолго. Это радикально меняет картину мира. Это первая вводная. Вторая — появляется мир железных слуг-роботов, которые облегчают человеку жизнь, но могут в какой-то момент потребовать субъектность. Но готовы ли мы к этому? Что такое личность? Может ли быть ею робот? Может ли он быть субъектом права? Вот произошла авария с беспилотным автомобилем, кто будет отвечать?

— Мне кажется, тот, кто его разрабатывал, и тот, кто на этом деньги зарабатывал, тот пускай и отвечает.

— Тот, кто разрабатывал, быстренько объяснит, что все работало хорошо до тех пор, пока кошка не выпрыгнула. Робот — это самообучающаяся система, он рано или поздно обособится от своих создателей. Поэтому он, несомненно, станет субъектом права, и отвечать будет именно он. Третья вводная — у человечества сейчас длинная стадия размежевания. Но она закончится, и начнется стадия интеграции глобальной. Будет такое глобальное человечество — мультикультурное, мультиобщественное. Хотите жить людоедами — пожалуйста, это же просто ваша культурная особенность. Сейчас уже и до этого договариваются. Возникает переоценка этических принципов иудео-христианской цивилизации.

И это очень серьезный вызов, прогресс перестает принадлежать тем, кто его осуществлял. Все страны начинают требовать равного доступа к нему — соответственно, имеют полное право жить так, как они хотят. Поэтому новая религия появится как синтез ответа на эти вопросы: как жить, что такое бесконечно живущий человек, что такое человек — роботическое взаимодействие и что такое равенство и взаимопроникновение всех культур.

— Познавать мир будут машины, и познавать лучше, чем человек, дети будут не нужны, человек будет практически бессмертен, зачем жить?

— Это и есть набор вопросов, на который сейчас нет внятного ответа и вокруг которого вся проблематика и вьется. Мы видим эволюционное развитие, которое делает человека постепенно все более праздным. Историки считают, у человечества был период, когда оно тратило не так много усилий на добывание пищи. Когда началась эра земледелия, количество труда резко выросло. Но оно снижается. И сегодня праздность — скорее, баланс между работой, стрессом и отдыхом, творческим самовыражением. Люди, которым удается его соблюдать, живут дольше. И появляется новая этика, новые ценности. Миллениалы уже не хотят работать по 20 часов в день, они хотят сейчас жить счастливо.

Если смотреть на будущее объективно, то снижение доли труда в человеческой жизни к катастрофе не приведет. Просто досуг, хобби, общение будут играть все большую роль.

— Многие ученые считают, что у человеческого организма есть предел возраста — 120-130 лет. И этот предел не перешагнуть никогда. Как мы можем говорить о бессмертии?

— Это тоже гипотеза, что 120 лет предел, а дальше — разрушение мозга. Сейчас находят один за другим клеточные механизмы старения, они поддаются воздействию. Другое дело, что биохимический ансамбль человека настолько сложен, что совершенно непонятно, к чему это приведет. Например, сегодня только читал о Рапамицине — лекарстве против старения, оказывается, оно вызывает мозговые расстройства. То есть жить будешь долго, но рассудок потеряешь. Но это не отменяет саму идею продолжительной жизни. На самом деле современная медицина, даже без каких-то чудесных вещей, способна продлить жизнь. Поэтому до 120 лет мы дойдем даже без специальных ухищрений. А уж больше — только с помощью ученых.

— Все 7 миллиардов жителей Земли — дойдут или нет? 

— Я абсолютно уверен, что нет, потому что для того, чтобы жить долго, нужно использовать множество инструментов: и генетических, и специальных лекарств, а самое главное — вести правильный образ жизни. Это доступно гораздо меньшему количеству людей, чем пресловутый золотой миллиард.

— Получается, это не для нас?

— Вполне возможно, что и в России можно будет организовать эти технологии. Но это потребует трансформации системы здравоохранения. Самый простой пример: в Китае и в Америке буквально сотни, если не тысячи лабораторий занимаются редактированием генома, и, соответственно, как только будут нащупаны устойчивые, надежные, этичные методы, то проблем масштабировать их не будет. В России таких лабораторий, дай Бог, десять. Если завтра кто-то скажет, что научились лечить рак методом генного редактирования, то в Китае и США это за год произойдет, а в России?

— Я слышала, у вас есть три сценария возможного развития на ближайшие 20 лет. Не могли бы их озвучить?

— Первый сценарий — это общество всеобщего благополучия. Технологии развиваются, блага — увеличиваются, человечество двигается вперед, к светлому будущему. Еще лет пять назад этот сценарий казался очень вероятным для большинства стран. Второй сценарий — это рефлексия на реальность, которая нас окружает. Он предполагает неравномерность технологического и социального развития, которое будет приводить все к большим рискам. Поэтому государства будут вынуждены брать эти сферы под контроль, ограничивая и управляя научно-технологическим развитием. Этот сценарий я назвал «инквизиция». Мы сейчас начинаем двигаться именно по нему. Он предполагает новую холодную войну между крупнейшими странами. С одной стороны, возможные техногенные катастрофы предвосхищаются и купируются. С другой — тормозится развитие. Ну и третий сценарий — новые технологии вызывают деструктивные процессы, которые разрушают ведущие страны и позволяют аутсайдерам занять их место.

— Аутсайдерам или роботам?

— Государствам-аутсайдерам, потому что роботы вряд ли смогут это сделать. Наиболее вероятный сценарий, естественно, второй. Поэтому думаю, что нас ждет история глобальной конкуренции. Но через 20–30 лет с неизбежностью человечество совершит очередной технологический рывок, который все равно кардинально изменит нашу жизнь.

Материал опубликован в № 7 газеты «Культура» от 30 июля 2020 года в рамках темы номера «Кто придумает наше будущее?»

Фото на анонсе: www.mozgovoyshturm.ru; рисунки: Владимир Буркин.