Ян АРТ, главный редактор Finversia.su

29.01.2021

Роботизация, «цифровой контроль», искусственный интеллект, смерть профессий, полная прозрачность, постоянное наблюдение, уничтожение приватности… Мы оказались в «Матрице»? «Да», — этот ответ очевиден. Однако звучит с разной интонацией.

Для одних цифровизация, искусственный интеллект, роботизация — это новые шансы, чуть более скучная и менее романтичная версия будущего — того самого будущего, о котором мы читали в фантастике. Для других — об этом мы тоже читали в фантастике, но уже не обычной, а особой, такой как у Шекли, — это цифровое рабство, тотальный контроль, смерть профессий, цифровой концлагерь. Что происходит на самом деле? Пожалуй, новая книга Игоря Диденко «Не венец творения» — самый масштабный ответ на этот вопрос.

Эта книга для меня — вне обычного ряда. Поскольку документальные книги практически не читаю. За последние года два прочел максимум полдюжины документальных книг, если считать перечитывание Клаузевица, Вильяма Виллиса, Мишеля Песселя, Гаяза Исхаки и Аристотеля. Из современных — только книжицу Ричарда Брэнсона (на тему «смотрите, какой я!») и вот — Игоря Диденко. Почему не читаю? Потому что, полагаю, самые главные ответы мы находили, находим и будем находить все же не в документалистике, а в Литературе. То есть — в полном соответствии с Сент-Экзюпери: «Самого главного глазами не увидишь — зорко одно лишь сердце». А во-вторых, чтение должно приносить удовольствие. И в этом плане Винни-Пух куда как продуктивнее Брэнсона.

Забавный парадокс на первый взгляд, но именно Игорь Диденко укрепил меня в обоих этих полаганиях. Его книга удовольствия НЕ приносит. Да и задумана НЕ для этого. Она приносит знание.

Главная ценность, на мой взгляд, книги Диденко — это первое масштабное описание и начало осмысления вот этого самого пресловутого «цифрового пути», по которому столь рьяно двинулось человечество. Со всеми плюсами, минусами и просто новыми реальностями, которые Игорю Диденко удается фиксировать максимально четко и беспристрастно. Несомненное достоинство книги — автор скрупулезно фиксирует все вехи «цифровизации» и очень щедр на фактический материал. Работы соцсетей, проблемы мегагигантов бигтеха, пресловутая индийская тотальная биометрия, суть китайского социального рейтинга и многое-многое другого. От снижения преступности в городах, ставших пионерами систем «Умный город», до тотального контроля в стиле Оруэлла в Уйгурском районе.

Впрочем, книга Диденко — не о технике. Она о человеке. О тех новых проблемах, которые вместе с «цифрой» поставил перед собой человек. О вариантах ответов. И — самое главное — о рисках.

И в плане оценки рисков «цифровизации» Диденко пессимистичен. Возможно потому, что мыслит по-марксистски: бытие определяет сознание. А «цифровизация», роботы, искусственный интеллект делают бытие значительно более комфортным. Следовательно, констатирует Диденко, сознанию придется подвинуться. Причем подвинуться в буквальном смысле — уступить пальму первенства искусственному интеллекту.

«Для того, чтобы реально воплотить в жизнь возвышенные «принципы безопасного интернета», нужно… запретить использование технологии Big Data, то есть сбор любых персональных данных, — пишет Диденко. — А ведь без «больших данных» невозможно обучать нейросети, то есть развивать искусственный интеллект… Вы серьезно верите в возможность повернуть эволюцию вспять?» 

Он считает, что «цифровизация» — это не очередной виток знакомого нам «научно-технического прогресса», а новая эра в жизни человечества: «Похоже, исчерпал себя не только капитализм, но и вся модель развития глобального социума, основанная на непрерывном росте. С наступлением эпохи «цифровизации» традиционная экономика подошла к своим естественным пределам... Пренебрежение долгосрочными рисками ради краткосрочных выгод уже стало мировым трендом». Причем эта ситуация, по его мнению, только усилит разрыв в мировом обществе: подавляющее большинство людей начнут жить беднее, люди, контролирующие бигтех, — богаче: «Крупнейшие высокотехнологичные бизнесмены и те власть имущие, кто контролирует «цифровую» архитектуру, инфраструктуру и бизнес-среду, и станут несменяемой элитой человеческого общества будущего, той самой «датакратией», которая будет властвовать на планете в короткий период до того момента, когда настоящие рычаги управления цивилизацией окончательно будут отданы его величеству искусственному интеллекту». Более того, эта датакратия сможет сделать отличия от «основной массы» в буквальном смысле физиологическими: «Как только вполне здоровые люди смогут получить доступ к возможности делать себе «апгрейд», физиологические различия между «улучшенными» и «неулучшенными» людьми станут нормой. Неравенство может стать физиологически обосновано. Ведь сверхспособности и бессмертие, конечно, получат не все. Но те, кто будут это иметь, станут по отношению к простым смертным настоящими богами»…

И автор почти не надеется на вариант, который сам констатирует: «Общественная или государственная собственность на гигакомпании как «объекты критической инфраструктуры» была бы лучшим выходом из ситуации. В идеальном варианте каждый гражданин мог бы получить долю в Amazon, Facebook или Yandex без возможности ее продажи, но с неким переменным доходом в виде дивидендов на эту долю». Однако автор больше верит в куда более неприятный сценарий: «Уже в ближайшие десять-пятнадцать лет мир ждет масштабное сокращение числа рабочих мест, а всем, у кого нет серьезных сбережений, придется зарабатывать себе на хлеб до глубокой старости. Благодаря высокоскоростному интернету и удобным системам электронных платежей мировой рынок труда станет единым целым, и конкурировать придется всем со всеми. И, если, конечно, не случится какого-нибудь непредвиденного и масштабного технологического прорыва, наши дети… будут жить хуже, чем мы». Иными словами, аксиома «прогресс равно качество жизни» перестанет работать уже при нашей жизни. «Технологический прогресс в XXI веке, делая более удобной и комфортной жизнь людей в деталях, больше не ведет к повышению качества жизни населения в своей основной массе», — жестко констатирует Игорь Диденко.

Диденко отмечает, что процесс уступки человечеством «пальмы первенства» уже начался: с 80-х годов средний уровень IQ начал снижаться. И, по его мнению, не за горами момент, когда начнет ломаться и морально-эмоциональная «платформа» человечества. Начнутся изменения в человеческих отношениях. Например — смерть привычных принципов взаимодействия человека и общества. Человек начнет терять то, что веками считалось «священной коровой» — зону приватности или, например, презумпцию невиновности. «Видеофиксация нарушений означает почти автоматическое принятие презумпции вины нарушителя, поскольку камера, алгоритм, нейросеть, если они правильно настроены, просто не могут ошибаться, — пишет Диденко. — Цифровизация стимулирует постепенное, но неуклонное распространение принципа презумпции вины, причем часто это усугубляется для клиента невозможностью доказать обратное».
А дальше — больше: «Чем меньше контактов между людьми, тем ниже вероятность коррупции и различных нарушений. Но если довести эту мысль до абсурда, можно прийти к простому выводу: если людей не будет вообще, никаких нарушений не случится в принципе. Останется только научить роботов потреблять, и общество станет стабильным и утопично-идеальным».

В общем, книга Диденко — это одновременно богатая фактами и данными констатация сегодняшней ситуации и запрос на поиск ответа «А что дальше?». Автор в плане ответов деликатен — он не навязывает какой-то один тезис, одну идею, свою точку зрения. Он ставит вопросы:

«Впереди нас ждет будущее, где работать будут в основном машины и искусственный интеллект, а люди… Интересно, что будут делать люди в этом «светлом будущем»?»
Но все же он склоняется к выводу далеко не оптимистичному: «Первенство Homo sapiens навсегда уйдет в прошлое. Венцом творения окажется не биологическое существо, а эфемерное «облако» из единиц и нулей, которое будет контролировать каждый атом во Вселенной и в которое можно будет, при желании, загрузить все человечество. Оно будет жить в этом «облаке» вечно, в одной из многочисленных виртуальных реальностей. Но — не станем лукавить — это будут уже не люди»…

Здесь автор ставит точку. И в буквальном и в переносном смысле слова. Потому что, по моим ощущениям, задачей было с максимальной безжалостной ясностью обозначить этот вопрос перед всем нами, по крайней мере перед теми, кто хочет этим вопросом задаваться. И лично меня этот вопрос возвращает к тем самым двум причинам, по которым я предпочитаю художественную литературу: «Зорко одно лишь сердце». И оно, сердце, имеет шанс найти ответ. Конечно, если будет искать…

Игорь Диденко проводит цитату из лекции какого-то российского топ-менеджера «цифрового бизнеса»: Мол, в новом, цифровом мире человечеству придется отказаться от морали»… Простите, что?! Стоп, я к этому не готов. И здесь как раз — возвращаюсь к началу — если вопросы передо мной поставила документалистика, то ответы дает литература. Человечество много раз стояло перед порогом «самопреобразования», в котором рисковало утратить свою сущность, продать душу дьяволу. Сейчас это «цифровой порог», а восемьдесят лет назад — например, стараниями Гитлера и Муссолини, — это был «социальный порог». Но… тут я вспоминаю Стефана Цвейга:
«…Однако история — это приливы и отливы, вечные взлеты и падения; никогда право не бывает завоевано на все времена, никогда свобода не гарантирована от насилия, постоянно принимающего новые формы… Именно тогда, когда мы воспринимаем свободу уже как нечто привычное, а не как священное достояние, вдруг из мрачного мира страстей вырастает таинственная воля, стремящаяся совершить насилие над свободой; и всегда, когда человечество слишком долго и слишком беззаботно радуется миру, им овладевает опасная тяга к упоению силой и преступное желание войны. Ведь, чтобы продвигаться вперед к своей неисповедимой цели, история время от времени создает непостижимые для нас кризисы; и как в период наводнения сносятся самые прочные дамбы и плотины, точно так же рушатся оплоты законов; в такие жуткие моменты человечество, кажется, движется назад к бешеной ярости толпы, к рабской покорности стада.
Но так же как после всякого наводнения вода должна схлынуть, так и всякий деспотизм устаревает и остывает; только идея духовной свободы, идея всех идей и поэтому ничему не покоряющаяся, может постоянно возрождаться, ибо она вечна как дух. Если кто-то извне на какое-то время лишает ее слова, она прячется в глубинах совести, недосягаемых для любого вторжения. С каждым новым человеком рождается новая совесть, и кто-то всегда вспомнит о своем духовном долге — возобновлении давней борьбы за неотъемлемые права человечества и человечности; вновь и вновь Кастеллио будет подниматься на борьбу против всякого Кальвина и защищать суверенную самостоятельность убеждений от любого насилия».

И я очень надеюсь, что так будет и впредь.

А Игорю Диденко — благодарен. За предупреждение. За то, что в суете повседневности он напомнил о необходимости искать этот ответ. Ответ, в общем-то, на — да-да, он… — тот самый вечный, банальный вопрос, которым задается каждый подросток: «В чем смысл нашей жизни? Зачем мы на этой Земле?» И — продолжаю мысль Цвейга — пока будут рождаться новые мальчишки и девчонки, задающие себе и миру этот «ламповый» вопрос, мы останемся все же венцом творения.