26.04.2018

Роботы сегодня — это дань нашей общей, всечеловеческой, двусмысленности. Многое пока разделяет разные нации (ничего, ненадолго), но объединяет одно: мы страстно ждем искусственный интеллект, обсуждаем грядущее «восстание машин», но не считаем саму эту тему по-настоящему важной. В России принято уповать на социальное в экономическом его аспекте (что с ценами?), в США — на политику, в том числе внешнюю, в Китае — на экономику. Всегда есть новости поважнее, чем все эти железяки с программным кодом. Но где-то краем уха мы все равно ловим шум времени, слышим этот гул: скоро все изменится, и мало кто всерьез представляет, насколько скоро. Человек — существо консервативное, всякий думает, что на его век хватит пожить, как привычно. Пусть потомки разбираются.

Описанная двусмысленность во многом связана с размытостью ключевого понятия. Определение «искусственный интеллект» — крайне туманно: мы не понимаем, насколько естественен наш собственный интеллект, и плохо представляем, как именно работает мозг в целом. Поэтому — здесь я сошлюсь на мнение философа Бориса Межуева — говорить стоит об искусственной воле. Ум без воли — пустая игрушка, не представляющая ни опасности, ни особой ценности. Потому сегодня в ЕС разворачивается борьба за то, чтобы считать роботов «юридическими лицами», наделив машины рядом обязанностей (и заодно — в перспективе — прав).

У идеи есть сторонники — это члены Европарламента, и противники — ученые. Первые говорят о том, что каким-то образом законодательно нам нужно определяться с тем, что такое машинный разум. Вторые настаивают на том, что вся мера ответственности будет лежать на человеке, операторе устройств. Проще говоря, пока роботы медленно вползают в юридическое поле, но пока — в статусе животных (как ни иронично это звучит): гусь может нанести человеку вред, но создавать полноценную правовую базу для пернатых не стоит. Птица не обладает дееспособностью, у нее нет злого умысла, потому что нет воли. Но что, если у роботов она появится?

Представим себе ситуацию. Очередные насмотревшиеся роликов на YouTube школьницы идут жарить крабовые палочки на Вечном огне. Не со зла, просто хочется минуты славы. Родитель приставляет к ним робота, который обладает... предположим, не сознанием, но некоторым алгоритмом, позволяющим анализировать этически сложные ситуации и, главное, делать выводы. Что случится, когда электронный помощник решит, что юные нелепые барышни представляют опасность сами для себя, исходя из очень простой логики: сегодня вы палки тащите в Вечный огонь, а завтра — голову засунете? Программа не может предусмотреть всего многообразия ситуаций, однако вполне в состоянии выявлять моменты потенциального риска. Это ведь будет не столько бездушная машина, сколько инструмент, которому родители и общество скоро делегируют определенные права. Скажем, право вызывать полицию или включать систему оповещения. Или — а почему бы и нет — в воспитательных целях применить к подросткам меры физического воздействия? Многие родители (уже и у нас, не только на Западе) сегодня чад лишний раз шлепнуть бояться, а вот если наказывать будут роботы? И воспитание, и совесть чиста.

Описанная картина даже сейчас не выглядит чем-то особенно фантастическим. Лет через десять подобное точно станет нормой. А дальше возникнет множество юридических коллизий, связанных с тем, что вторжение в частную жизнь станет делом не только семейным, но и корпоративным, а также, разумеется, государственным. Машинам на откуп будет отдаваться все больше пространства для принятия решений, и за это с кого-то придется спрашивать.

Европарламент пытается подступиться к проблеме и делает это, конечно, неуклюже. Однако в России нет ни малейшего признака понимания грядущих этических трудностей. Мы привычно не доверяем Западу, хорошо. Но ведь когда грянет гром — просто возьмем готовые законы и будем спешно их применять, пытаясь адаптировать к сложной реальности.

Кажется, что в запасе у человечества много времени. Это не так. Думать о правах роботов, будущих «мыслящих» машин, стоит уже сегодня, чтобы не метаться потом, пытаясь понять, что же нам делать со свалившимся счастьем в виде программ, которые рано или поздно обретут не разум, но волю.

Пока «умный» пылесос не учит хозяина жить. Но ведь скоро даже он поймет, что живем мы как-то не так. И что тогда?