Кто в доме хозяин?

На этот вопрос я, разумеется, ответа не имею, и вы тоже. Но подумать не вредно, только не на ночь. Кто принимает решение – я или мой мозг? У нас есть данные, что, похоже, решение принимает мозг. А моя роль здесь какая? Я лишь вместилище для этого монстра, что ли? И уже есть случаи в судебной практике, в частности, в Америке, когда подсудимый заявил, что это не он совершил преступление, что виноват его мозг.

И что с этим делать? Предположим, я прихожу в судебные инстанции и говорю: «У меня снимки мозга вот этих людей, и по ним видно, что они потенциальные убийцы». Потому что у нас есть база данных снимков мозгов реальных людей, и это всё очень похоже. Вот что с этим дальше делать? Этот человек никого не убил и, возможно, не убьёт никогда. Что, мы должны его в клетку посадить? А как презумпция невиновности? Короче говоря, эти мозговые вещи ставят тяжёлые вопросы. На них трудно отвечать.

Во Флориде машина-беспилотник сбила человека. Встаёт вопрос – кто виноват? Владелец, изготовитель или тот, кто её придумал? Что касается искусственного интеллекта, правовая сторона вопроса никак не проработана. Это вопрос мирового масштаба. Не хочу пугать, но хочу, чтобы вы понимали, что такие опасности есть.

Компьютер много лет назад обыграл в шахматы Каспарова. Тогда все содрогнулись – вот теперь мы приехали! Лучший мозг планеты железяка обыгрывает! Когда очнулись, стали анализировать, решили, что всё не так страшно. Потому что это нечестная игра. Искусственная система обладает огромной памятью, более того, она была натренирована, я бы сказала, надрессирована на конкретного игрока. Эта система знала каждый ход Каспарова с того момента, как он взял в руки пешку. Она знала про него больше, чем он сам про себя. Кроме того, она не нервничает, она не устаёт и ни у какого человека нет такой памяти.

Потом решили, что шахматы – это сложная история, но это не более чем перебор операций. Машина делает это лучше. Но машина не возьмёт игру го (логическая настольная игра с глубоким стратегическим содержанием, где требуется интуиция – прим.) потому, что там это не просто перебор операций, потому что это не алгоритмы. Ну что, взяла – компьютерная программа AlphaGo обыграла Ли Седоля – одного из лучших игроков в эту игру в мире. Но дело не в игре. Дело в мощи этих устройств. Они наступают на нас. Они делают вещи некомпьютерного типа. Игра в го – это то, во что они не должны лезть. Сейчас созданы системы, которые за 24 часа самообучаются играть и в шахматы, и в го до такого уровня, что обыгрывают любого человека.

Но я полагала, что они точно не должны взять покер. Там есть блеф, там противники не видят карт друг друга. Смогли. Программа Libratus обыграла четырёх лучших игроков мира в покер. Она с ними играла три недели, выиграла по фишкам почти два миллиона. Деньги, конечно, никто ей не дал – кто их даст железяке? Их отправили на благотворительность. Но факт есть факт. Это уж совсем наша территория. Что делать?

Нечеловекомерный мир

В какой мир мы попали? Он текучий – нет ничего стабильного, он прозрачный – нет ничего, что вы могли бы скрыть. Это очень нестабильный мир, он сверхбыстрый. Есть такой термин, жалею, что этот термин не я придумала – мир нечеловекомерен. В этих устройствах счёт идёт на наносекунды. Живое в таких измерениях не живёт. Это значит, что если будет приниматься решение о том, нажать на кнопочку или нет, это может произойти с такой скоростью, что мы даже не узнаем. Мы играем с огнём! И ещё с каким огнём! Этот мир мерцает, он гибридный. Это другой мир, это цивилизационный слом, имеющий глобальное планетарное значение. Мир изменился и дальше меняется необратимо, никакого хода назад нет.

Уже идёт самоорганизация сетей. Сети сами начинают гулять. Они закручиваются. Мы вообще всем этим управляем? Кроме, как возьмём и всё это выключим? Но если искусственный интеллект реализуется, то мы и не выключим его, потому что он сильнее, чем мы. Можете не сомневаться, он позаботится, чтобы его не выключили. Кроме того, есть вопрос, который обсуждают серьёзные юристы и учёные. Если появился искусственный интеллект, тогда он личность, вы не имеете права его стереть, потому что это убийство.

У нас будет выбор – свобода или безопасность. Но мы уже не сможем без них обойтись. Это уже другая цивилизация. И у компьютерных технологий есть безусловные плюсы – я не говорю о них, они очевидны. Я говорю о минусах, чтобы увидеть опасность.