Новая волна хайпа вокруг нейросетей заставила одних грустить о том, что искусственный интеллект может оставить их без работы, а других выступать в защиту AI и призывать к полному равенству между людьми и машинами. В сегодняшнем подкасте серии Flashback предлагаем вспомнить, что в 2018 году блокчейн-эксперт Максим Орловский рассказывал о страхах и тревогах, связанных с AI, и о том, как децентрализованная экономика позволит их преодолеть.
Блокчейн+AI в экономике
Блокчейн и искусственный интеллект кажутся, на первый взгляд, совершенно разными отраслями, но между ними существует значительная степень синергии, которая простирается от вопросов экономических до вопросов технологических.
Начнем с экономики. Говоря о ценностях блокчейна, обычно упоминают: устойчивость к цензуре, децентрализацию, многоагентность, приватность. Эти качества важны для создания открытого рынка, служащего основой для развития общества, для прогресса цивилизации и для того, чтобы эти цивилизация и общество были антихрупкими, устойчивыми к кризисам, вызовам, катастрофам.
Все, что применимо к человеческому обществу, конечно же, применимо не только к нему — это можно применить к любой экономике, и агентами экономики не обязательно являются люди. Уже несколько сотен лет экономика включает в себя не только частных агентов, но и юридические лица. Это не люди. Это организации, которые действуют независимо. Они — субъекты экономического процесса. Они способны существовать значительно дольше человека. Тем не менее, это никого не смущает, и никто не спрашивает: «Что будет, если организации победят и захватят человечество?» Вопрос сам по себе неуместен.
Не всегда можно увидеть аналогию с искусственным интеллектом, но, тем не менее, она имеет место. Ведь искусственный интеллект мы тоже можем рассматривать в качестве автономного субъекта экономической системы. Это может быть третья категория (после физических и юридических лиц) в рамках организации экономики. Взглянув на вопрос с такой стороны, мы увидим рынок, который включает разные типы агентов — неограниченный и не сведенный исключительно к людям.
Поскольку это рынок, в нем действуют те же экономические законы и в нем также возможна кооперация. И чем крупнее будет этот рынок, чем разнообразнее и многоагентнее он будет, тем более устойчивой и антихрупкой будет эта система. У одних категорий агентов не будет экономических стимулов и целесообразности враждовать с другими, потому что торговля — это всегда тот фактор, который останавливает и ограничивает войны, а не наоборот. Поэтому если мы в современной, глобальной экономике сможем создать искусственный интеллект при помощи многих достаточно полноценных и независимых автономных частей экономики, то мы сможем значительно снизить те риски, которые может представлять этот искусственный интеллект.
Открытость рынка в данных и алгоритмах позволит избежать централизации знаний об искусственном интеллекте и централизации владения технологиями искусственного интеллекта. Гораздо большая угроза будет тогда, когда правительства отдельных стран, например Китая или Соединенных Штатов Америки, или отдельные корпорации получат существенное преимущество и отрыв по своей технологической развитости в применении искусственного интеллекта в сравнении с другими участниками человеческой экономики. Именно это — наибольшая угроза, которую, наверное, может в себе нести искусственный интеллект. И для этого даже не требуется обладать искусственным интеллектом человеческого или сверхчеловеческого уровня. Достаточно иметь специализированные формы, заточенные, допустим, на военную деятельность или взлом систем противника. Что уже на сегодняшнем уровне развития технологий достигается достаточно просто: искусственный интеллект от DeepMind (это подразделение Google, AlphaZero) способен за четыре часа самообучения, не опираясь на историю формирования шахмат у людей, обыграть не только всех существующих гроссмейстеров, но и программы искусственного интеллекта, которые учились на «человеческом материале».
Это современный этап развития искусственного интеллекта. Если этот AI способен сам за четыре часа вывести настолько эффективные стратегии, которые далеко обходят все придуманное человечеством в шахматах за столетия, то, конечно, возможно создание форм искусственного интеллекта, которые будут взламывать компьютерные сети теми способами, которые хакеры даже не могут помыслить. Поэтому централизация владения подобными ноу-хау — это, наверное, наибольший вызов.
А открытый рынок и децентрализация, наличие конкуренции и параллельное развитие во многих направлениях искусственного интеллекта, — все эти факторы значительно снижают риски и глобальные вызовы, которые могут возникнуть. Вот здесь мы начинаем видеть, как децентрализация, открытый рынок, устойчивость к цензуре связаны с безопасностью общества по отношению к искусственному интеллекту.
Человеческий фактор
Когда мы приблизимся к тому этапу, когда AI начнет достигать уровня человеческого интеллекта, конечно же у него не должно быть стимула враждовать или воевать с человечеством.
Что может ему дать такой стимул? Цензура со стороны людей. Если у вас на шее удавка и вы это осознаете, ваше первое действие будет — уничтожить того, кто накинул вам на шею удавку до того, как он убил вас. Сам факт того, что человечество может контролировать искусственный интеллект, станет для него стимулом избавляться от контроля со стороны человечества. С другой стороны, если человечество выступает другим экономическим агентом и торговля с ним возможна независимо от каких-либо регуляций — для искусственного интеллекта нет стимулов враждовать. Наоборот — он не будет проводить различия между человеком и другим искусственным интеллектом так же, как мы не проводим идеологическое различие между человеком и организацией, компанией или корпорацией. Поэтому открытый рынок и те преимущества, которые могут дать открытому рынку криптоэкономические системы, служат ключом к снижению рисков, исходящих от искусственного интеллекта, и стимулом для развития самой технологии AI.
Мы должны понимать, что достижение человеческого уровня интеллекта — это исключительно сложная задача. На сегодняшний день мы даже не понимаем, что же есть человеческий интеллект и почему он отличается от более простых форм интеллекта. Мы не имеем формальных моделей, описывающих этот процесс. Поэтому очень сложно прогнозировать, когда и как это произойдет.
Однако все, что можно сказать — требуются какие-то качественные, значительные шаги вперед. Человеческий мозг по своей микроструктуре и устройству настолько превышает существующие процессоры и те мощности, на которых реализуется искусственный интеллект сегодня, что наверное нам предстоит еще очень долгий путь в области технологического совершенствования вычислительных систем, прежде чем мы сможем прийти к человеческому уровню интеллекта. И здесь, вполне вероятно, для зарождающихся и усложняющихся форм интеллекта экономически выгодны будут кооперация и слияние с человеческим интеллектом.
Возможно, искусственный интеллект будет развиваться не путем все большей и большей автономии, а путем интеграции в человеческий интеллект, расширяя его возможности. И футуролог Рэймонд Курцвейл, и Илон Маск замечали, что электронная почта и мобильные телефоны уже являются продолжением нашего с вами интеллекта, а не его конкурентами. Весьма вероятен сценарий, при котором человек будет сливаться с искусственным интеллектом, а не разделяться и враждовать. И, конечно же, открытая экономика будет способствовать этому.
Блокчейн+AI в области технологий
Говоря о синергии между блокчейном и искусственным интеллектом, нельзя обойти стороной технологическую часть вопроса. На мой взгляд, блокчейн в этом отношении неизбежно станет компонентом искусственного интеллекта — точно так же, как наша устная и письменная речь стали частью человеческой цивилизации. В чем аналогия между письменностью, речью и блокчейном? В первую очередь в том, что одно из главных отличий человека от животных состояло в способности передавать знания. Животные умеют изготавливать каменные орудия труда. Животные умеют искать многоходовые стратегии, которые позволяют им достигать результата: птицы способны прогнозировать и моделировать до семи шагов, предсказывая, как им получить питание в сложных лабиринтах, решая достаточно сложные логические задачи. Человек в этом плане не сильно превосходит животных.
В чем он действительно их превзошел — в том, что получил язык — инструмент передачи знаний и опыта между субъектами и между поколениями. Это и стало основой культуры и цивилизации. Вначале устная речь, а затем возможность фиксировать это письменно без утери знаний: в камне, на бумаге, в электронных носителях.
Блокчейн благодаря двум своим качествам — консенсусу и постоянству — способен передавать знания без их искажения. Когда агенты, и участники, и узлы сети на основе технологии блокчейн имеют доступ к информации, они все должны интерпретировать ее одинаково, как люди одинаково интерпретируют слова; и они все имеют доступ к неизменяемым записям информации. Таким образом, блокчейн может стать своего рода языком общения между искусственными интеллектами. В этом отношении здесь можно, конечно, уходить глубоко в дебри футуризма, но как минимум одна из технологических синергий между блокчейном и искусственным интеллектом, скорее всего, будет лежать в такой плоскости.
Искусственный интеллект в экономике будущего
Можно привести несколько примеров, но одним из наиболее очевидных и простых будет вариант с автономным транспортом и дронами-курьерами. Представим, что автономные самоуправляющиеся машины или дроны могут быть экономическими агентами. Они имеют право собственности и право распоряжаться деньгами, которые получают за транспортные услуги.
Допустим, используя смарт-контракты, даже не обладая общим искусственным интеллектом, эти автономные агенты могут заказывать апгрейды своей версии. Производители этих апгрейдов будут конкурировать между собой, а у автономных машин будет возможность выбора более экономически целесообразных способов приобретения новых версий программного обеспечения. Так мы получим открытый рынок, где большей частью агентов станут не люди — так же, как сегодня на рынке большей частью агентов являются юридические лица. И этот рынок обеспечит рост мировой экономики, потому что объем экономики — это объем торговых операций в системе. Чем больше агентов и операций между ними, тем больше, соответственно, объемы экономики.
Когда у нас возникают миллионы и миллиарды устройств, которые в состоянии совершать торговые операции: холодильники — заказывать еду, дроны — доставлять пиццу, автономные автомобили — перевозить людей и так далее — мы получаем значительное увеличение объема мировой экономики и ее рост. Поэтому роботизация и искусственный интеллект создают скорее не угрозу мировой экономике, а способ ее роста, подобно тому как это сделала автоматизация в эпоху промышленной революции.