Бернар Стиглер: «Искусственный интеллект — это искусственная глупость»

В новой рубрике Кольты «На рубеже», сделанной при поддержке представительства ЕС в России, мы будем публиковать фундаментальные разговоры с самыми влиятельными мыслителями Европы.

Все началось с интервью с Лучано Флориди, который считается создателем философии информации.

На очереди — Бернар Стиглер, современный французский философ, известный своей оригинальной интерпретацией цифровых технологий и нетипичной для академического ученого биографией. В молодости Стиглер был осужден за вооруженное ограбление банка и провел несколько лет в тюрьме, где всерьез заинтересовался феноменологией. После выхода на свободу стал сотрудничать с легендарным французским философом Жаком Деррида, а в 1994 году опубликовал свою ключевую работу: первый том трактата «Техника и время». В этой книге Стиглер заявил, что человек, время, память и история возникают как таковые лишь с освоением первых технологий (камня, огня, письменности и далее по списку — вплоть до искусственного интеллекта и виртуальной реальности). Стиглер занимается не только теоретическим, но и практическим осмыслением влияния дигитализации на развитие общества. Он возглавляет Институт по исследованиям и инновациям парижского Центра Помпиду. Со Стиглером поговорили Арнольд Хачатуров и Сергей Машуков.

— Одна из центральных идей вашей философии состоит в том, что человек всегда был техническим существом. Техника — это не просто материальная надстройка к человеческой природе, а нечто фундаментальное, определяющее наш опыт пребывания в этом мире. Сегодня образ киборга, оснащенного различными техническими «протезами», широко распространен как в философии, так и в массовой культуре. Но мало кто использует его так же ретроспективно, по отношению ко всей человеческой истории, как это делаете вы. Не стирает ли такой подход все различия между первобытным человеком, создающим примитивные орудия труда, и современным «миллениалом», который проводит значительную часть жизни в интеракции с гаджетами?

— Сегодняшние процессы технизации, усиления человека посредством новых устройств, таких, как смартфоны, ноутбуки или любые другие «протезы», — это продолжение процессов, которые начались три миллиона лет назад. В этом отношении здесь действительно нет ничего нового. Новизна есть, во-первых, в ускорении этих процессов. Во-вторых, посредством этого ускорения происходит то, что сейчас называют разрывом. Разрыв означает, что социальные институты, отношения между людьми и знание больше не успевают за логикой эволюции технологий. В результате технологии развиваются в отсутствие необходимого знания о них и критической способности решать, делать выбор.

К примеру, нам всем приходится адаптироваться к смартфонам. У моих детей есть смартфоны, как и у всех детей в их школе. И в некотором смысле смартфоны обходят меня в воспитании моих детей — через маркетинг, видеоигры, социальные сети и т.д. Происходит «короткое замыкание» общества, в частности, в отношениях между поколениями и в процессе передачи знаний, который замещается алгоритмами. При этом алгоритмы работают с вероятностями, как, например, цепь Маркова. Они усредняют поведение и стимулируют реактивные «стадные» действия. И ровно это нас оглупляет — не только, скажем, Дональда Трампа, но и меня самого. Мы все находимся в ситуации, когда мы вынуждены подстраиваться под поведение общественности в медиа. И это становится очень опасным.

— В чем источник этой новой глупости? Разве предыдущие исторические эпохи с ней не сталкивались?

— Прежде всего, подчеркну, что это глупость, которая относится ко всем людям. Это не характеристика отдельной части общества. Человечество в целом все время регрессирует в сторону глупости. У Ницше это называется реактивностью: например, если вам причиняют вред, то вы наносите его в ответ, чтобы избавить себя от страданий. Например, у вас конфликт с боссом, но вы не можете ему ответить тем же. И, когда вы приходите домой, вы вымещаете проблемы на жене или детях. Это типичная для глупости реакция. Христианство выдвинуло тезис о прерывании этой цепочки. Я не христианин и не сторонник любых других религий, но я думаю, что в идее прерывания есть свой смысл. Она могла бы сделать нас разумнее.

Под разумностью я имею в виду то, как это слово понималось в XVIII веке: то есть не только способность к мышлению, но и способность жить в обществе. Глупость довольно точно описана у Аристотеля и Сократа, которые говорят, что мы мыслим только урывками, непостоянно. Иногда мы в состоянии мыслить и производить то, что в греческом называется «ноэзис» (νόησις) — «мышление». Это наша способность поставить самих себя под вопрос, обращаясь к вопросу об истине: переосмыслить себя, узнать новое, изменить свой опыт, особенно негативный. Но, как подчеркивают Аристотель и Сократ, это непостоянный процесс. Только Бог может оставаться в этом состоянии всегда.

Поэтому глупость — это наша судьба. Мы не можем избежать ее вовсе, хотя, конечно, мы пытаемся стать разумнее. Если вы почитаете, например, то, что вы писали или говорили 10 лет назад, вам покажется это глупым, потому что вы не обладали на тот момент необходимым знанием. Делая ошибки, мы учимся на опыте, а это и есть мышление. Жиль Делёз называл такую возможность трансформации наших изначальных характеристик, наших слабостей в новые возможности квазикаузальностью.

— Если современная техника не устраняет человека полностью, то, по крайней мере, делает его крайне зависимым, лишая некогда базовых для жизни знаний и навыков. Вы называете этот процесс пролетаризацией, но здесь отчуждению подвергается не только труд, но и все жизненные сферы.

— Вопрос в том, что именно представляет собой сегодняшняя глупость. Потому что, как говорил Хайдеггер, бывают эпохи знания, эпохи бытия и эпохи глупости. Глупость сегодня — совершенно не то же самое, чем она была в Древней Греции, в Древнем Риме или в Средневековье. Сегодня быть глупым означает быть пролетаризированным. Сейчас [в более широком масштабе] происходит то, что Маркс и Энгельс называли пролетаризацией рабочих, когда рабочие перестают быть ими и становятся пролетариями. Сегодня мы используем технику, которая сокращает наше знание о мире. Мы думаем, что используем смартфон, но в реальности это он использует нас. Мы служим смартфонам, мы становимся их слугами. Процесс оглупления, если можно так выразиться, осуществляется путем этой пролетаризации. Чтобы изменить ситуацию, надо найти другой подход к технике.

Глупость всегда увеличивает энтропию, то есть разрушение и ослабление мира. Интеллект, создание чего-то нового, производит, напротив, негэнтропию (негативная энтропия — способность систем подавлять энтропию через взаимодействие с внешней средой. — Ред.). Это обратный процесс, возможность оказать сопротивление энтропии и антропоцену (эпохе чрезмерного влияния человеческой активности на экосистему Земли. — Ред.). Эра антропоцена ставит под угрозу всю биосферу, так что вопрос глупости сегодня — это вопрос о космосе. Мы можем уничтожить нашей глупостью биосферу или спасти ее, если мы трансформируем свою глупость в мудрость, опыт и публичное обсуждение. Это очень сложные вопросы: например, невозможно отделить искусственный интеллект от экономического положения людей. Мы пытаемся как-то решать эти проблемы, и я считаю, что это возможно. В частности, в январе 2020 года мы отправим коллективное обращение в ООН с предложением запустить новую программу исследований и экспериментов, связанных с вызовами антропоцена: изменением климата, повышением уровня моря и так далее.

— Получается, что современные технологии — в особенности те, которые принято называть искусственным интеллектом, — парадоксальным образом усиливают, так сказать, естественную глупость человечества?

— В одной из своих лекций я как раз пытался показать, что искусственный интеллект — это на деле искусственная глупость. Это не значит, что я выступаю против алгоритмов или считаю, что мы не должны их использовать. Но что такое алгоритмы? Они предлагают математический подсчет для анализа информации, иногда в больших массивах: Big Data извлекается из миллиардов данных.

Но если вспомнить про Канта, то анализ для него — это ноэтическая способность. Мышление — это не только понимание, но и возможность выходить за его пределы, принимать решения через синтетические суждения. На философию Канта повлияла ньютоновская физика. Как говорил философ, математик и физик Альфред Уайтхед, сегодня нам следует переосмыслить Канта в свете термодинамики и вопроса об энтропии. Почему? Космос — это столкновение процессов энтропии и негэнтропии. И когда вы совершаете одни только вычисления и автоматически применяете их результаты к реальности, то уровень энтропии только увеличивается. Но человек отличается своей способностью менять мир, как напоминал, например, Маркс.

Мы могли бы преобразовать то, что сейчас называется искусственным интеллектом, в реальный интеллект, во что-то, что было бы действительно разумным. Возьмем пример с интерпретацией медицинских диагнозов. Один мой друг из Калифорнии разработал стартап для кардиологов. Это система медицинских данных, которая производит очень много информации, но никогда не дает рекомендаций. Вместо этого она задает вопросы. Потом врачи в социальных сетях работают вместе, чтобы решить возникшие проблемы путем делиберации (совместного обсуждения. — Ред.). Используя эти алгоритмы, они не полностью оглупляются. А в медицине это очень важно. Вы, наверное, знаете про теорию черного лебедя: если для решения проблем использовать только усредненные данные, то однажды вы столкнетесь с черным лебедем, хотя видели до этого только белых, как это когда-то случилось в Австралии (долгое время считалось, что лебеди бывают только белыми, пока голландская экспедиция не обнаружила в Западной Австралии популяцию черных лебедей. — Ред.).

Когда вы используете данные, вы работаете только с так называемыми онтологиями, усиливающими текущее состояние знания. Но одного знания недостаточно. Если вы применяете его автоматически, это всегда своего рода глупость. Именно это и происходит сегодня, и поэтому я думаю, что нам надо поменять организацию искусственного интеллекта. И я пытаюсь это делать в социальном эксперименте, которым я занимаюсь совместно с некоторыми крупными компаниями, включая Orange (французский телеком-оператор. — Ред.). Мы пытаемся создать такие же алгоритмы, но только не для докторов, а просто для жителей разных регионов, чтобы поднять перед ними вопрос локальностей, поскольку все негэнтропичное является всегда локальным. Негэнтропия невозможна на уровне Вселенной. Мы должны не уничтожать, а усиливать локальности, открывая их для кооперации друг с другом.

— Как вы сами заметили, сегодня техника, как никогда раньше, сцеплена с экономикой и с интересами капитала. Но вы часто говорите о технике так, как будто она в существенной степени обладает автономией. Техника у вас субъектна, она может подчинять себе другие объекты, в том числе социальные институты. Разве можно говорить о технике, игнорируя ее подчинение чисто экономическим интересам?

— Вопрос в том, что мы называем экономикой. Существует много видов экономики. Один из них полностью подвластен вычислениям и находится под контролем глобальных рынков, которые работают со скоростью света. А, например, предыдущая организация экономики, основанная на идеях Кейнса о регулировании рынков, появилась после Великой депрессии в США. Она полностью отличалась от капиталистической экономики XIX века, которая была построена не на росте, а на индустриализации старой Европы. То есть вопрос не в экономике как таковой, а в ее разных формах.

Кроме того, есть политэкономия, и есть либидинальная экономика. Это, например, процесс сублимации во фрейдовском смысле — созидание, которое не направлено на прямое получение прибыли. Писатель или режиссер использует технологию письма или цифровые технологии не ради денег, а ради искусства (хотя и здесь надо платить директорам, актерам и так далее). Есть разница между использованием техники для созидания, образования, автономии, заботы о себе в смысле Фуко и использованием техники для получения экономической прибыли.

Эти две сферы различаются, но полностью разделить их невозможно. Вопрос в том, чтобы переосмыслить либидинальную экономику по Фрейду и политэкономию по Марксу. Маркса надо критиковать и даже его превзойти. Потому что Маркс ничего не знал о современном капитализме и об обработке информации, как и Фрейд не знал ничего о влиянии смартфонов на наше бессознательное. Поэтому нам нужно и дальше развивать теории интенций, желания, принципа удовольствия, тяги к смерти и тяги к жизни. Я пытаюсь это делать в группах во Франции, где мы работаем с психоаналитиками, медиками и так далее.

Очень важный вопрос в этом смысле — что такое работа. Сегодня в политэкономии капитализма профессия — это не работа, а труд (отчужденная форма работы. — Ред.). Трудящиеся — это люди, которые способны иметь дело только с автоматическими системами, основанными на калькуляции и на усреднении вероятностей, то есть системами, производящими энтропию. В капитализме мы все — трудящиеся, а не работники. Сейчас я на пенсии, но до прошлого года преподавал в университете, и все мои студенты говорили мне: я не смогу работать, я стану просто трудящимся. Почему? Потому что текущее состояние лишает их возможности иметь желание и заставляет их быть движимыми только инстинктами, тягой к жизни и тягой к смерти.

Так что нам надо реконституировать либидинальную экономику, но для этого надо осмыслять технологии через корпус психоаналитических идей. Сейчас психоаналитики только начинают открывать для себя эту проблему; я веду такие семинары в группе лаканианцев в Париже. Но для этого мы должно переопределить, что такое работа и каков ее статус в политэкономии капитализма.

Я уже говорил, что надо бороться с эрой антропоцена, которая увеличивает энтропию: термодинамическую — через изменение климата, биологическую — через уничтожение биоразнообразия, информационную — через гегемонию глупости. Если мы хотим преодолеть энтропию — а ставки тут очень велики, потому что иначе высшие формы жизни исчезнут из биосферы, — надо переизобретать роль работы.

Вопрос в том, как вернуть в нашу жизнь работу, чтобы уменьшить уровень пролетаризации. Мы называем это контрибутивной экономикой (продуктивно использующей цифровые технологии, которые в рамках корпораций обычно работают на отчуждение; например, в Википедии и в других open-source-сообществах. — Ред.). Я начал думать на эти темы еще 20 лет назад, когда обнаружил, как распространяется бесплатное программное обеспечение. Я был главой большой компании и управлял 70 разработчиками. Тогда я заметил, что это чрезвычайно эффективно и абсолютно не похоже на то, как организован бизнес в целом (с разделением труда и так далее). Организация бесплатного ПО основана на увеличении знания и совместном доступе к нему. Это борьба против пролетаризации. Поэтому, на мой взгляд, очень важно расширять эти практики в другие измерения. Это возможно, и мы сейчас пытаемся экспериментировать с этим в Париже.

— Время и техника в вашем понимании неотделимы от человека и без него не существуют. При этом современный технологический дискурс пытается произвести такую темпоральность, в которой либо совсем нет людей, либо они радикально отличны от Homo sapiens. С этим, в частности, связано понятие технологической сингулярности, после наступления которой человек перестает быть центром Вселенной. Можете ли вы представить себе мир победивших машин, развивающихся без участия человека?

— На самом деле, я совсем не верю в то, что современные технологии производят именно такую темпоральность. Как писал Андре Леруа-Гуран, если бы вы попросили кого-то из XVIII столетия оценить, кем мы являемся в XX веке, они бы сказали: нет, это совершенно другие люди, это не Homo sapiens. Homo sapiens — это форма жизни, которая может производить негэнтропические преобразования, то есть действовать не через биологические органы, а через технологические. Это началось еще три миллиона лет назад.

Потому что мышление — это вовсе не вычисления, а производство бифуркаций через возможность того, что Ницше называл Волей. Поэтому, я думаю, нам не надо интериоризировать дискурс трансгуманизма. Утверждения, что сингулярность наступит в течение 20 лет, а вычисления заменят человеческий разум, — это абсолютные fake news. Это чистая идеология и маркетинг, через который Силиконовая долина пытается контролировать то, что американский математик, физикохимик и демограф Альфред Лотка называл процессом экзосоматизации. Люди постоянно эволюционируют, и экзосоматизация — это производство искусственных органов. Сейчас эта эволюция ускоряется, США, Россия и Китай борются за контроль над этим процессом. Настоящая ставка в том, чтобы поменять правила и условия игры. Потому что эта эволюция в том виде, в каком она организована в Силиконовой долине, ускоряет антропоцен, который в конечном счете уничтожит нас всех, даже саму Силиконовую долину.

Когда Илон Маск говорит, что полетит на Марс на своих ракетах, это даже не ложь, а чистая глупость. Нельзя запустить ракету для полетов на Марс, если никого не останется на Земле, чтобы обслуживать эту систему. Наверное, можно организовать космический транспорт, но настоящий вопрос не в том, как улететь с Земли, а в том, как ее спасти, чтобы потом иметь возможность летать на Марс и на Луну. Вы, может быть, знаете, что Маск сейчас в депрессии, у него большие ментальные проблемы. Это связано именно с тем, что он — человек очень умный и знает все, о чем я сейчас говорю.

— Что остается от человеческой автономии в век, когда алгоритмы знают желания людей лучше их самих? Можно ли вернуться к «наивной» категории автономии в кантианском смысле — как способности самостоятельно определять свои желания?

— Это очень хороший вопрос. Лично я не думаю, что алгоритмы знают наши желания лучше, чем мы сами. Они, скорее, уничтожают их и заменяют потребностями. Желание — это не просто чистые потребности, а нечто большее. А алгоритмы лишь создают потребности и манипулируют нами, чтобы мы обслуживали интересы рынка.

Вопрос здесь не в возвращении к «наивным» категориям автономии, а в понимании того, что автономия всегда связана с гетерономией (подчинением субъекта чуждым ему законам. — Ред.). Я начинал свои исследования с Жаком Деррида, который утверждал, что нет Логоса без письма, а письмо — это гетерономная технология. Вслед за Сократом он называл ее гипомнезией, то есть устройством, производящим фармакон (понятие из философии Деррида, которое подчеркивает двойственность явления — яда и лекарства в одном флаконе. — Ред.). Сегодня не существует никакой чистой автономии, можно иметь только относительную локальную специфичность негэнтропии.

Три года назад я опубликовал книгу «Автоматическое общество», точнее, первую ее часть с подзаголовком «Будущее работы». Сейчас я работаю над второй, посвященной будущему знания. Ее темы — автоматизация, машины и гетерономия. Я пытаюсь ответить на вопрос, как превратить гетерономию во что-то, что производит локальную негэнтропию, которая сродни автономии. Это процесс, который я называю ноэтическим разнообразием.

Нам надо научиться иметь дело с машинами, сегодня это главный вызов. Если мы это сделаем, то сможем переизобрести понимание того, что такое работа. Например, вот как Микеланджело объяснял, что такое работа, на примере скульптуры: вы всегда сталкиваетесь с ограничениями в мраморе, орудиях и так далее. Это искусство, но в то же время и право, философия, наука.

Одним словом, надо полностью переопределить, что такое знание и мышление. Моя прошлая книга называлась «Что такое забота?», поскольку во французском языке слово panser (заботиться о ком-то, успокаивать, облегчать горе) созвучно со словом penser (думать). В старофранцузском это было одно и то же слово, которое и означало «заботиться». Это то, что Хайдеггер называл Sorge, а Ницше — болезнью и здоровьем. Так что надо заново интерпретировать Ницше, Хайдеггера, Фрейда, а также Деррида и Фуко в новом контексте антропоцена, где реальная ставка состоит в ограничении энтропии и реартикулировании автономии и гетерономии.

ПОДПИСЫВАЙТЕСЬ НА КАНАЛ COLTA.RU В ЯНДЕКС.ДЗЕН, ЧТОБЫ НИЧЕГО НЕ ПРОПУСТИТЬ

Понравился материал? Помоги сайту!