Виктор Вахштайн: «Прогресс технологий — далеко не всегда социальный прогресс»

Разговор Дениса Куренова с социологом, деканом факультета социальных наук Шанинки Виктором Вахштайном продолжает проект «Из жизни алгоритмов», который Кольта делает при поддержке Гете-института в Москве. Вахштайн занимает более прохладную позицию по отношению к технооптимизму, характерному, например, для Андрея Себранта, и обнаруживает старые идеи, которые прячутся за новой оболочкой.

— Издательство Individuum недавно выпустило книгу Дэниела Сасскинда «Будущее без работы. Технологии, автоматизация и стоит ли их бояться». Издание интересно в первую очередь тем, что сделать перевод было «поручено» системе искусственного интеллекта. 650 тысяч знаков были переведены за 40 секунд, после чего над получившимся текстом работал редактор.

О чем нам говорит этот кейс? Это просто остроумный ход издателей с мощным маркетинговым потенциалом? Или это заря дивного нового мира, где труд переводчиков будет замещен нейросетями? Возможен ли вообще институт перевода книг без «белковых» переводчиков?

— Это остроумный перформанс, построенный на рекурсии: перевод книги — иллюстрация ее содержания. У социологов есть похожая шутка: система ACTI — робот-интервьюер, предназначенный для проведения массовых телефонных опросов. Он учится в нужных местах хихикать, шутить, по-человечески переспрашивать, «угукать» и вообще изображать заинтересованного социолога. Первый опрос с миллионной выборкой, который проведет этот робот (как только окончательно справится с «обратным тестом Тьюринга»), тоже должен быть посвящен проблеме человекозамещения. Боитесь ли вы, что роботы отнимут вашу работу? Считаете ли, что робот справится с обязанностями Х лучше человека? Надеюсь, в конце там будет вопрос: «Чтобы провести это исследование, мы лишили работы 200 тысяч сотрудников индийских кол-центров. Как думаете, чем они теперь займутся?».

Просто нужно развести единичный кейс (перевод книги роботом или проведение роботом опроса) и социальный процесс (человекозамещение). В дискуссии, разгоревшейся вокруг издания книги Сасскинда, я целиком на стороне редакторов. Но это именно «редакторская солидарность». Годами переводчики старались минимизировать свои усилия — что вполне естественно в условиях российского рынка интеллектуальной литературы. Ведь переводчик не получает ни достойного материального вознаграждения за перевод, ни символического капитала (он целиком достается научному редактору и автору предисловия). Соответственно, минимизируя собственные усилия, он делегирует часть своей работы редактору. В текстах, которые приходилось редактировать мне, были «протестанты» (вместо «протестующих»), «возвращение Жидая» (вместо «Джедая»). Моим коллегам попадались «детский секс» (вместо «пола ребенка»), «страшный суд в Париже» (вместо «суда Париса») и много других подарков от переводчиков. Если все равно приходится переписывать каждое предложение, не проще ли переписывать его за роботом? Не проще. Сложнее. Но дешевле.

Так что есть единичные кейсы «передачи полномочий» небелковым сотрудникам (в социологии техники это называется «смещением баланса делегирований»), а есть большая проблема человекозамещения. И порожденный ею страх. По данным нашего исследования «Евробарометр в России», за последние три года количество людей, боящихся потерять работу в результате развития искусственного интеллекта, выросло с 8% до 26%. В США еще в 2017 году этого боялись почти три четверти населения.

— Насколько, по-вашему, будет глобален этот процесс человекозамещения? Андрей Себрант, один из главных экспертов по искусственному интеллекту в России, в недавнем интервью Кольте говорил, что «средний класс, видимо, просто вымрет, потому что 90% того, что он сейчас делает, алгоритмы делают гораздо лучше». Нейросети действительно серьезный конкурент для человека на рынке труда? Или это коллективная техногреза атлантов из Кремниевой долины?

— К техногрезам стоит отнестись серьезно. Хотя они куда больше говорят о дне сегодняшнем, чем о дне грядущем. Откуда взялась идея вымирания среднего класса? Она ведь появилась задолго до новой технологической угрозы, исходящей от искусственного интеллекта. Просто дети тех, кто привык называть себя средним классом, уже не уверены, что это словосочетание как-то описывает их собственное экономическое положение новых «пролетариев умственного труда». А в науке эта идея закрепилась совсем недавно благодаря исследованиям Всемирного экономического форума и Маккинзи. ВЭФ пять лет назад сообщил, что до 2020 года новые технологии позволят сократить около семи миллионов рабочих мест. Маккинзи за три года до этого обещал еще более внушительные сдвиги: от 110 до 140 миллионов сокращений. И главный удар придется якобы именно на «средний сегмент»: работу сохранят только самые высокооплачиваемые и самые низкооплачиваемые сотрудники. Первые — потому что алгоритм пока не может их заменить, вторые — потому что это экономически невыгодно. (Так называемая кривая Фрея — Осборна.)

Однако все происходит с точностью до наоборот. Труд редактора пока заместить не удается, а вот труд переводчика — вполне. Заместить нейросетью социолога, который пишет отчет, сложно, а интервьюера из индийского кол-центра — легко. В итоге автоматизация начинает вытеснять людей не из «среднего», а из «нижнего» сегмента. Так, как это уже происходило с «офшоризацией» производства в 1970-х — 1980-х годах.

— Получается, что автоматизация не открывает нам дорогу в какую-то новую реальность, а лишь интенсифицирует уже хорошо знакомые неолиберальные процессы? И каковы вообще отношения у развития технологий с увеличением экономического неравенства?

— И вновь давайте разделим. Есть тезис о том, что «автоматизация интенсифицирует хорошо знакомые нам процессы». Есть тезис о том, что «эти процессы по природе своей — неолиберальные». И тезис о том, что она «не приносит ничего нового». Я готов подписаться только под первым тезисом.

Социологам техники действительно сложно избавиться от ощущения, что «эту булочку они где-то уже видели». Самые прорывные, революционные, как принято сейчас говорить — «дизруптивные», технические инновации возвращают к жизни самые консервативные, архаичные и, казалось бы, бесповоротно похороненные практики и институты. Соцсети должны были сделать мир прозрачнее, а людей — более «осведомленными». Вместо этого они вернули к жизни племенные ритуалы коллективного негодования, побивания камнями, травли и наветов. Искусственный интеллект воплотил в себе вековую мечту о расколдовывании, демистификации мира. Но лишь для того, чтобы тут же возникли новая религия — датаизм — и новая церковь искусственного интеллекта (созданная инженером Энтони Левандовски). Прогресс технологий — далеко не всегда социальный прогресс.

Другой вопрос, стоит ли нам вписывать этот процесс в старый добрый контекст «критики неолиберального миропорядка». Как если бы весь смысл, предназначение и роль технологий сводились исключительно к тому, чтобы сделать бедных беднее, а богатых богаче. Предложенная Марксом в 13-й главе «Капитала» объяснительная модель (критика технологий как инструмента эксплуатации) крайне плохо работает применительно к современным технологиям.

Про Zoom мы еще можем сказать, что это просто еще одно «средство производства прибавочной стоимости», поскольку его предназначение — «сокращать ту часть рабочего дня, которую рабочий [или профессор] употребляет на самого себя, и таким образом удлинять другую часть его рабочего дня, которую он даром отдает капиталисту [или университету]». А как быть, например, с роботом-судьей? Его предназначение — лишить судей работы?

Критическая социология в попытке раскопать «подлинную» природу технологий — ту, что связана с неравенством, доминированием, несправедливостью, — кажется удивительно архаичной, даже когда использует новые инструменты критики: «Искусственный интеллект — это мужской интеллект! Он закрепляет и усиливает гендерное неравенство!» или «Искусственный интеллект — это европоцентричный интеллект! Он нечувствителен к культурным различиям!» Прибавочная стоимость таких рассуждений, увы, невелика.

Что касается третьего тезиса — новой реальности… Мне кажется, реальности вообще не делятся на новые и старые. Реальность (и здесь я следую феноменологам) определяется соотношением двух параметров: того, что кажется нам несомненным, твердым, очевидным, «принятым без вопросов», и того, что требует проблематизации, сомнения, оспаривания, критики или защиты. Технические прорывы последних лет — это то, что заставило нас по-новому взглянуть на очень привычные вещи и принять на веру то, что казалось полным бредом еще пару десятилетий назад.

— Что вы имеете в виду под датаизмом как новой религией? И как к этому относится социология со своими позитивистскими корнями, от которых к концу ХХ века, казалось бы, уже ничего и не осталось?

— Датаизм в узком смысле — это философия Юваля Харари. Очень наивное, но привлекательное для многих переосмысление мира как потока данных. В широком смысле датаизм — это вера в то, что, какими бы случайными, эфемерными, преходящими и незначимыми ни были события окружающего нас мира, их цифровые репрезентации — «следы» и «тени», будучи обобщенными, агрегированными и обработанными, дают нам доступ к подлинному миру-как-таковому, реальности per se. Позволю себе привести большую цитату из книги Адама Гринфилда («Радикальные технологии. Устройство повседневной жизни». — Ред.), описывающего, как датаисты видят современный город:

«В этом городе известно местоположение любого человека, у которого есть мобильный телефон, независимо от того, оснащен он технологией геолокации или нет, даже если он выключен. Каждая транзакция в бистро, магазине или кафе оставляет след, точно так же как каждый автобус, автомобиль или велосипед из городского проката отбрасывает цифровую тень. Даже те, кто бегает трусцой в Булонском лесу, порождают непрерывно растущий поток данных о километрах, которые они пробежали, и калориях, которые они сожгли. Это Париж — весь и сразу. В любую предшествующую эпоху все эти события остались бы незамеченными и незарегистрированными. Даже самый внимательный наблюдатель не мог надеяться на то, чтобы увидеть и запечатлеть в памяти даже самую малую толику этих событий, сколь бы долго ни длилось его наблюдение. И любая информация или потенциальное озарение, всплывающее в потоке событий, падали на землю, как морось, навсегда потерянные для интроспекции, анализа и памяти. Но сегодня эти потоки при желании можно отследить с привязкой ко времени и месту. Можно выявить скрытые закономерности и неожиданные корреляции, что, в свою очередь, может подсказать эффективные способы вмешательства тем, кто собирается их контролировать».

Ирония состоит в том, что эта новая, оптимистичная, восторженная идеология воскресила очень старый взгляд на социальный мир, тот самый, уходящий корнями во французскую социологию конца XIX века. (Ее действительно иногда называют позитивистской, но это не совсем точное определение.) Представление об обществе как о целостности, тотальности, реальности своего рода, нависающей над простыми смертными. Общество — это Б-г, высшее существо. Мы обязаны таким взглядом Эмилю Дюркгейму. Поэтому в социологии датаизм отозвался «цифровым дюркгеймианством»: как если бы большие данные явили нам лик Высшего Существа. Еще один пример того, как новые технологии воскрешают старые идеи.

Одна метка геолокации — это всего лишь метка. Но миллиард агрегированных меток — это уже общество! Магия агрегации переходит в анимистическую религию больших данных по принципу «я его слепила из того, что было, а потом что было, то и обожествила». В итоге мы больше не задаемся вопросом о связи «цифровой тени» с тем, что ее отбросило, — это мог быть ваш автомобиль, пересекший двойную сплошную, а могла быть тень от вашего автомобиля. (Неважно! Закон больших чисел работает, единичные отклонения не имеют значения!) Мы больше не задаемся вопросом о специфической «слепоте» агрегации — о том, что систематически не попадает на монитор. (Неважно! «Ошибки выжившего» случаются, но рано или поздно система сама научится их корректировать.) Наконец, мы перестали задаваться вопросом о том, как «данные» преобразуются в «действия». Будь то действия врача, ставящего диагноз с помощью экспертной системы, или действия беспилотника, наносящего «сигнатурный удар».

— У вашего журнала «Социология власти» в 2018 году был выпуск, посвященный дигитальной социологии. И уже во вступительном слове редактора Денис Сивков писал о неопределенности и зыбкости этого понятия. А как бы вы описали дигитальную социологию, ее язык и ее исследовательские границы? Где начинается и где заканчивается «дигитальное»?

— Мне словосочетание «дигитальная социология» кажется неудачным. Отчасти из-за самой его конструкции. Есть огромная разница, например, между «социологией повседневности» и «повседневной социологией». Первая — это то, чем занимаются ученые, анализируя социальные взаимодействия здесь и сейчас, лицом к лицу. Вторая — это мировоззрение таксиста, который использует слова «класс», «эксплуатация» и иные социологические термины для прояснения своего жизненного опыта. Есть «социология культуры» и «культурсоциология». Первая пытается объяснить культурные феномены через социальную структуру, повседневные взаимодействия или экономические процессы. Вторая использует «культуру» не как объект, а как источник объяснений.

Уже из этих двух примеров видно, что если «цифровой мир», «технологические инновации», «искусственный интеллект» для нас являются объектами исследований, то речь не идет ни о какой «дигитальной социологии». Речь идет о старой доброй «социологии техники». И таких исследований становится больше с каждым часом. Дигитальная социология появится в тот момент, когда сама идея «цифрового» будет противопоставлена идее «социального», более того — «социальное» будет объяснено через «цифровое». По счастью, такого пока не наблюдается.

— Однако кажется, что цифровизация уже настолько повсеместна, что и современный луддизм выглядит не как отказ от технологий, но как откат к более ранним технологиям: кнопочные Nokia вместо смартфонов, e-mail-переписка вместо мессенджеров. И даже уже сам отказ от постоянного заглядывания в смартфон стимулирует программа в этом же смартфоне. (В Англии в школах и университетах решили использовать специальное приложение Hold, которое стимулировало бы школьников и студентов не пользоваться гаджетом. Чем реже вы заходите в смартфон, чем меньше вы проводите в нем времени, тем больше баллов вам начисляется. Эти баллы потом можно конвертировать в кофе в университете, попкорн в кинотеатре, скидки в магазинах или потратить на благотворительность.)

— Современный луддизм — это когда толпа возмущенных жителей сносит вышку сотовой связи, потому что посредством нее нанятые Биллом Гейтсом рептилоиды облучают людей, чтобы превратить их в либералов.

А то, что вы описываете, — довольно старый феномен: риски, вызванные развитием некоторой технологии, пытаются купировать посредством контртехнологии, той же самой технологии или технологии предшествующей эпохи.

— Но эти луддиты, хотя и громят вышку сотовой связи, призывают своих сторонников делать это через WhatsApp. По-моему, та же ситуация, что с приложением в Англии.

— Не совсем. Тот факт, что борьба с техникой ведется посредством техники, сам по себе еще не составляет проблемы. Так было всегда. Другой вопрос — по какому из трех описанных сценариев эта борьба ведется.

Первый сценарий — обращение к «теплой и ламповой» технологии предыдущего этапа. Например, электромобили ездят слишком бесшумно и тем самым создают риски для пешеходов (особенно для незрячих и плохо видящих). В Японии и Евросоюзе принимаются законы, обязывающие производителей устанавливать системы «искусственного шума», имитирующие звук мотора. Более совершенная технология имитирует менее совершенную для снижения рисков ее внедрения.

Второй сценарий — одной технологии противопоставляется другая. Гонконгские протесты показали, как это может работать. Борьба с распознаванием лиц велась при помощи специального грима, затрудняющего деанонимизацию. Координация действий шла в Тиндере и Pokemon Go. Попыткам вычислить протестующих при помощи камер CCTV были противопоставлены симметричные практики вычисления полицейских агентов в своих рядах (тоже при помощи камер наблюдения и распознавания лиц).

Наконец, третий сценарий — самый ироничный и рекурсивный. Борьба с конкретной технологией ведется с ее же помощью. По известной легенде, российские чиновники обсуждают проект запрета Телеграма в самом Телеграме (как в наиболее защищенном мессенджере).

— Вы говорили про технологии, которые воскрешают старые идеи. А есть ли какие-нибудь новые идеи, которые приходят с технологиями?

— Идеи в принципе похожи на технологии. И те, и другие определяются по своим эффектам, по тому, что они делают. И те, и другие представляют собой новые ответы на старые вопросы. Но новыми они становятся не в момент своего рождения, а когда вытесняют устоявшиеся, понятные, очевидные и привычные решения. Биопринтинг сегодня заставляет нас в очередной раз переосмыслить границу между живым и неживым. Напечатанная на принтере селезенка — это «живая» селезенка? Но Юсеф Хесуани (ведущий специалист по биопринтингу в России) сталкивается с проблемой в международном патентном праве: живые объекты не подлежат патентованию, а живым объектом считается все, что «создано природой и/или Б-гом». Протезирование и печать органов проблематизируют существующее определение жизни, а вот смогут ли породить новое — это пока открытый вопрос.

— Уже практически всем понятно, что алгоритмы и искусственный интеллект — это тема, возможности которой в разы, даже в десятки-сотни раз преувеличены, но тем не менее некоторые из тех, кто сейчас поймал эту волну, — хозяева жизни: Кремниевая долина со своими стартапами и т.д. И что нам это говорит о моменте? Все эти техногрезы атлантов, которые стали мейнстримом, образом утопии, — что они нам говорят о сегодняшнем обществе?

— Наверное, то, что не стоит пытаться все многообразие происходящих на наших глазах процессов подводить под общий знаменатель «современного общества». Технологии — это не зеркальце, а общество — не злая колдунья из известной сказки. Как бы ни хотелось социологу забраться на табуретку и начать вещать о «духе времени», «современном обществе», «новой техносоциальной реальности», «цифровой демократии» и прочих невразумительных вещах — это прерогатива не социологов, а публичных интеллектуалов.

Понравился материал? Помоги сайту!