Что такое техлэш?

Термин обозначает политическую и культурную негативную реакции со стороны государств и обществ, направленную на современную IT-индустрию.

Написал для Теплицы социальных технологий текст о понятии, ставшем популярным после 2018 года. Кажется, что и три года спустя оно продолжает оставаться актуальным в контексте описания меняющихся политических и культурных настроений в отношении того, как устроена современная IT-индустрия.

Там немного истории (пишу о книжках Фреда Тернера и Маргарет О’Мары), пытаюсь вывести опорные точки в формировании техлэша, добавляю немного сюжетов-виньеток и предлагаю ряд тенденций.

А вчера в голосовом чате Теплицы поговорили о статье, можно послушать в формате такого мини-подкаста.

🎧 Вчера в аудио-чате Теплицы мы пообщались о том, что такое техлэш.

Что приходит на смену технологическому оптимизму и почему it-гиганты больше не спасут мир? Об этом рассказала автор Теплицы Дмитрий Муравьев.

☝ Слушайте разговор в записи и приходите на нащ следующий чат. Следите за новостями!

дорогие коллеги по Вышке,

тут идёт запись на курсы для магистрантов, расскажу-ка про свой — на него можно записаться сегодня до 21.00.
если вы учитесь в магистратуре или преподаёте, расскажите, пожалуйста, своим коллегам.

курс называется Критические исследования данных, и это каждый год много смысла и удовольствия.
ведь парсингом и databased-чтоугодно занимаются сейчас везде, а о последствиях и проблемах говорят мало.

а мы два месяца в разных форматах изучаем и обсуждаем, что не так с данными и логикой вида «давай-ка сделаем классный датасет, всё изучим и введём face recognition чтобы стало совсем хорошо».

конкретнее:
- начинаем с того, что данные — не богом данные, а производятся и это не просто отражение мира как он есть.
- потом смотрим на то, что называется этическими и политическими проблемами. изучаем, какие новые дисбалансы власти возникают, и почему не работает простая идея, что если данные у хороших парней, то и супер, а если у плохих — то надо скрываться.
- применяем это к разным отраслям жизни, слушаем про дата-активизм и ещё интересных приглашённых лекторов.
в курсе два больших задания — это сверить свои наблюдения с so called данными и продумать, какие есть сложности в конкретных сферах.

участницы и участники прошлого года ещё сделали оч крутые конспекты и вот некоторые результаты: http://offlineisnotenough.tilda.ws/cds-final-papers

курс идёт пятничными вечерами в апреле-мае, и это приятнейший способ провести вечер пятницы.

вот ссылка на курс, ну и можно мне написать если что.
https://www.hse.ru/edu/courses/471047140

Такого я еще не делал, но — 

Уже в это воскресенье, 28 ноября в 13:00, вместе с Олей Дерюгиной мы будем проводить онлайн-экскурсию по выставке Data CTRL Centre. Спасибо Гёте-Институту и медиа сверхновая за такую возможность. 

Мы расскажем о выставке и о том, что там вообще есть, но также оснастим рассказ другими примерами из искусства и соображениями из области академического знания. Экскурсия собрана нами вокруг большой темы о знании в интернете — как оно к нам попадает, как мы к нему относимся, и как мы с ним дальше живём. 

Вот тут ссылка на мероприятие в Facebook, где будет ссылка на YouTube-трансляцию. Очень всех ждем!

Исследователи из Data Justice Lab сделали классный информативный ролик о том, как алгоритмы используются для оценки граждан в Великобритании в сфере получения социальных льгот и пособий, полицейской работы и социальном обеспечении детей. Там рассказывается (в общих чертах), какие данные собираются, как они используюся, и какие проблемы есть. Прежде всего, в видео поднимается на мой взгляд фундаментальный вопрос о том, что вообще измеряется, и как эти измерения соотносятся с поведением конкретных индивидов или фиксированием структурных проблем.

​​В журнале Surveillance & Society вышел специальный выпуск, посвященный спекулятивному и художественному воображению о будущем надзора. В него преимущественно включены эссе и пара материалов с обсуждением художественых работ. Авторы предисловия к спецвыпуску отмечают, что такие придуманные истории в эссе могут служить методом, задающим новые способы думать, исследовать и политически осмыслять то, какую роль надзор играет в наших обществах, и что это также хороший способ сблизить художественнуюю и академическую практику.

Amazon – это алчный суверен, который «может заставить умереть
и позволить жить»

Amazon отказался эвакуировать своих работников от торнадо, что привело к их гибели.

В минувшие выходные в американском штате Иллинойс 6 человек погибли и 1 получил ранения после того, как ураган обрушился на склад Amazon недалеко от Сент-Луиса.

Есть свидетельства того, что компания заставляла своих работников продолжать работу, несмотря на опасность надвигающегося торнадо.

Ларри Вирден, один из рабочих, за некоторое время до смерти отправил своей девушке смс: "Amazon не позволит нам уйти".

Торнадо сорвал крышу склада, и здание обвалилось.

Наконец-то вышла наша с коллегой Франческой Мусиани книга о шифровании — "Concealing for Freedom: The Making of Encryption, Secure Messaging and Digital Liberties"

В основе книги — более 60 моих интервью с разработчи_ками "безопасных" мессенджеров (от Signal до Briar), криптографами, пользователями из стран "высокого риска" , которым особенно важна защита переписки, дизайнерами, социальными предпринимателями и другими респондентами, для которых шифрование коммуникаций — повседневная необходимость.

Помимо интервью в основу текста лёг мой личный опыт работы в мессенджере Delta Chat, а также опыт участия в десятках мероприятий по информационной и комплексной безопасности, хакерских конференциях и слётах разработчиков свободного п/о, форумов по интернет-регулированию и других событий, на которых мне удалось наблюдать и фиксировать дебаты о значении шифрования для айти-индустрии, государств и гражданского общества.

Соавторство с известной исследовательницей распределённых сетей и интернет-регулирования Франческой Мусиани позволило мне не скатиться в мой любимый жанр "только эмпирика, только конкретные примеры, только простой язык" и зацепить-таки немного теории. А возможно, благодаря высокой академической культуре Франчески, даже внести скромный вклад в развитие surveillance studies.

Мы постарались написать эту книгу так, чтобы она читалась легко, несмотря на кажущуюся сложность и недоступность самого предмета исследования для "непрофессионалов". В тексте много драмы, ведь люди, занимающиеся разработкой и внедрением шифрования, совсем не лишены человеческого: тут и судебные тяжбы, и сплетни об источниках финансирования некоторых проектов, и другие пикантные подробности из закулисья криптосцены.

Особое место в тексте занимает важнейшая лично для меня дилемма о централизации vs децентрализации. Мы постарались выслушать аргументы сторонников разных видов архитектур и привести их в относительно нейтральном виде, хотя наши симпатии легко считываются между строк, и глава о федерации не зря стоит предпоследней.

Цифровая версия книги уже доступна для свободного скачивания тут: https://www.matteringpress.org/books/concealing-for-freedom

А бумажная выйдет в начале 2022 года.

Надеюсь, книга будет полезна социологам, историкам и антропологам интернетов, журналистам, занимающимся проблемами цифровой безопасности, разработчикам, криптографам и всем кому важна онлайн-приватность в наше сложное время.

Моя коллежанка по клубу любителей интернета и общества Аня Щетвина взяла интервью у исследовательницы Джилл Реттберг, которая изучает машинное зрение. Разговр какой-то одновременно очень нежный, личный и умный, у меня вот так не получается. Когда я беру у исследователей интервью, то это все получается немножко в лоб – а что вы делали, а как, почему, а в чем интрига и зачем, а дальше как жить в науке и в миру, в общем вопросы про какое-то целерациональное действие. А в этом интервью такое сбалансированное сочетание непосредственно человеческого опыта и исследовательского вопрошания, а содержательно – про то, как вообще машины видят, почему это не только про современный computer vision, и при чем тут вообще «мы» и наша самость. 

(в интервью также есть ссылка на открытую базу данных с произведениями искусства, которые обращаются к теме машинного зрения)

Меня правда, должен признать, несколько смущает концовка, где Реттберг говорит о том, как в ряде произведений искусства мы как читатели помещаемся в позицию, из которой учимся сочувствовать машинам. Как будто бы, когда мы испытываем такое сочувствие, как в случае с примером влюбленного робота-убийцы, который она приводит, мы уже антропоморфизируем технику – в этом смысле это уже не сочувствие машине, а скорее какому-то «киборгу», чью человечность мы воображаем. 

И еще к вопросу о «мы» и нашей идентичности вместе с (интернет)-технологиями вдогонку порекомендую интервью Полины Колозариди с Катрин Тииденберг о селфи, доклад которой меня в свое время как-то и лично, и интеллектуально вдохновил.

Не так давно у меня вышел текст на сверхновой про гражданство и алгоритмы. Он во многом вдохновлен занятием с моими замечательными студентами, где мы обсуждали классическую работу Т.Х. Маршалла про историю гражданства, и мне вот пришло на ум, а что если подумать об этой теме с точки зрения моего привычного интереса – что цифровые технологии в этом феномене «меняют», а что «оставляют» прежним (в кавычках потому что делают они это не одни, конечно).

И вот для этого текста почитал замечательную работу Марион Фуркад, вспомнил книгу Джона Чейни-Липпольда и исследования Data Justice Lab. Так и вышел рассказ о том, почему с тремя элементами гражданства, выделенные Маршаллом, – гражданский, политический, социальный – кажется что-то происходит. 

Не очень доволен тут тем, как сделал концовку, она несколько расплывчатая, но дальше этого мысль пока не получилось двинуть, но хочется продолжать думать в эту сторону, и надеюсь для этого будут свои случаи.

итак, вышел «НООСКОП» Пасквинелли и Йолера в моем переводе под редакцией Артема Морозова — точнее, появилось время, чтобы рассказать об этом. Текст очень увлекательный и важный: прочитав его, я пересмотрел свои взгляды на ИИ и роботизацию, ведь в этом манифесте утверждается инструментальная, вспомогательная роль ИИ в операциях по извлечению, накоплению и анализу знаний. ИИ — это не самостоятельный мыслящий субъект (как убеждают нас айтишные компании и философы-оптимисты разных школ), его статус мало чем отличает его от лопаты, молотка или других вещей из категории подручного. Однако способность этих объектов строить модели своего окружения, лишенных способности к осмысленному ориентированию и пониманию этой налагаемой на мир модели заставляет нас поверить, что это нечто подлинно автономное, обладающее статусом объекта-субъекта. Между тем есть довольно почтенная традиция критики ИИ, и манифест Пасквинелли и Йолера достойно продолжает ее, добавляя туда более глубокие уровни критики

​​Зимний номер почтенного журнала Critical Inquiry озаглавлен Surplus Data. Из того, что показалось лично мне особенно интересным, текст звезды медиатеории А. Гэллоуэя о соотношении понятий «цифровое» и «аналоговое», где про то, почему именно сейчас наступает золотой век последнего, хотя казалось бы. И также текст О. Халперн (авторка великой книги про визуализацию данных) про параллели между неолиберализмом и нейронными сетями, заключающиеся в переосмыслении статуса разума в послевоенное время.

Идеологический перезапуск Wired

В начале января у журнала Wired вышло заявление о смене направления их редакционной политики. Главный редактор Гидеон Личфилд ставит в своем тексте следующую проблему: если с момента своего основания Wired был "библией техноутопизма", то сейчас общественные настроения в отношении технологий и техиндустрии стали противоположными. Теперь технологии рисуются как источник социальных, политических и экономических проблем – возникает вопрос, что должен делать Wired как журнал о технологиях в этой ситуации. Личфилд говорит, что вся проблема в бинарной оппозиции ("технологии добро"/"технологии зло"), а нам как журналистам стоит быть умнее и выстраивать более сложные описания. Теперь будет больше обзоров именно глобальных проблем и той роли, которую технологии в них играют, без излишнего оптимизма и пессимизма.

Это заявление представляется интересным, даже если с ним не хочется до конца соглашаться содержательным. Прежде всего, как мне кажется, оно показательно с точки зрения того, как меняется публичное и медийное осмысление технологий, по крайней мере в западных обществах. Последние несколько лет, безусловно, несколько упрощая, освещение новостей о технологиях прошло под знаком techlash'а и технологического пессимизма. Подобное заявление одного из самых главных журналов о технологиях для большинства людей сигнализирует, что происходит выработка какой-то новой позиции, для которой еще нет (и это отлично) удобного термина.

Не до конца согласные мы идем назад, но в будущее

В последнее время я все больше думаю о теме времени в контексте технологий – как соприсутствие различных способов думать о времени задает отношения власти и возможные горизонты будущего. Для своего исследования об этом я перечитал статью медиаисследователя Сан Ха Хонга "Технобудущности в стазисе". (в августе 2021 я сделал с ним, на мой взгляд, неплохое интервью). Он начинает со следующей интриги: казалось бы, реклама технологий и всевозможный маркетинг "подрывных" инноваций должны постоянно преподносить нам новое будущее, однако при более пристальном взгляде это "новое" будущее оказывается переработанном старым. Тогда получается, говорит Хонг, что будущее, обещанное нам еще 30 лет назад концепцией "повсеместных вычислений" (ubiqutious computing) мало чем отличается от того, что сейчас обещается "умными" городами, домами, устройствами, ассистентами и так далее. К примеру, оба проекта предлагают примерно схожее видение гендерных отношений и труда. В результате мы находимся в "комнате ожидания" будущего, в котором наше прошлое возвращается к нам вновь и вновь, а само удовольствия от чтения технологических новостей извлекается из пребывания в такой комнате.

Хонг пишет, что проблема не заключается в "недостатке воображения"; проблема скорее состоит в закономерностях, сообразно которым будущее реализуется, – и тем интересам, которые за такими версиями грядущего стоят.

Вместе с этим, в социологии ожиданий и технологий в целом присутствует линия аргументации, согласно которой будущее различных технологий постоянно оспаривается, формируется в активном процессе согласования между различными социальными интересами, – про это есть известная история о том, почему велосипеды устроены так, как сейчас, или из более недавнего можно посмотреть сборник статей Contested Fututes: A Sociology of Prospective Techno-Science.

Неужели выходит, что будущее технологий в обществе – это одновременно и продукт разногласий, и постоянно возвращающееся прошлое? Кажется, что дело в тех возможных границах, контурах изменений, которые воображаются и затем реализуются. Пока это одна из самых интересных для меня тем, когда мы говорим о технологиях и времени, – как формируются предметы споров о будущем технологий, и откуда приходят эти границы и контуры, которые они не переходят.

Можно ли изучать социальные науки так же, как и во времена до Big Data-революции? На этот вопрос отвечает коллектив авторов под руководством Райнера Диаза-Боне для уже позапрошлогоднего (ужас, как летит время) выпуска Historical Social Research / Historische Sozialforschung. Ответ, который предлагают нам авторы: нет, нельзя.

По их мнению, прежние, даже самые критические версии социологии социальных наук исходили из того, что работники умственного труда сами собирают свой материал, анализируют его и представляют результаты заинтересованной стороне. Сегодня за разные части одного и того же исследовательского проекта отвечают совершенно разные люди из разных организаций с разными интересами и нормами деятельности. Но это еще только половина дела. Положение предельно осложняется и тем, что все больше и больше данных, с которыми социальные ученые имеют дело, созданы совсем не ими, а программистами и нейросетями. Добавьте в этот расклад еще корпоративных менеджеров и юристов, и вы совсем запутаетесь в том, кто в итоге больше всех влияет на ход социального исследования.

Чтобы разобраться во всех звеньях того, что Диаз-Боне и его коллеги называют статистической цепью, предлагается мобилизировать теорию конвенций Болтански и Тевено. Полноценное исследование социальных наук должно прослеживать весь процесс датафикации от создания кода до принятия управленческих решений. Социологи должны разматывать весь клубок путешествия данных по градам и мирам, в ходе которого они зачастую меняются до неузнаваемости. Только получившаяся нить может вывести всех нас к продуктивному обсуждению целого ряда наболевших вопросов: от методологии социальных наук до судьбы демократии в дивном цифровом мире.

На Теплице отличный текст про прошлый 2021 год от Ольги Таракановой – отмечена куча важных штук, происходивших с критикой и дискуссиями о технологиях и платформах в российской публичной сфере за 2021. В нем показывается, как постепенно меняется сам язык разговора, который, на мой взгляд, одновременно переплетает некоторые глобальные тенденции усиления техноскептического настроя и локальный контекст отношений труда, неравенства, активизма и искусства.

Лично для себя 2021 год я отрефлексировал в контексте меняющегося отношения между критикой и этикой ИИ: как можно найти такое соотношение между институционализацией и автономией, которые делало бы возможной продуктивную и влиятельную критическую практику.

Время в предиктивной полицейской аналитике

Как устроены отношения со временем в случае предиктивной полицейской аналитики? Как алгоритмы переделывают отношения между прошлым, настоящим и будущем? (о том, что это за системы, и за что их критикуют, можно почитать в статье Дмитрия Серебренникова)

Марк Андреевич, Лина Денчик и Эмилиано Трере исследовали практики сотрудников двух британских полицейских департаментов, чтобы выявить одновременно и ту новую сторону работу, которую предсказательная аналитика привносит в жизнь сотрудников полиции, и способы сопротивления последних внедрению таких систем. Центральное понятие их статьи – pre-emption, которое не до конца очевидно для меня, как хорошо можно перевести на русский в этом контексте, но, кажется, опережение – неплохой вариант.

Вот как авторы анализируют это понятие. Такие системы как PredPol, основанные на данных о криминальных проишествиях, выдают сотрудникам те точки, в которых преступление должно случиться в будущем: полицейским остается принять решение о том, как распределить свое время относительно поездки по этим различным точкам. Соответственно, это располагает полицейских к тому, чтобы действовать здесь и сейчас – такие симуляции становятся триггером для действий в настоящем . Вместе с тем опережение в предиктовной аналитике создает симуляцию будущего – преступлений, которые, вероятно, случатся вот-вот – через алгоритмическую обработку данных о преступности из прошлого. Таким образом, по словам Андреевича и его коллег, логика опережения «сжимает» диапазон возможных будущих и создает «временной стазис» (temporal stasis) в попытке включить в себя оценку всех рисков и возможностей.

Две дополнительные особенности анализа опережения, которые показались важными. Во-первых, распределение возможностей действовать – в логике опережения такие возможности отданы тем, в чьих руках находится алгоритмическая система. Во-вторых, опережение, как минимум, ставит под сомнение те временные логики, которые работают с причинно-следственными связями и их объяснениями в правоохранительной работе, поскольку причины возможного преступления в будущем предпринимается попытка выявить в закономерностях, найденных в данных прошлого.

Одновременно с этим авторы показывают, почему полицейские не воспринимают такие технологические инновации исключительно пассивно. Соображения о значимости профессионального суждения и дискреционном праве задают напряжения, препятстсвующие плавной реализации логики опережения.
И ещё в статье отдельно интересное сравнение логики опережения в случае предиктивной полицейской аналитики с временной логикой сдерживания (deterrence) в контексте холодной войны.

Тематика изменений вокруг времени и будущего как результата внедрения алгоритмов в различные составляющие социальной жизни кажется стоящей обсуждения. К примеру, любопытно вот, насколько такой «временной стазис» – удачное и универсальное описание того, что алгоритмы делают с функционированием времени в нашем обществе и реализацией разнообразных будущих? Чтобы лучше понять что-то в этом вопросе, вместе с коллегами мы организуем небольшой однодневный онлайн-симпозиум «Blackboxed Futures: Multiple Temporalities of Algorithmic Technologies», который пройдет 19 марта 2022 года. Если вдруг вы как исследователь медиа, технологий или чего-то еще занимаетесь чем-то близким, то будем очень рады вашим заявкам до 20 февраля.

Не буду копировать сюда весь анонс, но вот тут или тут можно посмотреть более подробное описание и узнать, куда отправлять заявку. За репост этого поста я и коллеги были бы очень благодарны.

Случайно наткнулся на январскую рекламу Apple Watch 7, сюжет и драма которой примерно в следующем: вы звоните в службу спасения с помощью часов, так как доступа к телефону нет, и от вашей коммуникации зависит ваша жизнь в разнообразных обстоятельствах.

Не знаю, насколько это работает именно как реклама, – все же в этом я ничего не понимаю, но само послание и его контекст кажутся новыми вот почему. Мы привыкли ожидать от рекламы технологий и того будущего, которое они обещают, жизнь «лучшего качества», «новую версию себя», каких-то новых связей, встреч и так далее. В конце концов, со стороны создателей, Web 2.0. именно про это: вот социальные сети, там друзья/знакомые/коллеги, с ними мы соединяемся и ведем социальную жизнь в интернете.

А эта реклама как будто толкает к иному соображению: теперь от технологий зависит не качество нашей (социальной) жизни, а возможность ее продолжения. По мере того, как устройства вроде Apple Watch становятся инфраструктурой нашей жизни, нежели чем ещё одной технологией, которую мы можем приобрести, без неё становится все труднее и труднее не умереть.