AI.Assembly – репозиторий работ, посвященных ответу на один простой вопрос: «Что ИИ хочет от нас?»

ссылки на эссе, выступления и другие работы от примущественно черных художников, исследователей, computer scientists: там и про данные, и про код, и про будущее, и про слежку

я оттуда, например, узнал про любопытный подкаст Wampum.Codes, где берут интервью у представителей коренных народов о их взаимоотношениях с технологиями

сайт приятный, но не могу перестать думать о возможном скрытом смысле заставлять портреты перемещаться по экрану, загораживая названия материалов. из-за этого, впрочем, становится чуть более любопытно узнать, а что же там все же написано.

У известного медиатеоретика и художницы Хито Штейерль есть эссе «Proxy Politics: Signal and Noise», где в том числе есть про алгоритмическое распознавание порнографии. Она пишет там, что подобная задача предполагает необходимость понять, что в видео и изображениях является сексом или наготой, а что — нет. 

Штейерль описывает устройство алгоритмов, которые предназначены для распознавания «непристной наготы» и принятия решений о блокировке изображений или видео. В эссе Штейерль выстраивает такую идею: в своей последовательной реализации проект алгоритмического распознавания порнографии во многом предполагает детальную классификацию сексуального поведения во всей его вариативности. 

This grammar as well as the library of partial objects are reminiscent of Roland Barthes’ notion of a “porn grammar,” where he describes the Marquis de Sade’s writings as a system of positions and body parts ready to permutate into every possible combination. Yet this marginalized and openly persecuted system could be seen as a reflex of a more general grammar of knowledge deployed during the so-called Enlightenment

Задача эта хоть и амбициозная, но осложнена своим стремлением к тотальности, то есть всеохватностью в попытке зафиксировать то, чем вообще может быть сексуальность. Ведь сексуальность, порнографическое, также границы между этими понятиями не являются чем-то предзаданным и очевидным.

А к попыткам определить их насильственными средствами — как со стороны алгоритмов, так и со стороны людей –  важно относиться критически.

От того еще более печалит дело Юлии Цветковой, которое, конечно, не только о рисунках, но еще и о ее образовательной и активистской деятельности как феминистки. Прочитать о нем можно здесь: https://www.freetsvet.net

Смотрю очень умную и местами смешную лекцию историкессы науки Ксении Татарченко про советские компьютеры в рамках странного события infocosm.ru. Татарченко начинает рассказ с того что иронично показывает как сознание Глобального Севера не понимает откуда же в России компьютеры и программисты, там-тут же сплошные руины Утопии.
После Ксении Татарченко там великая (серьезно) исследовательница кибервойны Свитлана Матвиенко, но ее я посмотрю попозже

https://vimeo.com/324947027

А еще у Ксении есть очень много интересных статей про историю технологий в СССР. Вот, например, статья «Thinking Algorithmically: From Cold War Computer Science to the Socialist Information Culture». Она там красочно описывает переплетения между американскими и советскими учеными в период Холодной войны, и то, как понятие «алгоритмического мышления» динамично заключало в себе ряд совершенно разных идей по поводу того, что компьютеры могут дать для человеческой жизни.

Или же вот ее другая работа «‘The Computer Does Not Believe in Tears’: Soviet Programming, Professionalization, and the Gendering of Authority» про важность гендера как аналитической категории при рассмотрении социальной истории компьютеров в советский период.

В своих работах Татарченко открыто дискутирует с многими конвенциями, принятыми в истории технологий советского периода, вводит новые интересные темы и концепты и показывает, почему многие советские сюжеты могут быть важны и для глобального контекста. Ведь когда мы отказываемся от восприятия советского технологического опыта как исключительно «проигрышного» для триумфальной истории инноваций, ведущей нас к смартфоном, то история прошлого можем перестать быть руинами, которые видит ангел Клее. И тогда, быть может, у нас и получится рассмотреть новые идеи, практики и образы того, как могут сосуществовать технологии и общество.

​​EEF сделали прикольную штуку – атлас систем наблюдения в США. По сути – интерактивная карта, где можно смотреть на распространение разных систем слежки (распознавание лиц, детектор автомобильных номеров, дроны, предиктивная аналитика, и.т.д.). Сделали с помощью агрегации данных из предыдущей журналистской и исследовательской работы, а также краудсорсинга. Классный проект по высвечиванию зачастую невидимых инфраструктур.

В издательстве Open Humanities Press вышли две новые книги, которые, как обычно, можно скачать бесплатно.

Во-первых, это "MACHINE SENSATIONS: Anthropomorphism and ‘Natural’ Interaction with
Nonhumans", by Tessa G. Leach.

Тесса Лич представляет в своем исследовании несколько кейсов – природные интерфейсы, искусственный интеллект, секс-роботы – заостряющих различия между человеческой и нечеловеческой чувственностью. В своей книге Лич обращается к STS и акторно-сетевой теории.

Во-вторых, появилась новая книга "AI ART: MACHINE VISIONS AND WARPED DREAMS" by Joanna Zylinska.

Зилинска анализирует искусство, созданное нейросетями, предварив свои размышления кратким экскурсом в историю нет-арта и машинного искусства.

алгоритмы и время

Есть такая идея, что наше восприятие времени постоянно медиатизируется. Вот историк Фредерик Барбье в книге «Европа Гутенберга» мимоходом высказывает тезис, что именно формат печатной книги задает нам линейное понимание времени и истории, приводя в пример разметку и сигнализацию «Прибавления к всемирной хронике, от сотворения мира до 1482 года» богослова и хрониста Джакома Форести. Эта работа не только сопровождается разбивкой на абзацы, разбивающие текст на логические смысловые единицы, но также имеет двойную хронологию – от Сотворения мира и рождества Христова. 

И, кажется, что в этой идее что-то есть. С материальной точки зрения книга до какой-то степени упряма – она чаще всего предполагает прочтение от начала до конца. Контрпримеров, конечно, полно: это энциклопедии, условные «Игра в классики», опция «разбей книгу на две книги» (тут можно вспомнить работу антрополога Аннмари Мол «Множественное тело»). И сами читатели тоже свободны в том, что читать и пропускать в тексте, но все же кажется, что с книгами сложнее рассказывать нелинейные истории. Так или иначе, приходится что-то помещать как текст именно последующей главы. Думаю, для тех, кто пытается в нелинейные исторические описания, материальная устроенность современных печатных книг может быть проблемой. Уже хочу увидеть книгу, которую можно читать, допустим, по кругу (не спрашивайте).

Но тут я еще подумал о том, что ленты социальных сетей тоже до какого-то времени воплощали линейное время. До прихода «умных» лент, как кажется, доминирующей формой их представления была хронология. Но не сейчас. Вот я листаю любую соцсеть и вижу сначала пост трехдневной давности, потом сегодняшний, потом вчерашний и думаю – вот и конец линейного времени. 

И тогда если алгоритмы и правда медиатизируют наше восприятие временной последовательности в социальных сетях, то какая логика за этим стоит? Прибыль, удержание внимания, получение данных – все это важно и играет роль, но мало позволяет ответить и понять, какой же переход в восприятии времени осуществляют «умные» ленты по сравнению с традиционными линейными хронологиями.

Протесты в эру Covid19 - взгляд активистов и исследователей

Международный коллектив социологов, политологов, антропологов и других исследователей протестных движений выпустил замечательный тематический журнал о том как коронавирус изменил формы активизма в мире - от Европы до Африки. Тут и феминистские инициативы против домашнего насилия в Ухани, и движение за права беженцев в разгар пандемии на Балканах, и движение за альтернативную экономику и сельское хозяйство как ответ на продовольственный кризис в стране Басков. Журнал доступен онлайн бесплатно и включает в себя 38 материалов. Сборник статей объединяет и аналитику от известных учёных, таких как Донатэлла Дэлапорта, и живые истории рассказанные самими активистами.

Также на сайте опубликован список научной и актививстской литературы по теме протестов в эпоху ковида. Очень рекомендую!

Нью-йорский музей современного искусства на своем сайте опубликовал подборку фильмов, по-разному отражающих роль энергетических инфраструктур в (гео)политике и размышляющих об их влиянии на окружающую среду.

Sci-fi видеоэссе канадско-иранской режиссерки и писательницы Бахар Нуризаде After Scarcity разыгрывает утопическую идею советских кибернетиков о полностью автоматизированной плановой экономике.
"Выступая за «другой интернет», фильм размышляет об экономическом применении социалистических кибернетических экспериментов, сравнивая их с финансовыми механизмами и imaginaries энергетических структур в капиталистических странах".

Фильм доступен до 12 августа.

За наводку спасибо каналу kinotron

С удовольствием и интересом прочитал статью Андрея Кузнецова «Туманности нейросетей: ‘черные ящики’ технологий и наглядные уроки непрозрачности алгоритмов» из нового номера «Социологии власти». Из-за близости для меня этой темы очень хочется ее обсуждать, поэтому пост будем (слишком?) академическим. 

Во многом статья про возможности STS-подходов для понимания и развития современных дискуссий вокруг алгоритмической прозрачности как подотчетности (здесь еще очень важна оговорка, что алгоритмическая подотчетность к прозрачности не сводится). Разбирая три подхода к ценностной нейтральности технологий, Кузнецов приходит к выводу, что все они, пускай и по-разному, но упускают саму технологию из виду. Проблемы с технологиями и их ценностным, социально-политическим статусом вообще можно обнаруживать в разных аспектах социотехнических процессов: 
– Дизайне (кто, как, зачем и почему проектирует тот или иной технологический артефакт)
– Пользовательских действиях (кто и как им пользуется; афоризм «guns don’t kill people, people do» вот сюда)
– Эффектах технологий на группы, проблемы, общества, контексты, и.т.д.

Но независимо от выбранного аспекта такая критика, пишет Кузнецов, приводит нас к тому, что внимание с самой технологии уводится, и значимыми становятся условия, в которых она используется, производится, оказывает воздействие, и так далее. И для социальных исследований технологии тут есть проблема: сама материальность, то есть, грубо говоря, сама конкретная устроенность технологии не учитывается – как исследователи мы начинаем смотреть сквозь них. Для нас при такой перспективе технология становится послушным и предсказуемым проводником человеческих намерений.  

Решение Кузнецова здесь состоит в том, чтобы развернуть проблему раскрытия «черного ящика» (здесь – проблема понимания того, что же делает алгоритм) с помощью акторно-сетевой теории Латура. И тогда технологии начинают пониматься не просто как проводники человеческих действий и интенций, а нечто, что своей материальностью способно «дать им отпор». Технологии тогда становятся медиаторами, порождающими новые правила взаимодействий и способными нас удивлять – они становятся событием, которое не может быть редуцировано к тому, что мы привыкли называть «социальным». Больше нельзя сказать, что технология является расисткой или воспроизводит расовые различия, исключительно потому что стоящие за ней проектировщики сами были скрытыми или явными расистами. 

И сама по себе такая теоретическая переориентация кажется важной, и я думаю, что, к примеру, художественные работы о Amazon Echo или о труде в ИИ во многом похожи на эту задачу картографирования гетерогенных элементов, составляющих алгоритмическую систему как ассамбляж.

Однако то, что мне очень интересно и до конца непонятно, так это возможность критики при такой латуровской позиции. Я бы, возможно, и не вспомнил об этом, но в статье мимолетом также пишется и о социально-политической важности переориентации подходов к «черным ящикам» алгоритмов. При этом я не хочу писать об этом как о какой-то критике статьи, скорее это мои собственные переживания по поводу этой проблемы. Для Латура более привычные критические установки в социальных науках «выдохлись», поэтому надо идти от самих технологий и смотреть, как последние непрерывно становятся временным реляционным достижением взаимодействиях разных гетерогенных элементов. Эта статья Латура есть кстати в переводе в «Художественном журнале».

Но если «технологии есть общество», и если они и правда «собираются в каждом конкретном случае (ре)инновации», то как так получается, что часто проблемы с алгоритмами схожи и устойчивы? Есть ли и правда смысл в попытке критической переориентации картографировать алгоритмы, разбирая состав их разнородных соучастников, если мы вновь обнаруживаем, к примеру, гендерную и расовую дискриминацию? То есть как введение этой материальности в теоретический язык должно поменять социальные и политические ставки разных акторов и пересобрать критику? Более того, сложные отношения между теоретико-методологическими установками АСТ и статусом социальных объяснений (что само по себе не плохо, в тему этого есть классная статья Александра Широкова) создают проблемы для критики, так как тогда мы лишаемся возможности понять, кто несет ответственность и как распределяется власть в случае симметрии акторов. В общем, много вопросов!

наконец-то делимся с миром материалами апрельской конференции Internet Beyond Change

неожиданный онлайн вместо офлайна, кажется, многих весной застал врасплох. но мы неплохо справились! и сама конференция, и материалы, которые по её итогам мы выкладываем на сайт, — это довольно необычные форматы. немного расскажем, как это было:

конференция шла три дня. с разных сторон мы обсуждали вопрос о том, как интернет меняет мир и меняется сам (или не меняет и не меняется, тут всё не просто).

всё проходило в зуме, но участники заранее рассылали друг другу презентации, аудио или видео со своими докладами. так что можно было заранее послушать друг друга во время прогулки или повседневных дел. а потом, уже на самих созвонах, уделить время только обсуждению, острым вопросам, сомнениям и идеям. а ещё мы заранее начинали собирать вопросы к докладам письменно, в общих гугл-документах. а во время созвонов обсуждение шло ещё и в чате зума. так что получилось мультимодально, насыщенно и, надеемся, вдохновляюще.

(а ещё каждый вечер в течение недели всем участникам и слушателям конференции приходила рассылка с рекомендацией арт-проектов или книг по теме секций, коктейля и музыки на вечер)

если вы всё пропустили (или не всё, а часть) и хотите узнать, что происходило в мире российских интернет-исследований в этом апреле, приходите на сайт: http://internetbeyond.net/

под каждым докладом можно найти ссылки на доступные материалы: аудио/видео, презентации, гугл-доки с предварительными вопросами и обсуждениями, видеозапись обсуждений в зуме и тексты обсуждений в чате.

enjoy!

​​8 мифов о ИИ

Классный ресурс с ссылками на хорошие статьи по теме мифов, окружающих ИИ. Особенно мне нравится наличие статьи про сложности с этическими кодексами и гайдлайнами. Часто когда речь заходит о теме «ИИ и общество», все сразу начинают думать про этику и сводить все многообразие сложностей дизайна и внедрения таких систем к вопросам злого/доброго, морали, ответственности – всего того, что мы обычно понимаем под этикой. И «этика ИИ» – очень модное направление сейчас, в котором многие видят решение назревших проблем. Для коммерческих компаний это также удобная рамка, так как этические кодексы и комитеты внутри таких компаний часто понимаются как альтернатива государственному регулированию, которое намного более затратно. 

Так почему же с этикой все непросто? С одной стороны, с ней есть очевидные сложности, связанные с определением «этики». О какой этике мы говорим (и для кого)? Это деонтологический подход, в котором мы должны соизмерять намерения поступков с некоторым всеобщим законом? Или это должен быть утилитаризм (который в бизнес-этике особенно любят, т.к. там можно последствия действий «складывать» и «вычитать») или же феминистская этика заботы? А кто вообще будет решать, какие этические координаты будут вписаны в дизайн ИИ? 

Но помимо сложностей с определением этики, есть и другой момент. Так, в статье на этом ресурсе, на мой взгляд, хорошо показывается, почему разговоры о «этичном ИИ» нас часто уводят в сторону. Ведь тогда будто достаточно добавить «щепоточку этики», хорошенько перемешать, и любая технология станет замечательной. Но можем ли мы сказать, что любая технология при должном уровне вмешательства может стать «этичной»? Почему опция отказа вообще не предусматривается, а подспудно как будто бы предполагается, что мы живем в такой ситуации, где любые «инновации» неостановимы и нам нужно только наложить на них этические заплатки?

Разные интересные и загадочные вещи то и дело происходят на онлайн-картах с территориями со спорным статусом с точки зрения международного права (например, если кто-нибудь что-нибудь аннексирует). А сейчас любопытная история с Косово: министр иностранных дел Мелиза Харадинай пишет письмо Тиму Куку с просьбой обозначить Косово как независимое государство на Apple Maps. Сейчас Косово изображено как часть Сербии, что, по мнению Харадинай, «находится в прямом противоречии с политической и юридической реальностью». Другие диджитал-сервисы, включая LinkedIn, Twitter, Facebook и Spotify, выделяют Косово как независимую страну.

https://twitter.com/MelizaHaradinaj/status/1287494182521704451

Забавный сюжет развернулся в Великобритании. Экзамены в школах отменили из-за коронавируса. Чтобы поставить оценки выпускникам, разработали алгоритм, основанный на исторических данных об успеваемости школы и внутренних рейтингах учеников в школах. Итог — полный хаос. Почти 40% учеников получили заниженные оценки, некоторые — сразу на несколько баллов. Особенно пострадали успешные ученики плохих школ — алгоритм придавал много значения историческим данным, и если твоя школа показывала раньше плохие результаты, то высшую оценку алгоритм тебе уже не поставит, как бы хорошо не учился ты сам.

Несправедливые оценки получили почти 300 000 выпускников. Разразился национальный скандал, обиженные школьники вышли на митинги — у многих сорвались планы по поступлению. В итоге от идеи автоматического оценивания отказались, а итоговые оценки школьникам выставили их учителя. Посмотрите, как школьники скандируют "fuck the algorithm" — без контекста выглядит как эпизод из "Черного зеркала", да и с контекстом тоже, если бы не отмена несправедливых оценок.

Все-таки не стоит поручать непрозрачным алгоритмам решения, которые влекут за собой серьезные социальные последствия.

​​вау https://queer.ai/

На Кольте вышло мое интервью с Михаэлом Пунтшу, экспертом в области этики ИИ. Он участвовал в проекте Algo.Rules, целью которого было выработать критерии, помогающие направлять процесс дизайна алгоритмических систем. 

Мне там особенно нравится часть с обсуждением дискурса «моральных машин» в этике ИИ – идеи того, что мы можем «вписать» определенные «этичные» ориентиры принятия решений в дизайн систем. Как (с моей точки зрения) верно указывает Михаэль, бесконечные обсуждения «дилемм вагонетки» в формате «а-кого-тут-должен-сбить-беспилотный-автомобиль» нас в понимании этичного ИИ особенно вперед не двигают. 

Вместе с другими классными экспертами Михаэль принимает участие в «Сетевом сентябре», который совместно делают Гете-Институт и Теплица социальных технологий. Там множество интересных панелей – технологии и пандемия, активизм и молодые люди, алгоритмы и их регулирование. Зарегистрироваться можно здесь.

В своей последней статье «Борьба за цифровой суверенитет: что это такое и почему это имеет значение, особенно для ЕС» научный сотрудник Оксфордского института интернет-исследователей Лучано Флориди высказывает, среди прочих, тезис о том, что будущее цифрового регулирования будет завязано на взаимодействии политической власти национальных государств и власти больших технологических корпораций. В своем желании вернуть/обрести суверенитет над разными взаимосвязанными «компоненты» интернета государства сталкиваются с технологическими компаниями, маневрирующими между юрисдикциями, при этом находясь в зависимости от технологий этих компаний. 

Флориди также намечает ряд возможных траекторий, по которым цифровой суверенитет может быть вновь обретен в контексте ЕС, учитывая отношения между наднациональным и национальным уровнями управления. Сложные отношения между корпорациями и государствами – лейтмотив большого числа новостей про все цифровое, от вопроса о данных и интернета вещей до 5G и ИИ. 

Однако с тем, как Флориди ставит проблему цифрового суверенитета – выяснение отношений между политической и корпоративной властью – на мой взгляд, есть проблема. А именно – это проблематизация ситуации, более актуальная именно для западных стран, в юрисдикциях которых такие компании расположены. Если ваше государство не принадлежит к таким странам, то ваши возможности вовлечься в великую баталию «политическая vs корпоративная власть» значительно меняются. Я бы сказал, что тогда ваша страна существует в другом масштабе проблемы цифрового суверенитета – для вас это не история про вашу политическу власть против чужой корпоративной в предлагаемом Флориди смысле. Просто потому что политическая власть у вас другая (если вообще есть), хотя и разрешение проблемы в масштабе западных стран для вас будет иметь последствия.