Telegram Web Link
И еще несколько слов про терминологию

Поскольку вчера было 8 марта, а в чатике accessibility community опять обсуждается терминология, я вспомнила историю, произошедшую со мной пару лет назад.

Меня позвали на встречу обсудить инклюзию в дизайне и в анонсе назвали дизайнерКОЙ. Я пришла к организаторам-женщинам с вопросом: «не хотели бы вы, борющиеся за право выбирать, спросить у меня, как я хочу, чтобы меня называли?»

Есть слепые, а есть незрячие. Есть собаки-поводыри, а есть проводники. Есть глухие, а есть неслышащие. Есть инвалиды (ВОИ), а есть люди с инвалидностью. И т.д и т.д

Для меня очень странно, когда люди жестко отстаивают термины, не допуская другого мнения, и не давая другим людям и организациям называть себя так, как они хотят. При этом я вижу в сообществе на протяжении многих лет рубилово, где каждый хочет заставить другого принять его точку зрения. Я совсем не вижу внутри сообщества попыток и желания договориться и создать единую терминологию: никаких круглых столов или мероприятий на эту тему.

Какой тут может быть выход и конструктивный диалог?
Про DEI

Недавно разговаривала с коллегами из НКО о том, какие в компании Яндекс есть инструменты узнать, что у сотрудника есть сложности и оказать помощь. Я после этого разговора вынесла для себя две вещи:

1. Многие практики, которые кажутся обыденностью типа one-to-one с руководителем, наличие hrbp, чекап, комитет по этике и т.д. Это универсальные инструменты, которые позволяют держать руку на пульсе состояния сотрудников вне зависимости от их особенностей.
2. Ситуаций, после которых человеку может быть нужна помощь, множество: смерть близкого, столкновение с терактом/войной/насилием, столкновение с диагнозом онкология, ВИЧ, и т.д.

И хотя тема разговора была сильно далека от DEI, я не могла для себя внутри не провести между этими темами связь. Очень рекоменду статью о DEI от Натальи Парамоновой в Forbes. Идеи DEI (от англ. diversity, equality and inclusion — «разнообразие, равенство, инклюзия») обрели силу после принятия в 1964 году в США Закона о гражданских правах — U.S. Civil Rights Act, который запрещал дискриминацию на основе признаков расы, цвета кожи, пола или этнической принадлежности. Уже в 1970-е концепция пришла и в корпоративный сектор. С того момента и до последнего времени в компаниях внедряли стандарты и образовательные программы — чтобы сотрудники лучше осознавали, как предвзятость влияет на процесс принятия решений и препятствует успешному ведению бизнеса, и умели этого избегать.

Мне кажется, что то, что сейчас происходит с DEI, это ответ общества и системы на позитивную дискриминацию. Необходимо учитывать и создавать инструменты и процессы не для отдельных социальных групп, а для всех.

Разговоры о том, что в компании должно быть одинаковое количество женщин и мужчин выглядят лицемерием на фоне отсутствия диалогов про столкновение с ситуациями из п.2. Нам нужно больше диалогов о том, как компании помогают не только с вопросами барьеров для людей с инвалидностью, а всем сотрудникам. Я искренне считаю, что если в HR среде станет нормой делиться кейсами о том, какая есть помощь для сотрудников столкнувшихся с ситуациями, описанными мной в п. 2., то и люди с инвалидностью станут большей нормой, поскольку станет очевидным, что у каждого из нас есть сложности, барьеры и свои особенности. Нет, какой-то отдельной группы, для которой создается инклюзия. Она нужна нам всем в разные моменты нашей жизни.
BRAD SMITH. AI for Good Applications.pdf
30.4 MB
AI For Good

Кажется, что пока не так много написано книг на тему AI for good. Я нашла и делюсь с вами книжкой Бреда Смита, президента Майкрософт, вышедшей в 2024. В ней в первой части описаны азы AI и ML, а во второй части собраны кейсы, в которых применялись эти технологии для социальных задач.

Что бы вы рекомендовали почитать в этой области? За кем следить?
У меня было довольно мрачное представление о будущем с AI после прочтения ai-2027.com (версия на русском): что будет с инклюзией, с разницей между уровнем бедных и богатых, с рабочими местами и т.д. Основной вывод, который я сделала после прочтения AI2027, что модели будут или уже действуют как директор компании, который для достижения цели, если нужно, соврет. С учетом дисбаланса между знаниями машина/человек, последний не всегда сможет проверить.

В следующем посте опишу, что Brad Smith из Microsoft думает об AI for Good и какие уроки их команда извлекла, работая с AI , а пока расскажу, что вернуло мне веру в будущее.

В 1800-х годах британское правительство в Индии беспокоилось о большом количестве, укушенных кобрами. Они решили выплачивать вознаграждение за каждую убитую кобру. Первоначально эта политика была успешной. Однако через несколько месяцев произошло нечто неожиданное. Количество укушенных стало расти. Убийство кобр превратилось в бизнес, что привело к тому, что люди стали их разводить.

Эффект кобры также может проявляться в машинном обучении. Понимая, как работает модель, пользователи могут управлять системой. Например, некоторые страховые компании предлагают скидки на медицинское страхование лицам, которые регулярно выполняют определенное количество ежедневных шагов. Однако люди быстро нашли способы манипулировать системой. Распространенным методом является использование телефонных качалок - устройств, специально разработанных для имитации ежедневных шагов.

Возможно, моя логика покажется вам странной. Мне и самой кажется, странным, что меня так радуют эти истории. Но когда мне говорят, что что-то невозможно, подобные примеры поддерживают и вдохновляют меня на поиск решений. Когда человек хочет, он всегда найдет решение😋!
Уроки команды Microsoft при работе с AI for Good

1. Модель может быть обманута предрассудками. В 1991 году учёные провели исследование, в котором получили, что левши умирают на 9 лет раньше правшей. Это исследование было опубликовано в одном из самых престижных медицинских журналов мира. Однако исследователи не учли изменений в социальных нормах в отношении леворукости. В начале XX века детей переучивали, что снижало число левшей в популяции. После 50-х эту практику отменили, и доля левшей возросла, что создало иллюзию, что левши умирают моложе.
2. Корреляция не есть причинно-следственная связь. В исследованиях рака нужно не только предсказать разовьется ли у человека рак, но и понять причины его возникновения. И здесь очень важно быть осторожным. В качестве примера приводится известная корреляция между температурой воздуха, мороженным и количеством утопающих.
3. AI не создает новые предубеждения, он отражает существующие. Тут не буду останавливаться. На эту тему сделано довольно много исследований, когда на запрос высокооплачиваемых профессий, алгоритм выдает картинку белого мужчины.
4. Модели могут жульничать (проблема обучения по сокращенным методам). В исследовании 2017 года исследователи не знали, что изображения, которые с большей вероятностью представляют собой раковые поражения, часто содержали линейку, показанную под поражением. Это является стандартом среди врачей, поскольку размер поражения может быть связан с результатом. Изображения нераковых поражений обычно не включали линейку. В результате модель связывала наличие линейки с положительным диагнозом. Модель по сути была обучена распознавать линейки, а не злокачественные новообразования.
5.Нужно быть осторожными с генерализацией результатов, выдаваемых моделью. Например, модель рака кожи, разработанная преимущественно на белых оттенках кожи, может оказаться неэффективной для афроамериканцев. Поэтому разработчикам моделей важно раскрывать характеристики данных для обучения, а пользователям - понимать ограничения применимости модели в различных контекстах.
6. Модели могут создавать иллюзию надежности. “Принимать решение в условиях неопределенности достаточно сложно, но принятие решения в условиях иллюзии уверенности катастрофично”.— К. Боулдинг. До кризиса 2008 года финансовые учреждения и инвесторы полагались на сложные модели оценки рисков, основанные на исторических данных роста цен на жильё и низкого уровня дефолтов. Эти модели не учли возможность спада на рынке жилья и увеличения неплатежей.
7. Эффект Кобры, про который писала вчера.

8. Самый важный для меня пункт: сам по себе AI не сможет решить мировые проблемы. Решение возможно только при колоборативной работе экспертов в предметной области и AI. При попытке предсказать выживаемость недоношенных детей (одну из основных причин младенческой смертности во всем мире) модели выявили, что у недоношенных детей курящих матерей шансы на выживание ребенка были выше. AI исследователи не решались показать результаты врачам. Оказалось, что все действительно так. Причина этого явления в том, что курение ведет к преждевременным родам, но среди причин преждевременных родов оно менее серьезное, чем другие.

Резюме:
– “garbage in, garbage out”
– работа с экспертами в предметной области, важнейший компонент эффективного применения ИИ на благо общества.
15 мая — Всемирный день цифровой доступности

Мои прекрасные коллеги подготовили к этому дню несколько офигенных проектов.

1. На главной странице ya.ru висит очень красивый кликабельный дудл с напоминанием о важности технологий для каждого. Не думала, что когда-то увижу такое на главной странице российского браузера!

2. Ссылка с дудла ведет на страничку, которая поможет объяснить любому человеку, что такое цифровая доступность.

3. Сегодня родился выпуск ПРОДа про цифровую доступность. 23 минутный видеоролик, про то, как устроена работа над Инклюзией внутри Яндекса.

4. Спецпроект, где вы найдете фановый тест – «Какая вы инклюзивная фича», а еще истории людей, которым помогают наши технологии, а также расптраненные мифы по теме. По результатам теста я – человек-сканер😁. А вы кто?
Войны, культура отмены и представления о норме

Сегодня моей дочери исполнился год, а еще скоро будет год, как я в Яндексе отвечаю не только за инклюзию, но и всю социальную повестку. Раньше я была сильно связанна с технологиями и сильно меньше погружена в споры о ценностях. Сейчас я часто наблюдаю, как люди отстаивающие «доброе и светлое», с легкостью разделяют людей на своих и чужих, создавая противоборствующие лагеря. Очень легко на человека с другими ценностями повесить ярлык «сексиста, националиста, и т.д.» и начать с ним войну под предлогом борьбы за «светлое и доброе». Для меня во всем этом страшно расчеловечивание. Мне кажется, что именно в эти моменты и начинаются войны. Когда идеи становятся важнее людей рядом с вами.
Как и чем помогать?

Недавно на одной из конференций был вопрос «Как компании определиться, во что идти и чем помогать?» Мне кажется, что каждому из нас важно осознавать свои сильные стороны. В Яндексе это пользователи и их количество.

Сегодня вышел годовой отчет фонда Помощь Рядом. 5 лет назад основатели фонда Помощь Рядом придумали гениальную в своей простоте цепочку. У нас много пользователей. Помощь от многомиллионной аудитории, которая в момент платежа постоянно делает вклад в несколько рублей, это гораздо более устойчивая конструкция, чем помощь исключительно от компании. Так родилось Округление. Вы едете на такси округляете поездку до 10/50/100 рублей. За 2024 для 700 НКО было привлечено 700 млн.

Мы с нашей командой недавно делали тест Клифтона. Я люблю его за то, что он показывает твои сильные стороны, а не то, где тебе нужно расти, улучшаться и чинить себя. Я верю, что строить новое нужно с ценностью и благодарностью к тому, что у тебя есть.

https://help.yandex.ru/reports/2024
Обязательно рассказывайте про свои социальные проекты!

В постсоветской культуре есть наследие, что «выпячиваться нехорошо», нужно «быть скромным и ждать, когда тебя оценят извне».

Примерно 9 лет назад я осознала, что кто-то должен начать ездить по конференциям и поднимать тему инклюзии в цифровой среде. Что дизайнеры и разработчики не учитывают доступность не потому что они злые, безграмотные или еще какие-то не такие. Дело в том, что они просто никогда не встречались с этой темой. Я взяла ответсвенность и начала это делать.

Вчера наша команды получила премию Head Hunter в номинации Равные возвомжности. Гульнара Горишняя, благодаря которой в Яндексе очень активно развивается тема инклюзивного трудоустройства, выпихнула меня на сцену говорить речь. Мне было очень неловко. Но Гульнара сказала, что она сама начала заниматься инклюзивным трудоустройством благодаря тому, что 9 лет назад увидела на этой премии кейс Лэтуаль.

Обязательно рассказывайте про свои проекты и вдохновляйте людей делать мир инклюзивнее! Это не про выпячивание себя, это про просвещение и продвижение темы!
Обязательно рассказывайте про свои социальные проекты!

В постсоветской культуре есть наследие, что «выпячиваться нехорошо», нужно «быть скромным и ждать, когда тебя оценят извне».

Примерно 9 лет назад я осознала, что кто-то должен начать ездить по конференциям и поднимать тему инклюзии в цифровой среде. Что дизайнеры и разработчики не учитывают доступность не потому что они злые, безграмотные или еще какие-то не такие. Дело в том, что они просто никогда не встречались с этой темой. Я взяла ответсвенность и начала это делать.

Вчера наша команда получила премию Head Hunter в номинации Равные возвомжности. Гульнара Горишняя, благодаря которой в Яндексе очень активно развивается тема инклюзивного трудоустройства, выпихнула меня на сцену говорить речь. Мне было очень неловко. Но Гульнара сказала, что она сама начала заниматься инклюзивным трудоустройством благодаря тому, что 9 лет назад увидела на этой премии кейс Лэтуаль.

Обязательно рассказывайте про свои проекты и вдохновляйте людей делать мир инклюзивнее! Это не про выпячивание себя, это про просвещение и продвижение темы!
2025/07/05 12:42:51
Back to Top
HTML Embed Code: