Убирая легкие части его задачи, автоматизация может сделать сложные части задачи человека-оператора более трудными, обсуждены возможности вмешательства компьютера в принятие решений человеком. Статья также обсуждает стратегии решения проблемы - включают в себя инструктаж или консультирование оператора, смягчение его ошибок, предоставление сложных дисплеев и помощь ему при высоких нагрузках.

На мой взгляд, это статья до сих пор важный вызов с точки зрения того, что автоматизация производит впечатляющее число парадоксов, а люди, которые рассуждают о замене работ LLM не часто видели как выглядят цифровые фабрики, CRM и прочие рабочие места сотрудников и какие бывают проблемы при внедрении таких решений (деградация операторов, нежелание работать в автоматизированной среде, падение мотивации, выгорание, проблемы монотонности труда, разные виды рабочих нагрузок, проблемы обучения и онбординга операторов труда, вышел новый сериал на ТВ в мою смену).

Бейнбридж вроде бы до сих пор жива, вот ее блог
https://www.complexcognition.co.uk/p/home.html

Graceful degradation of performance - надо запомнить и вставлять в презентации

Lisanne Bainbridge

При этом проблема галлюцинаций остается и является составной частью LLM, как я понимаю

Эти огромные 2 процента все еще доказывают мнение Yann LeCun и его дискуссии пару лет назад о том, что автоматизация и гиперавтоматизация в каком-то смысле будут требовать большого вовлечения людей, их участия в процессах отладки - пресловутое "заземление" https://www.tg-me.com/gulagdigital/2098

https://www.visualcapitalist.com/ranked-ai-models-with-the-lowest-hallucination-rates/?fbclid=IwY2xjawHxmAtleHRuA2FlbQIxMAABHSfd5s_wBsGQq0vmkJCA1P5_FIWgF4H6nPlc6z-59fr5h9YPtj0hJdj-4w_aem_QVeuH5FjvkPxW5yaBN-IcA

Рабочая нагрузка, стресс и скука

Одним из самых ясных парадоксов современной работы является то, что компьютерные системы, разработанные для снижения сложности задач и когнитивной нагрузки, фактически часто возлагают еще большие требования и стресса на тех самых людей, которым они должны помогать. Подумайте, сколько раз в вашей собственной работе компьютер казался препятствием для завершения задачи, а не полезным инструментом. То, как люди справляются с таким стрессом, оказывает как непосредственное, так и пролонгированное воздействие на их производительность и благополучие.
В книге The Human-Computer Interaction Handbook: Fundamentals, Evolving Technologies, and Emerging Applications. редакция Jacko приводится модель стресса за авторством Hancock о взаимодействии с технологиями, что само по себе достаточно интересно.

Фундаментальным положением модели Хенкока является то, что в подавляющем большинстве ситуаций (даже в ситуациях довольно высоких требований) люди эффективно адаптируются к возмущениям ввода при появлении задач. То есть, они могут выдерживать высокие уровни как перегрузки, так и недогрузки без огромных изменений своих возможностей производительности. Адаптивные процессы происходят на многих уровнях, некоторые из которых - физиологический, поведенческий (т.е. производительность) и субъективный/аффективный. Эти адаптации представлены в модели в виде серии вложенных, расширенных перевернутых U-образных функций , отражающих тот факт, что в большинстве условий адаптивное состояние организма стабильно. Однако в экстремальных условиях недогрузки или перегрузки окружающей среды “сбои” в адаптации все же происходят.
Таким образом, когда человек возмущается входным воздействием, первым порогом, который он преодолевает, является субъективный комфорт. Затем следуют поведенческие эффекты и, наконец, отказ физиологической системы (например, потеря сознания). Примеры таких крайних сбоев относительно редки в большинстве условий, хотя, когда они все же происходят (например, в конфликтных ситуациях), они зачастую катастрофичны для человека и системы, в которой он или она работает

Модель Hancock и Warm учитывает уровни адаптации и изменения адаптации, которые происходят под действием движущих сил стресса. Однако она не формулирует точно, как усилия распределяются под воздействием стресса или какими механизмами люди оценивают параметры задачи, являющиеся непосредственным источником стресса. Следствие для HCI состоит в том, что компьютерные задачи, которые налагают либо слишком большие, либо слишком малые требования, скорее всего, будут оцениваться как стрессовые. В последнем случае стресс от недогрузки будет интерпретироваться как скука. Таким образом, процесс проектирования для разработки компьютерных интерфейсов должен включать оценку воспринимаемой нагрузки, а также аффективного состояния.

Решил после нового года составить список книг по истории техники и технологий: в том числе на русском, ну, думаю, есть специальные научные организации типа ИИЕТ Ран, кафедры факультетов по истории технологий, и, конечно, мне вспомнилась книга по истории античной науки и техники за авторством Ивана Дмитриевича Рожанского - читал ее в молодости, решил проверить, что там еще написано: маленькая книжка в которой рассказывались основные факты относительно античных достижений - Филон Александрийский, пневматика, театральная техника, первая оптика и т.д.

В биографии внезапно строчка, что известный историк науки был сыном Дмитрия Аполлинариевича Рожанского - одного из главных учеников создателя радио в Российской империи, Попова. https://www.computer-museum.ru/articles/spetsialnaya-tekhnika-svyazi-i-radiolokatsii/336/
В 30ые он создает радиолокационные приборы для обнаружения самолетов (импульсный метод радиолокации), до этого современный осциллограф, исследования СВЧ.
28 сентября 1930 г. в «Ленинградской правде» выходит статья «Рожанским нет места в семье советских ученых» (Это известное дело Промпартии https://ru.wikipedia.org/wiki/%D0%94%D0%B5%D0%BB%D0%BE_%D0%9F%D1%80%D0%BE%D0%BC%D0%BF%D0%B0%D1%80%D1%82%D0%B8%D0%B8 ). Дело в том, что 25 сентября 1930 г. на физико-механическом факультете Политехнического института состоялось собрание, на котором обсуждалась подрывная деятельность «вредителей». Вначале был доклад, затем состоялось голосование. Все собрание проголосовало за смертную казнь «вредителям», кроме Дмитрия Аполлинариевича Рожанского, который воздержался. На вопрос председательствующего, по каким мотивам он воздерживается, Дмитрий Аполлинариевич спокойно ответил, что ему ничего неизвестно об этом деле, что он, конечно, против «вредительства», но и против смертной казни.

Спасает ученого…. Киров, без объяснений Рожанского освобождают, в 1936 году умирает(возможно, именно поэтому и не расстреляли, не дожил до 1937 года).

Некоторые выводы из теории рабочей нагрузки, опять по книге The Human-Computer Interaction Handbook: Fundamentals, Evolving Technologies, and Emerging Applications

Гедономика: содействие приятному взаимодействию человека и компьютера

Исследования стресса традиционно следовали императиву эргономики и человеческих факторов в целом - сначала не навреди, а затем стремиться предотвратить боль и травмы. Как и вся поведенческая наука, исследователи стресса часто стремились лечить симптомы стресса и смягчать его негативные эффекты на производительность. Однако с появлением позитивной психологии (Seligman и Csikszentmihalyi 2000) наблюдается движение к включению стимулирования удовольствия и благополучия, а не ограничению усилий только предотвращением боли. Hancock (Hancock, Pepe и Murphy 2005) ввел термин "гедономика" и определил ее как ту ветвь науки, которая способствует приятным или приятным аспектам взаимодействия человека с технологиями. Короче говоря, цель гедономики - проектировать с учетом счастья.

Гедономика - довольно новая область исследований, но в последнее десятилетие наблюдается быстрый рост исследований, касающихся аффекта и удовольствия. Аффективные оценки предоставляют новую и отличную перспективу в инженерии человеческих факторов. Речь идет не о том, как оценивать пользователей; речь идет о том, как пользователь оценивает (Hancock и др. 2005). Исследования гедонических ценностей и соблазнительных интерфейсов фактически являются желанным контрастом исследованиям безопасности и производительности, которые так долго доминировали в инженерии человеческих факторов и эргономике (ИЧФ/Э). Однако следует отметить, что приятное взаимодействие с технологиями не обязательно способствует счастью.

Гедономический дизайн имеет очевидную важность для разработки потребительских продуктов, но в принципе он также может преобразовать саму природу работы, делая ее "забавной". Хотя могут быть некоторые задачи, которые никогда не будут полностью приятными, есть много людей, которые имеют работу, которую можно сделать более приятной, спроектировав задачи таким образом, чтобы они поощряли телетическую работу (Csikszentmihalyi 1990), одновременно способствуя внутренней мотивации (Deci и Ryan 2000).

Мотивационные предпосылки можно рассматривать как элементы рабочей среды, которые способствуют и питают внутреннюю мотивацию. Ключевым для проектирования является выявление мотивационных инвариантов, или факторов среды, которые последовательно определяют уровень внутренней мотивации человека в разных контекстах. Существуют некоторые аспекты работы, которые были определены как важные для формирования внутренней мотивации и, таким образом, могли бы считаться мотивационными инвариантами. Например, предоставление обратной связи, воспринимаемой как контролирующей, а не информативной, tends to undermine a sense of autonomy and competence and thereby reduces intrinsic motivation (Deci, Ryan, and Koestner 1999). Тщательный анализ структуры мотивационных предпосылок позволяет разработать задачи, которые, вероятно, будут более приятными, делая инструменты более удобными (Illich 1973) и тем самым способствуя синергии человека и машины (см. Hancock 1997).


https://en.wikipedia.org/wiki/Peter_Hancock_(professor)

https://peterhancock.ucf.edu/

Как возникла HCI? Man-Computer Symbiosis Ликлайдера

Фиговое дерево опыляется только насекомым Blastophaga grossorun, личинка которого живет в завязи дерева, где и получает пищу. Таким образом, дерево и насекомое находятся во взаимозависимом положении: дерево не может осуществлять процесс репродукции без насекомого; насекомое без дерева не сможет найти пропитание; вместе они организуют жизнеспособное, продуктивное и процветающее сотрудничество. Такое взаимодействие «живущих вместе в тесной связи двух организмов разных видов» называют симбиозом.

Симбиоз человека и компьютера — это подкласс человеко-машинных систем, коих существует много. Однако в настоящий момент никакой системы симбиоза между человеком и компьютером нет.

С этих слов начинается статья Джозефа Ликлайдера: «Симбиоз человека и компьютера», статья, которая не удостоилась большой популярности в РФ, тем не менее, ее перевод есть на Хабре. Эта по сути философская статья содержит умозрительные ответы на некоторые вопросы, поставленные в свое время на первых семинарах, организованных Норбертом Винером. Дадим слово самому автору.
https://groups.csail.mit.edu/medg/people/psz/Licklider.html

"Надежда состоит в том, что в не слишком краткие годы человеческий мозг и вычислительные машины будут очень тесно связаны друг с другом, и что полученное партнерство будет мыслить так, как никогда не мыслил ни один человеческий мозг, и обрабатывать данные способом, к которому не приближаются известные нам сегодня машины для обработки информации.
Цель заключется в том…, чтобы эффективно внедрить вычислительные машины в процесс мышления, который должен происходить в режиме «реального времени», т.е. времени, которое течет слишком быстро, чтобы иметь возможность использовать компьютеры обычным способом."

Здесь, Ликлайдер пытается дать определение того, что такое человек, и что такое компьютер, определение весьма достойное и сделающее честь Платону:

"Люди — это шумные, узкополосные устройства(narrow-band devices), но их нервная система имеет очень много параллельных и одновременно активных каналов. По сравнению с людьми вычислительные машины очень быстры и очень точны, но они ограничены выполнением только одной или нескольких элементарных операций за раз. Люди гибки, способны «программировать себя условно» на основе вновь полученной информации. Вычислительные машины целеустремленны, ограничены своим «предварительным программированием». Люди по природе говорят на избыточных языках, организованных вокруг единичных объектов и последовательных действий и использующих от 20 до 60 элементарных символов. Компьютеры «по природе» говорят на неизбыточных языках, обычно только с двумя элементарными символами и без врожденного понимания единичных объектов или последовательных действий.

Вычислительные машины могут легко, хорошо и быстро делать многие вещи, которые сложны или невозможны для человека, а люди могут легко и хорошо, хотя и не быстро, делать многие вещи, которые сложны или невозможны для компьютеров. Это говорит о том, что симбиотическое сотрудничество, если оно успешно интегрирует положительные характеристики людей и компьютеров, будет иметь большое значение.

Похоже, что вклады людей-операторов и оборудования будут настолько полностью смешиваться во многих операциях, что будет трудно четко разделить их при анализе. Так было бы в случае, если бы при сборе данных, на которых основывалось решение, например, и человек, и компьютер придумали соответствующие прецеденты из опыта, и если бы компьютер затем предложил курс действий, который согласуется с интуитивным суждением человека."

Люди, конечно, будут устанавливать цели и обеспечивать мотивацию, по крайней мере, в первые годы. Они будут формулировать гипотезы. Они будут задавать вопросы. Они будут думать о механизмах, процедурах и моделях. Они будут помнить, что такой-то человек сделал какую-то, возможно, важную работу по теме интереса еще в 1947 году или, по крайней мере, вскоре после Второй мировой войны, и у них будет представление о том, в каких журналах она могла быть опубликована. В общем, они будут делать приблизительные и ошибочные, но ведущие вклады, и они будут определять критерии и выступать в качестве оценщиков, оценивая вклад оборудования и направляя общее направление мысли.

Здесь идет интересная мысль, которая меня удивила, что он, возможно, предвидел риск деградации и склероза нейросетей.

"Второй момент заключается в том, что очень важный раздел памяти будет постоянным: частично неизгладимая память и частично опубликованная память. Компьютер сможет записывать один раз в неизгладимую память, а затем считывать обратно бесконечно, но компьютер не сможет стирать неизгладимую память. (Она также может перезаписывать, превращая все нули в единицы, как будто помечая то, что было написано ранее.) Опубликованная память будет памятью «только для чтения». Она будет введена в компьютер уже структурированной. Компьютер сможет ссылаться на нее неоднократно, но не изменять ее. Эти типы памяти будут становиться все более и более важными по мере того, как компьютеры будут становиться больше. Их можно будет сделать более компактными, чем сердечники, тонкие пленки или даже ленточная память, и они будут намного дешевле. Основные инженерные проблемы будут касаться схем выбора."

J. C. R. Licklider
IRE Transactions on Human Factors in Electronics,
volume HFE-1, pages 4-11, March 1960
https://www.computer-museum.ru/frgnhist/intern4.htm

Поминки по дизайн-мышлению

Последние 10 лет странные консалтеры и евангелисты предлагали клеить стикеры в залах, проводить брейнштормы и рисовать пути клиента. К счастью, все большее число людей начинает замечать, что это больше похоже на секту шестидесятников: вероятно, это часть старой культуры, которую будут списывать вместе с департаментами по разнообразию (аминь Трампу)
https://www.fastcompany.com/91262174/what-comes-after-design-thinking

Дизайн-мышление было создано для другой эпохи: времени, когда новые продукты или услуги, часто детища технологических визионеров, стремились наделить людей духом «думать по-другому». Но теперь надо не культивировать индивидуализм в эпоху кризисов, а наоборот, культивировать общность и учитывать общности людей.

We need to think in communities, пишут авторы статей, предлагая строить процессы принятия решений учитывая разные интересы, выделять сети стейкхолдеров, интересы разных сторон, идентичность и так далее.
В России, где топ-менеджмент, редко когда покидает кабинеты и не знает свою логистику, торговые залы, бэк-офис и людей, которые там работают (гастарбайтеров, в основном) это звучит актуально, но сомневаюсь, что консалтерам удастся продать такую идею.

Неравномерное распределении ИИ
https://stratechery.com/2025/ais-uneven-arrival/
AI’s Uneven Arrival

Stratechery — один из самых популярных технологических бюллетеней:рн понимает мета-тенденции и то, как думают руководители технологий, как мало кто другой. В «Неравномерном прибытии ИИ» он подчеркивает, что большинство организаций даже отдаленно не готовы передать задачи от людей ИИ, даже если ИИ мог бы их выполнять — слишком много неявных знаний. А затем следует неудачная аналогия из старого выступления Кейта Рабуа в Стэнфорде: «большинство людей — это боеприпасы, а не стволы» — то есть небольшое количество незаменимых людей задают направление (стволы), но люди, которых, скорее всего, заменит ИИ, просто выполняют работу (боеприпасы). В этом есть некоторый здравый смысл: нанимая больше людей, мы не ускоряем работу, а чаще, наоборот, уменьшаем скорость работы. Аналогия: "стволы и боеприпасы" — небольшое количество ключевых сотрудников ("стволы") задают направление, а большинство выполняет рутинную работу ("боеприпасы"). Давайте последим за его логикой.

Силиконовая долина - это конвейер SaaS-компаний, которые позиционировали себя как стартапы, меняющие мир, но которые на самом деле были пестрыми цифровыми сбоями в бизнес-моделях, реализованными благодаря облачным вычислениям и резко расширенной экосистеме венчурного капитала, которая все чаще принимала относительно низкую доходность в обмен на значительно сниженные профили риска.

Последние два десятилетия ознаменовались ростом цифровой рекламы, определяющей характеристикой которой является знание того, на кого она нацелена, и конвертируются ли они. Специфика того, как это работает, со временем изменилась, особенно с ужесточением правил использования файлов cookie которая сделала цифровую рекламу менее детерминированной и более вероятностной; однако вероятности в игре гораздо ближе к 100%, чем к подбрасыванию монетки. Интересно, что этот подход к рекламе не всегда работал для всего, особенно для некоторых из самых ориентированных на рекламу компаний в мире. Еще в 2016 году Procter & Gamble объявила о сокращении целевой рекламы в Facebook;

Слишком таргетированная аудитория для Procter & Gamble оказалась не так уж и нужна, большой охват оказался предпочтительнее.
Также была отдача от масштаба: производство — это большой вопрос; чем больше рекламы вы покупали, тем меньше платили за рекламу; что еще важнее, чем больше у вас было места на полке, тем больше у вас было возможностей для расширения линеек продуктов и вытеснения конкурентов.

Причем тут ИИ и LLM?

Было много разговоров о важности масштаба с точки зрения производительности LLM; для авторегрессионных LLM это означало масштаб обучения. Чем больше у вас параметров, тем больше вам нужна инфраструктура, но выигрыш — это большая точность, поскольку модель включает в себя гораздо больше информации.

o1 становится точнее, чем больше времени он тратит на вычисления во время вывода. То, на что указывают o3 и масштабирование времени вывода, — это нечто иное: ИИ, которым можно давать задания и доверять их выполнение. Это, в более широком смысле, больше похоже на независимого работника, чем на помощника — боеприпасы, а не винтовки

Когда вы нанимаете больше инженеров, вы не делаете намного больше. Иногда вы на самом деле делаете меньше. Вы нанимаете больше дизайнеров, вы определенно не делаете больше, вы делаете меньше за день. Причина в том, что большинство людей на самом деле являются боеприпасами. Но то, что вам нужно в вашей компании, — это стволы. И вы можете стрелять только через то количество уникальных стволов, которое у вас есть. Вот как скорость вашей компании улучшается — это добавление стволов. .

Я допускаю технический оптимизм; мое определение AGI заключается в том, что он может быть боеприпасом, т. е. ему можно дать задачу и доверить его выполнение с достаточно хорошей скоростью (мое определение искусственного суперинтеллекта (ИСИ) — это способность изначально придумывать задачи). Однако причина такого длительного отступления о рекламе заключается в том, чтобы объяснить, почему я скептически отношусь к ИИ, «существенно изменяющему результаты деятельности компаний», по крайней мере в 2025 году.

В этой аналогии компании CPG представляют корпоративный мир в целом. Когда боеприпасы ИИ станут доступны, станет ясно, насколько не подходят большинство компаний для высокоточных агентов, так же как P&G не подходила для высокотаргетированной рекламы. Независимо от того, насколько хорошо документированы процессы компании, станет ясно, что существуют огромные пробелы, которые были заполнены опытом и неявными знаниями человеческих боеприпасов. Положительная отдача от инвестиций достигается за счет сохранения и увеличения лицензий на рабочие места; однако эти рабочие места являются посредниками для фактического выполнения работы, так же как реклама была всего лишь посредником для фактической продажи чего-либо. С этой целью ИИ — особенно ИИ, такие как o3, которые масштабируются с помощью вычислений — будут оцениваться в соответствии со стоимостью выполняемой ими задачи; сумма, которую компании будут платить за вычисление времени вывода, будет зависеть от того, сколько стоит задача. Это аналогично цифровой рекламе, которая оценивается по конверсии, а не CPM.

Если что-то подобное произойдет с агентами ИИ, то наиболее важными клиентами ИИ в первую очередь будут новые компании. Традиционные компании, тем временем, будут бороться за внедрение ИИ (за исключением полномасштабной замены рабочих мест а-ля мэйнфрейм); настоящий захват ИИ предприятий, которые сохраняют дифференциацию в реальном мире, вероятно, займет годы.