Девятая ежегодная конференция клуба Школы системного менеджмента "Современный системный менеджмент и инженерия-2025" состоится 19-20 апреля 2025 года, сделайте пометки в календарях. Там мы будем обсуждать современные методы системного менеджмента и самой разной инженерии, поддержанные интеллект-стеком методов фундаментального мышления и успешно применённые нашими соклубниками для изменений к лучшему в их рабочих проектах. Вот этими успехами мы и будем делиться на конференции, а ещё мы обсудим результаты исследований лабораторий ШСМ и прошедшие за год изменения в учебных программах.

Программа конференции

19 апреля 2025, суббота
Секция-1 Стратегия клуба создателей и его Школы
Секция-2 Делаем людей умнее (новости учебных программ "Личное развитие", "Организационное развитие")
Секция-3 Личное развитие
Секция-4 Рациональная работа

20 апреля 2025, воскресенье
Секция-5 (удвоенная) Системный менеджмент
Секция-6 Системная инженерия (совместно с Русским отделением INCOSE)
Секция-7 Корпоративные информационные системы и искусственный интеллект

Подробности в посте:
https://ailev.livejournal.com/1749524.html

Проект переписки "Системной инженерии" потихоньку движется. По традиции привожу переписанный первый подраздел "Инженерия" первого раздела "Безмасштабная эволюционная системная инженерия" (23Кзнака). В первом разделе, как обычно -- общие соображения по предмету, показывающие его связи с другими предметами. Следующий там подраздел -- "Системность инженерии как задающая её безмасштабность и эволюционность", затем "Инженерия и эволюция", затем "Этические/политические проблемы эволюции, которые можно решать инженерно", отношения инженерии с наукой и т.д. Публиковать переписанный курс буду пораздельно. Пока переписано немного, 9%.

Инженерия — это культура изменения физического мира к лучшему, подразумевающая рациональное принятие решений в ходе этих изменений. Альтернативная, более простая формулировка инженерии — это создание успешных систем (было подробно разобрано в курсе «Системное мышление»). Успешность системы определяется как соответствие её ожиданиям внешних проектных ролей (stakeholders), которых множество самых разных. Успешность системы для её оценки сразу ведёт к безмасштабному (на многих уровнях) рассмотрению, ибо для систем на разных системных уровнях будут находиться разные проектные роли. А ещё ожидания этих ролей по поводу системы динамичны, так что систему надо будет непрерывно менять, чтобы она оставалась успешной – надо систему непрерывно эволюционировать/адаптировать/модернизировать/развивать/обновлять (используют по факту все синонимы).

На картинке -- "аллегория инженерии", в курсе её нет, это эксклюзив для блога.
https://ailev.livejournal.com/1749831.html

Проведу вебинар "Образование для образованных в 2025", 27 января 2025, в 19 часов (ориентировочная длительность: полтора-два часа, вход свободный, в телеграм-канале Школы, https://www.tg-me.com/system_school, оффлайн в Москве -- в офисе Школы на Таганке). Обсуждается состав фундаментального образования инженеров и менеджеров, которое нужно в мире, когда AI доступен за копейки, причём доступен всем -- и он заведомо умней тебя. Все новинки приходят не от заклятых друзей-конкурентов, а "сбоку" из заранее непонятных областей, как микроволновку изобрели не работники кухни, камеры в смартфонах — не работники заводов по производству фотоплёнки и фотобумаги. И даже это новое тоже просуществует недолго: умные роботы уже здесь, и бегающие по стройкам и заводским цехам роботы-собачки стоят уже не десятки тысяч долларов, а единицы тысяч. А ещё роботы-спамеры и роботы-мошенники ломятся в чаты, звонят по телефону, успешно притворяются людьми. Тренд глобализации внезапно закончился, в мире выстраиваются непроходимые границы и на суше, и на море, и в интернете, и в платёжных системах. Но уровень жизни во всём мире всё-таки растёт и "лень работать" заменилось словом "выгорание". Эволюцию не остановишь, поэтому ответ на большинство вопросов "когда это закончится?" -- "никогда, только будет всё стремительней". В таких условиях вырастает роль не стремительно устаревающего рабочего прикладного знания (с прикладными проблемами будет справляться AI), а фундаментального знания, которое может пригодиться во многих проектах, а также поможет общаться с AI на самые разные, сегодня непредсказуемые завтрашние темы. На вебинаре также расскажу о логике построения образовательных программ ШСМ "Личное развитие" и "Организационное развитие", об опыте обучения на них.

9Кзнаков о том, как проводить вместо "обзора системного мышления с целью заинтересовать" тренировку-демонстрацию пары приёмов этого мышления. Даю слайды для такой тренировки и пишу, о чём надо предупреждать аудиторию. Картинка — тот слайд с правилами, который висит на доске в ходе тренировки.

https://ailev.livejournal.com/1750301.html

16Кзнаков о разных терминологиях для многоуровневых систем/агентов/репликаторов и прочих единиц многоуровневой организации, архитектуры, компоновки и т.д.
— Многоуровневые системы и многоуровневые их описания
— Подходы к многоуровневости объектов
— Теории многоуровневости: системный подход в его множестве обличий
— Слова-термины важны, и не важны.

На картинке -- системы вроде на всех уровнях, но с нюансом: если это последний уровень в какой-то ветви иерархии, то это уже не система, а "системный элемент". Это ведущий стандарт классической системной инженерии. И если вы вдруг решите сделать этот элемент из двух частей, то придётся поменять тип с "системного элемента" на "систему". И это счастье, ибо раньше у вас это было деталью, подсборкой, сборкой, подсистемой, системой (и это даже не все предписанные уровни), при любом изменении организации и архитектуры приходилось переприсваивать типы объектов. Сама идея, что уровни по отношению "часть-целое" должны содержать какие-то единицы/units одного типа -- она в системную инженерию шла очень медленно, а до многих мест "просто инженерии" пока ещё вообще не дошла.

https://ailev.livejournal.com/1750648.html

Переписал уже 20% "Системной инженерии", там "непрерывную инженерию" (от всех этих CI/CD) меняю на "эволюционную инженерию", там уже вовсю эти "динамические ландшафты приспособленности" — они уже и в инженерии, и в менеджменте. Особенности современного образования: любое (любое-любое, да) рассуждение по любым правилам сегодня маркируется "душнила" — и это вроде как культурно поддержано, ничего умного говорить публично вроде как и нельзя, это же "грузить", есть много разного сленга на эту тему — а сленг возражений отсутствует, нельзя сказать, например, "душнила, зато не идиот безмозглый, как ты — ты уже мозг напрягать разучился, тебя даже 2*2 насмерть задушить может, как я погляжу". Можно взять критерий "Лиги школ" — "сколько человек из наших выпускников попадёт в энциклопедию", скажем, миллион человек, почему бы и нет, для этого надо на входе иметь миллион человек, если мы качественно учим (десять миллионов, если не очень качественно), а отбирать можно вот прямо изо всего человечества, даже если брать людей с PhD, то это 2% от населения развитых стран, это огромная цифра. AI-блогеры из обозревателей "разработки AI" стали тупо усилителями пресс-службы OpenAI — не надо много лет заниматься разработкой систем AI, чтобы живописать фичи очередных версий пользовательских продуктов, поэтому ищем других блогеров (которые пишут про то, что под капотом), а также ищем интересное сами — и не только про "трансформеры". Когда пользовался будильником (а не пользуюсь уже десятки лет, пользуюсь встроенным в меня биобудильником), самый навороченный из моих будильников был таким, как на картинке: будильник запускает крыльчатку, которая летает по комнате в разных направлениях, потом где-то падает, и надо встать, найти улетевшую крыльчатку и засунуть её назад в будильник, всё это время будильник орёт благим матом так, что мёртвого поднимает.

https://ailev.livejournal.com/1750940.html (10Кзнаков)

Небольшой (15Кзнаков) обзорчик январских 2025 исследований (а не выпусков очередных фич "лидеров рынка") в области AI. Попсовые AI-блогеры перестали о таком писать, а жаль: про o3 расскажут из каждого утюга, а они бы могли перестать быть этими утюгами. Рассказывать о том, что только они могли бы рассказать с их уникальным опытом. А "я протестировал очередную фичу продукта OpenAI" -- это уже не новости фронтира, это новости того, что было фронтиром год назад, а сейчас просто докатилось до широкой публики, стало попсой. Эх, мне бы самому не опопсеть, очень не хотелось бы.

Для меня тут самое интересное — это текущий тренд на уход от языка (токенов) в представлении мыслей, ибо "изречённое дао — не настоящее дао". Картинка как раз из одной из статей об этом.

https://ailev.livejournal.com/1751264.html

Оказывается (раскрыл это в 6Кзнаках), кроме DeepSeek R1 за два месяца до его выпуска вели независимые эксперименты с RL и CoT — и сетка simpleRL-reason как и R1 научилась рефлексии, причём без синтетических данных, данных там вообще надо было x50 меньше! Шороху это всё наделало много, экспоненты в падении цен на интеллект продолжают работать. Но есть люди (даже знаменитые, вроде Lehman и Stanley, а также Levin), которые утверждают, что с нейросетками всё плохо, ибо спасает только эволюция и open-endedness — но эволюцию в нейросетях почему-то не замечают.

Выложил слайды для сегодняшнего вебинара, там на восьмом слайде пара картинок из ссылок сегодняшнего поста.
https://ailev.livejournal.com/1751437.html

Слайды для сегодняшнего семинара — https://disk.yandex.ru/i/w2ikhzayzpUI8Q

Запись моего вебинара в понедельник.

Она же в ютьюбе https://www.youtube.com/watch?v=bOc2srOnD2s, ВКонтакте — https://vk.com/video-121136545_456239352

Слайды — https://disk.yandex.ru/i/w2ikhzayzpUI8Q

Видео (2 часа 26 минут) моего вебинара "Образование для образованных в 2025" на разных платформах (и слайды тоже). Мысли Karpathy про примат RL по сравнению с RLHF и о том, как писать учебники для LLM (хинт: как и для людей — учебный материал, примеры задач с решениями, затем много задач с ответом — и вот эти "задачи с ответом" как раз фронтир, это RL). Провёл некоторое количество игр "барышня-мадам", пишу про необходимость примерно 4 часов тренировки — пока не научатся надёжно удерживать "вещь в окружении в момент эксплуатации" в ходе рассуждений, я тут даже слова "система" не говорю. В чате моего канала очередной приступ психологии — много туда писал, а вирус психологического трёпа надо удавливать, на темы психологии надо беседовать не с людьми, а с o1, R1, Gemini Thinking, если уж совсем невтерпёж (при этом понятно, что уж совсем невтерпёж!). У Fields и Levin вышла очередная работа, и по этому поводу я много часов беседовал с нежитью — изучал вопрос, может ли нежить предложить, как использовать знания из статьи для инженерии и менеджмента, привожу пять соображений на эту тему.

Картинка из поста Karpathy.

https://ailev.livejournal.com/1751581.html (17Кзнаков)

Полностью переписан первый раздел, "Безмасштабная эволюционная системная инженерия" курса "Системная инженерия", там отражены современные воззрения на общую эволюцию, частью которой являются биологическая, культурная, техно-эволюция (опубликовано, можно уже читать). Мои эксперименты с o3, она таки получше R1, а до экспериментов с Gemini 2.0 Thinking просто руки не доходят. Обсуждаю IDE и реактивные ноутбуки в Julia — похоже, там всё плохо с copilots, но заодно там и большие заблуждения по поводу развития AI, всё-таки я сижу в информационном пузыре и отслеживаю тему, но в целом про качественное отличия "думающих" моделей и "обычных" ещё никто не знает. При этом с Julia всё вроде в порядке, но не совсем — как и всегда в эволюции, оптимум недостижим, и проблемы двух языков пока не удалось решить, зато победа не в Software 3.0, а в Software 2.0. С роботами тоже всё идёт, для них, например, Genie 2.0 — world model, где можно моделировать последствия действий и предсказания, а ещё Tesla таки объявила, что роботакси без человека-водителя запускает уже в июне 2025, в техасском Остине. Алармисты делают перепосты материалов Бенжио и Хинтона, что "AI всех убьёт", но мне кажется, что обсуждать это надо по линии эволюции, а не по линии аргументов этих двоих и их комментаторов — это ж всё рассуждения по факту про судьбу популяций в эволюции, вот так и надо обсуждать. Это всё обсуждалось в чате gonzo-обзоров, вышло к обсуждению "направления эволюции" — но какое к чёрту "направление", если у нас dynamic fitness landscape, и что вчера было смертью, сегодня оазис, и наоборот (и пример самих нейросеток, которые из зимы AI привели к AI-лету тут как раз в кассу). На картинке как раз динамический ландшафт, на нём показана серыми точечками популяция — кто-то там вымирает, кто-то успевает выжить, но когда говорят о "направлении эволюции" надо помнить об этой картинке.

https://ailev.livejournal.com/1752045.html — в посте 18Кзнаков.

Мои заметки по связи инженерии и теории эволюции — теория эволюции и теория инженерии более менее одинаковы. Биологическая эволюция, культурная эволюция, техническая эволюция — это всё одна и та же общая эволюция. Наблюдаемые резкие перемены во всём — это просто эволюция, чтобы в этом разобраться, надо хотя бы чуть-чуть знать теорию эволюции. А она в 21 веке существенно поменялась.
— Две стороны одной сингулярности
— Основные идеи современной теории эволюции
— Пример эволюции в инженерии: нейросети
— Изготовление (evo), а затем три шага обучения (devo)
— Концептуальный синтез каких теорий эволюции мы делаем

Картинка — обложка книжки по eco-evo-devo, SoTA на октябрь 2024

https://ailev.livejournal.com/1752137.html (19Кзнаков)

Следующий ход в развитии систем AI — это внимание к сложным мирам (в пределе — к реальному миру), к продуцированию новых интересных (новых и познаваемых) артефактов, постановке интересных проблем. Ибо решать проблемы вроде научились — современные сетки (вроде o3, R1, Gemini 2.0 Thinking) вполне способны не только рассуждать, но и познавать новые способы рассуждений. Слово "агенты" на слуху у всех, но тут мало просто "агентов" с их автономностью. Нам надо бесконечно развивающихся агентов, надо выходить на проблему open-endedness. Для этого кроме развивающихся агентов надо заняться развитием миров и постановкой всё более сложных, но всё ещё решаемых (goldilocks, из зоны ближнего развития) проблем.

На эту тему у меня 13Кзнаков текста. Картинка из ещё августовской 2024 статьи "Open-endedness is all we'll need". Поглядите, там всё те же "три шага обучения" -- это всё носится в воздухе, просто, как и в нормальной эволюции, у некоторых проектов получается выжить, а у некоторых догадки оказываются неправильными. "Момент DeepSeek" получился не только из-за правильной догадки о том, как выучивать меметический алгоритм с догадками и самокритикой/рефлексией в нейросетке с LLM, но и из-за того, что там всё выложили в опенсорс. Но это ещё не последний фронтир, дальше open-endedness, а для этого выложить в опен сорс надо генератор миров, генератор артефактов, генератор проблем. Агенты, да, это у всех сейчас агенты. Но агенты агентам рознь, нам нужны непрерывно умнеющие агенты. И коллективы агентов, которые могут познавать совместно. Ну, участвуем, а не ждём, пока "они там пусть сделают". Помним, что в распоряжении каждого из нас есть мокрая нейронная сетка, в которой работает неплохая LLM, она уже pretrained и даже finetuned, теперь её надо научить думать, а потом научить думать лучше, а потом... и мы опять упираемся в open-endedness, is all we'll need. Так что я хоть и не обучаю нежить, но с обучением нейронных сеток сталкиваюсь каждый день. Мопед мой.

https://ailev.livejournal.com/1752457.html

Обсуждаю художественную литературу — в том числе возможности её использования не для развлечения, а для обучения, мотивирования, просветления и прочей психологии. Это эссе на 20Кзнаков, в темах там и физика с математикой, и машинное обучение, и буддизм, и выигрыш Трампа, и аниме с мангой. И куча ссылок на то, что читать по всем этим темам дальше.
— Чистая математика -- это художественная литература, если нет выхода в реальность
— Проект Вольфрама: художественный, а не физический
— Нельзя читать мусорные тексты, на них умным не станешь, скорее наоборот
— Святые тексты как художественная развлекательная литература и как учебники психопрактик
— Фильтр в голове на психологическую литературу

Картинка -- этот самый "Князь света", издание 1971 года (а книжка вышла в 1967 году). Там всё честно, выдумка чистой воды, никаких претензий на обучение психологии, религиозным идеям, этическим принципам, медитативным практикам, просветлению и всякому такому. Чтиво исключительно ради удовольствия. Я вот читал, в нескольких переводах, чистая же поэзия! Аниме стали доступны много позже, их тоже смотрел. Помогло ли мне это стать умней? Дало ли просветление, цирковой режим работы мозга, недоступный людям без специальной цирковой подготовки? Вроде как нет. Но развлечение, конечно, знатное! Главное -- не считать это "престижным образовательным потреблением". Потребление, и отнюдь не престижное.

https://ailev.livejournal.com/1752577.html

Для новых супер-дупер-AI сейчас только ленивый не приводит какие-нибудь рейтинги, тысячи их. Написал 17Кзнаков про то, как к этому относиться.
— Не верим попсовым рейтингам, они врут. Нужна элитарность, а не попсовость.
— Не верим многоборьям, они врут
— А как вообще оценивать интеллект?
— Пузомерки дадут нам болванов для нашего прикладного интеллекта

Не попса, лонгрид, много ссылок — но на сами рейтинги ссылок мало )))

https://ailev.livejournal.com/1753048.html

Переписано 44% -- опубликован ещё один раздел "Системной инженерии"
Опубликована очередная версия курса "Системная инженерия", новых там 44% текста. В этой версии полностью переписан второй раздел, "2. Архироль создателя/инженера и разделение инженерного труда". В первый раздел, который был переписан чуть ранее, добавлен подраздел "Динамический ландшафт приспособленности". Намечена структура остальных разделов (заменены заголовки), но содержание там не трогалось -- оно по-прежнему двухлетней давности. Вот оглавление переписанного куска:

1. Безмасштабная эволюционная системная инженерия
Инженерия
Системность инженерии как задающая её безмасштабность и эволюционность
Моделирование: «неинженерные» инженерные проекты
Инженерия и эволюция
Динамический ландшафт приспособленности
Эволюционная неизбежность этических/политических проблем и инженерные подходы к их решению
Слова-термины в безмасштабной эволюционной инженерии и важны, и не важны
Прикладная инженерия как специализация системной инженерии
Задания

2. Архироль создателя/инженера и разделение инженерного труда
Роль системного инженера в её отличии от роли прикладного инженера
Разделение инженерного труда
Системная инженерия в основе сотрудничества
Инженерия и наука
Ненаучность инженерии. Эвристики
Инженерная наука
Моделирование: мои инженерные проекты
Задания

Дальше в курсе будут переписаны:
3. Инженерный процесс
4. Эволюционная методология
5. Эволюционная архитектура
6. Эволюционное проектирование
7. Эволюционная инженерия платформы: непрерывное введение в эксплуатацию (CI/CD)

Переписанные части курса "Системная инженерия" доступны тут: https://aisystant.system-school.ru/lk/#/course/systems-engineering/ -- курс откроется на том месте, где вы его открывали в прошлый раз. Если проходили старую версию, будет предложено её обновить. Для тех, кто ещё не проходил наши курсы -- эта версия по ссылке доступна бесплатно (после регистрации), но для её прохождения нужны пререквизиты -- освоение материала курсов "Рациональная работа", "Системное мышление", "Методология" (доступны тут: https://aisystant.system-school.ru/).

Картинка -- это покадровая раскладка видео о динамическом ландшафте приспособленности, она приводится в соответствующем подразделе.

28Кзнаков о том, что обучение сухих и мокрых нейросеток идёт очень похожим образом. Привожу условные стадии этого обучения — "водопад", но предупреждаю, что водопадов не бывает!
— Водопад против agile в curriculum learning и успеваемость в обучении людей и нежити
— 1. Необученная сеть, на входе у нас "архитектура нейронной сети" или "царь природы", успехи слабые
— 2. Предобучение/pretrain, на выходе -- Base model, успехи посредственные
— 3. Дообучение/finetune, на выходе -- Instruct model, успехи удовлетворительные
— 4. Обучение с подкреплением на основе обратной связи от учителя, RLHF, на выходе -- Chat model, успехи хорошие
— 5. Дрессировка (обучение с подкреплением), RL, на выходе -- Reasoning model, успехи отличные
— 6. Open-endedness, бесконечное познание, на выходе -- PhD model (учёный), успехи в форме нобелевской премии
— 7. Эволюция в физическом мире, на выходе -- Engineer model (инженер), успехи в форме изменения мира к лучшему
— Возвращаемся к проблеме водопада: помним, что его не бывает, это чрезмерное упрощение

Дальше надо только брать -- и делать, брать -- и делать. Картинка как раз об этом.

https://ailev.livejournal.com/1753533.html