Опубликовал в курсе "Интеллект-стек" раздел "15. Риторика". Инженеры, которых жизнь выносит в менеджмент, до мысли о том, что недостаточно только курсов по личной эффективности, доходят очень медленно: текст типа "Распожаризации" считают запредельно сложным (что правда, если читать его прямо "с улицы", а не после прохождения нужной цепочки курсов) и поэтому ненужным (что неправда: простота освоения материала очень слабо связана с нужностью материала), но потом всё меняется, надо просто несколько лет подождать, и вот уже именно "Распожаризация" оказывается самой востребованной практикой, а не очередные лайфхаки по линии личной эффективности.

https://ailev.livejournal.com/1694733.html

Видео двух с половиной часов разговора со мной в беседе МФТИ по системному мышлению (организовано онлайн-магистратурой технологического предпринимательства). Сложности стыка работы конструкторов с заводскими технологами: конфигурация в PLM — это не конфигурация системы, конфигурация системы — это которая уже собрана, "в физике". Как искать новизну, не залипая на телевизоре: прогрессивно уменьшающееся дофаминовое подкрепление для поддержки разнообразия источников новизны. Должен ли инженер по машинному обучению знать, как работает трансформер: ладно, что надо уже двигать за пределы трансформеров, так что там основное (за что берут на работу), а что прикладное (это на работе можно быстро выучить) знание?! Вероятность, что в двадцатых числах августа я буду в Кемерово, ссылка на клип БГ "Человек из Кемерово".

https://ailev.livejournal.com/1694996.html

В курсе "Интеллект-стек" опубликован раздел "17. Методология" — там идея, что методология – это обобщение алгоритмики, занимающейся ограниченным формальным набором паттернов изменений, в которых работает вычислитель/компьютер до методологии, которая изучает паттерны действий создателей по изменению мира (методы), как алгоритмика – паттерны вычислений (алгоритмы). Черешня со сметаной вместо сливок, гаспачо из гречневой каши с томатным соком, граммар-наци и заслонение формой содержания, эволюция формы — и это всё эстетика и эстетические разногласия, предпочтения в паттернах. Маркетинг динамического диспатча в Julia и химия прокладок для ремонта унитазов. Насколько хорош RetNet определяется тем, с чем сравнивать: "наш стиральный порошок против хозяйственного мыла" или "наш стиральный порошок против лучшего известного на сегодня" (к мнимому ухудшению со временем GPT-4 выводы тоже относятся: думай, что измеряешь и с чем сравниваешь).
Вышла статья GitHub про промпт-инженерию, как это делалось в проекте Copilot.

https://ailev.livejournal.com/1695388.html

Опубликована полная версия курса "Интеллект-стек", общий объём 1.3Mзнаков, ровно столько же сейчас и в "Системном мышлении". Получилась вполне фундаментальная работа, не менее фундаментальная, чем другие мои курсы ("Системное мышление", "Методология", "Системная инженерия", "Системный менеджмент").

Курс «Интеллект-стек» раскрывает понятия интеллекта и мышления, а затем предлагает усиление естественного и искусственного интеллекта за счёт изучения лучших (SoTA, state-of-the-art) мыслительных практик, основанных на трансдисциплинах понятизации, собранности, семантики, математики, физики, теории понятий, онтологии, алгоритмики, логики, рациональности, познания/исследований, эстетики, этики, риторики, методологии, системной инженерии. Курс входит в пятый семестр программы «Организационное развитие» Школы системного менеджмента.

В курсе говорится о понятии «интеллект» и его поведении «мышление», вводится понятие интеллект-стека как набора мыслительных практик (методов мышления, паттернов мыслительной деятельности), позволяющих интеллекту быстрее решать всё более широкий спектр проблем, мешающих изменить себя и мир к лучшему. Улучшение мира понимается как многоуровневое (например: вещество, существо (включая людей), популяция, вся жизнь на Земле) избегание неприятного сюрприза в будущем, в пределе — снижение экзистенциальных рисков , «спасение». Сам состав практик стека и последовательность изложения материала курса специально адаптированы для учебных целей.

Для каждой мыслительной практики интеллект-стека говорится о том, зачем она нужна, какое её место в мышлении, а также приводится краткая характеристика её современного (SoTA) состояния, даются ссылки на литературу. Содержание курса предполагает пререквизитом прохождение курсов первых четырёх семестров программы «Организационное развитие» Школы системного менеджмента. Курс не пересказывает материал трансдисциплин, изучаемый в других курсах, но кратко касается содержания каждой из трансдисциплин интеллект-стека. Курс предназначен для того, чтобы как-то «склеить» вроде бы разрозненные знания трансдисциплин из многих других курсов в целостную картину мира. Основная идея в том, что это «аспирантский» курс: он должен вывести понимание текущей ситуации в познании на фронтир, подготовить к самостоятельным исследованиям, к самостоятельному планированию своего развития в контексте новейших достижений цивилизации. Курс сам по себе не столько «учебный курс», сколько аннотированный обзор литературы: основные знания содержатся в литературе, на которую ссылается курс, а материал курса только указывает на то, что именно надо вычитывать в указанной литературе. В курсе более семисот ссылок на литературные источники (хотя небольшая часть из них дублируется из соображений удобства использования).

Текущая версия интеллект-стека опирается на исследования учёных, занимающихся проблемами наиболее общих закономерностей эволюции жизни (дарвиновской эволюции) и эволюции знания и инженерных систем (техно-эволюции). Это труды групп David Deutsch, Виталия Ванчурина, Karl Friston, Андрея Хренникова, Kit Fine, John Doyle, Michael Levin, Andrej Karpathy и многих других учёных, с которыми они сотрудничают. Основная идея — это базирование объяснений интеллекта на первых принципах, выводимых из физики (термодинамика) и теории эволюции. Если очень кратко сформулировать основные идеи получившейся компиляции современного состояния трансдисциплин, то это будет неумолимое увеличение сложности многоуровневых биологических и технических систем в ходе биологической и техно-эволюции, безмасштабность и неантропоцентричность объяснений, творчество в основе деятельности, нацеленность агентов (естественных и искусственных, а также коллективных) на изменение мира к лучшему как пути «спасения».

https://ailev.livejournal.com/1695700.html

"Интеллект-стек" я писал пять месяцев, из них примерно на месяц отвлекался на запуск программы "Оргнанизационное развитие" — на выходе книжка примерно в 730 страниц текста A5, как и "Системная инженерия". Очередной обмен мнениями с John Sowa, но я высказываю ещё несколько идей (в частности, что "физика частиц" с автономными автомобилями у Ванчурина — это такой приём онтологической инженерии, и там сделана онтология, которая как-то реализована в 50 нейронах автономного автомобиля — его четыре "инварианта" и есть онтология). Танцующая и делающая сальто собачка Go2 с ценой от $1600, одно из основных применений — собака-поводырь.

https://ailev.livejournal.com/1695852.html

Мои размышления над состоянием онтологической инженерии в 2023 году — делаю гипотезы о том, куда всё это катится и как что называется, в том числе там и некоторые новые мысли. Текст получился довольно длинный и специальный. Терминологию не разъясняю: предполагается, что читатель знаком с курсом "Интеллект-стек" (где есть краткий обзор большинства упоминаемых понятий), но также с практикой как классической онтологической инженерии с объектами и отношениями, так и практикой моделирования разных domain с использованием LoRA для LLM.

https://ailev.livejournal.com/1696037.html

Мы опять немножко разговариваем с John Sowa по поводу LLM. Основной опровергаемый мной тезис — "LLM это тензоры, поэтому они неспособны ни создать что-то новое типа открыть физический закон, как Кеплер открыл, что планеты обращаются по эллипсу, ни вообще рассуждать". Основная мысль там, которая не слышится из письма в письмо (но я упорно повторяю её):
— системное мышление заставляет думать не про vanilla LLM, а про надсистему, в которую LLM входит. Это какая-то когнитивная архитектура, какой-то алгоритм (чаще всего это часть генетического алгоритма). Утверждение "LLM не может рассуждать, потому что тензоры не рассуждают" выглядит примерно как "мотор не может летать, потому что он из железа". Понятно, что LLM это просто часть какого-то другого алгоритма (когнитивная архитектура), в котором обычно есть ещё и память и какие-то вызовы LLM в цикле с подсовыванием разных prompts. И оценивать на рассуждения надо этот алгоритм, а не vanilla LLM.
-- тем не менее, способности к рассуждению у vanilla LLM есть, хотя и ограниченные. Полно работ на эту тему.
-- и способности к творчеству (порождению нового, что раньше не существовало -- примитивное понимание творчества) есть. Творчество берётся из шума/хаоса/случайности, которые появляются для мутаций в генетических алгоритмах, а в LLM это попадает, например, через промпты -- и LLM может, например, отобрать для проверки хорошую мутацию и выкинуть заведомо плохую (smart mutations).
-- и если специфически говорить о Кеплере, то это любимый пример для symbolic discovery. Кеплер ровно что-то такое и делал, вызывая свою мокрую LLM в цикле на предмет проверки разных догадок и записывая промежуточные результаты на бумагу как внешнюю память.

В посте некоторое количество литературы в обоснование этих тезисов.

https://ailev.livejournal.com/1696277.html

День шестой СМИ27: обсудили дела в пяти проектах, а дальше надо решать вопрос — давать ли этой группе "Интеллект-стек", или таки ограничиться "Системным менеджментом" (тем более что "Системная инженерия" пошла очень туго, и с этим надо что-то делать). Вся лента в LK-99, но мне больше нравится работа Meta и CMU по ускорению поиска катализаторов в 1331 раз. Продолжаю разговаривать с John Sowa, в этот раз про эмерджентность (она есть, и для LLM она важна!). Бенчмарк для проверки рассуждений (он для LLM, но на нём, конечно, надо людей гонять). Пошла волна про adversarial attacks в текстах для АI-чатов (сейчас изо всех утюгов польётся, что цензура для LLM и когнитивных архитектур работает прямо как для людей: из рук вон плохо!).

https://ailev.livejournal.com/1696724.html

Публикую текст раздела "13. Эстетика" курса "Интеллект-стек". В этом разделе два подраздела: "Теория красоты и любопытства" и "Искусство как инженерия". Конечно, понять идеи последней трети курса (всего там сейчас 17 разделов) трудно без знакомства с первыми двумя третями. Но оценить радикальность современных безмасштабных неантропоцентричных/непарохиальных (ага, "негуманитарных") подходов к эстетике по данному тексту можно. По части идей ссылки не даются (эти идеи разбирались в курсе раньше), а по части идей можно заглянуть в литературу по сноскам в тексте, литературы много. Содержание раздела эстетики сильно пересекается в части теорий любопытства (которые сильно пересекаются с теориями красоты) с содержанием подраздела "Творчество" в разделе "12. Познание/исследования", а в части искусства как инженерии с содержанием раздела "17. Системная инженерия". У меня до сих пор остаётся острое желание пересмотреть раскладку отдельных теорий по дисциплинам "Познание/исследования", "Эстетика" и "Системную инженерия" -- и, возможно, выделить подраздел "Творчество" из "познания/исследований" в отдельную трансдисциплину "Творчество". Устроена эта транисдисциплина будет примерно как "семантика", которая даёт связку физики, математики и семиотики. Так и тут "творчество" даст связку исследований/познания, эстетики, этики и инженерии. Ещё в эстетике довольно много разбирается паттернирование и чем интересные паттерны отличаются от неинтересных -- это тоже ведь не столько про красоту, сколько вообще про паттернирование: каким образом нарезать мир на объекты (онтология), чтобы последующие высказывания о мире были интересными для действия. Это вроде как лучше дать в методологии, но при этом теряется сам предмет эстетики -- и вместо "красота спасёт мир" будет "любопытство/интерес спасёт мир". По сути критерии красоты и любопытства оказываются одними и теми же -- но в современной мейнстрим-культуре это крамола. Эстетика ближе к искусству как противопоставляемому инженерии, она имеет особый статус. Всё это некоторый клубок идей, который трудно развернуть в последовательность для связного изложения и чётко рубрицировать. Так что пусть пока текст чуть отлежится. Переименовать и переструктурировать всегда можно, было бы содержание, с которым это делать. А содержание какое-то уже есть. Вот, публикую.

https://ailev.livejournal.com/1696851.html

Идеи по поводу создания курса инженерии личности:
— Инженерия личности = развитие личности = (нейросемиотическое) программирование личности
— Программирование личности = обучение личности
— Мастерство обучать образованных: курс по обучению у нас уже есть

Итого: я склоняюсь к тому, чтобы просто начать переписывать "Мастерство обучать образованных" вместо написания чего-то на тему "Инженерия личности" с нуля -- и сделать это быстро на базе изложенных в этом тексте тезисов. И это, вроде, будет нулевой версией курса "инженерия личности".

https://ailev.livejournal.com/1697106.html

Начал переписку МОО на "инженерию личности", рабочее название пока — "Системное обучение". Вчера "Московскому Либертариуму" исполнилось 29 лет: "Вода — в аквариуме, свобода — в Либертариуме!". В чате экзокортекса обсудили судьбы lowcode, когда сотрудников много, а код сложный (таки надо будет программировать, серебряной пули нет и не будет, но вот Software 3.0 уже на горизонте). 1 августа 2023 умер Matthew West, OBE.

https://ailev.livejournal.com/1697507.html

Даю терминологические прикидки по обучению как инженерии личности — всё крутится вокруг тех же агента, мастерства, интеллекта, интеллект-стека, обучения, образования, личности, инженерии. Прикидки в порядке мышления письмом: для прошедших два семестра "Организационного развития" и "Интеллект-стек" должно быть полностью понятно, для остальных — просто повод повозмущаться с опорой на собственное бытовое понимание всех упомянутых слов. Психологи и профессиональные педагоги должны возмущаться больше всех, но я писал это специально, чтобы от их понимания отстроиться -- и дать альтернативное описание предметной области, по большому счёту, одной и той же для всех них.

https://ailev.livejournal.com/1697727.html

Продолжаю писать "Системное обучение личности", а "Образование для образованных" и "Мастерство обучать образованных" тем временем уволены в архив. Стандарты серии 42x0, кажись, всё: понятие архитектуры поменялось, и можно очень условно считать, что эти стандарты остались про многоуровневое моделирование, а не архитектуру. Опять полез спорить в ontolog forum про пользу от онтологической работы, и такая же дискуссия про использование формализаций прошла в чате экзокортекса. А ещё был вопрос про управление конфигурацией в web of explanations, на примере механистических теорий сознания, даю несколько относительно свежих ссылок.

https://ailev.livejournal.com/1697812.html

Седьмой день СМИ27 — "что вместо требований", как при этом проводить тендеры, в каком порядке вести работы директора по развитию. Почему в менеджменте надо знать экономику, и не любую, а австрийской экономической школы. Продираюсь через текст "Системного обучения личности", там готово порядка 20%. Пробелы в текущем понимании "Системного мышления" — в недостаточном освоении курса "Моделирование и собранность" (похоже, текст курса читают, а задания не выполняют — вот и проблемы): постоянные попытки 1. менять возможные контексты вокруг случайно выбранной системы (а не менять догадки по поводу системы, чтобы согласовать их с реальным контекстом реального проекта, ибо жизнь в контексте не подкрутишь) и 2. объявить какую-нибудь информацию системой, а изредка объявить системой поведение (неразличение физического объекта в функциональной роли, описания этого объекта и поведения этого объекта).

https://ailev.livejournal.com/1698285.html

В Ridero сегодня опубликована моя книга "Интеллект-стек 2023" -- https://ridero.ru/books/intellekt-stek_2023/, ISBN: 978-5-0060-4990-1, объём 754 страницы A5 (1.3Мзнаков с пробелами, столько же в "Системном мышлении" 2023 года). Уже сейчас книгу "Интеллект-стек 2023" можно купить на сайте Ridero (400 руб в электронном виде, печатная 1344 руб -- она очень толстая!), а через несколько дней книга появится в разных интернет-магазинах и онлайн-библиотеках. Кроме того, книга доступна в виде онлайн-курса пятого семестра программы "Организационное развитие" (доступ бесплатно при регистрации на https://aisystant.system-school.ru/ без выполнения заданий, с выполнением заданий -- 700 руб/мес). Чат поддержки: https://www.tg-me.com/odo_course (внимание, там входная капча! Без её прохождения в чат не пускают).

Курс «Интеллект-стек» раскрывает понятия интеллекта и мышления, предлагает усиление естественного и искусственного интеллекта за счёт изучения лучших (SoTA, state-of-the-art) мыслительных практик, основанных на трансдисциплинах понятизации, собранности, семантики, математики, физики, теории понятий, онтологии, алгоритмики, логики, рациональности, познания/исследований, эстетики, этики, риторики, методологии, системной инженерии. Для каждой мыслительной практики интеллект-стека говорится о том, зачем она нужна, какое её место в мышлении, а также приводится краткая характеристика её современного (SoTA) состояния, даются ссылки на литературу (741 сноска со ссылками на первоисточники).

Это фундаментальный труд, который раскрывает устройство современного безмасштабного и неантропоцентричного (агенты разной степени разумности и коллективности, включая людей и AI) мировоззрения. Текст книги показывает связь самых различных фундаментальных дисциплин, лежащих в основе современного знания о мире. Какие-то из этих дисциплин раскрываются в курсах "Школы системного менеджмента" (поэтому без прохождения этих курсов книгу будет понять сложно, если не невозможно), но "Интеллект-стек" даёт понимание того, как все эти дисциплины из разных курсов связаны друг с другом и каков фронтир 2023 года в этих дисциплинах. Если у вас уже есть высшее образование, то хотя бы полистайте эту книгу, чтобы оценить современность вашего понимания мира. Можно ещё короче: хотя бы прочтите оглавление!

Эта книга отличается от других моих книг тем, что в ней вверстано немного упражнений из курса, прямо в том формате, в каком мы отправляем их на публикацию в составе курса.

В посте https://ailev.livejournal.com/1698476.html привожу ещё содержание и обложку книги.

Вернулся из Кемерова, где провёл стратегическую сессию по цифровой трансформации в машиностроении, рассказываю о том, что больше всего помогло и даю картинку про CAD copilot с одного из слайдов. Много новостей по инженерии LLM и LLM в инженерии: сама инженерия уже не будет прежней. Закончил первый раздел курса "Системное обучение личности", этот проект у меня сейчас full time. Вчера был международный день странной музыки, а через неделю я уезжаю на танцевальный мультиданс-фестиваль под Анапой.

https://ailev.livejournal.com/1698595.html

Прошёл восьмой день СМИ27, теперь у нас два новых мастера. В онлайн-магистратуре МФТИ "Технологическое предпринимательство" за сертификат прохождения "Моделирования и собранности" ШСМ дают скидку в 10% за обучение (приём в магистратуру открыт до 16 сентября, я там один из преподов). Переписана половина "Системного обучения личности", продолжаю думать над названием. Совет Judea Pearl про обсуждение причинности и корреляции не с его книжки The Book of Why (она уже есть и по-русски), а с работы по парадоксу Симпсона. В чате блога обсуждают опять бумажные книжки против электронных, а я вообще за курсы (скажем, в Ridero продано аж 18 книг "Интеллект-стек", а аудитория этого курса в Aisystant на сегодня — 252 человека). Оказывается, в десктопном телеграме можно делать плавающие окна (контрол-клик по чату в списке чатов), я ведь не читал там мануал — а раньше всегда читал мануалы для нового софта. Картинка Кандинского 2.2 с промптом "Программист читает мануал на экране компьютера. В стиле художника Альфонса Мухи".

https://ailev.livejournal.com/1698854.html

Опубликован пререлиз "5.2. Системного обучения личности", курс пятого семестра, его правильно проходить после курса "5.1. Интеллект-стек". Курс уже доступен в https://aisystant.system-school.ru (чтение учебника бесплатно после регистрации, выполнение заданий доступно за 700 рублей в месяц).

Как-то готова примерно половина курса, первые три раздела, это где-то на 130 книжных страниц A5 по объёму:
1. Системное обучение и системная инженерия
2. Практика культуртрегерства
3. Практика методологической работы: "чему учить"

Остальные разделы пока остаются нетронутыми, они взяты из "Мастерства обучать образованных 2021". Следующий раздел будет "4. Практика методической работы: "как учить"", надеюсь его закончить до своего отъезда (буду на Q-Fest в Витязево под Анапой 2-18 сентября). Release early, release often.

Результатом я очень доволен, получено более-менее общее описание того, что происходит в проекте обучения, при этом:
-- согласовано с практиками и ролями инженерии (и заодно это ещё один пример специализации "Системной инженерии" для какой-то прикладной области)
-- явно и компактно прописана онтика обучения, включая понятия личности, классификации видов обучения (образование, прикладное кругозорное и узкое прикладное обучение, роли ученика и учителя, и т.д.).

Я не думаю, что все бросятся проходить этот курс (МОО2021 явно не пользовался популярностью), но этот курс получается в разы более общим и тем самым полезным, так что его пройдут много больше людей. С удовольствием приму все замечания и предложения (и спасибо Роману Варьянко за то, что помог найти в опубликованной версии не только синтаксические, но и некоторые семантические ошибки).

В ЖЖ я сегодня ровно 21 год, почти треть жизни.

В Витязево под Анапой сегодня тепло, дожди как-то кончились (но они были тут такими, что их даже не все заметили!). Танцев много, пляшу я где-то по 6 часов вечером (сам удивляюсь, как меня на это хватает), а днём много разговариваю про танцы. Преподы говорят, что мне надо делать семинар для преподов, ибо материала уже хватает. Я же в голове имею стандартный путь -- надо делать курс. Самый сильный прорыв, конечно, с понятием стиля, который оказался равен практике. Практика танго, практика кизомбы. И дальше вся книжка "Методология" про это, включая чеклисты. Смотрю, как идея объяснения на языке управления инерционным движением тела проникает в преподские массы. И веселюсь, насколько при этом пропускают собственно физику: сначала надо поставить в тело датчик, чтобы говорить о силе -- буквально, в килограммах и граммах, но этого не делают. Курсы танцев должны начинаться с кухонных весов, на которых рукой надо устойчиво (чтобы цифры не мелькали) держать вес 50 грамм, 150 грамм, 500 грамм, 1 кг, 5 кг. Попробуйте.

Половина раздела про методику в "Системном обучении личности" переписана, но пока не хочу публиковать -- обновлю потом весь раздел полностью. Так что выход всего курса будет в самом конце сентября.

Нормального интернета тут нет, есть раздача с телефона. Работать с клавиатурой и экраном ноутбука я разучился полностью.

Ничего не писал на первое сентября, ибо это день каких-то неправильных знаний.

Раньше эвристика была "вода без сахара -- с чёрной пробкой". Сейчас эвристика поменялась -- "вода зелёного цвета" (тархун или мохито). В Анапе вода "Мохито" -- 40 рублей за поллитра, и никакого кофеина, никакого сахара, только химия.

Вышел со мной подкаст «Ноосфера» #044 "Инженерия человека и развитие разума" -- https://www.youtube.com/watch?v=qBZw-PAdyJU