Переписываю раздел по интеллекту курса "Интеллект-стек", кроме широты/силы/универсальности как харктеристики интеллекта по Chollet добавил вменяемость/persuasability по Levin, а ещё после этого буду переписывать алгоритмику — и там "универсальный алгоритм" как раз про интеллект, так что очередная итерация будет опубликована чуть позже, чем планировал. Запись первой встречи лаборатории администрирования, даю ещё несколько ссылок на литературу и какие-то исторические заметки по проблематике учёта. Обсуждение вопроса о том, что каждый дополнительный год образования даёт 1-5 единиц IQ (и там тоже много литературы, показывающей, что всё не так просто — в том числе опровержение данных о том, что интеллекта для богатства не нужно). Про "объективные результаты работы ШСМ по поумнению выпускников" — их точно не будет, сама постановка вопроса кривая. Напоминание о трёхлетней давности тексте "Неполиткорректное на день студента" (про двойки по системному мышлению и системной инженерии для студентов техпреда МФТИ) и опять обсуждение сертификации в ШСМ. Теория поколений вроде как не работает, это набор мифов — так что я буду дальше избегать отсылок к "поколению Z" (а другие поколения меня мало волнуют, с ними всё в порядке). Задумал менять телефон (с 2018 года не менял), собираюсь завтра купить модель по той же цене в рублях, что и в 2018 году, а в параметрах там не так много изменилось.

https://ailev.livejournal.com/1689717.html

Новости интеллект-стека (публикация очередного пререлиза на следующей неделе, дискуссии про рабство AI, работы по эстетике). Курс по системному мышлению в Trinity College Dublin, “Systems – the Science of Everything” (вот я так тоже сначала думал, а потом пришлось заниматься всем интеллект-стеком). Завтра второй день моего тренинга "Системный менеджмент и инженерия", буду всех пытать по поводу целевой системы (особо тяжко будет менеджерам: им очень трудно голову отвернуть от организации-создателя и повернуть её к целевой системе, а затем прыгнуть мысленно во время использования из времени создания). Поменял свой телефон на неожиданную модель, ибо было всё равно, на какую: неустроенность же! Сейчас идёт самый большой в России фестиваль кизомбы, кому интересно, мои танцевальные приключения в ленте ВКонтакте.

https://ailev.livejournal.com/1689949.html

Мои мысли по развитию софта Aisystant как универсального моделера, совмещённого с поддержкой клуба. Я уже рассказывал месяц назад на нашей конференции стратегию развития Aisystant в плане пристёгивания к нему AI, но тут поднимаю немного другие вопросы. Всё это выглядит как некоторое "соглашение о моделировании" к coda.io или notion.so, и если бы были эти движки в варианте open source, то можно было бы просто их брать as is и дальше реализовывать проект на них. Но в открытом доступе такого нет, ценник на коммерческие версии SaaS запретительный. Поэтому пока просто ползём или хотя бы лежим в данном направлении.

https://ailev.livejournal.com/1690180.html

Рассказываю про организацию работы лабораторий по созданию курсов. Для меня это всё получается не разговор "про курсы и обучение", а разговор про интеллект-стек и исследования, а также инженерию и менеджмент. Поэтому в лабораториях ожидаем не преподавателей, а наших мастеров (грубо говоря, "директоров по развитию" разного масштаба, инженеров и менеджеров), имеющих опыт занятий целевой предметной областью. Сам учебный процесс (методика), как показывает наш опыт, не так важен, если у тебя запас по времени обучения x5-10 по сравнению с традиционным обучением (если вообще такое обучение есть, ибо работаем на фронтире). Конечно, мы занимаемся не только методологией (в чём никто не разбирается), но и методикой (о, тут каждый первый профессор в вопросе "как надо учить"), но я хотел бы подчеркнуть: пост про то, чему учить и как это добыть в ходе работы лабораторий. А покритиковать методику -- это тоже можем делать не хуже, чем любой проходящий мимо человек. В лаборатории главная задача не методическая, а методологическая. Не "как", а "чему" учить. На фронтире это обычно не так очевидно. В посте даю много ссылок на материалы наших лабораторий.

https://ailev.livejournal.com/1690474.html

Опубликованы очередные полторы сотни страниц курса "Интеллект-стек", в них рассказано о том, что такое интеллект и даны общие характеристики интеллект-стека как лучших практик мышления. Из крупных новаций — подчёркивается неантропоцентричность описаний, а ещё к характеристике силы/общности интеллекта добавлена характеристика вменяемости, тем самым термин AGI я не стал там педалировать, ограничился AI. Добавил много современной литературы по AI. В целом я об этом первом разделе курса буду рассказывать 25 июня в первой части семинара "Образование для образованных летом 2023", а во второй части буду рассказывать о новациях в самих практиках мышления.

https://ailev.livejournal.com/1690798.html

Переписка "Интеллект-стека": осталось 9 трансдисциплин. Заседание лаборатории системного картинга (и фото оттуда), подход вполне рабочий. В лаборатории администрирования ещё один пост с содержанием предыдущей встречи. Проблема восприятия курсов ШСМ как инфоцыганщины: непонятно, как её преодолеть, так что продолжаем думать. Продолжаю танцевать вечерами, получил опыт double trouble за фолловера.

https://ailev.livejournal.com/1691053.html

Три кусочка моего стратегирования:
— что там с интеллект-стеком (переписываю алгоритмику, привожу современное понимание трёх поколений программной инженерии из нового текста)
— приоритеты по общей стратегии ШСМ (сначала содержание курсов основной программы, затем содержание прикладных курсов, затем решение проблемы масштабирования — поддержка курсов с преподавателями, и потом уже всё остальное, что нужно для роста)
— наши планы по AI, пять направлений работы разной степени вялотекущести.

Иллюстрация от Kandinsky 2.1, не стреляйте в нейрохудожника, он рисует как умеет.

https://ailev.livejournal.com/1691327.html

Опубликован переписанный в версию 2023 года раздел "9. Алгоритмика" в курсе "Интеллект-стек", там рассказываю про три поколения софта. Третий день СМИ27 — без особых новостей, боремся с физичностью целевой системы (а ещё этот поток получил транскрипты всего дня занятий). Традиционный разговор про физичность денег: вещное право против обязательственного права, депозитарии против регистраторов (и проблема: айтишники этим обычно не озабочены, у них не деньги, а описания денег в мозгах, они эти описания считают деньгами). Как сказать по-английски "директор по развитию" (chief transformation officer, chief strategy officer — но не путайте с development director и business development director, они про другое). Российская ассоциация директоров по развитию: ищет модели зрелости и стандарты работы, затягивает под термин общий "менеджмент всего". Нет ли противоречия между обучением людей в ШСМ "в розницу" на открытых потоках (нам неважно, уйдут ли они после обучения) и корпоративным обучением групп топ-менеджеров (вроде как важно, чтобы они потом не ушли) — ответ: нет противоречия, вопросы могут быть только с младшими инженерами, если их компании будут присылать на обучение по разнарядке, но пока присылают топ-менеджеров, они так просто не уйдут. Опубликована отдельным видео пара докладов, показывающая пользу от наших курсов — элегантное/lean минимальное моделирование предприятий, которое делается практически "на коленке", и отлично работает! Спамеры будут гореть в аду, но спамерами стали роботы, так что в аду будут гореть создатели спамеров (это мне звонил сегодня робот, продающий таких звонящих роботов — вот его создателям таких роботов для холодных звонков чтобы эти роботы звонили по сто раз на дню, лучи спама им в глаза и уши!). Напитком месяца признаётся "Муромский квас", продаётся в "Азбуке вкуса".

https://ailev.livejournal.com/1691403.html

Готовлю слайды на семинар "Образование для образованных", слайд по состоянию "Интеллект-стека" (буду рассказывать о неопубликованном на семинаре устно по слайдам). Очередная работа Friston со товарищи про математику эволюции: состояния фенома и виды генома похожи, но каузация там разная (в силу центральной догмы молекулярной биологии), а ещё нельзя моделировать один вид, надо моделировать их все во взаимосвязи. Статья о том, как предсказывать музыкальные хиты по пульсу (не частоте, а более сложным характеристикам): разум врёт, тело не врёт в предсказаниях, "мысль изречённая есть ложь". Наша лаборатория AI выбрала очередной фреймворк, это Haystack, "An NLP Framework To Use Transformers In Your Applications".

https://ailev.livejournal.com/1691762.html

Отдал участникам слайды семинара "Образование для образованных летом 2023", это плотно упакованные текстом и картинками 65 слайдов. Картинка — слайда 63. Содержание разительно отличается от аналогичного семинара, который я провёл 3 января 2023. Привожу программу июньского семинара (про интеллект и интеллект-стек, структуру курсов и инженерию личности), отнюдь не всё на сегодня документировано в курсах, почему и рассказываю по слайдам. Для сравнения привожу программу январского семинара (про содержание курсов системного мышления, системной инженерии, менеджмента и стратегировании), на сегодня это всё уже документировано в курсах и более-менее знакомо, хотя в январе 2023 это был суперсвежий материал.

https://ailev.livejournal.com/1692133.html

Семинар "ОдО летом 2023" прошёл отлично, участники уже получили видео (а кто не успел на семинар — тем к Церену Церенову, он может помочь в этом вопросе). Огромное количество вопросов в кулуарах -- про физику и математику. Счастье, что тексты по этим практикам уже написаны, с материалом можно ознакомиться уже в опубликованном пререлизе курса "Интеллект-стек". Одна из красных нитей, которые проходили через весь семинар -- что у интеллекта кроме привычного уже свойства "общности" (для всех типов проблем, причём ещё не встречавшихся ни учителям агента, ни самому агенту) есть и другие свойства, например, вменяемость/persuadability. И если мы берём какую-нибудь пустую нейронную сетку (кремниевую или ребёнка), то интеллекта как способности решать разные проблемы там не так много: способности-то есть, но их недостаточно даже для вменяемости. Поэтому сначала учить людей надо дисциплинам интеллект-стека так, как учат кошек (дрессировкой!), а затем на базе получившейся вменяемости учить объяснениями — не забывая потом и переобъяснить то, что получено дрессировкой. Мои планы остаются прежними: сначала закончить переписку "Интеллект-стека", а затем разбираться с инженерией личности (и там есть развилки). После семинара обсуждали образование для вузовских студентов — и я советую начинать с подъёма вменяемости, курс "Моделирование и собранность", это сильно упростит дальнейшее образование, откроет дорогу к образованию через объяснения (а пока студенты не очень вменяемы, просто увеличить количество "дрессировки" по сравнению с работой с более вменяемыми "опытными взрослыми").

https://ailev.livejournal.com/1692249.html

В курсе "Интеллект-стек" опубликован переписанный раздел "10. Логика", там добавлено про квантовоподобность в рассуждениях, приступил к "11. Рациональность". В лаборатории AI сейчас смотрим очередную инкарнацию finetuned GPT-3.5, бот поумнел существенно, а наша стратегия подтверждается исследованием Майкрософта с красивым названием "Textbooks Are All you need". Почему я равнодушен к появлению в моих группах тренеров и консультантов: потому как результаты у них обычно слабые, для них наши материалы просто "ещё одна книжка для цитирования", но всё волшебно меняется, когда они из тренеров-консультантов становятся сотрудниками компании! Очередной "термин" (в кавычках!) как кандидат на вылет — "творчество", все эти "творческие личности" и "твореческие методы". Коммуникационный паттёрн "присоединение-ведение" у Уилбера: прошло девятнадцать лет с тех пор, как я его заметил и записал, но я это так и не освоил (хотя Дойч тоже использует такой паттерн, но я всё никак). Формализация гегелевской диалектики (ну, не совсем) на базе теории категорий. На картинке мем "Me and the boys thinking about thinking", и замечание, что это и было SoTA 2500 лет назад.

https://ailev.livejournal.com/1692468.html

Раздел "6. Физика" курса "Интеллект-стек" содержит подразделы:
-- Многоуровневое наведение внимания
-- Учим физическому мышлению на среднем уровне формальности, а не «разделам физики»
-- Теория информации как часть физики
-- Универсальные вычислители/компьютеры как часть физики

Публикую содержание первого подраздела, "Многоуровневое наведение внимания" (в посте многабукаф, включая 12 сносок с литературой).

https://ailev.livejournal.com/1692877.html

Прошёл четвёртый день СМИ27, привожу несколько тем обсуждений. Переделали нашего AI-бота, он стал ощутимо умней, ведём эксперименты с чанками и промптами. Мою книжку "Визуальное мышление" читают, и она наносит пользу до сих пор, аж через пять лет после написания. Любителям аниме и манги смотреть на живое исполнение японских школьниц Yamato Spirit of Avantgardey на AGT2023.

https://ailev.livejournal.com/1693063.html

John Sowa напоминает, что моделирование мира — это предмет, которым в AI занимались много лет, и называлось это обычно "онтология". Провокационная мысль, но мне кажется, что правильно будет поменять "Познание/исследование/learning" в интеллект-стеке как "создание объяснений в ходе эволюции" на более общее "творчество" как "создание всего нового". На методсовете обсуждали сегодня ход на явное обучение агентности в привязке к нашим квалификационным уровням, а также прорыв в качестве обучения на "Системном менеджменте и инженерии" (сработали три фактора). Размышления о стилистике в образовании: сначала надо разобраться со стилистикой в целом. Программа superalignment от OpenAI по выравниванию целей человечества и суперинтеллекта — беда только в том, что у человечества цель готовы выразить слишком много людей, каждый проталкивает свои какие-то цели, обычная беда с политическими партиями.

https://ailev.livejournal.com/1693369.html

Опубликован переписанный раздел "11. Рациональность" курса "Интеллект-стек", главное там -- это добавка квантовоподобной теории принятия решений и современный прагматицизм как выход решений в деятельность по изменению мира (а не только определение качества объяснений экспериментом). Рассуждения про искусство в чате блога (обсуждаю там стек композиционности, стилистика на нижних уровнях, контент на средних, композиция на верхних). Очередная работа, подтверждающая эффективность помидорок: важна не только непрерывная работа без отвлечений, но и перерывы в ней! Луддиты не дремлют, выводят из строя самоуправляемые автомобили во Фриско. Очередной танцевальный рекорд: вчера три видеографа сняли на одной вечеринке три видео моих танцев.

https://ailev.livejournal.com/1693533.html

В курсе "Интеллект-стек" сегодня опубликован раздел "12. Познание/исследования". Про агентов более высоких уровней и свободу выбора людей, в состав каких агентов им входить (аккуратно, в этой сфере много маркетинга: продавливания чьих-то интересов как твоих собственных, причём за твои же деньги).

https://ailev.livejournal.com/1693767.html

Продолжаю писать в "Интеллект-стек" раздел "Эстетика", будет вместо одной страницы пять — но это ж впятеро больше! Что я делаю, чтобы размножить Левенчука (краткий ответ: пишу тексты курсов, чтобы каждому новому человеку не рассказывать одно и то же, а также организую написание текстов курсов другими людьми). Длинная дискуссия с John Sowa в ontolog forum — я там защищаю LLM и спектр формальности мышления, John Sowa защищает Prolog. Про то, как там устроены "модели" (checkpoint, LoRA, hypernetworks, textual inversions) для Stable Diffusion, и что надо что-то такое ожидать для текстовых LLM. Картинки по промпту "Системный мыслитель" как тест новенькой Kandinsky 2.2. Прихват энергии из мира ("почему популярны горные лыжи") и прихват вычислительных мощностей из мира. Антон Климат обсуждает образовательные программы на базе стека танцевальных практик, а ещё вышли работы по созданию нейрохореографа (а вообще про танцы у меня всё в ленте ВКонтакте).

https://ailev.livejournal.com/1694090.html

В курсе "Интеллект-стек" сегодня опубликован раздел "13. Эстетика". Моя беседа в МФТИ про системное мышление в эту субботу (будет через Zoom), проводит онлайн-магистратура технологического предпринимательства. Что преподавать студентам, если ты преподаватель (если преподаёшь то же, что преподавали тебе — это ты плохой преподаватель, надо преподавать SoTA). Надо ли читать менеджерам программистских коллективов Дёминга и Акоффа, надо ли это преподавать сегодня в вузах (ответ: нет, не надо, смотрите на наши курсы — там свежая литература, учитывающая опыт последнего десятка лет, а не допотопный опыт). Очередной приступ обсуждения визуальных моделей: содержат ли наши курсы мета-мета-модель, или мета-мета-модель должна быть доступна только в форме прямоугольничков и стрелочек (ответ: конечно, содержат, диаграммная форма необязательна и она ещё и поджимает информацию в мета-мета-модели, так сказать "модель модели", плюс нужно учитывать, что использовать мета-мета-модель нужно из нейросетки студента, а не из внешнего "графа знаний").

https://ailev.livejournal.com/1694275.html

Опубликовал в курсе "Интеллект-стек" раздел "14. Этика". Работа "Retentive Network: A Successor to Transformer for Large Language Models", the intriguing properties make RetNet a strong successor to Transformer for large language models. В 2013 году я предлагал сделать конкурс Чайковского для робопианистов, и вот сейчас предложили бенчмарк для рук робопианиста. Add-on к FireFox для скачивания видео из разных мест, откуда скачать видео обычно нельзя.

https://ailev.livejournal.com/1694516.html