Попросил Gemini 2.5 прочитать этот документ на 150 страниц (~45'000 токенов) и сделать саммари в виде последовательных шагов, а затем перевести на русский. Вот результат:

1. Возможности моделей предсказуемо и значительно улучшаются при увеличении "эффективных вычислений" (сырая вычислительная мощность, алгоритмическая эффективность, данные, системы вокруг них).
2. Такое масштабирование привело ИИ от уровня ~дошкольника (GPT-2) до уровня ~умного старшеклассника или студента первых курсов (GPT-4) всего за 4 года.
3. Продолжение этого тренда делает достижение AGI — ИИ, способного выполнять когнитивную работу уровня эксперта, например, проведение исследований в области ИИ — вероятным к 2027 году.
4. AGI вряд ли станет конечной точкой; системы AGI смогут автоматизировать сами исследования в области ИИ, вызвав рекурсивное самоулучшение или "взрыв интеллекта".
5. Этот взрыв интеллекта может сжать десятилетия алгоритмического прогресса, возможно, в один год, быстро приведя AGI к значительно превосходящему человека ИИ (Сверхинтеллекту, ASI).
6. Создание этих передовых систем требует беспрецедентной промышленной мобилизации для вычислительной инфраструктуры (GPU, энергия, дата-центры), стоимостью в триллионы долларов.
7. Это масштабное техно-капитальное строительство уже начинается, движимое ожидаемой экономической отдачей и интенсивной конкуренцией.
8. Однако текущие методы обеспечения безопасности в ведущих лабораториях ИИ совершенно недостаточны для защиты критически важных секретов (алгоритмов и весов моделей), необходимых для создания AGI.
9. Эти важные секреты могут быть легко украдены государствами-противниками, такими как Китай, что потенциально сведет на нет лидерство США/Запада в гонке за AGI.
11. Одновременно, надежное управление системами ИИ, значительно превосходящими человека по интеллекту (супералаймент), является нерешенной технической проблемой; текущие методы, вероятно, не будут масштабироваться и работать для будущих систем.
12. Неспособность решить проблему супералаймента до или во время быстрого взрыва интеллекта может привести к катастрофическим последствиям, поскольку мы будем развертывать все более мощные, плохо контролируемые и непонятные нам системы.
13. Сверхинтеллект предоставит решающее военное и экономическое преимущество, превращая гонку за AGI в геополитическое соревнование с высокими ставками, в первую очередь между США и Китаем.
14. США и их союзники должны сохранять лидерство в этой гонке, чтобы обеспечить выживание либеральной демократии и создать необходимый запас прочности для решения проблем супералаймента. Согласно автору, если авторитарная держава (например, Китай) первой достигнет ASI, она сможет навязать свои недемократические ценности всем странам, навсегда подавить свободы и исключить возможность процветания демократических систем. Лидерство США/союзников рассматривается как необходимое условие для предотвращения такого исхода, сохранения условий для свободы и плюрализма, а также для получения "запаса прочности" для безопасного решения проблемы алаймента без давления гонки "на опережение".
15. Сочетание чрезвычайной мощи, катастрофических рисков (ошибки алаймента, злоупотребление системами) и критической важности для национальной безопасности означает, что частные стартапы в одиночку не могут ответственно управлять разработкой сверхинтеллекта.
16. Поэтому правительство США неизбежно будет глубоко вовлечено, что, вероятно, приведет к созданию национальной программы по AGI ("Проекта") для управления безопасностью, рисками и геополитическими ставками, по аналогии с Манхэттенским проектом.

Оптимистичные оценки.

https://www.tg-me.com/nonpartisan1/146

И снова про ИИ. Чего нужно и чего не нужно нам кожаным бояться.

Ч1
Очень часто вижу много нереалистичных опасений и надежд связанных с ИИ в стиле Deus ex machina. Как будто к нам снизошло нечто божественное, непознаваемое, инопланетное, что решит нерешаемые проблемы неведанными нам способами, или же наоборот придет страшный ASI и принесет что-то великое и ужасное, что прихлопнет нас кожаных как комаров.

Кмк бояться и надеяться нужно совершенно другого. Я вижу 2 тезиса, из которых на мой взгляд стоит исходить при оценке будущих возможностей ИИ, и из которых вытекают все остальных выводы.

Тезис 1. ИИ обучен на основе совокупности человеческих данных о среде, в которой функционирует человек и человеческих методах взаимодействия с ними. ИИ оперирует в той же среде и тех же законах физики, что и человек. В этом плане ИИ - вполне себе человек, не марсианин, не бог, не разумная плесень с Бетельгейзе, и даже не дельфин. То что подвластно человеку-профессионалу, вооруженный всем необходимым инструментарием, - подвластно ИИ, что неподвластно - то не подвластно. Иначе говоря, «Снять красивый видеоролик» - да! «Предсказать курс рубля на конец года» - нет!

Тезис 2 (чуть более спорный): ничего сложнее колеса вероятно нельзя спроектировать с помощью гениального инсайта и меловой доски. На текущем уровне развития цивилизации любой прогресс рождается в ходе бесконечного экспериментирования и взаимодействия с реальностью. Примеры: методы agile & Starship. Мы бесконечно экспериментируем с реальностью, запускаем идеи, находим что работает - оно остается, но еще больше находим того, что не работает - это исчезает. Нет такого, что мы за компьютером спроектировали что-то большое и красивое выпустили в мир и оно взлетело. Путь прогресса - это итерации и постоянная обратная связь между нашими идеями и миром вокруг. У ИИ тут нет ни и каких преимуществ, ни в знаниях, ни в методах, ни в альтернативных законах физики. Мегамозгу в консервной банке придется точно также экспериментировать со средой. Не будет никах откровений, спущенных с неба на скрижалях.

Так в чем же возможности и опасности Супер-ИИ, когда такой появится?

Кое где в биологии ИИ уже сильно превзошел человека - расшифровка белков и создание новых белков с нужными свойствами - ранее практически не решаемая классическими методами задача. Но с помощью ИИ в ней достигнут значительный прогресс.
К тому же не стоит забывать об эффектах эмерджентности. Человеческий мозг в 3 раза больше мозга человекообразной обезьяны, плотность нейронов/нейронных связей примерно такая же но тупо их большее количество у человека даёт качественно новые признаки.
Нейросеть которая будет значительно "больше" человеческого мозга при сопоставимых качественных показателях приведенных к одному количеству нейронов/нейронных связей, может также качественно перерасти человеческий мозг. Особенно учитывая что скорость взаимодействия нейронов у нейросетей на порядки выше.

[Много разных мнений про будущее ИИ, что естественно. Я уверен только в том, что известная мне профессия — профессия ученого-экономиста — трансформируется сильнейшим образом.]

На полях: чувствуется, что интерес к каждому-новому-высказыванию-дональда-трампа подспал. Не то, чтобы заголовки с ним в главной роли перестали вызывать поток комментариев, но того лютого возбуждения, что он вызывал в первый месяц, уже тоже нет. Привыкли к его уровню громкости.

Одну вещь, думаю, можно сказать с высокой степенью уверенности: проникновение ИИ в обрабатывающую промышленность пока крайне незначительно. Выгоды (gains) от такого проникновение очевидны и, рискну сказать, очевидно велики, так что это все скоро будет. Но пока мы еще не там. Таким образом, эта часть экономического роста реализуется в скором будущем.

Sunday assorted links
Tyler Cowen

1. “Our results suggest that the recent stagnation of the college wage premium primarily reflects demand factors, specifically a slowdown in the pace of skill biased technological change.”2. The Zvi on Gemini 2.5.  I agree it is very strong.3. Very old interview with Hrishikesh Mukherjee.4. Does Boulez still matter? A good talk, too bad the speaker doesn’t like Boulez’s best works!5. “Already, Russia is starting to push back against a flood of cheap Chinese imports. It has introduced tariffs on some Chinese goods and raised recycling fees on imported cars, effectively raising the price of vehicles from China.”  WSJ link.6. The economic costs of wind erosion?7. Chess 2.0 overcomes the cost disease?The post Sunday assorted links appeared first on Marginal REVOLUTION.MediaMedia Media Media Media Media Media Media CommentsBill, Bill, Bill, I see U IS MAN. I IS RASTA AS RAFAEL. I EAT ... by Equestrian 

via Marginal Revolution https://bit.ly/445q6ct

Тест на миллениала.

«Я-ввожу-пошлины-я-не-ввожу-пошлины», так каждый день, по несколько раз иногда. Даже в отрыве от собственно эффекта пошлин: представляете сколько бизнесов в США и вообще на планете сейчас такие: чего-то ничего не понятно, давайте инвестиционную программу пересмотрим и часть поставим на паузу до прояснения ситуации. Может надо там строить завод, а может тут, а может сейчас вообще для него не время. Надо подождать, пока прояснится. Инвестиционный спрос — вниз.

Н. Блум (2007):

"Неопределённость заметно возрастает после крупных потрясений, таких как Карибский кризис, убийство Джона Кеннеди, первый нефтяной шок ОПЕК и теракты 11 сентября. В данной работе предлагается структурный подход для анализа воздействия таких шоков неопределённости. Я строю модель с изменяющимся во времени вторым моментом, которая численно решается и оценивается с использованием данных на уровне фирм. Затем параметризованная модель используется для моделирования макроэкономического шока неопределённости, приводящего к быстрому падению и последующему восстановлению совокупного выпуска и занятости. Это происходит из-за того, что рост неопределённости заставляет фирмы временно приостановить инвестиции и найм сотрудников. Темпы роста производительности также снижаются, поскольку такая пауза в экономической активности замедляет перераспределение ресурсов между предприятиями. В среднесрочной перспективе возросшая волатильность из-за шока приводит к превышению докризисного уровня выпуска, занятости и производительности. Таким образом, шоки второго момента вызывают короткие и резкие рецессии с последующим быстрым восстановлением."

https://www.nber.org/system/files/working_papers/w13385/w13385.pdf

Но это резкий шок неопределенности с последующим спадом в неопределенности до "обычного" уровня. Тогда: быстрый экономический спад — быстрый экономический отскок. Текущая же администрация США скорее обещает более постоянный рост неопределенности — на несколько лет вперед подряд, без быстрого отката до нормы.

"Наибольший объём теоретической литературы о влиянии неопределённости связан с подходом «реальных опционов» (Bernanke 1983; Brennan и Schwartz 1985; McDonald и Siegel 1986). Согласно этой теории, фирмы могут рассматривать свои инвестиционные решения как серию опционов. Например, сеть супермаркетов, владеющая пустующим участком земли, имеет возможность построить на нём новый магазин. Если супермаркет сталкивается с неопределённостью относительно будущего (например, неясно, будет ли реализован проект строительства жилья поблизости), ему может быть выгоднее подождать. Если жилищный проект всё же начнётся, супермаркет сможет построить магазин позже, а если нет — продолжит ждать, избегая (по крайней мере пока) дорогостоящих ошибок. В терминах подхода реальных опционов, ценность ожидания для сети супермаркетов возрастает в условиях высокой неопределённости. Таким образом, неопределённость делает фирмы осторожнее в отношении таких решений, как инвестиции и наём работников, поскольку издержки корректировки этих решений могут быть очень высокими.

Издержки корректировки инвестиций включают как физические издержки (например, оборудование может повредиться при установке или демонтаже), так и финансовые (например, скидка при перепродаже бывшего в употреблении оборудования). По оценкам Ramey и Shapiro (2001), а также Cooper и Haltiwanger (2006), эти издержки корректировки инвестиций чрезвычайно велики и составляют примерно 50% от стоимости самого капитала.

Издержки корректировки найма включают расходы на подбор сотрудников, обучение и выходные пособия. Согласно Nickell (1986) и Bloom (2009), они составляют от 10 до 20% от годового фонда заработной платы. Schaal (2010) также подчёркивает важность издержек поиска работников, показывая, как неопределённость взаимодействует с фрикциями поиска и препятствует восстановлению рынка труда во время рецессий."

Н. Блум (2014).

https://pubs.aeaweb.org/doi/pdfplus/10.1257/jep.28.2.153

Ох, обострим:

Румыния, теперь Франция. Неужели страны Европы (причем такие разные) решились все-таки защищать либеральный порядок от авторитарного захвата?

(Сорямба, дорогие читатели канала, я знаю, что сильно расхожусь здесь со многими из вас — но не буду же я по этой причине менять мнение? Это не в первый раз; мы справимся.)

Настоящая пятая колонна это, конечно, кремлевские политологи, переживающие за электоральные ограничения. Нельзя держать такую большую фигу в кармане, швы расходятся

https://www.tg-me.com/ru_global/30100

«Первые месяцы Второй мировой войны Мосли и руководимый им Союз [британских фашистов] продолжал деятельность. Однако после прихода к власти Уинстона Черчилля руководство страны решило положить конец политической активности БСФ. В мае-июне 1940 года Освальд Мосли вместе с большинством руководителей БСФ был арестован, а в июле вся фашистская организация была объявлена вне закона.
МИ-5 вела негласное наблюдение за Мосли, в том числе через подслушивающие устройства[10]. Власти терпели агитацию Мосли до битвы за Францию. Мосли был задержан 23 мая 1940 года, менее чем через две недели после того, как Уинстон Черчилль стал премьер-министром[11]. Лорд Биркетт[10]допрашивал Мосли в течение 16 часов, но так и не предъявил официального обвинения. Вместо этого он был интернирован в соответствии с Постановлением Министерства обороны 18B. Большинство других активных фашистов в Великобритании постигла та же участь, что привело к практическому удалению Союза фашистов с политической сцены Великобритании[11]. Жена Мосли, Диана, также была интернирована в июне[12] вскоре после рождения их сына (Макса Мосли); Большую часть войны Мосли жили вместе в доме на территории тюрьмы Холлоуэй. Позже в том же году Союз фашистов был запрещен британским правительством. Там Мосли имел возможность много читать, он изучал немецкий язык и историю древней Греции. Заключению была подвергнута также жена Мосли, Диана.»