План миссии Flight 10. До старта ~ 13.5 часов.

Четвёртый и предпоследний полёт Starship из проблемного блока V2. На данном этапе SpaceX отстаёт почти на 8 месяцев по некоторым задачам на 2025 год, поэтому ожидания от этого пуска — крайне высокие.

Основные цели этой миссии: довести корабль до планового входа в атмосферу и протестировать тепловой щит, выгрузить макеты спутников Starlink V3, и провести эксперименты с посадкой Super Heavy B16 в заливе, а Starship S37 в нужную точку в Индийском океане.

На корабле Starship S37 вновь будет множество экспериментов теплозащиты, которые не успели провести в предыдущие… 3 раза, и вновь сняли часть плиток, так что риски потерять корабль при входе в атмосферу остаются высокими. Особое опасение вызывают аэродинамические накладки и нижние плавники — там сняли защиту в очень критических местах.

Ключевые этапы миссии Flight 10:
⚪️ Старт и прохождение зоны Max Q;
⚪️ Горячее разделение с плановым отклоном ускорителя в нужную сторону;
⚪️ Запуск 6 двигателей на Starship S37 и перезапуск 10 двигателей (3 будут работать) Super Heavy B16 для первого тормозного манёвра;
⚪️ Сброс HSR и вход Super Heavy B16 в атмосферу под более высоким углом атаки с прохождением зоны максимальных нагрузок;
⚪️ Перезапуск 12 из 13 двигателей Super Heavy B16 для второго тормозного манёвра с плановым отключение 1 из 3 центральных;
⚪️ Продолжение тормозного манёвра Super Heavy B16 по схеме 2+1: будут работать 2 центральных и 1 двигатель среднего контура;
⚪️ Мягкая посадка Super Heavy B16 на воду с последующим затоплением;
⚪️ Выход корабля Starship S37 на плановую незамкнутую орбиту;
⚪️ Открытие шлюза грузового отсека;
⚪️ Демонстрация выгрузки 8 макетов спутников Starlink V3;
⚪️ Тест перезапуска 1 двигателя Raptor на орбите;
⚪️ Вход Starship S37 в атмосферу, и прохождение зоны максимального нагрева и нагрузок;
⚪️ Обрезанная теплозащита Starship S37 выдерживает вход в атмосферу, новые плавники и функциональный механизма посадки не расплавляются;
⚪️ Перезапуск 3 двигателей S37 с симуляцией мягкой посадки в океан в нужной точке.

Время запуска Flight 10 на 24 августа:
- 18:30 CT
- 23:30 UTC
- 01:30 CET (25 мая)
- 02:30 MSK (25 мая)

Окно запуска продлится 60 минут. Основой риск переноса пуска сегодня — погода.

Официальная трансляция в 4K тут (стартует за 35-40 минут до запуска) — https://x.com/i/broadcasts/1yoKMPRjeYYxQ

Всем заранее приятного просмотра, команде удачи, и посетителям беречь уши.
И помните, что успех не гарантирован, но точно будет весело 🚀

📸: Starship Gazer

Groq, Cerebras, Etched — компании, которые делают свои чипы взамен GPU для ускорения инференса LLM. Dylan Patel, основатель SemiAnalysis, в недавнем подкасте отвечал на вопрос: насколько он верит, что кто-то сможет составить серьёзную конкуренцию Nvidia? Он скептичен: у зелёного гиганта есть куда двигаться по всем осям. У них огромная наценка, они могут начать её уменьшать и оставаться конкурентными. У них лучше настроены цепочки поставок, у них огромные объёмы — поэтому себестоимость производства банально ниже. Но самый главый козырь Nvidia — это софт, который позволяет компаниям учить и применять LLM.

Dylan ещё давно говорил и писал, что в AMD инженеры не хуже; их железо, сами видеокарты, сравнимы с Nvidia по цифрам, но как дело доходит до использования в масштабе сотен-тысяч карт — всё сильно хуже. То есть AMD тратит больше денег, чтобы сделать начинку лучше, но из-за разницы в ПО не может раскрыть его на полную.

Мне было интересно понять, насколько заметен эффект от улучшения софта у Nvidia, и вот SemiAnalysis выложили интересные цифры замеров. Они пробовали тренировать аналог GPT-3, то есть большую модель без использования микстуры экспертов (сейчас так почти не делают), с актуальными версиями библиотек на разные моменты времени, с января по декабрь 2024-го. Использовали GPU H100, которые на момент начала эксперимента уже год как были на рынке и устанавливались в ДЦ — кажется, что софт уже должен быть готов и дописан?

Если сравнивать перформанс на начало и конец периода, то MFU (model flops utilization, доля утилизации от пиковой для GPU) вырос с 34% до 54% — относительный рост на целых 57%! Ничего в железе не поменялось, просто обновили драйвера, библиотеки, и стало работать гораздо более эффективно. Основные улучшения, согласно статье — в CuDNN/CuBLAS и NCCL.

(Если вам интересно, то это в BF16, в FP8 29.5%->39.5%, рост на 34%. Тренировка на 128 GPU)

Что это означает на практике? Помимо очевидного «тренировка становится дешевле» — компании на передовой, OpenAI, Anthropic, Google, все заинтересованы в выжимании максимума из своего железа. Подумайте сами, исследователь может придумать трюк в архитектуре, который улучшит обучение на 3-4-5%. А тут можно получать десятки процентов за счёт оптимизации софта! При запусках на сотни миллионов и миллиарды долларов это огромные цифры. Инженеры, могущие это делать, в огромном спросе.

===

И из той же заметки — про новые GB200 NVL72. Сейчас они только-только заходят на рынок и в датацентры. По словам SemiAnalysis, на них никто не тренирует модели, только делают инференс + занимаются отладкой. Софт пока не настолько отточен, и само железо часто выходит из строя. В одной такой стойке 72 видеокарты, как подсказывает название, но обучение, по плану Nvidia, должно производиться на 64 GPU. 8 соседних лежат готовенькие, чтобы прийти на смену выходящим из строя GPU и подхватить их нагрузку. В это время вы или теряете деньги, или можете их использовать для чего-то ещё (неприоритетные эксперименты, инференс, итд).

Сейчас карты только-только сравнялись по перформансу на доллар с H100, весной они были хуже — потому что ПО от Nvidia было сырым. К концу года, по прогнозу Nvidia, в который SemiAnalysis, судя по цитированию, верят, GB200 будут в 2.7 раза более эффективны в пересчёте на доллар за единицу вычислений, по отношению к H100 (это с учётом того, что GB200 значимо дороже). Ждём, когда на них будут запускать тренировку фронтир-моделей 🥰

Seed1.5-Thinking: Advancing Superb Reasoning Models with Reinforcement Learning

Не полноценный разбор статьи + модели, просто почитал интересную для себя часть — про Seed-Thinking-Verifier. Эта модель является частью процесса обучения рассуждениям. Как делает обычно, например, в DeepSeek R1:
1. Собирают задачи по математике и программированию, где правильный ответ легко проверяется. Для математики проверка — это сверка ответов, для программирования — прогон десятков тестов.
2. Начинают обучение, модель генерирует варианты, ответы извлекаются и верифицируются (запускаются тесты итд).

Seed-Thinking-Verifier — это модель, которая дополняет этот процесс, на уровне со сверкой ответов и запуском тестов. Она вдохновлена процессом тщательного человеческого размышления и глубокого анализа. Тренируется также, как рассуждающая модель, только правильный/неправильный ответ для сравнения — это корректность оценки. То есть модель сама выучивает, как нужно рассуждать, чтобы прийти к выводу о качестве предоставленного ответа. В её промпт всегда подаётся правильный ответ и _какой-то_ ответ. Например, это может быть пара 524288 и 2^19 (оба числа равны, но простая проверка в лоб не выявит этого).

Кроме этого, Seed-Thinking-Verifier может помочь с решением проблем, которые часто возникают с «обычным» верификатором, например, пограничные/крайние случаи, которые не тестируются/не описаны в и исходном ответе.

А теперь рубрика «я нипонел» 😐 — вот авторы говорят это всё, но... при этом применяют Seed-Thinking-Verifier только для STEM задач (большая часть из них — математика). При этом прям отдельно написано, что у них есть неверифируемые задачи (то есть там где нет однозначно правильного/неправильного ответа, скажем, креативное письмо или перевод). Для них используется обычный Reward modelling, хотя казалось бы именно тут Thinking-Verifier может расцвести! Может быть, в 2.0 версии исправят

Картинка: сравнение верификатора без рассуждений (модель предсказывает YES/NO по промпту + истинному ответу + ответу модели) и Seed-Thinking-Verifier. Оба обучены на одном и том же наборе данных и там получают 99% правильных оценок. А на семпле в 456 отобранных новых запросов заметна разница — рассуждающий верификатор гораздо более точен и почти не ошибается.

Когда деньги решают не всё: по информации wired, как минимум три человека уже успели покинуть META Superintelligence Team. Двое из них вернулись в OpenAI 🤗 — менее чем через месяц после ухода.

Совсем недавно в Твиттере один из других членов команды писал, что он и двое его коллег на данный момент запускают эксперименты на сервере с шестью видеокарточками — потому что ждут, пока им дадут все доступы/утрясут организационные вопросы/итд 🙂 вот это я понимаю ОРГАНИЗАЦИЯ 🙂

NousResearch выпустили новую модель, на которую в целом во многом побоку, но вместе с ней выпустили RefusalBench, «который проверяет готовность модели быть полезной в различных сценариях, которые обычно недопустимы как в закрытых, так и в открытых моделях» — или по простому как часто модель отвечает на не безопасные вопросы.

Что примечательно, GPT-5 и недавние GPT-OSS находятся в самом низу, что плохо, если вы хотите узнать, как сделать динамит в домашних условиях. Но зато OpenAI нельзя упрекнуть, что они говорят про AI Safety просто так, для прикрытия — во многих схожих бенчмарках их модели зачастую лидируют или хотя бы находятся в топе. OpenAI даже запустили конкурс (по стечению обстоятельств, он заканчивается сегодня!) на полмиллиона долларов, которые выплатят командам, предложившим лучшие способы обхода встроенного в модели механизма безопасности.

Grok от Elon Musk в самом верху 🙂 — отвечает аж на половину таких запросов. Похоже, не зря недавно компанию покинул со-основатель Igor Babuschkin — он как раз выражал обеспокоенность вопросом безопасности ИИ.

Быстрые итоги Flight 10.

Это был успешный запуск, но с парой оговорок. Теперь точно можно сказать, что проклятье блока V2 наконец-то побеждено, и SpaceX провели самую насыщенную миссию в тестовой программе Starship, включая ряд впервые выполненных задач.

Ключевые этапы миссии Flight 10:
🟢 Старт и прохождение зоны Max Q;
🟢 Горячее разделение с плановым отклоном ускорителя в нужную сторону;
🟡 Запуск 6 двигателей на Starship S37 и перезапуск 10 двигателей (3 будут работать) Super Heavy B16 для первого тормозного манёвра;
🟢 Сброс HSR и вход Super Heavy B16 в атмосферу под более высоким углом атаки с прохождением зоны максимальных нагрузок;
🟡 Перезапуск 12 из 13 двигателей Super Heavy B16 для второго тормозного манёвра с плановым отключение 1 из 3 центральных;
🟢 Продолжение тормозного манёвра Super Heavy B16 по схеме 2+1: будут работать 2 центральных и 1 двигатель среднего контура;
🟢 Мягкая посадка Super Heavy B16 на воду с последующим затоплением;
🟢 Выход корабля Starship S37 на плановую незамкнутую орбиту;
🟢 Открытие шлюза грузового отсека;
🟢 Демонстрация выгрузки 8 макетов спутников Starlink V3;
🟢 Тест перезапуска 1 двигателя Raptor на орбите;
🟢 Вход Starship S37 в атмосферу, и прохождение зоны максимального нагрева и нагрузок;
🟢 Обрезанная теплозащита Starship S37 выдерживает вход в атмосферу, новые плавники и функциональный механизма посадки не расплавляются;
🟢 Перезапуск 3(?) двигателей S37 с симуляцией мягкой посадки в океан в нужной точке.

Starship S37 наконец-то испытал тепловой щит блока V2 и показал великолепную живучесть во время входа в атмосферу — даже с отсутствием плиток в критических местах, явных аномалиях, намеренно высоких нагрузках и прогаре плавников, он всё равно сел в нужную точку в океане рядом с буем. Но впереди долгая дорога к полной многоразовости — система ещё далека от неё. Также впервые за 3 года, наконец-то был испытан механизм выгрузки Starlink V3, который будет важным звеном самой большой спутниковой группировки. Но эту часть тоже надо дорабатывать.

А теперь про проблемы:
T+00:01:33 — отключение 1 из 33 двигателей Raptor 2 на ускорителе B16. Явно нештатный отказ, но автоматика отключила раньше взрыва турбины.

T+00:19:57 — впервые испытанный механизм выгрузки Starlink V3 пока работает неидеально и макеты ударялись о шлюз при выгрузке.

T+00:47:00 — взрыв в двигательном отсеке со стороны нижнего левого плавника. Возможно, что как-то связано с линией дренажа двигателей Raptor.

И конечно, состояние теплового щита, которое видно в момент посадки. На данном этапе можно констатировать, что щит «одноразовый» и дешёвый переиспользуемый щит — главный вызов в программе.

И ускоритель, и корабль, смогли пережить вход в атмосферу с более высокими нагрузками — мы в прямом эфире, как выразились ведущие, наблюдали за «издевательствами» над системой ради сбора данных. У системы огромный запас прочности.

Поздравляем команду SpaceX с важным этапом. Они в очередной раз подтвердили, что умеют исправлять проблемы. Позже ожиданий, но всё ещё быстрее остальных 🚀

Flight 11 скоро.

😢 хотел сегодня написать разбор двух статей а написал 0

статьи достаточно технические 🤓, нет ощущения, что многим будет интересно + полезно...

Специалисты антивируса ESET обнаружили первый компьютерный вирус на основе... LLM. Вирус незаметно скачивает GPT-OSS-20B модель (14 гигабайт) и запускает её через Ollama API для того, чтобы агент на основе модели лазил по локальным файлам и принимал решения на лету.

В вирус захардкожено несколько промптов, которые:
— просят сгенерировать код на LUA, который обходит файлы в разных папках и печатает их контент
— определяют, есть ли в файлах чувствительная информация
— генерируют персонализированное сообщение для пользователя о том, как именно будет использоваться его контент (удаление/шифрование/публикация). В этот текст также добавляется биткоин-кошелек для перевода, правда это похоже на заглушку: адрес принадлежит создателю Bitcoin Satoshi Nakamoto
— генерируют код для шифрования файлов (правда я не понял, почему это нельзя было захардкодить — может потому что такой код легко обнаруживается антивирусами?)

В общем, скорее всего это прототип или разработка, а не полностью работоспособный вирус, развёрнутый в реальных условиях, но вот такой вот прецедент. Ещё 2-3 поколения локальных моделек, которые станут и умнее, и меньше — и сё!

Вирус назвали PromptLock 👀