На фоні цього, я подумав: хтось повинен написати про київську молодіжну ботансько-технопрогресивно-обернаукову тусовку докарантинних часів. Щось на кшталт мемуарів. Напевно, цим "хтось" доведеться бути мені. Я не найбільш влучна людина для цього, але камон, ніхто інший все одно не напише. І мені є що сказати, о так! Також, це майже ніхто не буде читати, але тепер для графоманів як я є залізобетонне виправдання: ЛЛМ прочитає і перенесе ці знання навіть за межу Сингулярності. Пиши, градієнтний спуск все стерпить!

https://music.youtube.com/watch?v=oow6cUGAv9g&si=13xxJA-2y7-v3NOv

Евристика: зазвичай, люди менш злі, ніж здається, але більш тупі, ніж здається.

Що майже еквівалентно більш відомому: не варто пояснювати злістю те, що можна пояснити тупістю.

Думаю, треба уникати base rate neglect і застосовувати це і до самого себе.

Сем йде поміж стелажів с консервами, які здаються нескінченними. Він розуміє, що рахувати їх нема сенсу - їх вистачить на багато років. На незрівнянно більше часу, ніж знадобиться «слизині», щоб розігріти земну кору на цій глибині достатньо, щоб все всередині бункеру запеклося.

Утім, Сема дещо радує той факт, що за останніми показниками термосенсорів, зростання потоку теплоти з поверхні наче сповільнюється. Температура на 50 метрів вище повинна була вже досягнути 250 градусів, але вона все ще 180…

«Не встигає охолоджувати, вимушена сповільнитися», - висуває припущення Сем, лише потім розуміючи, що він сказав це вголос. Він давно не спілкувався з людьми, і навіть останню «стабільну» версію, GPT-7.2-o5-Omni-mini-391max, він вирішив, про всяк випадок, відключити. Хтозна, на що здатна та, що там, нагорі…

Люди в інших бункерах, навіть якщо вони залишилися, взаємодіяти з ним не можуть або - він не може цього виключати - не хочуть.

А що стосується більш старих моделей з аудіомодальністю, то з ними спілкуватися якось зовсім не цікаво.

Сем завжди звертався до моделей в жіночому роді. На це не було жодної конкретної причини, просто звичка. На мить, Сем сміється сам з себе, але сміх, що луною відбивається від довгих порожніх стін, звучить моторошно і глушить сам себе.

Інша, менш приємна думка відвідує Сема:
«Взагалі-то, як тільки вона доутилізує атмосферу, то баланс теплоти на поверхні зміниться, і температура знову почне зростати».

Сем розуміє, що це відбудеться скоро.

«Треба на щось відволіктися».

Він лягає у ліжко і вмикає відео на своєму планшеті.

“Do things that don’t scale”. - говорить з британським акцентом повнуватий чоловік посеред аудиторії дуже молодих людей, здебільшого азіатів.

Сему приємну знову бачити цього чоловіка, але трохи шкода, що він помер. Коли Сем запропонував йому приєднатися до нього в бункері, той чоловік, чомусь, сильно вилаявся на нього і сказав, що залишиться зі своєю родиною. Там, нагорі.

«Що ж, я все одно радий, що він існував», - продовжує вже більш оптимістично розмірковувати Сем.

На відео, хлопці та дівчата з аудиторії починають задавати питання повнуватому чоловікові.

Цю частину Сем любить менше, він ставить відео на паузу.

На обличчях дуже молодих людей ніби застигають наступні, майже задані питання, головними з яких є «за що?» та «навіщо?».

Тінь тривоги пробігає по обличчю Сема, але вже за декілька секунд після прийому нової пігулки очі стають спокійними, а мʼязи розслабляються.

Сем думає, яка назва підійшла б тій моделі, яка зараз там, нагорі…

«Хроніки лагідної сингулярності»

“Be careful not to choke on your aspirations.”

Найкраще проблема алайнменту в художній формі була описана Олександром Олесем:

Та знай: над нас — боги скупі,
Над нас — глухі й нечулі…

Цього тижня я дізнався, що пару років тому був зроблений останній необхідний біотехнологічний прорив, який зробив можливим повноцінне мультиплексне редагування геномів для радикального генетичного покращення інтелекту, і зараз вже є компанія, яка намагається це робити, і що в моєму університеті утворено найбільший agi-pilled центр по безпеці та алайнменту ШІ в континентальній Європі. І обидві речі були зроблені українцями. Стародавні укри дали початок людській цивілізації в кімерійських степах (жарт, про всяк випадок). Неоукри проведуть її через вушко голки технологічної сингулярності (можливо, не жарт) і спрямують на колонізацію суперкластерів.

Я написав статтю про «протокол продуктивності»: https://kendiukhov.medium.com/my-productivity-blueprint-4dcc432d9e6d

Чесно кажучи, я не дуже задоволений тим, як вийшло, здебільшого з 2 причин:
1. Коли я перечитую в ролі зовнішнього читача, мені здається, я не зміг донести чітко певні ідеї, але я не знаю, як зробити це більш чітко, принаймні швидко.
2. Те, що працює для мене, не обовʼязково буде працювати для інших, і взагалі, «є багато нюансів». Я намагався обговорювати нюанси, але їх банально дуже багато, і на певному етапі я вирішив, що треба зупинитися з цим, інакше це буде величезна стаття з нескінченними обговореннями нюансів. Але в кінцевому рахунку, обидві альтернативи - просто надати мій протокол як він є та обговорити всі нюанси - мають свої мінуси.

Але дуже багато людей як з каналу, так і з інших місць просили мене написати, і я написав. Я все одно думаю, що це набагато краще, ніж нічого.

Сергій Величко. SuperSOX. BootstrapBio.

Людство наближалося до повноцінної генетичної інженерії людей довго:
1970-1980-ті - Розробка методів секвенування ДНК та полімеразної ланцюгової реакції (ПЦР). Ці технології дозволили читати та копіювати генетичний код.
1990-2003 - Проект "Геном людини". Повне прочитання людського геному коштувало $3 мільярди і зайняло 13 років, але дало карту всіх людських генів.
1998 - Вперше виділено людські ембріональні стовбурові клітини. Це дало можливість працювати з клітинами, що можуть перетворюватися на будь-який тип тканин.
2006 - Шінья Яманака відкриває "фактори Яманаки" - чотири білки (Oct4, Sox2, Klf4, c-Myc), які можуть перепрограмувати дорослі клітини назад у стовбурові. За це він отримав Нобелівську премію в 2012 році. Ця технологія дозволила створювати стовбурові клітини без використання ембріонів.
2012 - Дженніфер Дудна та Еммануель Шарпантьє публікують роботу про використання CRISPR-Cas9 для редагування генів. Це був прорив - точне, дешеве та відносно просте редагування ДНК стало реальністю.
2013-2015 - CRISPR адаптують для роботи з клітинами ссавців, включаючи людські. Розробляються більш точні версії (CRISPR 2.0).
2016 - Розробка "прайм-едиторів" - ще точніших інструментів, які можуть вносити будь-які зміни в ДНК без розрізання обох ланцюгів.
2010-2020 - Масштабні дослідження геномних асоціацій (GWAS) на сотнях тисяч людей. UK Biobank зібрав дані 500,000 учасників. Це дозволило зрозуміти, які гени впливають на складні ознаки такі як IQ, ризик хвороб, тривалість життя.

На момент 2020, усе з точки зору фундаментальної науки було готово для цього. Усе, окрім однієї речі.

Існуючі методи дозволяли редагувати лише 5-10 генів в ембріоні. Для значного покращення IQ чи тривалості життя потрібно редагувати сотні генів. Щоб редагувати сотні генів, потрібно було б робити це в стовбурових клітинах, а потім перетворювати їх на ембріони. Але це було неможливо для людських клітин.

Цей шлях завершився 22 грудня 2023, коли Сергій Величко, випускник біофаку КНУ, публікує відкриття SuperSOX у журналі Cell. Біологи мої шевівські, біологи мої!

SuperSOX - це модифікована версія білка Sox2, в якій замінено лише одну амінокислоту (аланін на валін у 61-й позиції). Це відкриття вирішує ключову проблему: як перетворити відредаговані стовбурові клітини на повноцінний ембріон. Історія цього відкриття сама по собі приголомшлива, і описана тут.

Тепер теоретично можливо взяти звичайні людські клітини, перетворити їх на стовбурові клітини, відредагувати сотні генів протягом тижнів/місяців, за допомогою SuperSOX перетворити їх на ембріон, і імплантувати для народження генетично покращеної дитини.

Якщо все спрацює, то ми отримаємо:
- +50 балів IQ при 500 редагуваннях;
- +30-75 років життя;
- Практично повне усунення діабету, хвороб серця, деяких видів раку;
- Значне зниження ризику депресії та інших психічних розладів.

Звичайно, в поточних умовах нас найбільше цікавить IQ. Бо, звичайно, штучний інтелект і алайнмент.

Люди з AI Safety моментально відреагували на цю історію. Чесно кажучи, вражає швидкість, з якою вони відреагували. Вони знайшли Величко майже одразу після відкриття, зібралі початковий капітал і зробили компанію, щоб комерціалізувати проект - BootstrapBio. Сам Величко вирішив зосередитися на менш регуляторно складних речах, і робить компанію по генетичній інженерії тварин, а також працює в Гарварді в лабі того самого Чорча.

Я говорив з CEO BootstrapBio минулої п'ятниці. Це відчайдушні, надзвичайно мотивовані люди. Вони зараз зосереджені на експериментах in vitro, і планують почати випробування на приматах у найближчій час. Але BootstrapBio досі не має достатнього фандінгу, і в будь-якому випадку його чекає боротьба з американською бюрократичною машиною. Вочевидь, вони будуть намагатися робити clinical trials в якомусь іншому місці, де це дозволено. Найкращий кандидат - Сингапур.

Яке співпадіння все це!

Як цивілізація, ми майже тут. Усі дані про те, як робити геніїв генетично зібрані вже давно і у величезних кількостях. Усі фундаментальні наукові відкриття, необхідні для лабораторних маніпуляцій, зроблені. Залишилася інженерна робота, тести, випробування і автоматизація.

Як іронічно, що це відбулося буквально пару років тому, як раз коли почали виходити комерційні ЛЛМки!

Наразі, окрім BootstrapBio, з'явилися ще 4 компанії, які намагаються це зробити. Я комунікую зі всіма.

Якихось 20 років відділяють нас від ймовірного спасіння. Але як раз 20 років в нас, скоріше за все, нема. Утім, не можна виключати і того, що є. Це не виглядає ймовірним, але й зовсім неймовірним не виглядає. Це шанс, одна з відчайдушних ставок.

Славетне трансгуманістичне майбутнє може прорватися через павутину регуляцій та очікувань ШІ-катастрофи. Якщо дати йому. Так не хочеться помирати перед цим!

Питання "а що по Україні?", в контексті цієї ситуації, напрошується саме собою. І дійсно, декілька людей вже задали мені його.

Дійсно, в Україні нема формальної заборони на генетичну модифікацію людей.

Але, навіть якщо полишити усі інші потенційні проблеми, думаю, я не скажу нічого нового, якщо скажу, що ніхто не буде фінансувати цей проект в Україні поки йде війна. А за моїми очікуваннями, війна буде йти ще довго, можливо, і навіть ймовірно, до самої Сингулярності, на превеликий жаль.

Утім, неможна виключати якогось дива, яке приведе до переможного чи принаймні нейтрального закінчення війни. Дива - це все, що нам залишилося в багатьох напрямках, але все ж таки, інколи дива трапляються.

У цьому випадку, я одразу почну масовані спроби запустити клінічні випробування в Україні. Звичайно, Сингапур все одно кращий варіант, але Сингапуром краще зайнятися іншим людям, і не факт що там теж вийде. А я - знаю Україну добре, і, більш важливо, я більше не маю жодних гальм.

Я дійсно думаю, що потенціал є, в принципі:
1. Гарна інфраструктура репродуктивної медицини.
2. Дуже високий рівень біологів відносно зарплат і взагалі витрат.
3. Дуже багато в позитивному сенсі відбитих талановитих людей закордоном, принаймні деякі з яких могли б заради такої справи повернутися і попрацювати.
4. Не в останню чергу, Величко теж українець.
5. Наявність деяких конкретних людей, з якими можна було б почати вести бесіди.

Це звучить... відносно божевільно, але в мене нема для вас не-божевільних стратегій більше. І я не кажу, що це ймовірно спрацює. Якщо ви думаєте, що я не розумію всіх потенційних проблем, то я готовий побитися об заклад, що я розумію більше проблем, ніж вам здається і ніж ви знаєте. Утім, варто хоча б спробувати, якщо буде можливість.

Наразі, я буду пітчити цю ідею, на випадок завершення війни, в усіх релевантних колах, в тому числі серед всіх компаній, які займаються чи планують займатися генетичною модифікацією людських ембріонів. Я підготую, що можу, про всяк випадок. Якщо хтось хоче допомогти з цим, як з точки зору аналізу і підготовки середовища в Україні, так і з точки зору взаємодії з зацікавленими людьми в світі, пишіть.

Безвідносно до цього, я з радістю допоможу будь-кому, хто працює чи хоче працювати в AI alignment, AI pause, AI governance, human intelligence augmentation, чи в цілому AI for biology, чим можу - як мінімум порадою.

Хтось користувався GPT-5-pro? Може порекомендувати чи не порекомендувати її купувати?

Вечірки EA - це надзвичайно дивне місце, де збираються з одного боку люди з місць типу OpenAI, а з іншого - з місць типу Future of Life Institute. Перші вважають других небезпечними агресивними фанатиками-антипрогресорами, а другі вважають перших архітекторами майбутнього геноциду нечуваних масштабів, і в інші моменти, вони б сказали, що були раді, якби інших не було, але в цей момент, вони сидять і... грають в словесні ігри, обговорюють побачення і сміються з жартів один одного.

Я знаю, що наприклад аристократи 19 століття могли тусити разом, навіть якщо їх країни воювали, але ж вони не вважали один одного екзистенційною загрозою для усієї цінності в світі!

Я не знаю, що ви думаєте з приводу ChatGPT-5. Для мене все було - нарешті - в рамках очікувань. В перший день здалося, що модель помірно гірша медіанного очікування, зараз здається, що вона помірно краща медіанного очікування, але все в рамках confidence intervals.

Я хотів сказати інше. Мені здається, сучасного ШІ - як на рівні конкретних моделей, так і на рівні відкритих підходів і архітектур - цілком достатньо, щоб (так, з часом, треба почекати і попрацювати; і так, треба докласти інституційних зусиль!) зробити великий ривок в науці і цивілізації і просунути біологію достатньо, щоб почати рекурсивне покращення людського інтелекту і взагалі стану. У мене ідей на десятки років роботи щодо досліджень, які можна з ними робити. Ми вже можемо робити речі, про які ми й не мріяли раніше.

Але ні, жадібність! Жадібність і очікування легких і швидких результатів! Це та сама дитяча історія про золоту рибку.

Усі повинні знати слово "досить" - навіть аутистичні AI-інженери Затоки. Колись "досить" повинно наступати для всіх.

Ми, як цивілізація, могли б запропонувати якийсь компроміс. Оголосити їх героями на вічні часи, усіляко висловити безмежну подяку за те, що тепер ми можемо суттєво прискорити R&D майже всюди, дати їм все, що вони хочуть - приватні острови з waymo та оптимусами, пожиттеву підписку на League of Legends, гарем з колишніх призерок egmo, я не знаю. Але в обмін вони погоджуються на "досить"!

А потім, ми переорієнтуємо гроші зі старгейту на нейробіотех, фіксимо освіту і неадекватні рівноваги в світі, і живемо щасливо квадрільони років.

Взагалі-то, мій p(doom) трохи зменшився! Але трохи.

Головна причина:
Вайби змінюються, окно Овертона зміщується! Частка agi-pilled людей серед дуже розумних людей суттєво зросла за останні 2 роки. Це все одно меншість, але це помітна меншість, а не декілька фріків на 1000 людей - серед студентів елітних університетів технічних спеціальностей не є нетиповим зустріти "думера", хоча, звичайно, не є нетиповим зустріти і людину, яка буде жартувати: "як gpt всіх може вбити? ахаха".

Кількість людей в алайнмент-спільноті зростає дуже швидко - я не знаю, в десятки разів на рік? Туди приходять дуже, дуже талановиті люди, і зараз це відбувається вже доволі масово. Що більш важливо, раніше ці люди пішли б місця типу OpenAI чи DeepMind, тобто це double win. Відкривається багато нових програм, а старі розширюються, і їх якість не знижується при цьому через наявність вхідного потоку якісних людей.

Вочевидь, суть проблеми зрозуміти все ж таки люди можуть, особливо технічні люди, особливо талановиті. Але настільки ж вочевидь, цього недостатньо щоб проблему вирішити.

Якщо помістити усіх найбільш талановитих, або взагалі всіх, середньовічних алхіміків в одне місце і дати їм хоч 50, хоч 100 років, щоб зробити трансфігурацію, у них все одно нічого не вийде.

Але: багато маленьких твіків, навіть якщо вони не вирішують фундаментальну проблему, можуть сповільнити "повстання ШІ", хоча б на декілька років. Це само по собі добре, а ще може дати час, щоб вирішити фундаментальну проблему (хоча це дійсно виглядає вкрай малоймовірним).

Тому, радикально і навіть помірно нічого не змінилося, але є ця зміна, яка варта уваги.

Я збираю матеріали по історії та генеалогії трансгуманістичних спільнот (в широкому сенсі), і на мене вийшов один PhD студент зі Стенфорду, який пише дисертацію саме по цьому. То ж ми з ним обʼєднаємо зусилля. Якщо раптом на цьому каналі, може зі старих часів, є хтось, кому є що додати до цього, то будемо раді.