Спекуляція:

Передовий математичний апарат сучасної фізики та взагалі сучасний математичний апарат балансує на абсолютній межі здатності до розуміння найбільш талановитих та освічених людей. Враховуючи, що людство в середньому не розумнішає, а населення передових країн скорочується (чи скоро почне) навіть із врахуванням міграції, він взагалі може вийти за межі розуміння будь-ким.

До того ж, зараз ШІ лабораторії висмоктують найбільш розумних людей до себе. Раніше отримувати величезні гроші в статусі найманого співробітника для геніїв можна було напевно лише в хедж-фондах. Але хедж-фонди - це менш цікава робота (для геніїв), яка до того ж дає менш внутрішньої мотивації і застосовує доволі обмежену частину математичного апарату. Звичайно, це процес не моментальний - людина, яка все життя пропрацювала алгебраїстом, навряд чи буде радикально змінювати свою карʼєру. Але багато молодих перспективних випускників, які раніше пішли б в умовну теорію струн, зараз йдуть в ШІ або в алайнмент, і це прямо видно в ріал-тайм.

Прецедент свого роду забування передових знань людством в новітній історії вже є: це надважкі ракети. Звичайно, що номінально ці знання залишилися десь в форматі книжок та документів, але фактично люди, які розбиралися в тому, як будувати надважкі ракети, або померли або пішли на пенсію на момент початку 21 століття, а нових фахівців було недостатньо, щоб інтерналізувати усі необхідні знання. В кінцевому рахунку, SpaceX довелося робити R&D для побудови надважких ракет заново - і якби якась SpaceX зʼявилася у 70-х роках 20 століття, то цього б робити не довелося. І це відбулося глобально, в масштабах людства.
Локально, прикладів набагато більше, варто лише згадати усі технології, які міг робити Радянський Союз, і які Росія робити не може.

https://deepmind.google/discover/blog/ai-solves-imo-problems-at-silver-medal-level/

Не приховаю, що дуже сильно неочікувана новина для мене.

1. Я думав, що до цього принаймні 2 роки.
2. Я думав, що система, настільки розумна, щоб вирішувати задачі IMO на рівні срібла, буде чимось безпрецедентним - як з точки зору загальних здатностей, так і з точки зору економічної корисності.
3. Взагалі, я завжди вважав, і на це є, як на мене, вагомі причин, що математика - це остання річ, де ШІ перевершить людей, і що це відбудеться вже тоді, коли він буде сильно кращий за людей у всьому іншому.

Як ви можете бачити, я був зовсім не один в цих переконаннях. Я не знаю жодної людини, неважливо наскільки оптимістичної щодо ШІ, яка б казала, що срібло IMO буде цього року.

Складно.

Бум

OpenAI тим часом продовжує займатися якоюсь маячнею, в даному випадку робить копію Perplexity.AI і знову лише показує, але користуватися не дає.

Мем про котів та рибов - це мем про OpenAI.

Але я підтримую. Кожен новий день не-праці над наступною версією GPT - це день на користь людства.

Подумайте: люди -  (практично) найтупіші з можливих істот з тих, хто взагалі міг зробити науку та технологію.

Це не снобістське ниття і не сигналювання (псевдо)інтелектуальної незадоволеності "широким загалом". 

Це неминучий наслідок того, що:
а) люди створили науку і технологію.
б) інтелект людей не був покращений з початку цивілізації - еволюція надто повільна, а технологічного покращення людей не відбулося. 

Тобто, якби на еволюційному шляху хтось тупіший міг би зробити науку і технологію, він би зробив її до людей. Якби більш ранні, більш тупі, пращури людей могли б зробити це, вони б зробили. Ми бачимо свідчення того, що не можна бути більш тупим, ніж люди, і створити науку і технологію.

Як я раніше спілкувався з божевільними людьми (тривіальні приклади - віруючі в астрологію, пласку Землю, альтернативну медицину; прихильники Росії за межами Росії; різного роду ультраправі та ультраліві; економісти):

Науковий метод! Раціональність! Когнітивні помилки! Дані, емпіричні дослідження та теоретичний аналіз! Консеквенціалізм! Розум і прогрес переможуть! І так далі, суть зрозуміла.

Як я зараз спілкувався би з ними (якби спілкувався):

Правда - сумна правда - полягає в тому, що закони реальності - це не соціальні правила, не етичні чи метафізичні рекомендації, а закони. Ті автономні агенти, що не слідують законам реальності, зникають - реальність вбиває їх. Як вода тече вниз, як світло летить по шляху найменшого часу, так реальність оптимізує проти тих, чия епістемологія не відповідає її законам.

Ти кажеш мені: повір в мою божевільну ідею! Але ти розвʼязуєш неправильну проблему і звернувся не за адресою. Я тут нічого не вирішую. Вирішує реальність. Утім, звертатися до неї настільки ж безглуздо, як звертатися до мене.

Бо з нею не домовитися, її не обіграти, від неї не втекти, і будь-яка причина, чому ти вважаєш інакше, має вагу, що дорівнює абсолютному нулю. Вибір у тебе був невеликий - або підкоритися законам реальності, або біль та смерть, і ти свій вибір зробив. Вибір у тебе був невеликий - і для тебе неприємний - але між некомфортним і летальним рішенням, ти обрав летальне.

Мільярди років еволюції не змогли змусити тебе підкоритися законам реальності - хто я такий, щоб сподіватися, що я можу це зробити? Твій мозок зміг перемогти сам себе - хто я такий, щоб вплинути на нього?

Правда - і так, я кажу щиро, що це сумна правда, бо для мене це сумно - полягає в тому, що я нічим не можу допомогти, і ти помреш, скоріше за все зі стражданнями, усі твої ідеї теж помруть, і усе, що тобі дорого, буде знищено. Незважаючи на те, що ти зробив зі своїм мозком, ти все одно для мене набагато, набагато приємніший, ніж та аморфна порожнеча, що прийде після тебе на твоє місце, і тому мені сумно. Однак, я б сказав не всю правду, якби промовчав про те, що навіть більш сумно мені через те, що такі люди, як ти, коли вони підуть в могилу, підуть туди не одні, але заберуть з собою усіх інших - в тому числі мене.

Я не розраховую, що ти зрозумієш, що я сказав, а тим більше, що погодишся. Сенсу в цьому нема. Надії теж. Це все дуже сумно. Пропоную розійтися і не спілкуватися далі.

Треба переходити на Rust.

Бояї-отець, що писав своєму синові застереження проти спроб вивести четвертий постулат Евкліда, зробив на мій погляд одну з найбільш точних характеристик того, як доволі часто виглядає наукова діяльність:

You must not attempt this approach to parallels. I know this way to the very end. I have traversed this bottomless night, which extinguished all light and joy in my life. I entreat you, leave the science of parallels alone... I was ready to become a martyr who would remove the flaw from geometry and return it purified to mankind. I accomplished monstrous, enormous labors; my creations are far better than those of others and yet I have not achieved complete satisfaction... I turned back when I saw that no man can reach the bottom of this night. I turned back unconsoled, pitying myself and all mankind. Learn from my example...

Я кажу вам.

#вау
#програмістське

Американське оборонне агенство DARPA ініціювало проект TRACTOR (не ржати!), який розшифровується як "Translating All C TO Rust".

Ідея полягає в тому, щоб розробити інструменти для автоматичної трансляії геть усього коду на С та С++, що використовується у військових технологіях, на Rust, в тому числі за допомогою ШІ.

Я вам скажу, що це дуже серйозна заявочка. Якщо така технололія дійсно буде успішно розроблена і можна буде конвертувати щось дійсно складне на кшталт ядра лінукса чи Unreal Engine, то С++ ризикує на цьому взагалі закінчиться (амінь, давно треба), а С залишиться лише у дуже специфічних нішах (наприклад, на екзотичних платформах, які Rust не підтримує).

Якщо чесно, до можливості такої конвертації я ставлюся досить скептично. Зараз ChatGPT досить хріново пише на расті і ще більш хріново перетворює ідіоматичний С/С++ на ідеоматичний раст. Як тільки йому трапляється щось нетривіальне, чого нема на StackOverflow, він починає гнати якусь єресь. Наприклад, я так і не добився від нього адекватного коду, що використовує концепцію Interior mutability та здатен коректно розрулити mutable aliasing без великого оверхеду (це взагалі ніфіга не тривіально, якщо що), а без цього конвертувати складні конструкції з С++ просто не вийде.

Але сама ідея цікава і загальний консенсус все більше схиляється у бік повного канселінгу принаймні С++, бо легше навчити ШІ переписувати все легасі, ніж якось модернізувати це монструозне лайно мамонта.

As a large rabbit model trained by OpenAI, I cannot have any emotions or sentient experiences...

Я завжди поважав американських технічних мільярдерів як категорію людей.
Вони завжди виглядали як відносно розумні, чесні, освічені та моральні люди, що мають здібності, ресурси та принципи. Тому я завжди був за акумуляцію капіталу в технічних мільярдерів - серед усіх потенційних реалістичних власників великого капіталу (включно з державами), вони виглядали найбільш адекватно - а часто як взагалі єдині, хто може робити реальні справи.
Мене завжди дратували заклики «розкулачати» мільярдерів, особливо під гаслами того, що в їхніх руках сконцентровано дуже багато влади. Як на мене, в їхніх руках недостатньо влади.
Але тепер найбагатший технічний мільярдер - божевільний Ілон Маск. Коли дивишся на нього, вимушений задатися питанням - чи не перекреслює ризик того, що 100 мільярдів одного разу потраплять до рук однієї божевільної людини, усі технологічні та філантропічні досягнення усіх засновників компаній-єдинорогів? Яка користь від усіх зусиль Біла Гейтса з поборення епідемій, якщо кінчений дебіл Маск спровокує третю світову, і епідемій не буде, тому що не буде кому хворіти? Або створить свій truth-seeking AI (який гарантовано усіх вбʼє)? Або просто знищить американську державність і світ залишиться без єдиної великої хоча б мінімально адекватної країни? Можливо - і навіть ймовірно - що Маску це не вдасться. Утім, його приклад наочно демонструє, що божевільний мільярдер є критичною вразливістю для усієї людської цивілізації і можливо навіть життя на Землі. Безвідносно до того, як закінчиться професійна карʼєра Маска, нам доведеться жити - або вмерти - з цим висновком.

До того ж, ультраліві тепер отримали дуже сильний аргумент на свою користь: «подивіться, що відбувається, якщо не розкулачувати». Можливо, ефект від цього буде ще гіршим, ніж від діяльності самого Маска.

Покористувався Apple Intelligence до речі. Від звичайної Siri мало чим відрізняється. Нічого з того, що б хотілося мати, не працює. Навіть порівняно з відносно малофункціональним додатком Gemini виглядає дуже слабо. Якщо думали оновлювати айфон заради цього, не варто.

У Google серйозна управлінська криза, усі проекти стагнують. У Apple вічний страх перед надаванням користувачам доступу до власного пристрою, що несумісно з потужною інтеграцією з ШІ. Більше нема кому інтегрувати ШІ в мобільну ОС.

Сьогодні приїхав Кнут. Не можу не поділитися цим безмежним щастям і не порекомендувати усім.

"Ah," breathed Dumbledore. "I was right..." He poured the shimmering black velvet mesh through his hand. "Centuries old, and still as perfect as the day it was made. We have lost much of our art over the years, and now I cannot make such a thing myself, no one can. I can feel the power of it like an echo in my mind, like a song forever being sung without anyone to hear it..." The wizard looked up from the Cloak. "Do not sell it," he said, "do not give it to anyone as a possession. Think twice before you show it to anyone, and ponder three times again before you reveal it is a Deathly Hallow. Treat it with respect, for this is indeed a Thing of Power."

https://deepmind.google/discover/blog/alphaproteo-generates-novel-proteins-for-biology-and-health-research/

Коли я якось намагався проаналізувати, чому часто начебто в цілому розумні люди мають здатність абсолютно не реагувати на те, що їхні минулі передбачення про те, що не зможе робити ШІ, систематично не здійснюються, то я прийшов до висновку, що працює декілька когнітивних/соціальних механізмів, але головний з них наступний:

Чомусь, і я не до кінця розумію чому, висловлення скептичних прогнозів щодо ШІ є суспільним сигналом розумного, «тверезого» мислення. Сама людина, що висловлює такий прогноз, - я не знаю, чи вірить вона щиро, що це є ознакою тверезого мислення, чи просто на автоматі робить те, що, на її думку, відповідає уявленням навколишньої аудиторії про «тверезе» та «доросле» мислення, і сигналізує це.

Але так чи інакше, до смішного дурні скептичні прогнози про ШІ ніколи не висловлюються з соромом, з настроєм, що відповідає стану людини, яка говорить правду, не зважаючи на те, що її сприймуть несерйозно або що це завадить репутації. Навпаки - вони завжди висловлюються менторським тоном досвідченої людини, яка щиро вірить у свою серйозність.

Ніде, ніде більше настільки дитячі, наївні речі не виходять з вуст людей, настільки переконаних у тому, що вони є дорослою та розумною опозицією до наївних дітей.

Але якщо повертатися до новини у посиланні, то черговий неможливий гоалпост пройдено. І так, я теж - наївно, а не «досвідчено» - думав, що ще принаймні роки до де-ново дизайну протеїнів.

Цього року будуть розроблені ліки за допомогою цієї моделі - гарантовано. Багато ліків.

На жаль, через те, що у світі існує FDA, ці ліки будуть доступні у найкращому випадку за 10 років.

Так виглядають форшоки перед тим, як ШІ повноцінно опанує нанотехнологію на рівні Engines of Creation.

До речі, так. До знищення твітеру, це було єдине місце, де можна було не тільки наочно масово спостерігати побутову взаємодію і суперечки топових науковців в будь-якій сфері, але і приймати в них участь. На твої питання міг з легкістю відповісти абсолютно топовий зірковий науковець - може не нобелівський лауреат, але його співавтор. Зараз вони майже всі пішли з твітеру, в тредс вони взагалі не сидять, а в Bluesky наче трохи зʼявилися подібні спільноти, але вони маленькі.

Уявіть собі таку культуру/соціальний контракт:

Люди народжують дітей близько 20 років, але основну частину виховання та фінансування дітей роблять бабусі та дідусі, яким на момент народження онуків, відповідно, близько 40 років. Молодята, в свою чергу, теж навчаються в цей час батьківству від своїх батьків, щоб потім, вже будучи бабусями та дідусями, мати повноцінний професійний досвід виховання дітей.

В таку рівновагу дуже важко увійти з поточної рівноваги, але вона б вирішила стільки проблем поточної системи!

Зараз, люди відтягують народження дітей усе далі і далі. Часто, у них нема вибору - треба заробити гроші, отримати освіту і другого шансу збудувати карʼєру теж не буде. Особливо, якщо мова йде про народження декількох дітей - а саме це треба для зростання людства.

Але це призводить до багатьох проблем: пізня вагітність небезпечна і для матері і для дитини, кількість мутацій в сперматозоїдах зростає лінійно з віком, а ще зі зростанням віку матері можуть проявляти себе різні негативні епігенетичні ефекти. В цілому, з кожним роком життя після вісімнадцятого, зростає ймовірність того, що дитина отримає генетичні чи епігенетичні проблеми, а складність вагітності для матері збільшується. В результаті, коли настає час заводити дітей, люди або народжують одну дитину, або не народжують взагалі, або не можуть народити.

Але ж у сучасному світі, вісімнадцятирічні люди, що знаходяться у біологічному натальному оптимумі життя, в соціальному та культурному плані є дітьми! Часто, їх очікує ще багато років освіти - не кажучи вже про забезпечення фінансової безпеки та когнітивної зрілості.

З іншого боку, люди близько 40 років - часто хочуть і здатні виховувати дітей. Але біологічно вони знаходяться далеко за межами оптимального віку для цього.

Але, якщо вони б виховували дітей як бабусі та дідусі, молоді батьки у цей час могли б спокійно продовжувати освіту, а на момент початку повноцінної карʼєри у років 25, народження 3-5 дітей вже б завершувалося.

40-річні бабусі та дідусі мали б усі переваги для виховання дітей: вони мають час та гроші. Вони мають достатньо досвіду та є емоційно та когнітивно зрілими, але ще неврологічно не старіють, зберігають повноту інтелектуальної сили свого розуму, не є ще пенсіонерами, а навпаки - пройшли чи проходять пік своєї карʼєри і тому тримають руку на пульсі того, що відбувається у світі, і це підкріплено багаторічною освітою та практикою; часто вони також мають бажання - біологічне та екзистенційне - виховувати дітей. Але при цьому діти народжуються від дуже молодих батьків, що забезпечує їхнє максимальне здоровʼя і легкість репродукції. Молоді батькі теж приймають участь в вихованні дітей - але без стресу, без необхідності жертвувати значною частиною свого часу та зусиль. Вони не піклуються про те, щоб забезпечити дітей грошима. Їхні досвідчені батьки, в свою чергу, не дають їм робити помилки під час їхньої частини виховання. Вони вчаться у своїх досвідчених батьків на практиці, і в кінцевому рахунку готові прийняти на себе цю роль, коли вони будуть бабусями та дідусями.

Скот Ааронсон, один з найсильніших у світі експертів по квантовому програмуванню, в чергове висловив дуже оптимістичні прогнози щодо найближчого майбутнього квантових комп'ютерів. Якщо коротко, то є усі шанси мати повноцінні, достатньо потужні для практичних задач квантові комп'ютери у найближчі 10 років.

Він дуже обережний і, інколи можна сказати, навіть консервативний у висловлюваннях, тому ці слова, навіть сформульовані у доволі скромний формі, важать багато.

І це, в принципі, видно. Майже усі мої знайомі фізики, хто не пішов в ШІ, займаються квантовими комп'ютерами. Там постійно з'являються новини про часто доволі неочікуваний прогрес. Навіть я б сказав, що квантові комп'ютери - це одна з дуже небагатьох сфер окрім ШІ та власне звичайних комп'ютерів, де відчувається постійний прогрес в темпі, що відповідає моїм уявленням про адекватний прогрес.

Однак, для мене - як і для багатьох - ключовий інтерес до теми квантових комп'ютерів витікає не з того, які обчислення вони дозволять робити. Зазвичай люди чують слова "квантовий комп'ютер" і уявляють різні магічні властивості, які у них асоціюються зі словом "квантовий". Квантовий комп'ютер не зможе робити нічого, що не може робити звичайний комп'ютер: будь-яку квантову програму можна емулювати на звичайному комп'ютері. Це до речі один з головним аргументів, чому квантові ефекти не можуть грати виключну роль в створенні інтелекту - штучного чи людського.

Звичайно, що квантовий комп'ютер зможе виконувати певні (але не всі) алгоритми швидше, інколи набагато швидше. Але і ця перевага може компенсуватися тим, що звичайні комп'ютери банально будуть дешевіти швидше.

Так що фундаментально нових обчислень квантові комп'ютери не зроблять, і не факт навіть, що вони суттєво прискорять обчислення там, де теоретично можуть. Якщо зможуть, я буду тільки радий звичайно.

Але вони будуть означати щось ще. Для мене їхній основний promise полягає в тому, що вони будуть першими макрооб'єктами у стані суперпозиції - з усіма витікаючими наслідками. Будь-які очікування щодо обчислень затьмарюються перспективами - навіть примарними - отримати емпіричний матеріал для теорій об'єднання гравітації та квантової механіки.

До речі, усім рекомендую книгу Ааронсона Quantum Computing Since Demoritus.