Бізнес має дуже велику зацікавленість, але дійсно цінні рішення, які може запропонувати ШІ, доволі обмеженні. Він може намалювати картинку, обробити текст, витягти звідти інформацію. Проте наскільки це буде краще, ніж робота професійного експерта?

Ем, що?
AlphaFold3 зробила роботу мільярдів аспірантів, що працюють багато років. Компанії, що створюють ліки за допомогою ШІ, виходять на IPO. Сценарісти та актори в Голівуді втрачають роботу через ШІ. Нейромережі роблять молекулярні симуляції на рівні точності, який вважався неможливим. Гібридні системи ШІ вирішують геометричні задачі на абсолютній межі людських можливостей (золото міжнародної олімпіади з математики). Github Copilot використовується значною часткою програмістів і помітно збільшує їхню продуктивність для будь-якого рівня досвіду та знань.

Розкажу про особистий досвід: я писав текст і залучив до цього чат GPT. Але пояснювати йому, як саме написати, виявилось довше, ніж писати самостійно. – розкажу про особистий досвід: одного разу я намагався зайти в ChatGPT, але авторизація не спрацювала. Відповідно, це все ще сирий дурний продукт, ризиків нема. Q.E.D.

Чому ми вирішили, що живемо в унікальний момент історії з погляду технологій? – цей аргумент працює завжди, сліпий аргумент. Око, яке бачить завжди білий колір, є сліпим. Аргумент, який призводить до одного і того самого висновку завжди, не є аргументом.

Поточний ШІ не має власних намірів та механізмів їх втілення. – ШІ вже демонструє стратегічний обман (і ще). Існує величезна кількість літератури на тему емпіричних свідчень щодо goal misgeneralization і specification gaming, що фактично є утворенням ШІ власних, відмінних від очікуваних, намірів та інколи відкриттям невідомих людині механізмів їх втілення. Ця проблема публічно визнається усьома передовими ШІ лабораторіями, наприклад DeepMind, але подібна інформація є на сайті кожної подібної лабораторії.

Тут в одному пості, бо якось забагато вийшло (не за пейволом): https://kendiukhov.medium.com/відповідь-на-статтю-повстання-машин-скасовується-3b947187077a

Один зі способів відрізнити сферу реальних знань від сфери псевдо/квазі-знань:
Чи буде помірно успішний фахівець-самоучка більш продуктивним від того, що вивчить академічну дисципліну, що відповідає сфері його діяльності? Якщо так, то це сфера реальних знань.

Приклад:
Помірно продуктивний програміст-самоучка стане більш продуктивним від вивчення computer science.
Помірно продуктивний трейдер-самоучка стане менш продуктивним від вивчення теорії фінансових ринків.

Під вивченням тут, звичайно, мається на увазі не просто вивчення як таке, але й прийняття вивченого як керівництва до дій/інформації, на яку треба звертати увагу.

Сьогодні Nvidia стала найбільшою у світі компанією за капіталізацією (3.345 трильйони доларів). Я очікую, що в найближчі роки вона стане першою компанією, що досягне 10 трильйонів доларів. Не купляти коли на Nvidia було б надзвичайно поганим фінансовим рішенням два роки тому, рік тому - і залишається таким і зараз.

2027 рік: перемовини про пріоритетність постачання відеокарт між CEO майкрософту, гуглу та мета з одного боку і Дженсеном Хуангом з іншого.

Зауваження: не подумайте, що я зневажаю усіх академічних економістів/фінансистів. Це не так. Коли я зустрічаю чесного та розумного економіста, то я поважаю його більше, ніж аналогічного науковця з реальної науки - тому що бути/залишатися чесним та розумним в економіці набагато складніше. Людина, яка навчилася мислити в умовах середньовічного суспільства, заслуговує набагато більше поваги, ніж людина, яка навчилася мислити на такому ж рівні, але в умовах системи освіти сучасної розвиненої країни.

Друзі, я розробив простий додаток для аналізу і тренування якості ваших здатностей робити прогнози.

Поки що доступний на Android, але сподіваюся, що скоро буде і на iOS.

Це бета версія і мій перший додаток на Android з особистого аккаунту, тому доступ поки що може бути лише через реєстрацію за емейлом (це правила play market такі). Хто хоче спробувати, будь-ласка заповніть цю форму, і вам надішлють посилання для завантаження.

Додаток безкоштовний і без реклами, і думаю, що так буде завжди. Також він open source, код тут. Я робив спочатку насамперед для себе, щоб калібрувати свої ймовірності, але думаю, що комусь теж може бути цікаво, тому що це один з найкращих простих способів об'єктивно перевіряти та покращувати свій інтелект, переконання та переконання про свій інтелект. Фідбек щодо покращення додатку та багів також заоохочується.

Це буде перша (і ще доволі малозначуща) з багатьох аналогічних подій, які у сукупності призведуть до того, що Європа буде економічно і інноваційно знищена - повністю і безповоротно. Звичайно, якщо superintelligence не зʼявиться до цього.

https://finance.yahoo.com/news/apple-won-t-roll-ai-163119181.html

Зараз це Claude Sonet 3.5 (з функціоналом проектів) як основна модель + кастомні GPT зі своїми промптами для спеціалізованих задач + Wolfram для науки + GitHub Copilot для кодингу. GPT4o практично не користуюся - виглядає так, що вона помітно слабкіша, ніж «звичайна» GPT4.
Для зображень однозначно Adobe Firefly.
Новий Claude прямо помітно розумніший за всіх конкурентів, перейшов на нього для багатьох задач. В програмуванні особливо.
Від спроб використовувати «агентські» версії ЛЛМів типу autoGPT наразі відмовився, спробувавши більше десятка різних варіантів - вони просто не працюють, як хочеться і як повинні були б працювати, щоб бути корисними.

Ось так і живу все життя з математиками. https://www.youtube.com/watch?v=xPzR_D9qKeo&t=305s

And I saw, and behold, a white horse with a thin tail, and he who sat upon it carried a bell-shaped curve and was given a crown. For the Gaussian statistical methods have triumphed over economics. Yet, he brings unpredicted disease and disaster, for he blinds the world to the true probabilities of catastrophe. The dark omen of a black swan follows him, a harbinger of the unseen chaos he masks.
This is Normal Distribution Horseman.

And there went out another horse, fiery red, and power was given to him who sat thereon to cut with a great sword asunder the mentions of ergodic assumption from the tomes of economic lore. He forces the minds of men to fixate upon the maximization of expected value, sowing the seeds of long-term ruin. His blade gleams with the false promise of certainty, leading the multitude astray into the abyss of destruction.
This is Expected Value Horseman.

And I beheld, and lo, a black horse; and he who sat upon him held a set of scales, forever balanced yet forever broken. Behind him, a shattered clock dangles, marking the delusion of perpetual self-correcting markets. His scales deceive, for they are corrupted, and he whispers the flawed belief in the infallibility of balance, leading the nations into the void of instability.
This is Market Equilibrium Horseman.

And I looked, and behold, a pale horse; and the name of him who sat upon it was Death, and Hades followed with him. This is the Wrong Math Horseman, harbinger of lethal models. He clutches a broken abacus, with beads scattered and equations drifting like phantoms. The words of the wise echo: "All models are wrong, but some are useful, and some are deadly." In his wake, the land is strewn with the ruins of misguided calculations, and he reigns as the very embodiment of destruction.

These are the Four Horsemen of Economic Theory.

Спекуляція:

Передовий математичний апарат сучасної фізики та взагалі сучасний математичний апарат балансує на абсолютній межі здатності до розуміння найбільш талановитих та освічених людей. Враховуючи, що людство в середньому не розумнішає, а населення передових країн скорочується (чи скоро почне) навіть із врахуванням міграції, він взагалі може вийти за межі розуміння будь-ким.

До того ж, зараз ШІ лабораторії висмоктують найбільш розумних людей до себе. Раніше отримувати величезні гроші в статусі найманого співробітника для геніїв можна було напевно лише в хедж-фондах. Але хедж-фонди - це менш цікава робота (для геніїв), яка до того ж дає менш внутрішньої мотивації і застосовує доволі обмежену частину математичного апарату. Звичайно, це процес не моментальний - людина, яка все життя пропрацювала алгебраїстом, навряд чи буде радикально змінювати свою карʼєру. Але багато молодих перспективних випускників, які раніше пішли б в умовну теорію струн, зараз йдуть в ШІ або в алайнмент, і це прямо видно в ріал-тайм.

Прецедент свого роду забування передових знань людством в новітній історії вже є: це надважкі ракети. Звичайно, що номінально ці знання залишилися десь в форматі книжок та документів, але фактично люди, які розбиралися в тому, як будувати надважкі ракети, або померли або пішли на пенсію на момент початку 21 століття, а нових фахівців було недостатньо, щоб інтерналізувати усі необхідні знання. В кінцевому рахунку, SpaceX довелося робити R&D для побудови надважких ракет заново - і якби якась SpaceX зʼявилася у 70-х роках 20 століття, то цього б робити не довелося. І це відбулося глобально, в масштабах людства.
Локально, прикладів набагато більше, варто лише згадати усі технології, які міг робити Радянський Союз, і які Росія робити не може.

https://deepmind.google/discover/blog/ai-solves-imo-problems-at-silver-medal-level/

Не приховаю, що дуже сильно неочікувана новина для мене.

1. Я думав, що до цього принаймні 2 роки.
2. Я думав, що система, настільки розумна, щоб вирішувати задачі IMO на рівні срібла, буде чимось безпрецедентним - як з точки зору загальних здатностей, так і з точки зору економічної корисності.
3. Взагалі, я завжди вважав, і на це є, як на мене, вагомі причин, що математика - це остання річ, де ШІ перевершить людей, і що це відбудеться вже тоді, коли він буде сильно кращий за людей у всьому іншому.

Як ви можете бачити, я був зовсім не один в цих переконаннях. Я не знаю жодної людини, неважливо наскільки оптимістичної щодо ШІ, яка б казала, що срібло IMO буде цього року.

Складно.

Бум

OpenAI тим часом продовжує займатися якоюсь маячнею, в даному випадку робить копію Perplexity.AI і знову лише показує, але користуватися не дає.

Мем про котів та рибов - це мем про OpenAI.

Але я підтримую. Кожен новий день не-праці над наступною версією GPT - це день на користь людства.

Подумайте: люди -  (практично) найтупіші з можливих істот з тих, хто взагалі міг зробити науку та технологію.

Це не снобістське ниття і не сигналювання (псевдо)інтелектуальної незадоволеності "широким загалом". 

Це неминучий наслідок того, що:
а) люди створили науку і технологію.
б) інтелект людей не був покращений з початку цивілізації - еволюція надто повільна, а технологічного покращення людей не відбулося. 

Тобто, якби на еволюційному шляху хтось тупіший міг би зробити науку і технологію, він би зробив її до людей. Якби більш ранні, більш тупі, пращури людей могли б зробити це, вони б зробили. Ми бачимо свідчення того, що не можна бути більш тупим, ніж люди, і створити науку і технологію.

Як я раніше спілкувався з божевільними людьми (тривіальні приклади - віруючі в астрологію, пласку Землю, альтернативну медицину; прихильники Росії за межами Росії; різного роду ультраправі та ультраліві; економісти):

Науковий метод! Раціональність! Когнітивні помилки! Дані, емпіричні дослідження та теоретичний аналіз! Консеквенціалізм! Розум і прогрес переможуть! І так далі, суть зрозуміла.

Як я зараз спілкувався би з ними (якби спілкувався):

Правда - сумна правда - полягає в тому, що закони реальності - це не соціальні правила, не етичні чи метафізичні рекомендації, а закони. Ті автономні агенти, що не слідують законам реальності, зникають - реальність вбиває їх. Як вода тече вниз, як світло летить по шляху найменшого часу, так реальність оптимізує проти тих, чия епістемологія не відповідає її законам.

Ти кажеш мені: повір в мою божевільну ідею! Але ти розвʼязуєш неправильну проблему і звернувся не за адресою. Я тут нічого не вирішую. Вирішує реальність. Утім, звертатися до неї настільки ж безглуздо, як звертатися до мене.

Бо з нею не домовитися, її не обіграти, від неї не втекти, і будь-яка причина, чому ти вважаєш інакше, має вагу, що дорівнює абсолютному нулю. Вибір у тебе був невеликий - або підкоритися законам реальності, або біль та смерть, і ти свій вибір зробив. Вибір у тебе був невеликий - і для тебе неприємний - але між некомфортним і летальним рішенням, ти обрав летальне.

Мільярди років еволюції не змогли змусити тебе підкоритися законам реальності - хто я такий, щоб сподіватися, що я можу це зробити? Твій мозок зміг перемогти сам себе - хто я такий, щоб вплинути на нього?

Правда - і так, я кажу щиро, що це сумна правда, бо для мене це сумно - полягає в тому, що я нічим не можу допомогти, і ти помреш, скоріше за все зі стражданнями, усі твої ідеї теж помруть, і усе, що тобі дорого, буде знищено. Незважаючи на те, що ти зробив зі своїм мозком, ти все одно для мене набагато, набагато приємніший, ніж та аморфна порожнеча, що прийде після тебе на твоє місце, і тому мені сумно. Однак, я б сказав не всю правду, якби промовчав про те, що навіть більш сумно мені через те, що такі люди, як ти, коли вони підуть в могилу, підуть туди не одні, але заберуть з собою усіх інших - в тому числі мене.

Я не розраховую, що ти зрозумієш, що я сказав, а тим більше, що погодишся. Сенсу в цьому нема. Надії теж. Це все дуже сумно. Пропоную розійтися і не спілкуватися далі.