Талеб

Талеб – те, що називається, найбільш «суперечлива» фігура з чотирьох. Він постійне оре, обзивається і бажає заборонити ГМО, що на мій погляд є божевіллям. Він скоріше консерватор, ніж навпаки, що дуже суперечить моїм поглядам, і часто він нападає на людей, які напевно на заслуговують на це.

Проте.

Серед усіх чемних, поважних, серйозних, політично коректних людей не знайшлося жодного, хто встав би і сказав економістам, фінансистам, психологам, соціальним науковцям та іншим шарлатанам:

Зупиніться, тварюки, ви вбиваєте людей!

Чого варті усі ці люди, уся їхня чемність, якщо вони готові лише тихо кивати під інтелектуальні злочини невиразних масштабів? І якщо знайшлася одна людина, яка сказала голосно, сказала правду, що король голий, то чи так погано, чи так варто засудження, що вона сказала це грубо?

Легко критикувати метафори з публіцистичних книжок Талеба, і набагато складніше – Statistical Consequences of Fat Tails та конкретні наукові статті. Бо Талеб в цілому дуже правий, і досі серед усіх його ненависників не знайшлося жодного, хто б показав, що він не правий. Найкраще, що вони можуть сказати, це «ми і так знаємо все це». Так якщо ви і так знаєте, тварюки, чого ж ви продовжуєте це робити?

Зараз, звичайно, Талеб не один. Є еконофізика, є цілі галузі математичних фінансів, не забруднені економістами, проте той факт, що все це є – в значній мірі його заслуга. До економістів теж не відносяться вже так, як двадцять років тому, але і це не в останню чергу його заслуга. Колись він був повністю один, і навіть зараз він у разючій меншості. Мені здається цілком природнім, що перший голос одинокого спротиву виходить з вуст людини, що не поважає соціальні норми та може мати певний bias в бік нонконформізму, але чи така це велика проблема? І врахуйте те, що з економістами та компанією намагалися чемно розмовляти – о так, намагалися! Це ніколи ні до чого не призводило, це не люди в стані good faith, навіть якщо вони самі вірять в зворотнє. Розмовляти з тролем чемно – означає годувати троля.

Інша річ, не менш важлива, хоча набагато більш тривіальна – це прості життєві поради Талеба. Вони працюють, принаймні для мене, і цього достатньо. Особливо вони є приємним винятком у світі, де практично уся література з «саморозвитку» та «успіху» є відбірним шлаком, що створювався з метою викликати максимально інтенсивну реакцію нудоти. Знову ж таки, як і Ніцше, тут він описує здебільшого те, що вже імпліцитно відомо, але часто користь від того, що імпліцитне знання стає експліцитним, неоціненна. Попри усю кінцеву простоту результату, до нього б вже давно прийшли, якби шлях був легкий. Як так вийшло і чому саме Талебу це вдалося? Мені здається, справа у поєднанні сильного інтелекту, природної схильності до нонконформізму та оптимізаційного тиску на відсіювання будь-якої маячні, що здійснювався на Талеба як на трейдера. Звичайно, Талеб дуже розумний, проте не настільки розумний, щоб одного лише розуму вистачило на те, щоб зрозуміти все те, що він зрозумів. Інструменти теорії ймовірностей, які він використовує, це не щось дуже легке, але і не щось надзвичайно складне, але чомусь ніхто інший не додумався! Бо чудове володіння математичним апаратом він поєднує з дуже ясним розумінням того, як і навіщо його застосовувати. В соціальних науках це, як правило, можливо лише якщо ти абсолютний геній – наприклад, Мандельброт чи Гелл-Ман. Але якщо ти просто дуже розумний і знаєш математику дуже добре, то ти можеш досягти аналогічних результатів, якщо підставиш себе під жорсткий тиск емпіричної реальності, якщо помістиш себе в таке середовище, де в тебе нема жодного вибору окрім як підкорятися реальності та приймати ту форму, яку надає її тиск. Це, судячи зі всього, і вдалося Талебу.

Окрім того, Technical Inserto – це пісня. Його просто надзвичайно приємно читати. Це підручник з правильної статистики, перекладений на невимовну музику, так саме як фейнманівські лекції – це пісня про фізику.

Ніцше, Фейнман, Талеб – усі вони мають інстинкт поета. Їхні твори хочеться розтягувати і пережовувати, інколи суто заради форми, а не змісту, і кожного з них я читав місяцями – набагато повільніше, ніж я читаю книжки зазвичай. Окрім того, що вони поети, вони ще й актори, і свідомо чи ні, вони змушують читача насолоджуватися собою.

Юдковський зовсім інший. Він музику не пише.

Юдковський

Складно мені писати про нього. Сиджу і думаю. Просто треба було його слухати з самого початку. Просто треба було слухати.

Що я можу такого написати, щоб ви послухали? Не знаю. Чи буде твердження про те, що мені складно знайти свою більшу помилку, ніж те, що я не слухав його з самого початку, достатнім аргументом для вас? Гадаю, що ні. Якби воно було б, увесь світ був би інакший.

Чи варто мені порекомендувати в черговий раз прочитати Sequences of Rationality або AGI Ruin? Це вже все одного нічого не змінить, якщо якийсь один чи два українських студенти раптово стануть набагато розумнішими. Це все мало б сенс в іншому світі, де людство продовжило розвиватися, де в майбутнє дивляться з надією.

Світ, де людей треба вмовляти дослухатися до Юдковського, де є необхідність робити це, має дуже мало шансів так чи інакше, то хіба варто щось намагатися? Бо була ідея, в контексті якої, треба розуміти, він писав – ідея про прогрес, про те, що люди хочуть розумнішати і розвиватися, про те, що наша цивілізація досягне зірок, про те, що життя і розум – це краще, ніж навпаки. Glorious transhumanist future.

Народу ця ідея не зайшла.

Може, напишу потім щось більш розгорнуте, коли буде настрій.

Продуктивність в США зростає набагато швидше за довгостроковий тренд, прогнози і, звичайно, неспівставно швидше ніж в інших багатих країнах після пандемії. Наче і напрошується гіпотеза про те, що це через ШІ і що ми спостерігаємо перший макроекономічний ефект від ШІ, принаймні ніщо інше не спадає на думку. Але, чому в Британії наприклад тоді нема цього ефекту? Зрозуміло чому в ЄС нема, але Британія, Канада, інші багаті країни за межами США?

Намагався прочитати Project Lawful, але кинув десь посередині. Дуже цікаво, але дуже болісно - на усіх рівнях. Кислотна суміш теорії ігор для моделювання поведінки суперінтелектів, БДСМ, історії про «попаданця» в світ, який є чимось схожим на пекло чи перед-пекло, різної математики з спорадичним вставками популярної раціональності та науки як в HPMOR. Творіння геніального, але хворого розуму.

Читати не хочу далі (чи скоріше не можу), але хочеться дізнатися, чим усе закінчилося. Твір дуже великий і складається з постів на форумі, тому згодувати ЛЛМ складно.

Хтось читав/дочитав? Якщо так, можете надати спойлери будь-ласка? Можна в коментарях, можна в дм, якщо не хочете демонструвати широкому загалу, що читали це.

Чи може хтось перемогти Nvidia? Наразі це виглядає неможливим, коли думаю про це. Утім, лише 5 років тому Google мав все, а Microsoft - нічого. Google мав бути королем ШІ за всіма ознаками. А тепер саме Microsoft - друга у світі компанія як за капіталізацією, так і за AI power: найбільший (і найбільший просунутий) AI cloud service, найбільший провайдер послуг для ШІ-компаній (з дуже агресивною політикою розвитку, дає безкоштовно купу compute стартапам, як ніхто інший), Copilot інтегрований в усе, що тільки можна, на відміну від тієї ж Gemini. Але ж для Nvidia конкурентів взагалі не видно. 10 trillion by 2030 - це нижня межа, як на мене. До того ж, у кейсі Microsoft/Google зіграли роль зміни CEO, чого в Nvidia майже напевно не буде.

Настрій: вижити і помститися.

Увесь час до цього готувався, увесь час перемога Трампа здавалася ймовірною, але все одно є відчуття відчаю.

Ненавиджу.

Проблема навіть не в тому, що одні люди здатні прирікати інших на смерть, страждання чи зламане життя.

Гірше те, що ідіоти роблять це з розумними і чесними людьми - просто тому, що мають політичний голос.

Вайби 2014-го.

Будь-який макіївський алкаш, якому росіяни роздали автомат та гранати, міг вбити мене, якщо б я йому не сподобався. Когось так і вбили. Багато кого так і вбили чи зробили інвалідами. І ти б нічого не міг зробити, неважливо, чи є в тебе розум, гроші, чи ресурси. Насправді, наявність усього цього була лише додатковим приводом тебе вбити.

Тепер американські реднеки теж здатні усіх вбити - і знову я безсилий перед ідіотами, і знову, нехай я і маю набагато більше розуму і ресурсів, ніж 10 років тому, я не маю жодної можливості протистояти ідіотами чи врятуватися від них.

Саме це дратує найбільше.

Інша річ, яку треба винести з поточної ситуації - Ілон Маск надзвичайно розумний і здібний і його цінності дуже відрізняються від цінностей таких людей, як я. Це і так було зрозуміло, але тепер ще більше.

Він є свого роду прототипом misaligned superintelligence.

Треба бути психологічно готовими, що ніхто не зможе зупинити його на шляху тренування винищувача цивілізації.

У латентній боротьбі людства проти ШІ усе йде на користь ШІ, і найбільш здібна людина в світі цілком і повністю на боці ШІ.

Його фанати кажуть: never bet against Elon. І це дуже сильно схоже на правду. Я не знаю, як його зупинити. Ніхто не знає як його зупинити.

Нехай його ідіотська поведінка в твіттері не затьмарить розуміння того, що це надзвичайно сильний і підступний ворог.

Ладно, back to work.
За життя, розум, sentience і суперкластери - до останнього!
Будь-яка година відчаю - допомога ворогам.
Може, скоро буде про що розповісти позитивного.

"Donald Trump has come, and he is your punishment."
https://www.facebook.com/share/p/1889ppD8ga/
2016 рік.
Гарний текст.

Але є велика різниця з 2024 роком:
1. Зараз часу на навчання шляхом покарання нема.
2. Ті, кого карають, все одно не здатні до навчання так чи інакше, ми це побачили після першого терміну Трампа. Журналісти, воук і широкий ліволіберальний загал просигналізували, що жодна загроза не змусить їх відійти навіть на міліметр від своєї ідеології заради перемоги над цією загрозою.
3. Покарані - і покарані найбільше - будуть ті, хто ні в чому не винен і взагалі не є громадянинами США.
4. Ілон Маск (як власне і інші) отримав карт-бланш на тренування вбивці цивілізацій. Один цей ризик перекреслює все.

Утім.

Donald Trump has come, and he is our punishment.

Думаю, це останній пост про політику зараз. Енгейджмент звичайно фармиться неймовірно, але люди просто божеволіють.

Щось приємне!

Став амбассадором Wolfram і отримав безкоштовний доступ до усіх його технологій (це більше ніж 10 000 долларів за рік підписки, якщо платити).

Бомба, міць, краса.

An elegant weapon for more civilised days.

Інколи люди критикують продукти Wolfram за те, що вони не open source. Я люблю open source і я люблю комерційні технології. Я дуже рідко приймаю участь у війнах "яка ОС краща" чи "андроїд проти айфона". Як правило, я обираю усе.

Для багатьох речей звичайний Python набагато краще, але є багато чого приємного і незамінного в комерційному інтелектуальному технологічному продукті AAA-класу. Усе працює одразу і автоматично, розробник повністю попіклувався про твій комфорт, усе зроблено, щоб ти зекономив свій час і отримав результат в набільш ефективній формі.

Останній раз відчував таке, коли користувався Bloomberg Terminal: і наче весь функціонал можна реплікувати через різні open source тули, але це настільки важко, повільно і коряво, що де-факто не можна.

Wolfram був і залишається незамінним для усього, що стосується символьних обчислень, і разом з GPT його сила лише зростає.