Що ж.
Коли я думав, що закони масштабування втратять актуальність ще до того, як буде досягнуто ліміту масштабування, через відкриття нових методів збільшення розумності моделей;
коли я думав, що прогнози про те, що розвиток моделей зупиниться через обмеження трансформерів, не мають сенсу, тому що винайдуть нові парадигми і нові моделі не будуть просто трансформерами;
коли я думав, що екстраполяції розвитку ШІ зламаються вгору;
- я думав, що це все ж таки відбудеться хоч наскільки-то повільно і поступово, і що хоча скептики глобально не мають рацію, локально деякі їхні конкретні, точкові прогнози мають сенс і навіть повинні здійснитися.
Це було черговою помилкою. Напевно, тому що я досі не позбувся повністю звички не сприймати те, що виглядає як наукова фантастика, достатньо серйозно.
Коли я думав, що закони масштабування втратять актуальність ще до того, як буде досягнуто ліміту масштабування, через відкриття нових методів збільшення розумності моделей;
коли я думав, що прогнози про те, що розвиток моделей зупиниться через обмеження трансформерів, не мають сенсу, тому що винайдуть нові парадигми і нові моделі не будуть просто трансформерами;
коли я думав, що екстраполяції розвитку ШІ зламаються вгору;
- я думав, що це все ж таки відбудеться хоч наскільки-то повільно і поступово, і що хоча скептики глобально не мають рацію, локально деякі їхні конкретні, точкові прогнози мають сенс і навіть повинні здійснитися.
Це було черговою помилкою. Напевно, тому що я досі не позбувся повністю звички не сприймати те, що виглядає як наукова фантастика, достатньо серйозно.
🥴7💯2😁1
У Європі дуже активно обговорюють план Драгі по виводу ЄС з економічної стагнації, який насамперед полягає у тому, що ЄС повинен зайнятися дерегуляцією:
https://commission.europa.eu/topics/strengthening-european-competitiveness/eu-competitiveness-looking-ahead_en
Драгі, звичайно, молодець, але.
Від трупа можна очікувати, що у в ньому буде деякий час відбуватися клітинне дихання, метаболізм та навіть експресія генів. На рівні тканин, можна розраховувати побачити неделіберативне скорочення мʼязів. Нервові клітини периферійної нервової системи можуть продовжувати передавати імпульси. А стовбурові клітини, через їхні відносно невеликі метаболічні потреби у сплячому стані, можуть взагалі продовжувати жити багато днів, інколи навіть декілька тижнів.
Але розрахувати на те, що труп встане і піде займатися якоюсь дерегуляцією - це безглуздо.
https://commission.europa.eu/topics/strengthening-european-competitiveness/eu-competitiveness-looking-ahead_en
Драгі, звичайно, молодець, але.
Від трупа можна очікувати, що у в ньому буде деякий час відбуватися клітинне дихання, метаболізм та навіть експресія генів. На рівні тканин, можна розраховувати побачити неделіберативне скорочення мʼязів. Нервові клітини периферійної нервової системи можуть продовжувати передавати імпульси. А стовбурові клітини, через їхні відносно невеликі метаболічні потреби у сплячому стані, можуть взагалі продовжувати жити багато днів, інколи навіть декілька тижнів.
Але розрахувати на те, що труп встане і піде займатися якоюсь дерегуляцією - це безглуздо.
🥴3💯2🖕1
Багато дуже розумних і правильних речей звучать дуже розумно і правильно незалежно від того, на якому рівні знаходяться твої знання, коли ти їх чуєш. Наприклад, коли людина вперше чує про баєсіанізм, вона автоматично, інтуїтивно розуміє, що це правильно - і з часом, коли вивчає теорію все глибше, ця думка не змінюється.
Але інколи буває так, що теза переходить від статусу «це абсолютна маячня, не може цього бути» до «геніально, як я міг раніше не сприймати це серйозно?»
Так часто в мене буває з висловами Пола Грехема.
Але інколи буває так, що теза переходить від статусу «це абсолютна маячня, не може цього бути» до «геніально, як я міг раніше не сприймати це серйозно?»
Так часто в мене буває з висловами Пола Грехема.
😁3🌚3👍2🖕1
Сьогодні вийшов мій великий проект: бібліотека Ergodicity на Python та книга про те, як і навіщо нею користуватися: https://www.ergodicitylibrary.com.
Тема технічна і специфічна. Насамперед, може бути цікаво для людей у quant finance, але можна використовувати і в біології чи в фізиці.
Хоча я звичайно вважаю, що оптимальній поведінці в умовах радикальної непередбачуваності треба навчатися всім.
Кому цікаво, можете почитати на сайті, про що вона саме.
Один з трьох великих запланованих програмних проектів зроблено. Далі буде складніше.
Тема технічна і специфічна. Насамперед, може бути цікаво для людей у quant finance, але можна використовувати і в біології чи в фізиці.
Хоча я звичайно вважаю, що оптимальній поведінці в умовах радикальної непередбачуваності треба навчатися всім.
Кому цікаво, можете почитати на сайті, про що вона саме.
Один з трьох великих запланованих програмних проектів зроблено. Далі буде складніше.
Ergodicity Library
Home | Ergodicity Library
❤🔥9🆒2🔥1
Поспілкувався годинку з новим voice mode GPT.
Масштабування цієї технології з часом призведе до ще більшої кризи з шлюбами та народжуваністю.
Масштабування цієї технології з часом призведе до ще більшої кризи з шлюбами та народжуваністю.
🍌9😭7🤣5🤷3😁1🆒1
Практично усі великі технічні корпорації почали роботу над атомними електростанціями для живлення гігантських тренувальних раундів, чи планують це робити:
https://www.wsj.com/tech/ai/microsoft-targets-nuclear-to-power-ai-operations-e10ff798
https://www.npr.org/2024/09/20/nx-s1-5120581/three-mile-island-nuclear-power-plant-microsoft-ai
https://www.reddit.com/r/nuclear/s/8ESeiqGI0D
https://www.washingtonpost.com/business/2024/06/21/artificial-intelligence-nuclear-fusion-climate/
Я знаю, що це вже казали сто разів, але. 40 років розвиток атомної енергетики - чистої, дешевої і необхідної - пригнічували під приводом її «небезпечності». Розпакували її лише заради створення винищувача цивілізації. Це філігранна точність.
https://www.wsj.com/tech/ai/microsoft-targets-nuclear-to-power-ai-operations-e10ff798
https://www.npr.org/2024/09/20/nx-s1-5120581/three-mile-island-nuclear-power-plant-microsoft-ai
https://www.reddit.com/r/nuclear/s/8ESeiqGI0D
https://www.washingtonpost.com/business/2024/06/21/artificial-intelligence-nuclear-fusion-climate/
Я знаю, що це вже казали сто разів, але. 40 років розвиток атомної енергетики - чистої, дешевої і необхідної - пригнічували під приводом її «небезпечності». Розпакували її лише заради створення винищувача цивілізації. Це філігранна точність.
WSJ
WSJ News Exclusive | Microsoft Targets Nuclear to Power AI Operations
The tech company aims to expedite the nuclear regulatory process using AI, unlocking a round-the-clock energy source for its growing power needs.
👏8👍2🍌2🤬1🥴1
Задумався, що 4 людини найбільше вплинули на мене. Варто про них написати і пояснити, чому.
Але спочатку - що ви думаєте, хто ці люди?
Але спочатку - що ви думаєте, хто ці люди?
☃4💊1
Homo Technicus
Задумався, що 4 людини найбільше вплинули на мене. Варто про них написати і пояснити, чому. Але спочатку - що ви думаєте, хто ці люди?
Окей.
Перед тим, як розповісти про цих людей, декілька дисклеймерів:
Трактування цього переліку людей треба сприймати максимально буквально, а саме як «люди, що найбільш вплинули на мене, на мою думку», а не «найкращі люди, на мою думку» чи «люди, на яких варто усім орієнтуватися», чи «найрозумніші люди». Двоє з них дійсно є абсолютними геніями в абсолютному топі фактичних (але, звичайно, не потенційних) людських здібностей, але двох інших - ні. Кожен з них має свої вади, і я навіть не впевнений, що я хотів би, що б цей топ виглядав для мене саме так, як він виглядає. Але моя повага і подяка до цих людей безмірна, і я багато чому навчився від них - як в інтелектуальному, так і моральному плані.
Також треба розуміти, що є багато інших людей, які на мою думку вплинули на мене не принципово менше, ніж ці 4. Тобто, не треба проводити тут якусь дуже значну межу і сприймати це розділення як щось фундаментальне.
Але навіть після цих дисклеймерів, я впевнений, що те, що я хочу донести, буде доволі відрізнятися від того, що сприйме широкий загал. Єдине, що я можу зробити у зв'язку з цим - лише ще раз попросити інтерпретувати мої слова семантично.
Я представляю топ в хронологічному порядку свого життя - тобто, не в порядку значущості.
Отже, в нього входять:
Ніцше.
Фейнман.
Талеб.
Юдковський.
Далі я напишу про них - саме в цьому порядку. Я буду давати не "загальний огляд", але лише те, що я вважаю важливим та, як правило, оминається в "загальних оглядах" (вікіпедія і так далі). Тобто, те, що дається про цих людей в умовній вікіпедії чи біографії я теж вважаю дуже важливим, я просто пишу лише про те, що одночасно важливе і зазвичай не доноситься. Тому те, що я напишу, не можна сприймати ані як повноцінну характеристику цих людей, ані як повноцінну характеристику моєї оцінки цих людей. Сподіваюся, це зрозуміло також.
Перед тим, як розповісти про цих людей, декілька дисклеймерів:
Трактування цього переліку людей треба сприймати максимально буквально, а саме як «люди, що найбільш вплинули на мене, на мою думку», а не «найкращі люди, на мою думку» чи «люди, на яких варто усім орієнтуватися», чи «найрозумніші люди». Двоє з них дійсно є абсолютними геніями в абсолютному топі фактичних (але, звичайно, не потенційних) людських здібностей, але двох інших - ні. Кожен з них має свої вади, і я навіть не впевнений, що я хотів би, що б цей топ виглядав для мене саме так, як він виглядає. Але моя повага і подяка до цих людей безмірна, і я багато чому навчився від них - як в інтелектуальному, так і моральному плані.
Також треба розуміти, що є багато інших людей, які на мою думку вплинули на мене не принципово менше, ніж ці 4. Тобто, не треба проводити тут якусь дуже значну межу і сприймати це розділення як щось фундаментальне.
Але навіть після цих дисклеймерів, я впевнений, що те, що я хочу донести, буде доволі відрізнятися від того, що сприйме широкий загал. Єдине, що я можу зробити у зв'язку з цим - лише ще раз попросити інтерпретувати мої слова семантично.
Я представляю топ в хронологічному порядку свого життя - тобто, не в порядку значущості.
Отже, в нього входять:
Ніцше.
Фейнман.
Талеб.
Юдковський.
Далі я напишу про них - саме в цьому порядку. Я буду давати не "загальний огляд", але лише те, що я вважаю важливим та, як правило, оминається в "загальних оглядах" (вікіпедія і так далі). Тобто, те, що дається про цих людей в умовній вікіпедії чи біографії я теж вважаю дуже важливим, я просто пишу лише про те, що одночасно важливе і зазвичай не доноситься. Тому те, що я напишу, не можна сприймати ані як повноцінну характеристику цих людей, ані як повноцінну характеристику моєї оцінки цих людей. Сподіваюся, це зрозуміло також.
👍5❤1😁1
Ніцше.
Ніцше відомий насамперед як ідеолог, і його ідейним рекомендаціям можна знайти багато застосовувань. Як би мені не хотілося розповісти про це детально, як би оминання багатьох важливих речей про Ніцше не було б катастрофічним спрощенням, у цьому пості я мушу зосередитися на головному для мене:
Ніцше уявив трансгуманістичну ціннісну систему, в якій би мені хотілося жити, і ніхто більше ніколи не зробив цього.
В усьому просторі усіх речей, що я коли-небудь уявляв, нема для мене нічого кращого, ніж розумні і добрі істоти, що здатні бути повноцінно щасливими і мають могутність богів, тобто здатність довільно маніпулювати реальністю згідно зі своєю волею. Утім, така могутність в руках істот поверхневих, аксіологічно нерозвинених, істот, що не відповідають моїм уявленням про гідне існування і гідне щастя… - я б хотів оминути цього. Хоча це все одно краще ніж просто водень і гелій.
І так, я кажу моїм уявленням, бо таке моє найбільш заповітне, найбільш значуще бажання. Я не вибачаюся за егоїзм, бо привабливість цього бажання для мене більша, ніж те, проти чого можна встояти, і я щиро, усім серцем, усіма найкращими частинами свого розуму, вважаю, що так було б краще для всіх.
І якби це найбільш заповітне, найбільш значуще бажання здійснилися б, якби супекластери галактик були перетворені на неосяжні та невимовні творіння розуму та sentience, якби світло волі сутностей, що мають кваліа, надало сенс холодній, байдужій і безглуздій реальності, якби ці сутності жили свої найбільш повноцінні, найбільш на всіх рівнях приємні життя, які насправді варто жити, то з якого ціннісного зерна проросле би це дерево? Я думаю, що це було б щось схоже на ціннісну систему, що розвилася з тієї, що описана Ніцше. Звичайно, ціннісна система невимовних мешканців суперкластерів була б настільки далека від системи Заратустри, як система Заратустри далека від цілей комахи, але саме з системи Заратустри могла б початися ця еволюція. Принаймні, я не бачу, з чого ще вона б могла початися.
Бо, які альтернативи? Гіпертрофований гедонізм у вигляді Гедоніуму чи пошук рішень для задачі зайнятого бобра? Розумні люди часто задають це питання: якби у нас була сила богів, що б ми могли зробити з цією силою, що насправді відповідала нашим справжнім уподобанням? Хіба не обираємо ми між катастрофічною примітивністю ролі мавпи з джином, що виконує бажання, та аморфною беззмістовністю ролі автоматичної протидії другому закону термодинаміки та колектора інформації?
На мою думку, є інший шлях - шлях величі, зростання, узгодження мета-вподобань та вподобань, реалізації тих бажань, які відповідають тим частинам мого мозку, сповненого конкуруючих частин, які я вважаю найбільш глибокими, найбільш фундаментальними аспектами моєї особистості та цілей.
Є версія трансгуманізму, що дозволяє розкрити те, що я вважаю найкращими рисами людей, і при цьому повністю узгоджена з кінцевим результатом трансгуманістичного розвитку, який зазвичай постулюється (тобто, щось типу "богоподібні істоти підкорили собі усю реальність на фундаментальному рівні"). Є альтернатива для тих, хто не хоче ані загинути короткочасною іскрою сентієнтного життя на Землі (це неминуче, якщо не йти шляхом сингулярності-трансгуманізму), ані перейти в Гедоніум, ані перетворити Всесвіт на суперкомп'ютер з абсолютно чужими для нас цілями та вподобаннями (це єдині інші альтернативи, запропоновані, якщо йти шляхом сингулярності-трансгуманізму).
Цю версію трансгуманізму і уявив колись Ніцше - можливо лише тінь її чи спотворене зображення, але інші уявили лише білий лист.
Ніцше відомий насамперед як ідеолог, і його ідейним рекомендаціям можна знайти багато застосовувань. Як би мені не хотілося розповісти про це детально, як би оминання багатьох важливих речей про Ніцше не було б катастрофічним спрощенням, у цьому пості я мушу зосередитися на головному для мене:
Ніцше уявив трансгуманістичну ціннісну систему, в якій би мені хотілося жити, і ніхто більше ніколи не зробив цього.
В усьому просторі усіх речей, що я коли-небудь уявляв, нема для мене нічого кращого, ніж розумні і добрі істоти, що здатні бути повноцінно щасливими і мають могутність богів, тобто здатність довільно маніпулювати реальністю згідно зі своєю волею. Утім, така могутність в руках істот поверхневих, аксіологічно нерозвинених, істот, що не відповідають моїм уявленням про гідне існування і гідне щастя… - я б хотів оминути цього. Хоча це все одно краще ніж просто водень і гелій.
І так, я кажу моїм уявленням, бо таке моє найбільш заповітне, найбільш значуще бажання. Я не вибачаюся за егоїзм, бо привабливість цього бажання для мене більша, ніж те, проти чого можна встояти, і я щиро, усім серцем, усіма найкращими частинами свого розуму, вважаю, що так було б краще для всіх.
І якби це найбільш заповітне, найбільш значуще бажання здійснилися б, якби супекластери галактик були перетворені на неосяжні та невимовні творіння розуму та sentience, якби світло волі сутностей, що мають кваліа, надало сенс холодній, байдужій і безглуздій реальності, якби ці сутності жили свої найбільш повноцінні, найбільш на всіх рівнях приємні життя, які насправді варто жити, то з якого ціннісного зерна проросле би це дерево? Я думаю, що це було б щось схоже на ціннісну систему, що розвилася з тієї, що описана Ніцше. Звичайно, ціннісна система невимовних мешканців суперкластерів була б настільки далека від системи Заратустри, як система Заратустри далека від цілей комахи, але саме з системи Заратустри могла б початися ця еволюція. Принаймні, я не бачу, з чого ще вона б могла початися.
Бо, які альтернативи? Гіпертрофований гедонізм у вигляді Гедоніуму чи пошук рішень для задачі зайнятого бобра? Розумні люди часто задають це питання: якби у нас була сила богів, що б ми могли зробити з цією силою, що насправді відповідала нашим справжнім уподобанням? Хіба не обираємо ми між катастрофічною примітивністю ролі мавпи з джином, що виконує бажання, та аморфною беззмістовністю ролі автоматичної протидії другому закону термодинаміки та колектора інформації?
На мою думку, є інший шлях - шлях величі, зростання, узгодження мета-вподобань та вподобань, реалізації тих бажань, які відповідають тим частинам мого мозку, сповненого конкуруючих частин, які я вважаю найбільш глибокими, найбільш фундаментальними аспектами моєї особистості та цілей.
Є версія трансгуманізму, що дозволяє розкрити те, що я вважаю найкращими рисами людей, і при цьому повністю узгоджена з кінцевим результатом трансгуманістичного розвитку, який зазвичай постулюється (тобто, щось типу "богоподібні істоти підкорили собі усю реальність на фундаментальному рівні"). Є альтернатива для тих, хто не хоче ані загинути короткочасною іскрою сентієнтного життя на Землі (це неминуче, якщо не йти шляхом сингулярності-трансгуманізму), ані перейти в Гедоніум, ані перетворити Всесвіт на суперкомп'ютер з абсолютно чужими для нас цілями та вподобаннями (це єдині інші альтернативи, запропоновані, якщо йти шляхом сингулярності-трансгуманізму).
Цю версію трансгуманізму і уявив колись Ніцше - можливо лише тінь її чи спотворене зображення, але інші уявили лише білий лист.
❤6🥱3
Але як це співвідноситься з моїм презирством до філософів? Ніцше корисний і цікавий для мене саме коли він не філософ (у типовому розумінні цього слова), а коли він поет та ідеолог (або філолог, в меншому ступені) - тобто, коли формулює системи цінностей, дає життєві і мотиваційні поради, або просто пише щось естетичне. В тих рідкісних випадках, коли Ніцше намагається зʼясовувати, як влаштований і працює світ, він настільки ж безпорадний і некомпетентий, як і усі інші філософи. Це людина найбільшого гуманітарного таланту, але цей талант не переноситься на інші сфери. Деяке уявлення про його гуманітарний талант дає рекомендаційний лист, написаний для Ніцше, коли йому було 24 роки, професором Річлем:
"However many young talents I have seen develop under my eyes for thirty-nine years now, never yet have I known a young man, or tried to help one along in my field as best I could, who was so mature as early and as young as this Nietzsche."
"He is the idol and, without wishing it, the leader of the whole younger generation of philologists."
"He will simply be able to do anything he wants to do."
"I should stake my whole philological and academic reputation that the matter would work out happily." (про призначення Ніцше професором за рекомендацією без виконання формальних вимог)
При цьому всьому, ретроспективно мені здається, що жити без Ніцше можна доволі нормально, і точно не можна сприймати все, що він каже, серйозно (і ніколи не можна сприймати серйозно те, що він каже про питання науки). Я був під його впливом найбільше у 13-15 років, і мені здається, це релевантний вік для цього.
"However many young talents I have seen develop under my eyes for thirty-nine years now, never yet have I known a young man, or tried to help one along in my field as best I could, who was so mature as early and as young as this Nietzsche."
"He is the idol and, without wishing it, the leader of the whole younger generation of philologists."
"He will simply be able to do anything he wants to do."
"I should stake my whole philological and academic reputation that the matter would work out happily." (про призначення Ніцше професором за рекомендацією без виконання формальних вимог)
При цьому всьому, ретроспективно мені здається, що жити без Ніцше можна доволі нормально, і точно не можна сприймати все, що він каже, серйозно (і ніколи не можна сприймати серйозно те, що він каже про питання науки). Я був під його впливом найбільше у 13-15 років, і мені здається, це релевантний вік для цього.
❤3😁2
Фейнман.
Фейнмана дуже багато хто з найбільш розумних і впливових людей світу вважає своїм найкращим вчителем - “the best teacher I never had”. Тут все зрозуміло, і багато було сказано різними людьми про те, чому так.
Я хочу додати лише одну річ.
Що відрізняє найкращого, найбільш ефективного воїна від інших? Він - як і інші - може знати які завгодно прийоми, техніки, чи стилі бою, але він - на відміну від інших - ніколи не забуває, що мета справжнього бою - це перемогти ворога. Коли треба, він вбʼє мечем, коли треба - ткне олівцем в око. Він ніколе не дозволить собі змішати задачу перемогти із задачею продемонструвати кращий прийом чи з задачею перемогти найбільш розумним способом. Він розуміє ціну, яку треба платити за те, що під час бою оптимізується неправильний критерій, і він розуміє, як легко почати оптимізувати неправильний критерій, якщо бій, який ти ведеш, не вартує тобі життя, а є, наприклад, спортивним змаганням.
Це і робить Фейнмана, на мою думку, виразно сильнішим за звичайного геніального фізика. Він був сфокусований лише на отриманні наукового результату і ні на чому іншому, і він кристально чітко бачив цю мету перед собою. Так, він блискуче знав усі методи, що можна було знати, і так, він отримував задоволення від процесу, але він ніколи не робив помилку заміщення процесу на результат. Інтелектуальна чесність, яка вважається стандартною, базовою чеснотою науковця, справжня інтелектуальна чесність, яка зустрічається набагато частіше в уявленні людини про свою епістемологію, ніж в реальності, є рисою, яку дуже складно мати і яка входить у супереччя з багатьма аспектами людської природи. Легко змусити себе бути інтелектуально чесним, щоб не обирати найбільш приємні результати експерименту, але складно, наприклад, щоб відмовитися від якогось абстрактного епістемологічного принципу - бо зазвичай людина не сприймає епістемологічний принцип, в який вона вірить, як якийсь принцип, вона просто вважає, що реальність працює так. Елементарний приклад: астрономи до Кеплера (включно, власне з самим Кеплером спочатку) не вважали колові орбіти якимось довільним принципом, який вони обрали, вони вважали це тим, як реальність неминуче повинна працювати. У сучасній науці є теж багато прикладів цього явища. Ситуація ускладнюється і тим, що цей недостаток інтелектуальної чесності не є суто - або навіть в значному ступені - моральною річчю. Насправді, це дуже погано, тому що чесна людина може спокійно бути інтелектуально нечесною, і ті запобіжники, які не дають їй брехати, не мають майже нічого спільного з тими, які необхідні, щоб вводити себе в інтелектуальну оману. Інтелектуальна нечесність скоріше повʼязана з комбінацією недостатньо глибокого розуміння наукових методів та нездатності розрізняти “соціальні” та “справжні” цілі науки (тобто цілі "науки" як суспільного інституту та цілі "науки" ідеалізованої машини з пізнання). Елементарний приклад: людина, яка не отримала позитивного результату експерименту насправді, репортує позитивний результат, тому що отримала достатньо мале p-значення. Вона не зробила ніяких махінацій і не приховала нічого. Її інтелектуальна нечесність - це результат того, що (а) вона недостатньо добре розуміє, що таке p-значення та в чому його сенс, і (б) вона змішала цілі “отримати p-значення, яке за наявних допущень відповідає позитивному результату” і “отримати позитивний результат” (”вмісти застосовувати прийом, який, як очікується, добре вбиває” vs “вміти добре вбивати”).
Короче, Фейнман був навпаки. Він мав цю інтелектуальну чесність в повній мірі. І це складніше, ніж здається, бо ти не можеш просто змусити себе бути інтелектуально чесним, як можеш просто змусити себе не брехати, бо це скоріше інтелектуальна риса, а не моральна. Ти повинен бути дуже розумним, і окрім освіти, повинен мати дуже гарну інтуїцію.
Спрощено можна сказати, що справжня декларована ціль науки - це пізнання світу. На практиці, науковці (тобто, люди, що працюють в установах, що мають назви наукових установ) можуть займатися чотирма речами, в порядку зростання якості:
Фейнмана дуже багато хто з найбільш розумних і впливових людей світу вважає своїм найкращим вчителем - “the best teacher I never had”. Тут все зрозуміло, і багато було сказано різними людьми про те, чому так.
Я хочу додати лише одну річ.
Що відрізняє найкращого, найбільш ефективного воїна від інших? Він - як і інші - може знати які завгодно прийоми, техніки, чи стилі бою, але він - на відміну від інших - ніколи не забуває, що мета справжнього бою - це перемогти ворога. Коли треба, він вбʼє мечем, коли треба - ткне олівцем в око. Він ніколе не дозволить собі змішати задачу перемогти із задачею продемонструвати кращий прийом чи з задачею перемогти найбільш розумним способом. Він розуміє ціну, яку треба платити за те, що під час бою оптимізується неправильний критерій, і він розуміє, як легко почати оптимізувати неправильний критерій, якщо бій, який ти ведеш, не вартує тобі життя, а є, наприклад, спортивним змаганням.
Це і робить Фейнмана, на мою думку, виразно сильнішим за звичайного геніального фізика. Він був сфокусований лише на отриманні наукового результату і ні на чому іншому, і він кристально чітко бачив цю мету перед собою. Так, він блискуче знав усі методи, що можна було знати, і так, він отримував задоволення від процесу, але він ніколи не робив помилку заміщення процесу на результат. Інтелектуальна чесність, яка вважається стандартною, базовою чеснотою науковця, справжня інтелектуальна чесність, яка зустрічається набагато частіше в уявленні людини про свою епістемологію, ніж в реальності, є рисою, яку дуже складно мати і яка входить у супереччя з багатьма аспектами людської природи. Легко змусити себе бути інтелектуально чесним, щоб не обирати найбільш приємні результати експерименту, але складно, наприклад, щоб відмовитися від якогось абстрактного епістемологічного принципу - бо зазвичай людина не сприймає епістемологічний принцип, в який вона вірить, як якийсь принцип, вона просто вважає, що реальність працює так. Елементарний приклад: астрономи до Кеплера (включно, власне з самим Кеплером спочатку) не вважали колові орбіти якимось довільним принципом, який вони обрали, вони вважали це тим, як реальність неминуче повинна працювати. У сучасній науці є теж багато прикладів цього явища. Ситуація ускладнюється і тим, що цей недостаток інтелектуальної чесності не є суто - або навіть в значному ступені - моральною річчю. Насправді, це дуже погано, тому що чесна людина може спокійно бути інтелектуально нечесною, і ті запобіжники, які не дають їй брехати, не мають майже нічого спільного з тими, які необхідні, щоб вводити себе в інтелектуальну оману. Інтелектуальна нечесність скоріше повʼязана з комбінацією недостатньо глибокого розуміння наукових методів та нездатності розрізняти “соціальні” та “справжні” цілі науки (тобто цілі "науки" як суспільного інституту та цілі "науки" ідеалізованої машини з пізнання). Елементарний приклад: людина, яка не отримала позитивного результату експерименту насправді, репортує позитивний результат, тому що отримала достатньо мале p-значення. Вона не зробила ніяких махінацій і не приховала нічого. Її інтелектуальна нечесність - це результат того, що (а) вона недостатньо добре розуміє, що таке p-значення та в чому його сенс, і (б) вона змішала цілі “отримати p-значення, яке за наявних допущень відповідає позитивному результату” і “отримати позитивний результат” (”вмісти застосовувати прийом, який, як очікується, добре вбиває” vs “вміти добре вбивати”).
Короче, Фейнман був навпаки. Він мав цю інтелектуальну чесність в повній мірі. І це складніше, ніж здається, бо ти не можеш просто змусити себе бути інтелектуально чесним, як можеш просто змусити себе не брехати, бо це скоріше інтелектуальна риса, а не моральна. Ти повинен бути дуже розумним, і окрім освіти, повинен мати дуже гарну інтуїцію.
Спрощено можна сказати, що справжня декларована ціль науки - це пізнання світу. На практиці, науковці (тобто, люди, що працюють в установах, що мають назви наукових установ) можуть займатися чотирма речами, в порядку зростання якості:
❤5👍1
1. Відкриті махінації, фальсифікації чи генерація беззмістовного тексту.
2. Оптимізація наукометричних показників.
3. Оптимізація виконання формальних статистичних та епістемологічних критеріїв, які, як очікується, корелюють з пізнанням світу (частина з тих, хто їх максимізує, не баче різниці між ними та пізнанням світу, тобто для них це не кореляція, а тотожність).
4. Оптимізація власне пізнання світу. Судячи зі всього, треба мати неабиякий талант, щоб займатися саме цим, а не корелятом цього.
При цьому, можна рухати науку і оптимізуючи формальні критерії-кореляти (на то вони й кореляти). Більш того, недостатньо розумна людина неминуче зробить помилки, якщо почне сама намагатися фокусуватися на кінцевому результаті, а не корелятах (треба талант, щоб розуміти, що таке кінцевий результат). Але людина, що знаходиться на вершині наукової продуктивності, яка займається найбільш складними речами, якій нема кому делегувати задачу генерування проміжних епістемологічних інструментів, неминуче повинна фокусуватися на кінцевому результаті. Мідвіти проти цього в принципі, тому що вони бачили, як погано це позначається на інших мідвітах, але на найвищому рівні це критично необхідно, інакше все перестане працювати. І саме це вмів Фейнман найкраще за всіх.
Скарга Дірака на те, що фейнманівська квантова електродинаміка виглядає мерзенно (тобто математично складно і нагромаджено), для мене звучить як комплімент Фейнману.
У той самий час, памʼятаю інтервʼю з якимось ще живим, але старим корифеєм (напевно, Сасскінд, але можливо Пенроуз), де він розповідав про приклад з виступу Фейнмана на одній конференції, де той розробив просту і елегантну еквівалентну альтернативу якійсь надзвичайно математично просунутій і складній моделі якогось радянського фізика, який виступав на цій конференції перед ним.
У тому-то і справа.
Фейнман не піклувався про те, чи потрапить меч у серце, чи у голову, і наскільки витонченим чи грубим виглядає удар. Він піклувався лише про те, щоб вбити ворога.
Лазерний фокус його блискучого інтелекту був лише на тому, щоб робити науку - не затьмарений не тільки соціальними чи карʼєрними цілями, але і будь-якою філософією, уявленнями про те, як повинна чи не повинна виглядати наукова теорія чи процес її створення. Якщо Фейнман застосовував якийсь метод, це завжди було заради кінцевого результату - і ніколи заради самого методу. Геніального інтелекту було недостатньо для того, щоб досягти його результатів - і історія памʼятає цілий ряд більш математично геніальних фізиків. Треба було додати здатність концентрувати усі зусилля цього геніального інтелекту на тому, що мало значення. Саме цей додаток до геніальності, на мою думку, і зробив Фейнмана настільки могутнім фізиком.
Але навіть всього цього було б недостатньо, щоб вплинути на мене і на інших, якби Фейнман настільки не любив викладати, якби не отримував задоволення від того, щоб надавати прості, популярні пояснення, - та навіть якби його лекції не були записані на аудіо, щоб потім перекласти у повноцінні підручники. Передові науковці, як правило, не пишуть саме вступних підручників коли вони пишуть щось освітнє - вони пишуть або підручники на обрані теми для просунутих читачів або популярні книжки, які взагалі не є підручниками для вивчення науки. І коли зʼявляється вийняток - це саме по собі вже значна подія, тим більше, якщо це Фейнман.
Фейнман є безумовно генієм у повному сенсі цього слова, і він корисний для усіх і завжди. Його популярні книжки можна читати вже в дитинстві, але не варто оминати і його лекції з фізики - вони надзвичайно корисні незалежно від того, чим саме ви займаєтеся. Вони дають взірець того, як виглядає якісне пізнання і якісне розуміння, і людина, що побачила це один раз, ніколи вже не зможе - навіть якщо вона буде намагатися - не бачити різниці між якісною та неякісною інтелектуальною діяльністю.
2. Оптимізація наукометричних показників.
3. Оптимізація виконання формальних статистичних та епістемологічних критеріїв, які, як очікується, корелюють з пізнанням світу (частина з тих, хто їх максимізує, не баче різниці між ними та пізнанням світу, тобто для них це не кореляція, а тотожність).
4. Оптимізація власне пізнання світу. Судячи зі всього, треба мати неабиякий талант, щоб займатися саме цим, а не корелятом цього.
При цьому, можна рухати науку і оптимізуючи формальні критерії-кореляти (на то вони й кореляти). Більш того, недостатньо розумна людина неминуче зробить помилки, якщо почне сама намагатися фокусуватися на кінцевому результаті, а не корелятах (треба талант, щоб розуміти, що таке кінцевий результат). Але людина, що знаходиться на вершині наукової продуктивності, яка займається найбільш складними речами, якій нема кому делегувати задачу генерування проміжних епістемологічних інструментів, неминуче повинна фокусуватися на кінцевому результаті. Мідвіти проти цього в принципі, тому що вони бачили, як погано це позначається на інших мідвітах, але на найвищому рівні це критично необхідно, інакше все перестане працювати. І саме це вмів Фейнман найкраще за всіх.
Скарга Дірака на те, що фейнманівська квантова електродинаміка виглядає мерзенно (тобто математично складно і нагромаджено), для мене звучить як комплімент Фейнману.
У той самий час, памʼятаю інтервʼю з якимось ще живим, але старим корифеєм (напевно, Сасскінд, але можливо Пенроуз), де він розповідав про приклад з виступу Фейнмана на одній конференції, де той розробив просту і елегантну еквівалентну альтернативу якійсь надзвичайно математично просунутій і складній моделі якогось радянського фізика, який виступав на цій конференції перед ним.
У тому-то і справа.
Фейнман не піклувався про те, чи потрапить меч у серце, чи у голову, і наскільки витонченим чи грубим виглядає удар. Він піклувався лише про те, щоб вбити ворога.
Лазерний фокус його блискучого інтелекту був лише на тому, щоб робити науку - не затьмарений не тільки соціальними чи карʼєрними цілями, але і будь-якою філософією, уявленнями про те, як повинна чи не повинна виглядати наукова теорія чи процес її створення. Якщо Фейнман застосовував якийсь метод, це завжди було заради кінцевого результату - і ніколи заради самого методу. Геніального інтелекту було недостатньо для того, щоб досягти його результатів - і історія памʼятає цілий ряд більш математично геніальних фізиків. Треба було додати здатність концентрувати усі зусилля цього геніального інтелекту на тому, що мало значення. Саме цей додаток до геніальності, на мою думку, і зробив Фейнмана настільки могутнім фізиком.
Але навіть всього цього було б недостатньо, щоб вплинути на мене і на інших, якби Фейнман настільки не любив викладати, якби не отримував задоволення від того, щоб надавати прості, популярні пояснення, - та навіть якби його лекції не були записані на аудіо, щоб потім перекласти у повноцінні підручники. Передові науковці, як правило, не пишуть саме вступних підручників коли вони пишуть щось освітнє - вони пишуть або підручники на обрані теми для просунутих читачів або популярні книжки, які взагалі не є підручниками для вивчення науки. І коли зʼявляється вийняток - це саме по собі вже значна подія, тим більше, якщо це Фейнман.
Фейнман є безумовно генієм у повному сенсі цього слова, і він корисний для усіх і завжди. Його популярні книжки можна читати вже в дитинстві, але не варто оминати і його лекції з фізики - вони надзвичайно корисні незалежно від того, чим саме ви займаєтеся. Вони дають взірець того, як виглядає якісне пізнання і якісне розуміння, і людина, що побачила це один раз, ніколи вже не зможе - навіть якщо вона буде намагатися - не бачити різниці між якісною та неякісною інтелектуальною діяльністю.
👍8🥱6🔥1
Офтоп (ну майже).
Здається, я тільки що знайшов універсальну причину явища midwit peak.
У мене з часом накопичилося багато різних причинно-наслідкових гіпотез щодо того, звідки виникає midwit peak, але кожна з цих гіпотез не працювала універсально і описувала певний клас ситуацій. Якщо додати той факт, що midwit peak зустрічається в дуже різних контекстах, то напрошується думка про те, що явище є не причинно-наслідковим механізмом, а статистичним артефактом.
І здається, що дійсно. Здається, це sampling effect. Явище того ж характеру, що помилка людини, що вижила, або зміщення вибірки.
Розглянемо проблему бінарної класифікації фактів на істинні та хибні. Нехай істинні та хибні факти в нашому абстрактному просторі будуть скучені, але не лінійно (чи то навіть вігнуто) розділювані. Короче, уявіть собі хмару істинних фактів і хмару хибних фактів, і краплинки цих хмар як би частково перетинаються.
Твердження:
Мідвіт - це лінійний класифікатор.
Він робить найкращу можливу класифікацію в межах своєї обмеженої когнітивної архітектури, яка тим не менш недостатня, щоб осягнути усю складність наявних даних.
Smart тоді - опуклий класифікатор, велика нейромережа з 3+ шарами. Вона робить правильну або близьку до правильної класифікації.
А retard - це класифікатор по рандомній межі, яка слабо корелює з атрибутами істинність/хибність.
Тепер, розглянемо саме ті елементи датасету (факти), які знаходяться за межами правильної класифікації оптимального лінійного класифікатора. Назвемо їх складними фактами (бо вони правда щось типу складних фактів).
Що ми бачимо, коли порівнюємо функції втрат трьох вищезазначених алгоритмів для цих складних фактів? Саме midwit peak:
1. Розумний алгоритм має гарний результат з очевидних причин.
2. Мідвіт алгоритм має поганий результат з очевидних причин.
3. Дурний алгоритм має гірший результат, ніж розумний, але кращий, ніж середній (можливо, набагато кращий), тому що суто випадково він міг класифікувати складні факти правильно. Насправді, він може класифікувати їх більш правильно і не суто випадково - наприклад, тому що він ірраціонально багато уваги приділяє аутлаєрам. Але загальний механізм такий самий.
Здається, я тільки що знайшов універсальну причину явища midwit peak.
У мене з часом накопичилося багато різних причинно-наслідкових гіпотез щодо того, звідки виникає midwit peak, але кожна з цих гіпотез не працювала універсально і описувала певний клас ситуацій. Якщо додати той факт, що midwit peak зустрічається в дуже різних контекстах, то напрошується думка про те, що явище є не причинно-наслідковим механізмом, а статистичним артефактом.
І здається, що дійсно. Здається, це sampling effect. Явище того ж характеру, що помилка людини, що вижила, або зміщення вибірки.
Розглянемо проблему бінарної класифікації фактів на істинні та хибні. Нехай істинні та хибні факти в нашому абстрактному просторі будуть скучені, але не лінійно (чи то навіть вігнуто) розділювані. Короче, уявіть собі хмару істинних фактів і хмару хибних фактів, і краплинки цих хмар як би частково перетинаються.
Твердження:
Мідвіт - це лінійний класифікатор.
Він робить найкращу можливу класифікацію в межах своєї обмеженої когнітивної архітектури, яка тим не менш недостатня, щоб осягнути усю складність наявних даних.
Smart тоді - опуклий класифікатор, велика нейромережа з 3+ шарами. Вона робить правильну або близьку до правильної класифікації.
А retard - це класифікатор по рандомній межі, яка слабо корелює з атрибутами істинність/хибність.
Тепер, розглянемо саме ті елементи датасету (факти), які знаходяться за межами правильної класифікації оптимального лінійного класифікатора. Назвемо їх складними фактами (бо вони правда щось типу складних фактів).
Що ми бачимо, коли порівнюємо функції втрат трьох вищезазначених алгоритмів для цих складних фактів? Саме midwit peak:
1. Розумний алгоритм має гарний результат з очевидних причин.
2. Мідвіт алгоритм має поганий результат з очевидних причин.
3. Дурний алгоритм має гірший результат, ніж розумний, але кращий, ніж середній (можливо, набагато кращий), тому що суто випадково він міг класифікувати складні факти правильно. Насправді, він може класифікувати їх більш правильно і не суто випадково - наприклад, тому що він ірраціонально багато уваги приділяє аутлаєрам. Але загальний механізм такий самий.
👍3
Користуючись нагодою:
Якщо ви, чи ваш знайомий, відносяться до того класу людей, яким треба, щоб аргумент виходив з вуст людини, над якою висить золота табличка з credentials, щоб сприйняти цей аргумент;
Якщо ви повірили людям, які кажуть, що нейромереж бояться лише ті, хто не знає, як вони працюють;
Якщо у вашому соціальному колі досі вважається модним сигналізувати свій інтелект висловлюванням думки про те, що екзистенційні ризики від ШІ є «конспірологією»;
то це для вас!
Буквальний винахідник глибинного навчання та нейромереж, лауреат премії Тʼюрінга та Нобелівської премії, який отримав премії саме за ці винаходи, вважає, що штучний інтелект усіх вбʼє з високою ймовірністю!
Якщо ви, чи ваш знайомий, відносяться до того класу людей, яким треба, щоб аргумент виходив з вуст людини, над якою висить золота табличка з credentials, щоб сприйняти цей аргумент;
Якщо ви повірили людям, які кажуть, що нейромереж бояться лише ті, хто не знає, як вони працюють;
Якщо у вашому соціальному колі досі вважається модним сигналізувати свій інтелект висловлюванням думки про те, що екзистенційні ризики від ШІ є «конспірологією»;
то це для вас!
Буквальний винахідник глибинного навчання та нейромереж, лауреат премії Тʼюрінга та Нобелівської премії, який отримав премії саме за ці винаходи, вважає, що штучний інтелект усіх вбʼє з високою ймовірністю!
😁9👍2🥴2