Найбільший культурний шок в моєму житті був, коли я пішов в перший клас. До цього, я майже не взаємодіяв з людьми за межами своєї родини.
Я дивився на те, що відбувається, на те, як живуть і що говорять і учні, і вчителі, і не ніяк не міг зрозуміти: чому все працює? Чому все не знищено? Як суспільство, що здебільшого складається з таких людей, не колапсує?
З часом, я просто змирився з тим, що все якось працює, так і не знайшовши скільки завгодно адекватного цьому пояснення.
І лише потім, набагато, набагато пізніше, я зрозумів відповідь на питання, яке я задав тоді, і відповідь була наступна: насправді, нічого і не працює.
Я дивився на те, що відбувається, на те, як живуть і що говорять і учні, і вчителі, і не ніяк не міг зрозуміти: чому все працює? Чому все не знищено? Як суспільство, що здебільшого складається з таких людей, не колапсує?
З часом, я просто змирився з тим, що все якось працює, так і не знайшовши скільки завгодно адекватного цьому пояснення.
І лише потім, набагато, набагато пізніше, я зрозумів відповідь на питання, яке я задав тоді, і відповідь була наступна: насправді, нічого і не працює.
😁16👍9🔥1
Цукерберг пройшовся по всіх передових ШІ лабах (OpenAI, DeepMind, Anthropic, xAI, SSI, Thinking Machines Lab) і запропонував цілому ряду дослідників там від сотні мільйонів до мільярда доларів кожному за те, що вони перейдуть до нього в Meta. Майже усі відмовилися.
Декілька думок з цього приводу:
1. Багато хто вважає це ознакою того, що ми знаходимося в кроці від рекурсивного самопришвидшення R&D в ШІ. В Мета побачили це і зрозуміли, що після цього можливості наздогнати інших не буде, і тому треба зараз за будь-яку ціну досягти фронтиру досліджень.
2. Про що говорить той факт, що майже всі відмовилися? Знову ж таки, найбільш тривіальне пояснення в тому, що якщо хтось відмовляється від мільярду доларів (і до того ж, не бізнесмен, не мільярдер до цього, а просто дослідник, нехай і з дуже гарною зарплатою), то це означає, що він вірить, що він отримає більше на своєму поточному місці. Виглядає так, що більшість співробітників передових лаб вірять, що вони досягнуть ASI першими чи принаймні раніше за Мета. Що насправді логічно. Мета завжди відставала в ШІ, а Цукерберг традиційно був «лузером серед технічних мільярдерів». Акції Мета взагалі не відреагували на історію про те, що Цукерберг збирає свою “ASI team” і переманює до себе талантів за божевільні гроші.
3. Але, інше пояснення теж має право на існування: більшість співробітників передових лаб щиро вірять, що буде морально краще, якщо їхня лаба першою досягне ASI, особливо в Anthropic і SSI. І тим більше вони не хочуть переходити в Meta AI, яка, на відміну від інших лаб, демонстративно відмовилася зробити навіть фейковий план алайнменту та безпеки ШІ і на чолі якої стоїть найбільш голосний AI risk denier Ян Лекун. Вочевидь, той факт, що в Meta повністю забили на безпеку і роблять наприклад таке божевілля, як опенсорсінг своїх передових моделей, і той факт, що Мета відстає, а Цукерберг - лузер, ніяк не суперечать, а лише доповнюють один одного: Мета відстає -> Мета йде на низькі кроки у відчаї -> Це відштовхує таланти ще більше -> Мета відстає ще більше. Утім, не варто забувати: the most undignified outcome is the most likely. Це буде дуже в стилі нашого таймлайну, якщо найбільш мерзенна серед великих ШІ лаб досягне ASI першою! І загинути від рук Цукерберга та Лекуна це безумовно більш негідно ніж від рук Амодеї, який хоча б щось хоч якось подумав про безпеку.
4. Передові дослідження в ШІ більше не публікуються відкрито і більше не будуть публікуватися до Сингулярності. Інакше можна було б просто прочитати дослідження і найняти дуже розумних людей з інших місць, щоб спробувати досягти фронтиру. Відтепер, у нас два фронтири - те, що відбувається всередині великих лаб, і те, що відбувається в академічному та open source спільнотах. На ICML та NeurIPS ми бачимо оцінку другого фронтиру, а не першого.
Декілька думок з цього приводу:
1. Багато хто вважає це ознакою того, що ми знаходимося в кроці від рекурсивного самопришвидшення R&D в ШІ. В Мета побачили це і зрозуміли, що після цього можливості наздогнати інших не буде, і тому треба зараз за будь-яку ціну досягти фронтиру досліджень.
2. Про що говорить той факт, що майже всі відмовилися? Знову ж таки, найбільш тривіальне пояснення в тому, що якщо хтось відмовляється від мільярду доларів (і до того ж, не бізнесмен, не мільярдер до цього, а просто дослідник, нехай і з дуже гарною зарплатою), то це означає, що він вірить, що він отримає більше на своєму поточному місці. Виглядає так, що більшість співробітників передових лаб вірять, що вони досягнуть ASI першими чи принаймні раніше за Мета. Що насправді логічно. Мета завжди відставала в ШІ, а Цукерберг традиційно був «лузером серед технічних мільярдерів». Акції Мета взагалі не відреагували на історію про те, що Цукерберг збирає свою “ASI team” і переманює до себе талантів за божевільні гроші.
3. Але, інше пояснення теж має право на існування: більшість співробітників передових лаб щиро вірять, що буде морально краще, якщо їхня лаба першою досягне ASI, особливо в Anthropic і SSI. І тим більше вони не хочуть переходити в Meta AI, яка, на відміну від інших лаб, демонстративно відмовилася зробити навіть фейковий план алайнменту та безпеки ШІ і на чолі якої стоїть найбільш голосний AI risk denier Ян Лекун. Вочевидь, той факт, що в Meta повністю забили на безпеку і роблять наприклад таке божевілля, як опенсорсінг своїх передових моделей, і той факт, що Мета відстає, а Цукерберг - лузер, ніяк не суперечать, а лише доповнюють один одного: Мета відстає -> Мета йде на низькі кроки у відчаї -> Це відштовхує таланти ще більше -> Мета відстає ще більше. Утім, не варто забувати: the most undignified outcome is the most likely. Це буде дуже в стилі нашого таймлайну, якщо найбільш мерзенна серед великих ШІ лаб досягне ASI першою! І загинути від рук Цукерберга та Лекуна це безумовно більш негідно ніж від рук Амодеї, який хоча б щось хоч якось подумав про безпеку.
4. Передові дослідження в ШІ більше не публікуються відкрито і більше не будуть публікуватися до Сингулярності. Інакше можна було б просто прочитати дослідження і найняти дуже розумних людей з інших місць, щоб спробувати досягти фронтиру. Відтепер, у нас два фронтири - те, що відбувається всередині великих лаб, і те, що відбувається в академічному та open source спільнотах. На ICML та NeurIPS ми бачимо оцінку другого фронтиру, а не першого.
👍2😱1🥴1
Скоро виходить дуже важлива книга, яка покликана відповісти на всі питання про ризики ШІ. Це не перша книга, яка це робить, але впевнений, що буде найкраща. Для тих, хто передзамовить, 10 серпня буде онлайн Q/A сесія з одним з авторів - Nate Soares. Передзамовлення також важливі, щоб потрапити в NYT bestsellers, що напряму корелює з тим, наскільки вона буде розповсюджена.
❤🔥9👎9🤔2
This media is not supported in your browser
VIEW IN TELEGRAM
Ось гігачад, який відмовився від мільярду доларів від Цукерберга: https://www.linkedin.com/in/andrew-tulloch-17238745
🤯3❤2
Вперше за довгий, довгий час, я чітко бачу, що мені треба робити.
Не думаю, що можна бути повністю вільним від сумнівів і страху, але вони не так важливі і проблематичні, коли ти йдеш шляхом, на якому, як було сказано у відомій цитаті:
«Як би важко нам не було, але вже точно не буде соромно».
Не думаю, що можна бути повністю вільним від сумнівів і страху, але вони не так важливі і проблематичні, коли ти йдеш шляхом, на якому, як було сказано у відомій цитаті:
«Як би важко нам не було, але вже точно не буде соромно».
Homo Technicus
Люди існують на нижній межі general intelligence. Як вид ми не відійшли еволюційно ані на міліметр від того пункту, де еволюція створила minimum viable general intelligence - просто тому, що не було ані часу, ані необхідного тиску відбору після цього. Люди…
Почитайте трошки цитати про фон Неймана.
Ганс Бете (Нобелівська премія 1967 за ядерну фізику, керівник Теоретичного відділу в Лос-Аламосі, відкрив зоряний нуклеосинтез):
• "Я іноді замислювався, чи не вказує мозок, подібний до мозку фон Неймана, на вид, вищий за людину"
Юджин Вігнер (Нобелівська премія 1963 за квантову механіку, відкрив фундаментальні принципи симетрії, "тихий гігант фізики 20-го століття"):
• "Існує два типи людей у світі: Джонні фон Нейман і решта з нас"
• "Складалося враження досконалого інструменту, шестерні якого були виточені з точністю до тисячної частки дюйма"
• "Ніхто не знає всієї науки, навіть фон Нейман не знав. Але що стосується математики, він зробив внесок у кожну її частину, окрім теорії чисел і топології. Думаю, це щось унікальне"
• "Жоден з них не мав такого швидкого і гострого розуму, як Янчі [Джонні] фон Нейман... Я часто говорив це в їхній присутності, і ніхто ніколи не заперечував мені" (після переліку Ейнштейна, Дірака, Гейзенберга та інших)
Пол Халмош (піонер функціонального аналізу, написав фундаментальні тексти з теорії міри, логіки та гільбертових просторів):
• "Вражаючим у Джонні була не його сила як математика, яка була великою, чи його проникливість і ясність, а його швидкість; він був дуже, дуже швидким"
• "Ви ставили йому запитання, і якщо він не знав відповіді, він думав три секунди і видавав відповідь"
Енріко Фермі (Нобелівська премія 1938, створив перший ядерний реактор, останній фізик, однаково великий у теорії та експерименті):
• "Знаєш, Герб, Джонні може робити обчислення в голові в десять разів швидше за мене. А я можу робити їх у десять разів швидше за тебе, тож ти можеш уявити, наскільки вражаючий Джонні!"
Джордж Пойа (революціонізував математичну освіту, автор "Як розв'язати задачу", значний внесок у комбінаторику та теорію ймовірностей):
• "Був семінар для просунутих студентів у Цюриху, який я викладав, і фон Нейман був у класі. Я дійшов до певної теореми і сказав, що вона не доведена і може бути складною. Фон Нейман нічого не сказав, але через п'ять хвилин підняв руку. Коли я його викликав, він підійшов до дошки і почав записувати доведення. Після цього я боявся фон Неймана"
• "Єдиний студент, якого я коли-небудь боявся"
Пітер Лакс (Премія Абеля 2005, революціонізував чисельний аналіз і диференціальні рівняння в частинних похідних, ветеран Манхеттенського проекту):
• "Якщо ви з ним говорили, після трьох слів він перехоплював ініціативу. Він миттєво розумів, у чому проблема, і мав ідеї. Всі хотіли з ним поговорити"
• "Всі люди, які зустрічалися з ним і взаємодіяли з ним, усвідомлювали, що його мозок був потужнішим, ніж у будь-кого, кого вони коли-небудь зустрічали"
• [зазначив, що коментар Бете про "вищий вид" був] "лише незначним перебільшенням"
Герман Ґолдстайн (співрозробник ENIAC, допоміг створити концепцію self-storing program, виконавчий директор математичних наук в IBM):
• "Однією з його надзвичайних здібностей була його здатність до абсолютного запам'ятовування. Наскільки я міг судити, фон Нейман міг, прочитавши книгу чи статтю один раз, цитувати її дослівно; більше того, він міг робити це роками пізніше без вагань. Він також міг перекладати її без зменшення швидкості з мови оригіналу на англійську"
• "Коли у нього виникали труднощі, він не працював над ними; натомість він йшов додому, спав з цією думкою і повертався пізніше з рішенням"
Норман Макрей (заступник редактора The Economist протягом 23 років, біограф фон Неймана):
• "Найважливіше використання, для якого він застосував свою пам'ять, полягало в тому, що він запхав у неї безпрецедентну кількість математичних констант і рівнянь. Більшість з нас має дуже мало математичних констант у голові, можливо, лише таблицю множення до дванадцяти. Джонні поклав у свій розум шари і шари алгебраїчних істин"
Ганс Бете (Нобелівська премія 1967 за ядерну фізику, керівник Теоретичного відділу в Лос-Аламосі, відкрив зоряний нуклеосинтез):
• "Я іноді замислювався, чи не вказує мозок, подібний до мозку фон Неймана, на вид, вищий за людину"
Юджин Вігнер (Нобелівська премія 1963 за квантову механіку, відкрив фундаментальні принципи симетрії, "тихий гігант фізики 20-го століття"):
• "Існує два типи людей у світі: Джонні фон Нейман і решта з нас"
• "Складалося враження досконалого інструменту, шестерні якого були виточені з точністю до тисячної частки дюйма"
• "Ніхто не знає всієї науки, навіть фон Нейман не знав. Але що стосується математики, він зробив внесок у кожну її частину, окрім теорії чисел і топології. Думаю, це щось унікальне"
• "Жоден з них не мав такого швидкого і гострого розуму, як Янчі [Джонні] фон Нейман... Я часто говорив це в їхній присутності, і ніхто ніколи не заперечував мені" (після переліку Ейнштейна, Дірака, Гейзенберга та інших)
Пол Халмош (піонер функціонального аналізу, написав фундаментальні тексти з теорії міри, логіки та гільбертових просторів):
• "Вражаючим у Джонні була не його сила як математика, яка була великою, чи його проникливість і ясність, а його швидкість; він був дуже, дуже швидким"
• "Ви ставили йому запитання, і якщо він не знав відповіді, він думав три секунди і видавав відповідь"
Енріко Фермі (Нобелівська премія 1938, створив перший ядерний реактор, останній фізик, однаково великий у теорії та експерименті):
• "Знаєш, Герб, Джонні може робити обчислення в голові в десять разів швидше за мене. А я можу робити їх у десять разів швидше за тебе, тож ти можеш уявити, наскільки вражаючий Джонні!"
Джордж Пойа (революціонізував математичну освіту, автор "Як розв'язати задачу", значний внесок у комбінаторику та теорію ймовірностей):
• "Був семінар для просунутих студентів у Цюриху, який я викладав, і фон Нейман був у класі. Я дійшов до певної теореми і сказав, що вона не доведена і може бути складною. Фон Нейман нічого не сказав, але через п'ять хвилин підняв руку. Коли я його викликав, він підійшов до дошки і почав записувати доведення. Після цього я боявся фон Неймана"
• "Єдиний студент, якого я коли-небудь боявся"
Пітер Лакс (Премія Абеля 2005, революціонізував чисельний аналіз і диференціальні рівняння в частинних похідних, ветеран Манхеттенського проекту):
• "Якщо ви з ним говорили, після трьох слів він перехоплював ініціативу. Він миттєво розумів, у чому проблема, і мав ідеї. Всі хотіли з ним поговорити"
• "Всі люди, які зустрічалися з ним і взаємодіяли з ним, усвідомлювали, що його мозок був потужнішим, ніж у будь-кого, кого вони коли-небудь зустрічали"
• [зазначив, що коментар Бете про "вищий вид" був] "лише незначним перебільшенням"
Герман Ґолдстайн (співрозробник ENIAC, допоміг створити концепцію self-storing program, виконавчий директор математичних наук в IBM):
• "Однією з його надзвичайних здібностей була його здатність до абсолютного запам'ятовування. Наскільки я міг судити, фон Нейман міг, прочитавши книгу чи статтю один раз, цитувати її дослівно; більше того, він міг робити це роками пізніше без вагань. Він також міг перекладати її без зменшення швидкості з мови оригіналу на англійську"
• "Коли у нього виникали труднощі, він не працював над ними; натомість він йшов додому, спав з цією думкою і повертався пізніше з рішенням"
Норман Макрей (заступник редактора The Economist протягом 23 років, біограф фон Неймана):
• "Найважливіше використання, для якого він застосував свою пам'ять, полягало в тому, що він запхав у неї безпрецедентну кількість математичних констант і рівнянь. Більшість з нас має дуже мало математичних констант у голові, можливо, лише таблицю множення до дванадцяти. Джонні поклав у свій розум шари і шари алгебраїчних істин"
Homo Technicus
Люди існують на нижній межі general intelligence. Як вид ми не відійшли еволюційно ані на міліметр від того пункту, де еволюція створила minimum viable general intelligence - просто тому, що не було ані часу, ані необхідного тиску відбору після цього. Люди…
Станіслав Улам (співвинахідник водневої бомби через дизайн Теллера-Улама, піонер методу Монте-Карло, значний внесок у теорію множин):
• "Більшість математиків знають один метод. Наприклад, Норберт Вінер опанував перетворення Фур'є. Деякі математики опанували два методи і можуть справді вразити того, хто знає лише один з них. Джон фон Нейман опанував три методи"
• "Інші математики вражають мене як віртуози, які грають на своїх особливих інструментах. Жоден не може зрівнятися з Джонні"
Жан Дьєдонне (член-засновник групи Бурбакі, яка революціонізувала математику, написав визначальні тексти з алгебраїчної геометрії):
• "Останній представник колись процвітаючої і численної групи, великих математиків, які були однаково вправні в чистій і прикладній математиці"
Девід Блеквелл (фундаментальний внесок у статистику та теорію ігор):
• "Він слухав, як я розповідаю про цей досить незрозумілий предмет, і через десять хвилин він знав про нього більше, ніж я"
Джордж Данциг (батько лінійного програмування, створив симплекс-алгоритм, який революціонізував оптимізацію):
• Контекст: Коли Данциг відвідав фон Неймана в Прінстоні в 1947 році, щоб обговорити свій щойно розроблений симплекс-метод для лінійного програмування — галузі, яка ще не існувала — він очікував, що фон Нейману знадобиться час, щоб зрозуміти цю абсолютно нову концепцію. Натомість фон Нейман одразу вигукнув "О, це!" і почав імпровізовану годинну лекцію, пояснюючи не лише метод Данцига, але й теорію двоїстості (яку Данциг ще не відкрив) та її зв'язки з теорією ігор. Фон Нейман миттєво зрозумів і розширив абсолютно нову математичну галузь, почувши про неї вперше.
Едвард Теллер (батько водневої бомби, зробив фундаментальний внесок у ядерну та молекулярну фізику):
• "Фон Нейман вів розмову з моїм 3-річним сином, і вони двоє розмовляли як рівні, і я іноді дивувався, чи він використовував той самий принцип, коли розмовляв з рештою з нас"
Клод Шеннон (батько теорії інформації, заснував теорію проектування цифрових схем, заклав основу цифрової епохи):
• "Найрозумніша людина, яку я коли-небудь зустрічав"
Джейкоб Броновський (розробив бездимну бомбу для британських військових, був піонером математичних підходів до біології):
• "Він був найрозумнішою людиною, яку я коли-небудь знав, без винятку. Він був генієм"
Ніколас Калдор (розробив фундаментальні теорії економічного зростання, радник кількох урядів, професор економіки в Кембриджі):
• "Безперечно, найближче до генія, з ким я коли-небудь стикався"
Пол Самуельсон (перший американський лауреат Нобелівської премії з економіки):
• "Ми, економісти, вдячні за геній фон Неймана... Він ненадовго забіг у нашу сферу, і вона вже ніколи не була такою, як раніше"
Математична спільнота:
• "Більшість математиків доводять те, що можуть, фон Нейман доводить те, що хоче"
Колеги з Інституту перспективних досліджень у Прінстоні (1930-ті роки, включаючи Ейнштейна, Геделя, Вейля та інших провідних математиків і фізиків):
• "Джонні, як визнавалося, був не людиною, а напівбогом, який... провів детальне дослідження людей і міг імітувати їх ідеально"
І нарешті, додам цитату Толкіна про Феанора:
• "Подібних йому більше ніколи не з’являлося в Арді, а дух його ніколи не полишав чортогів Мандоса"
Фон Нейман можливий!
• "Більшість математиків знають один метод. Наприклад, Норберт Вінер опанував перетворення Фур'є. Деякі математики опанували два методи і можуть справді вразити того, хто знає лише один з них. Джон фон Нейман опанував три методи"
• "Інші математики вражають мене як віртуози, які грають на своїх особливих інструментах. Жоден не може зрівнятися з Джонні"
Жан Дьєдонне (член-засновник групи Бурбакі, яка революціонізувала математику, написав визначальні тексти з алгебраїчної геометрії):
• "Останній представник колись процвітаючої і численної групи, великих математиків, які були однаково вправні в чистій і прикладній математиці"
Девід Блеквелл (фундаментальний внесок у статистику та теорію ігор):
• "Він слухав, як я розповідаю про цей досить незрозумілий предмет, і через десять хвилин він знав про нього більше, ніж я"
Джордж Данциг (батько лінійного програмування, створив симплекс-алгоритм, який революціонізував оптимізацію):
• Контекст: Коли Данциг відвідав фон Неймана в Прінстоні в 1947 році, щоб обговорити свій щойно розроблений симплекс-метод для лінійного програмування — галузі, яка ще не існувала — він очікував, що фон Нейману знадобиться час, щоб зрозуміти цю абсолютно нову концепцію. Натомість фон Нейман одразу вигукнув "О, це!" і почав імпровізовану годинну лекцію, пояснюючи не лише метод Данцига, але й теорію двоїстості (яку Данциг ще не відкрив) та її зв'язки з теорією ігор. Фон Нейман миттєво зрозумів і розширив абсолютно нову математичну галузь, почувши про неї вперше.
Едвард Теллер (батько водневої бомби, зробив фундаментальний внесок у ядерну та молекулярну фізику):
• "Фон Нейман вів розмову з моїм 3-річним сином, і вони двоє розмовляли як рівні, і я іноді дивувався, чи він використовував той самий принцип, коли розмовляв з рештою з нас"
Клод Шеннон (батько теорії інформації, заснував теорію проектування цифрових схем, заклав основу цифрової епохи):
• "Найрозумніша людина, яку я коли-небудь зустрічав"
Джейкоб Броновський (розробив бездимну бомбу для британських військових, був піонером математичних підходів до біології):
• "Він був найрозумнішою людиною, яку я коли-небудь знав, без винятку. Він був генієм"
Ніколас Калдор (розробив фундаментальні теорії економічного зростання, радник кількох урядів, професор економіки в Кембриджі):
• "Безперечно, найближче до генія, з ким я коли-небудь стикався"
Пол Самуельсон (перший американський лауреат Нобелівської премії з економіки):
• "Ми, економісти, вдячні за геній фон Неймана... Він ненадовго забіг у нашу сферу, і вона вже ніколи не була такою, як раніше"
Математична спільнота:
• "Більшість математиків доводять те, що можуть, фон Нейман доводить те, що хоче"
Колеги з Інституту перспективних досліджень у Прінстоні (1930-ті роки, включаючи Ейнштейна, Геделя, Вейля та інших провідних математиків і фізиків):
• "Джонні, як визнавалося, був не людиною, а напівбогом, який... провів детальне дослідження людей і міг імітувати їх ідеально"
І нарешті, додам цитату Толкіна про Феанора:
• "Подібних йому більше ніколи не з’являлося в Арді, а дух його ніколи не полишав чортогів Мандоса"
Фон Нейман можливий!
❤3👍1
Homo Technicus
Ось гігачад, який відмовився від мільярду доларів від Цукерберга: https://www.linkedin.com/in/andrew-tulloch-17238745
Апдейт: він відмовився від 1.5 мільярда! Не те що б велика різниця на цих масштабах, але зауважимо для точності.
Але раніше точно говорилося про суму 1 мільярд. Може, Цукерберг продовжує торгуватися і нарощує ціну, не знаю.
Але раніше точно говорилося про суму 1 мільярд. Може, Цукерберг продовжує торгуватися і нарощує ціну, не знаю.
На даний момент, я практично впевнений, що молодше покоління (люди віком десь до 22-23 років зараз), помітно тупіші мого покоління в тому ж самому віці. І це при тому, що моє покоління, ймовірно, в свою чергу тупіше за старше (тобто, за тих, кому зараз 30-35), коли вони були в нашому віці, хоча тут різниця виглядає меншою. Вочевидь, мова йде лише про середній рівень. Занадто багато вказує на це як на особистому і анекдотичному рівні, так і на рівні досліджень, наприклад:
https://www.gisreportsonline.com/r/worsening-2022-pisa-tests-results-oecd/
https://library.fabresearch.org/viewItem.php?id=11778
https://www.polytechnique-insights.com/en/columns/society/declining-global-iq-reality-or-moral-panic/
Що думаєте ви з цього приводу? Особливо я зацікавлений в контраргументах та контрданих.
I amar prestar aen
Han mathon ne nen
Han mathon ne chae
A han noston ned ’wilith
Much that once was is lost, for none now live who remember it.
https://www.gisreportsonline.com/r/worsening-2022-pisa-tests-results-oecd/
https://library.fabresearch.org/viewItem.php?id=11778
https://www.polytechnique-insights.com/en/columns/society/declining-global-iq-reality-or-moral-panic/
Що думаєте ви з цього приводу? Особливо я зацікавлений в контраргументах та контрданих.
I amar prestar aen
Han mathon ne nen
Han mathon ne chae
A han noston ned ’wilith
Much that once was is lost, for none now live who remember it.
❤6👍1
Homo Technicus
В розбудову серверів у сукупності витрачено більше трильйона доларів. Ця масована розбудова серверів дещо сповільнюється чи принаймні виглядає, що вона повинна сповільнитися, бо починає грати роль дефіцит енергії - сервери вже споживають більше енергії, ніж велика європейська країна чи американський штат, а будувати АЕС - не настільки швидкий процес.
Судячи зі всього, пункт 9 мого прогнозу буде виконано набагато раніше, скоріше за все наступного року. Лише за перші 3 місяці 2025 року в США на розбудову серверів витратили більше 100 мільйардів доларів. Наразі, капітальні витрати на сервери вже є найбільшою складовою росту ВВП США і взагалі найбільшими приватними капітальними витратами на одиницю часу в історії Америки з часів розбудови залізниць століття тому. По суті, зараз економіка США вже нагадує військову економіку по структурі інвестицій, де замість зброї - чіпи. Про це написали гарну статтю.
«We are in a historically anomalous moment. Regardless of what one thinks about the merits of AI or explosive datacenter expansion, the scale and pace of capital deployment into a rapidly depreciating technology is remarkable. These are not railroads—we aren’t building century-long infrastructure. AI datacenters are short-lived, asset-intensive facilities riding declining-cost technology curves, requiring frequent hardware replacement to preserve margins.
And this surge has unintended consequences. Capital is being aggressively reallocated—from venture funding to internal budgets—at the expense of other sectors. Entire categories are being starved of investment, and large-scale layoffs are already happening.»
Це відео, тільки замість Ейнштейна та Оппенгеймера Хінтон і Сатксевер, а замість ракет показують, як будується Старгейт: https://youtu.be/ibBmXp4Jv1E?si=XF-aUjY22EhZMkFg
«We are in a historically anomalous moment. Regardless of what one thinks about the merits of AI or explosive datacenter expansion, the scale and pace of capital deployment into a rapidly depreciating technology is remarkable. These are not railroads—we aren’t building century-long infrastructure. AI datacenters are short-lived, asset-intensive facilities riding declining-cost technology curves, requiring frequent hardware replacement to preserve margins.
And this surge has unintended consequences. Capital is being aggressively reallocated—from venture funding to internal budgets—at the expense of other sectors. Entire categories are being starved of investment, and large-scale layoffs are already happening.»
Це відео, тільки замість Ейнштейна та Оппенгеймера Хінтон і Сатксевер, а замість ракет показують, як будується Старгейт: https://youtu.be/ibBmXp4Jv1E?si=XF-aUjY22EhZMkFg
👍5
Кожного разу, коли знайомий йде в консалтинг з якоїсь справжньої та цікавої роботи, це ніби маленька смерть. Одна пішла в McKinsey буквально з OpenAI, інша - з чудового фарма-стартапу. Може їх звільнили, звичайно, або вони вигоріли, але все одно, чому консалтинг? Чому не садівництво, наприклад, як Діоклетіан?
😢2🤷♂1🤯1
Homo Technicus
Станіслав Улам (співвинахідник водневої бомби через дизайн Теллера-Улама, піонер методу Монте-Карло, значний внесок у теорію множин): • "Більшість математиків знають один метод. Наприклад, Норберт Вінер опанував перетворення Фур'є. Деякі математики опанували…
This media is not supported in your browser
VIEW IN TELEGRAM
Ще трохи про фон Неймана:
"Ви чули історію про Робертсона, який віз фон Неймана кудись? Фон Нейман запитав його, над чим той працює, а Робертсон відповів, що над таким-то рівнянням. До того часу, як вони дісталися кінця поїздки, фон Нейман вже вирішив рівняння в своїй голові."
- Банеш Хоффман
"Куратовський також описав результати ван Неймана та його особистість. Він розповів мені, як у берлінському таксі фон Нейман за кілька речень пояснив набагато більше, ніж я, Куратовський, отримав би від листування чи бесід з іншими математиками з питань теорії множин, теорії міри та дійсних змінних."
- Станіслав Улам
Вайби знаменитого монологу про олівець з Джона Уіка.
Обидва до речі Джони.
"Ви чули історію про Робертсона, який віз фон Неймана кудись? Фон Нейман запитав його, над чим той працює, а Робертсон відповів, що над таким-то рівнянням. До того часу, як вони дісталися кінця поїздки, фон Нейман вже вирішив рівняння в своїй голові."
- Банеш Хоффман
"Куратовський також описав результати ван Неймана та його особистість. Він розповів мені, як у берлінському таксі фон Нейман за кілька речень пояснив набагато більше, ніж я, Куратовський, отримав би від листування чи бесід з іншими математиками з питань теорії множин, теорії міри та дійсних змінних."
- Станіслав Улам
Вайби знаменитого монологу про олівець з Джона Уіка.
Обидва до речі Джони.
🔥4
Homo Technicus
Ще трохи про фон Неймана: "Ви чули історію про Робертсона, який віз фон Неймана кудись? Фон Нейман запитав його, над чим той працює, а Робертсон відповів, що над таким-то рівнянням. До того часу, як вони дісталися кінця поїздки, фон Нейман вже вирішив рівняння…
І не можу не додати один спогад його дружини:
"[Однієї ранньої ночі] 1945 року він прокинувся і почав говорити так швидко, що навіть для нього це було надзвичайно швидко. "Те, що ми створюємо зараз, це монстр, чий вплив змінить історію, якщо, звісно, історія ще залишиться, але було б неможливо не довести це до кінця, не тільки з військових причин, але й з етичної точки зору для вчених – не зробити того, що вони знають, що є здійсненним, незалежно від того, які жахливі наслідки це може мати. І це лише початок!"
Це було сказано не про ядерну бомбу, а про комп'ютери.
"[Однієї ранньої ночі] 1945 року він прокинувся і почав говорити так швидко, що навіть для нього це було надзвичайно швидко. "Те, що ми створюємо зараз, це монстр, чий вплив змінить історію, якщо, звісно, історія ще залишиться, але було б неможливо не довести це до кінця, не тільки з військових причин, але й з етичної точки зору для вчених – не зробити того, що вони знають, що є здійсненним, незалежно від того, які жахливі наслідки це може мати. І це лише початок!"
Це було сказано не про ядерну бомбу, а про комп'ютери.
👍5🤯2
FYI, копія свідомості - це так же добре як оригінальна свідомість. Тобто, завантаження свідомості працює в тому сенсі, як здається тим, хто вважає, що воно працює. Уся лінія розміркувань про "відсутність неперервності" фундаментально неправильна.
👍5
Я написав важливий пост для аудиторії LessWrong тією мовою, якою вони зрозуміють: https://www.lesswrong.com/posts/P2Tfb8d2RooJAt7Zr/you-are-moving-out-of-your-reference-class
Вам я можу сказати більш просто і коротко: в цілому, я вважаю раціональним в тих умовах, що склалися, сильно підвищити очікування стосовно своїх здатностей робити майже що завгодно, і планувати своє життя і проекти відповідно. І робити це прямо зараз, бо "вікно можливостей" не буде тривати довго - скоріше за все, лише декілька років.
Іншими словами, це call-to-action робити відчайдушні проекти, з 3 основних причин:
1. Зараз це набагато більш можливо, ніж здається з історичних даних та того, що мозок сприймає як дефолтний стан реальності.
2. Потім можливості ймовірно не буде.
3. Зараз це найбільш необхідно.
Вам я можу сказати більш просто і коротко: в цілому, я вважаю раціональним в тих умовах, що склалися, сильно підвищити очікування стосовно своїх здатностей робити майже що завгодно, і планувати своє життя і проекти відповідно. І робити це прямо зараз, бо "вікно можливостей" не буде тривати довго - скоріше за все, лише декілька років.
Іншими словами, це call-to-action робити відчайдушні проекти, з 3 основних причин:
1. Зараз це набагато більш можливо, ніж здається з історичних даних та того, що мозок сприймає як дефолтний стан реальності.
2. Потім можливості ймовірно не буде.
3. Зараз це найбільш необхідно.
Lesswrong
You Are Moving Out Of Your Reference Class — LessWrong
The idea to write this article emerged from some of my discussions with fellow rationalists, transhumanists, and AI safety researchers about what to…
❤11🤔1
Періодично, реальність змушує дивуватися тому, наскільки систематично в житті вспливають одні й ті самі люди, в абсолютно різних обставинах і контекстах. Це дивно і, я б сказав, трохи страшно.
Ніби ти є частиною певного соціального графу, і реальність сама помістила тебе туди, не питаючи тебе, і тримає тебе в ньому.
Це... не поганий граф, і насправді, я б хотів лише більше взаємодіяти з багатьма людьми в ньому, хоча я б збрехав, якби сказав що там нема людей, про існування яких я б радше не знав.
Проблема, вірніше, не проблема, а причина дискомфорту від усвідомлення цього, полягає не в тому, що граф такий, який він є, а в тому, що тебе туди помістили "автоматично" і що якісь соціальні сили, які ти не дуже контролюєш і навіть які ти не усвідомлюєш, керують твоїм положенням в ньому.
In a way, це також певний удар по відчуттю власної індивідуальності: хочеш - не хочеш, але ти, в певному сенсі, один з них. В одному й тому самому кластері людей, які взаємодіють один з одним, приймають участь в проектах один одного, спілкуються зі знайомими один одного, зустрічаються один з одним і в тій чи іншій формі - чомусь - з'являються перед очима один одного то тут, то там. Це також, in a way, удар по відчуттю власної незалежності - ніби реальність сама знаходить тобі соціальне місце, з яким ти особливо не можеш нічого поробити.
Думаю, я драматизую трохи зараз, але щось в цьому є. Земля маленька, вузька і кругла. І в соціальному просторі є певні "домени атракції", які працюють доволі універсально і доволі без свідомих зусиль чи мотивів людей.
Ніби ти є частиною певного соціального графу, і реальність сама помістила тебе туди, не питаючи тебе, і тримає тебе в ньому.
Це... не поганий граф, і насправді, я б хотів лише більше взаємодіяти з багатьма людьми в ньому, хоча я б збрехав, якби сказав що там нема людей, про існування яких я б радше не знав.
Проблема, вірніше, не проблема, а причина дискомфорту від усвідомлення цього, полягає не в тому, що граф такий, який він є, а в тому, що тебе туди помістили "автоматично" і що якісь соціальні сили, які ти не дуже контролюєш і навіть які ти не усвідомлюєш, керують твоїм положенням в ньому.
In a way, це також певний удар по відчуттю власної індивідуальності: хочеш - не хочеш, але ти, в певному сенсі, один з них. В одному й тому самому кластері людей, які взаємодіють один з одним, приймають участь в проектах один одного, спілкуються зі знайомими один одного, зустрічаються один з одним і в тій чи іншій формі - чомусь - з'являються перед очима один одного то тут, то там. Це також, in a way, удар по відчуттю власної незалежності - ніби реальність сама знаходить тобі соціальне місце, з яким ти особливо не можеш нічого поробити.
Думаю, я драматизую трохи зараз, але щось в цьому є. Земля маленька, вузька і кругла. І в соціальному просторі є певні "домени атракції", які працюють доволі універсально і доволі без свідомих зусиль чи мотивів людей.
💊13❤2🤔1
Я прийняв наступне рішення:
Я зосереджуюсь в Homo Technicus на публікації речей, які я вважаю цікавими, корисними і релевантними для широкої аудиторії. Тобто, тут все буде як в було, приблизно: ШІ, наука, технології, самовдосконалення, поради, просто цікаві речі, коментарі якихось важливих речей.
Але мені потрібно якесь місце, де я можу сублімувати екзистенційні переживання, публікувати коряву творчість, періодично нити і просто писати якісь рандомні думки, які не заслуговують на те, щоб ділитися з ними на широкий загал, але все ж таки хочеться ними поділитися. Для цього я буду використовувати свій старий канал https://www.tg-me.com/ihor_theory.
Мені там не потрібна аудиторія як така, скоріше друзі, які хочуть мене підтримати, і я не буду якось поширювати той канал більше. Але мені хотілося, щоб там були якісь люди, які можуть мене почути. Тому, для більшості з вас - просто disregard this message. Але якщо ви вважаєте мене дуже своїм другом, або я вам просто дуже цікавий, або хочете мене підтримати без якоїсь навіть ефемерної користі для себе, то можете приєднатися до того каналу, але рекомендую робити це лише в цих випадках, бо там не буде нічого цікавого для переважної більшості людей, а може я і взагалі там не буду публікувати, подивимось.
Я зосереджуюсь в Homo Technicus на публікації речей, які я вважаю цікавими, корисними і релевантними для широкої аудиторії. Тобто, тут все буде як в було, приблизно: ШІ, наука, технології, самовдосконалення, поради, просто цікаві речі, коментарі якихось важливих речей.
Але мені потрібно якесь місце, де я можу сублімувати екзистенційні переживання, публікувати коряву творчість, періодично нити і просто писати якісь рандомні думки, які не заслуговують на те, щоб ділитися з ними на широкий загал, але все ж таки хочеться ними поділитися. Для цього я буду використовувати свій старий канал https://www.tg-me.com/ihor_theory.
Мені там не потрібна аудиторія як така, скоріше друзі, які хочуть мене підтримати, і я не буду якось поширювати той канал більше. Але мені хотілося, щоб там були якісь люди, які можуть мене почути. Тому, для більшості з вас - просто disregard this message. Але якщо ви вважаєте мене дуже своїм другом, або я вам просто дуже цікавий, або хочете мене підтримати без якоїсь навіть ефемерної користі для себе, то можете приєднатися до того каналу, але рекомендую робити це лише в цих випадках, бо там не буде нічого цікавого для переважної більшості людей, а може я і взагалі там не буду публікувати, подивимось.