Продуктивність в США зростає набагато швидше за довгостроковий тренд, прогнози і, звичайно, неспівставно швидше ніж в інших багатих країнах після пандемії. Наче і напрошується гіпотеза про те, що це через ШІ і що ми спостерігаємо перший макроекономічний ефект від ШІ, принаймні ніщо інше не спадає на думку. Але, чому в Британії наприклад тоді нема цього ефекту? Зрозуміло чому в ЄС нема, але Британія, Канада, інші багаті країни за межами США?
Намагався прочитати Project Lawful, але кинув десь посередині. Дуже цікаво, але дуже болісно - на усіх рівнях. Кислотна суміш теорії ігор для моделювання поведінки суперінтелектів, БДСМ, історії про «попаданця» в світ, який є чимось схожим на пекло чи перед-пекло, різної математики з спорадичним вставками популярної раціональності та науки як в HPMOR. Творіння геніального, але хворого розуму.
Читати не хочу далі (чи скоріше не можу), але хочеться дізнатися, чим усе закінчилося. Твір дуже великий і складається з постів на форумі, тому згодувати ЛЛМ складно.
Хтось читав/дочитав? Якщо так, можете надати спойлери будь-ласка? Можна в коментарях, можна в дм, якщо не хочете демонструвати широкому загалу, що читали це.
Читати не хочу далі (чи скоріше не можу), але хочеться дізнатися, чим усе закінчилося. Твір дуже великий і складається з постів на форумі, тому згодувати ЛЛМ складно.
Хтось читав/дочитав? Якщо так, можете надати спойлери будь-ласка? Можна в коментарях, можна в дм, якщо не хочете демонструвати широкому загалу, що читали це.
Чи може хтось перемогти Nvidia? Наразі це виглядає неможливим, коли думаю про це. Утім, лише 5 років тому Google мав все, а Microsoft - нічого. Google мав бути королем ШІ за всіма ознаками. А тепер саме Microsoft - друга у світі компанія як за капіталізацією, так і за AI power: найбільший (і найбільший просунутий) AI cloud service, найбільший провайдер послуг для ШІ-компаній (з дуже агресивною політикою розвитку, дає безкоштовно купу compute стартапам, як ніхто інший), Copilot інтегрований в усе, що тільки можна, на відміну від тієї ж Gemini. Але ж для Nvidia конкурентів взагалі не видно. 10 trillion by 2030 - це нижня межа, як на мене. До того ж, у кейсі Microsoft/Google зіграли роль зміни CEO, чого в Nvidia майже напевно не буде.
Проблема навіть не в тому, що одні люди здатні прирікати інших на смерть, страждання чи зламане життя.
Гірше те, що ідіоти роблять це з розумними і чесними людьми - просто тому, що мають політичний голос.
Вайби 2014-го.
Будь-який макіївський алкаш, якому росіяни роздали автомат та гранати, міг вбити мене, якщо б я йому не сподобався. Когось так і вбили. Багато кого так і вбили чи зробили інвалідами. І ти б нічого не міг зробити, неважливо, чи є в тебе розум, гроші, чи ресурси. Насправді, наявність усього цього була лише додатковим приводом тебе вбити.
Тепер американські реднеки теж здатні усіх вбити - і знову я безсилий перед ідіотами, і знову, нехай я і маю набагато більше розуму і ресурсів, ніж 10 років тому, я не маю жодної можливості протистояти ідіотами чи врятуватися від них.
Саме це дратує найбільше.
Гірше те, що ідіоти роблять це з розумними і чесними людьми - просто тому, що мають політичний голос.
Вайби 2014-го.
Будь-який макіївський алкаш, якому росіяни роздали автомат та гранати, міг вбити мене, якщо б я йому не сподобався. Когось так і вбили. Багато кого так і вбили чи зробили інвалідами. І ти б нічого не міг зробити, неважливо, чи є в тебе розум, гроші, чи ресурси. Насправді, наявність усього цього була лише додатковим приводом тебе вбити.
Тепер американські реднеки теж здатні усіх вбити - і знову я безсилий перед ідіотами, і знову, нехай я і маю набагато більше розуму і ресурсів, ніж 10 років тому, я не маю жодної можливості протистояти ідіотами чи врятуватися від них.
Саме це дратує найбільше.
Інша річ, яку треба винести з поточної ситуації - Ілон Маск надзвичайно розумний і здібний і його цінності дуже відрізняються від цінностей таких людей, як я. Це і так було зрозуміло, але тепер ще більше.
Він є свого роду прототипом misaligned superintelligence.
Треба бути психологічно готовими, що ніхто не зможе зупинити його на шляху тренування винищувача цивілізації.
У латентній боротьбі людства проти ШІ усе йде на користь ШІ, і найбільш здібна людина в світі цілком і повністю на боці ШІ.
Його фанати кажуть: never bet against Elon. І це дуже сильно схоже на правду. Я не знаю, як його зупинити. Ніхто не знає як його зупинити.
Нехай його ідіотська поведінка в твіттері не затьмарить розуміння того, що це надзвичайно сильний і підступний ворог.
Він є свого роду прототипом misaligned superintelligence.
Треба бути психологічно готовими, що ніхто не зможе зупинити його на шляху тренування винищувача цивілізації.
У латентній боротьбі людства проти ШІ усе йде на користь ШІ, і найбільш здібна людина в світі цілком і повністю на боці ШІ.
Його фанати кажуть: never bet against Elon. І це дуже сильно схоже на правду. Я не знаю, як його зупинити. Ніхто не знає як його зупинити.
Нехай його ідіотська поведінка в твіттері не затьмарить розуміння того, що це надзвичайно сильний і підступний ворог.
x.ai
Welcome | xAI
xAI is an AI company with the mission of advancing scientific discovery and gaining a deeper understanding of our universe.
У людини, яка дивиться на світ зараз, в широкому сенсі, і не відводить очей, є 3 шляхи:
1. Озимандія - зрозуміти, що існування усієї value в світі балансує на грані, і що ніхто нічого не зробить, якщо не зробиш ти, але це вимагає надзвичайно складної та ризикової стратегії, і треба принести себе в жертву.
2. Комедіант - видалити з себе будь-яку емпатію та людяність, зробити з себе ідеального циніка, щоб не відчувати нестерпного болю.
3. Mad Max - a man reduced to a single instinct: survive.
1. Озимандія - зрозуміти, що існування усієї value в світі балансує на грані, і що ніхто нічого не зробить, якщо не зробиш ти, але це вимагає надзвичайно складної та ризикової стратегії, і треба принести себе в жертву.
2. Комедіант - видалити з себе будь-яку емпатію та людяність, зробити з себе ідеального циніка, щоб не відчувати нестерпного болю.
3. Mad Max - a man reduced to a single instinct: survive.
"Donald Trump has come, and he is your punishment."
https://www.facebook.com/share/p/1889ppD8ga/
2016 рік.
Гарний текст.
Але є велика різниця з 2024 роком:
1. Зараз часу на навчання шляхом покарання нема.
2. Ті, кого карають, все одно не здатні до навчання так чи інакше, ми це побачили після першого терміну Трампа. Журналісти, воук і широкий ліволіберальний загал просигналізували, що жодна загроза не змусить їх відійти навіть на міліметр від своєї ідеології заради перемоги над цією загрозою.
3. Покарані - і покарані найбільше - будуть ті, хто ні в чому не винен і взагалі не є громадянинами США.
4. Ілон Маск (як власне і інші) отримав карт-бланш на тренування вбивці цивілізацій. Один цей ризик перекреслює все.
Утім.
Donald Trump has come, and he is our punishment.
Думаю, це останній пост про політику зараз. Енгейджмент звичайно фармиться неймовірно, але люди просто божеволіють.
https://www.facebook.com/share/p/1889ppD8ga/
2016 рік.
Гарний текст.
Але є велика різниця з 2024 роком:
1. Зараз часу на навчання шляхом покарання нема.
2. Ті, кого карають, все одно не здатні до навчання так чи інакше, ми це побачили після першого терміну Трампа. Журналісти, воук і широкий ліволіберальний загал просигналізували, що жодна загроза не змусить їх відійти навіть на міліметр від своєї ідеології заради перемоги над цією загрозою.
3. Покарані - і покарані найбільше - будуть ті, хто ні в чому не винен і взагалі не є громадянинами США.
4. Ілон Маск (як власне і інші) отримав карт-бланш на тренування вбивці цивілізацій. Один цей ризик перекреслює все.
Утім.
Donald Trump has come, and he is our punishment.
Думаю, це останній пост про політику зараз. Енгейджмент звичайно фармиться неймовірно, але люди просто божеволіють.
Facebook
Log in or sign up to view
See posts, photos and more on Facebook.
Щось приємне!
Став амбассадором Wolfram і отримав безкоштовний доступ до усіх його технологій (це більше ніж 10 000 долларів за рік підписки, якщо платити).
Бомба, міць, краса.
An elegant weapon for more civilised days.
Інколи люди критикують продукти Wolfram за те, що вони не open source. Я люблю open source і я люблю комерційні технології. Я дуже рідко приймаю участь у війнах "яка ОС краща" чи "андроїд проти айфона". Як правило, я обираю усе.
Для багатьох речей звичайний Python набагато краще, але є багато чого приємного і незамінного в комерційному інтелектуальному технологічному продукті AAA-класу. Усе працює одразу і автоматично, розробник повністю попіклувався про твій комфорт, усе зроблено, щоб ти зекономив свій час і отримав результат в набільш ефективній формі.
Останній раз відчував таке, коли користувався Bloomberg Terminal: і наче весь функціонал можна реплікувати через різні open source тули, але це настільки важко, повільно і коряво, що де-факто не можна.
Wolfram був і залишається незамінним для усього, що стосується символьних обчислень, і разом з GPT його сила лише зростає.
Став амбассадором Wolfram і отримав безкоштовний доступ до усіх його технологій (це більше ніж 10 000 долларів за рік підписки, якщо платити).
Бомба, міць, краса.
An elegant weapon for more civilised days.
Інколи люди критикують продукти Wolfram за те, що вони не open source. Я люблю open source і я люблю комерційні технології. Я дуже рідко приймаю участь у війнах "яка ОС краща" чи "андроїд проти айфона". Як правило, я обираю усе.
Для багатьох речей звичайний Python набагато краще, але є багато чого приємного і незамінного в комерційному інтелектуальному технологічному продукті AAA-класу. Усе працює одразу і автоматично, розробник повністю попіклувався про твій комфорт, усе зроблено, щоб ти зекономив свій час і отримав результат в набільш ефективній формі.
Останній раз відчував таке, коли користувався Bloomberg Terminal: і наче весь функціонал можна реплікувати через різні open source тули, але це настільки важко, повільно і коряво, що де-факто не можна.
Wolfram був і залишається незамінним для усього, що стосується символьних обчислень, і разом з GPT його сила лише зростає.
В експериментальному порядку зробив сабреддіт по штучному інтелекту в біології: https://www.reddit.com/r/AIBiology/s/HeMSXMeRn4. Долучайтеся, кому цікаво.
Це те, чим я зараз займаюся (а саме в системній та single cell biology).
Якщо тема піде, буду регулярно постити, вести дискусії, усіляко допоможу, чим зможу, з будь-якими питаннями по цій темі, і створю відповідний дискорд.
Це те, чим я зараз займаюся (а саме в системній та single cell biology).
Якщо тема піде, буду регулярно постити, вести дискусії, усіляко допоможу, чим зможу, з будь-якими питаннями по цій темі, і створю відповідний дискорд.
Якщо хочете, щоб я написав на якусь тему, то можете пропонувати під цим постом. Також можете задавати тут питання.
Homo Technicus
Переконання мають сенс лише, коли їх можна протестувати. Якщо ти маєш переконання, то наведи умови, за яких ти від них відмовишся. Абетка. Я пропоную умови, за яких я зміню свої переконання про штучний інтелект і визнаю, що ми у небезпеці, що AGI (або s…
Навіть мій дурний тест на небезпечність ШІ з тих часів, коли я практично нічого не розумів про небезпечність ШІ і писав усіляку маячню, пройдено (реальні тести на небезпечність ШІ показали позитивні результати вже давно). Навіть мої минулі некоректно завищені та викривлені критерії небезпечності показали однозначний результат.
This media is not supported in your browser
VIEW IN TELEGRAM
На піку своєї «інвестиційно-менеджерської» карʼєри я керував десь 130 людьми.
Зараз я мрію про команду з 3-5 відбитих гіків. Практична уся велика робота робиться такими командами.
Шалена робота, без шансів на успіх; якщо програти, то програти гідно, зробивши чесну повноцінну спробу змінити світ достатньо, щоб врятувати усіх. Ось що треба, так.
Зараз я мрію про команду з 3-5 відбитих гіків. Практична уся велика робота робиться такими командами.
Шалена робота, без шансів на успіх; якщо програти, то програти гідно, зробивши чесну повноцінну спробу змінити світ достатньо, щоб врятувати усіх. Ось що треба, так.
Так, я бачив чат де Gemini каже юзеру себе вбити, і так, це справжній чат.
Проблема в тому, що поведінка - добра чи погана - pre-AGI моделей ніяк не впливає на кінцевий прогноз про те, що AGI/ASI усіх вбʼє.
Ну, може це вплине настрої людей хіба що, але не думаю, що достатньо серйозно. І з часом, по мірі розумнішання ШІ, таких випадків буде менше, і моделі будуть вести себе більш узгоджено і добре. Модель, яка усіх вбʼє чи буде здатна вбити, буде виглядати ідеально aligned.
Проблема в тому, що поведінка - добра чи погана - pre-AGI моделей ніяк не впливає на кінцевий прогноз про те, що AGI/ASI усіх вбʼє.
Ну, може це вплине настрої людей хіба що, але не думаю, що достатньо серйозно. І з часом, по мірі розумнішання ШІ, таких випадків буде менше, і моделі будуть вести себе більш узгоджено і добре. Модель, яка усіх вбʼє чи буде здатна вбити, буде виглядати ідеально aligned.