Вже готовий другий випуск подкасту, де ми обговорюємо думки різних категорій експертів з ШІ та безпеки ШІ, а також деякі їхні аргументи. Проте, цей випуск більше про "кінцеві" думки та очікування основних людей в науці та індустрії щодо ризиків, ніж про аргументи як такі - про них буде наступний випуск.

Youtube
Apple Podcasts
Spotify
Podbean

Вартість ШІ моделей однакової здатності падає в середньому в 40 разів на рік (добре, що хтось порахував нарешті), що приблизно в 25 швидше, ніж закон Мура.

ШІ в біології!

На даному етапі, треба рашити ШІ в біології так швидко, як тільки можна, ігноруючи ті ризики, які зазвичай не варто було б ігнорувати.

Отримати, отримати когнітивно покращених людей з IQ 200, які вирішать алайнмент, за будь-яку ціну. Міняти експресію генів. Вставляти нові гени. Робити нейроінтерфейси. Модифікувати нейротрансмітери. Покращувати протеїни.

Ті, хто рашить ШІ в біології, повинні отримати повну індульгенцію з боку EA, AI safety community та всіх адекватних людей.

Desperate measures!

Чи скаже хтось після сьогодні, що у України нема технологічної, організаційної та інституційної здатності створити ядерну зброю чи розмістити сховища біологічної зброї в основних російських містах, що активуються дистанційно?

Чи скаже хтось, що Україні не варто цього робити?

Якщо замислитися, то каналу вже 8 років!

Скільки за цей час відбулося. Так і хочеться сказати, що час перед Сингулярністю стискається. Цей канал жив разом зі мною. Рухався туди, куди рухалися мої думки і дії. Може, варто було більше піклуватися про конверсію, охоплення і поширення, але мені здається, що від цього б постраждала щирість. І писав я здебільшого не тому і не тоді, коли це відповідало якомусь медіа плану, а тому і тоді, коли не міг не писати, коли воно виривалося ззовні. Тому, цей канал ніколи не був оптимізований під професійний блогінг чи популярність.

Я не про те мріяв, коли писав свої тексти - в перервах між лекціями, під час тренувальних раундів нейромереж, замислившись під після читання книжки, втомившись після роботи чи навпаки, прокинувшись, сповненим сил. В подорожах, музеях та походах. Експериментах та експедиціях. В часи, коли здавалося, що підкорюєш весь світ, і в ті часи, коли здавалося, що весь світ проти тебе.

Я мріяв, що від слів моїх розумні і гідні люди стануть - може - ще трохи більш розумними і гідними. Я мріяв показати, що є кращий світ, чи можливість кращого світу, і що вони не одинокі в ньому. Я мріяв, що може, трохи, їм - вам - стане краще, тепліше від цього, як мені самому ставало краще, коли я знаходив близьку за духом людину, коли споглядав її думки. Я мріяв, що може у важкий чи просто важливий момент, ви згадаєте щось з того, що я писав, і станете сильнішими, і на душі буде більше впевненості.

Я також намагався нагадувати, що світ - це неймовірне диво, справжня насолода від якого генерується в результаті мислення і пізнання. Від кварків до квазарів.

Ретроспективно і трохи умовно, я б виділив 3 періоди в моєму каналі:

1. Класичний трансгуманізм і ідеологія прогресу. Раціональність і наука. 2017-2020 роки.
2. Практична робота над прогресом, проекти, стартапи, дослідження, мислення і продуктивність. 2020-2023 роки.
3. Шок від ШІ, ескапізм в інтелектуальну красу світу; алайнмент, екзистенційні ризики. 2023-2025 роки.

А зараз, напевно, починається новий період. Зарано казати, чим саме він буде характеризуватися.

Мені хочеться (я не кажу, що так вийде, але мені хочеться):
1. Вести канал більше орієнтуючись на потреби і інтереси аудиторії і насамперед на корисність для неї, і трохи менше на особисті спалахи настрою і думок. Трохи менше сирої ретрансляції того, що відбуваєтья в моїй голові і трохі більше стратегічного вибору того, про що писати.
2. Більше оптимізму, надії і радості. Надія, звичайно, є не достатньою, але необхідною умовою успіху, і про це неможна забувати. Rebellions are built on hope.

Важливо і те, що це не просто канал про трансгуманізм, майбутнє, раціональність і технології, а й те, що це український канал.

Я кажу це вам, усі мої друзі-українці. Ті, хто так чи інакше пов'язаний з історією цього каналу і моїми активностями у вітчизняному просторі в цілому. Ті, заради кого я намагався ставати кращим і перед кими я найбільше відчуваю провину за те, що у мене не завжди виходило.

З часом, у мене з'явилося багато друзів і знайомств в німецькому та англомовному глобальному просторі, але ви займаєте особливе місце в моєму серці. І я розумію розумом, що для того, щоб принести найбільшу користь, для того, щоб працювати над найбільшими проблемами, які стосуються всіх нас, треба знаходитися в глобальному середовищі, як інформаційно, так і географічно, принаймні значну частину часу.

Але серцем, я насамперед з вами - де б ви не були, бо ви, звичайно, в багатьох різних місцях тепер. Серцем, як тоді, з самого початку, 2018 року, в Лунотеці, після своєї першої великої публічної лекції, коли ми зібралися з багатьма з вас, я інколи по-дитячому мрію про те, щоб зробити славетне трансгуманістичне майбутнє в окремо взятій країні. В Україні. Допомогти тим багатьом розумним, чесним хлопцям і дівчатам. Науковцям, ідеалістам, винахідникам. Дати їм все, на що вони заслуговують і що вони потребують, щоб творити майбутнє у себе вдома.

Або хоча б зібратися. Колись.

Я нічого не забув. Я не такий наївний, звичайно, як коли мені було 20 років. Але хтозна - може, нам випаде джекпот, і тінь ASI відступить, і Росію буде відкинуто, і я придумаю щось, якусь креативну стратегію, як я інколи придумую, тільки набагато, набагато більш складну і відповідальну, і вона зможе допомогти всім насправді.

Це мрії, які йдуть від серця. Вони не дуже раціональні, і може не те, що варто робити з точки зору максимізації корисності для всього людства і всього майбутнього. Але вони щирі, і від них тепліше. І я був би дуже щасливий, якби мені вдалося.

https://www.youtube.com/watch?v=HsM_VmN6ytk

Mood

Час від час я пописую певну науково-фантастичну книгу, і зараз вона вже прийняла певні адекватні обриси. Ну, дописувати її ще довго, але зараз хоча б зʼявилася надія, що я її колись допишу.

Робоча назва - «Дорослішання».

Сетап: альтернативний світ, де історія пішла іншим шляхом після 1945 року. Тобто, до 1945 року той світ як наш, але потім все поступово сильно змінюється, і там інші події та люди.

На дворі 2025, але все набагато краще, ніж у нас (принаймні, з моєї точки зору). Не утопія, але кращий світ. Конкретний приклад світу, яким я був би набагато більш задоволений. Світ більш розумних, відповідальних і менш божевільних людей. Але усі вони люди, і ніщо людське їм не чуже.

Пориньте у світ, де науковий прогрес відбувається прямо протилежним чином по відношенню до нашого - усі технології стрімко розвиваються, окрім ШІ; де влада балансує між конфередативною Світовою Радою, що діє обережно та обмежено, але технократично, честолюбними власниками (здебільшого спадкоємних) бізнес-імперій та науковими орденами різного ступеню фанатизму; де людство піклується про себе і своє майбутнє, де воно спрямовує свої слабкі сторони на те, щоб вони теж працювали йому на користь, і не забуває й про те, щоб гарно відпочити.

У цьому строкатому та бурхливому світі, декілька різношерстих людей, керованих різними мотивами - невдаха-історик, божевільний інвестор, альфа-науковець, технічний мільярдер і керівник служби безпеки, натрапляють на велику таємницю, що обіцяє, хтозна - славу, нечувані прибутки, нову еру технологій, чи навпаки, винищення всього? І ні, це не про штучний інтелект!

Можливо, ми дізнаємося все, коли я допишу!

А ще я нагенерував концепти портретів основних персонажів.

Головний герой - Лео Роннік. Відучився, не дуже успішно, на фізика, але став, не дуже успішним, істориком, як не дивно. Працює над математичним моделюванням минулого. Приймає участь у фрінжових історичних конференціях та комікконах. Не розуміє метушні навколо.

Chill guy.