“Hey, GPT-11, transform the underlying nature of physical reality and all the negentropy in the Universe according to my metapreferences. Do not make mistakes.”

Funy as it is, цей пост в черговий раз наводить на спостереження: нульові та десяті роки знали цілу плеяду великих есеїстів (туди б ще Грехема додати). Людей, чиї ідеї інтелектуальним, а не мемно-гасловим, шляхом впливали на життя та поведінку багатьох з найрозумніших і найважливіших людей планети (хоча навіть тоді в набагто меншому ступені, ніж хотілося б), призводили до заснування компаній, культур, спільнот і ідеологій.

Зараз їх просто нема.

Мені здається, ЛЛМи покращили мою здатність писати кумедним чином: тепер, коли я пишу, я задаю питання - чи могла б ЛЛМ написати це чи щось подібне? І пишу лише те, стосовно чого відповідь "ні".

Я зараз завершую робити свою презентацію про історію TESCREAL-спільнот, хотів поділитися деякими спорадичними думками стосовно свого положення в цьому просторі.

Я все ж таки насамперед вважаю себе трансгуманістом/постгуманістом. Також я вважаю, що екстропіанці були надзвичайно круті, але вважати себе кимось, кого зараз немає, хм? Одночасно - так, я відношу себе до раціоналістів і культури LessWrong, особливо зараз. Тепер відносна сила, популярність та актуальність LessWrong взагалі сильно виросли через ШІ, і всі інші течії сильно відійшли на другий план. Я те, що називається “EA-adjacent” – дружу з ЕА, радий, що є ЕА, приймаю участь в деяких заходах ЕА, але, ну не прямо моє це, і є певні ідеологічні розбіжності.

В цілому, принаймні в поточних умовах, я дуже сильно рекомендую спільноту раціоналістів молодим розумним людям. Ви можете мати свої розбіжності, але правда полягає в тому, що інших спільнот, хоча б мінімально близьких до LessWrong/ACX за якістю інтелектуальної культури, нема. Якби вони були, могла б бути зовсім інша розмова, але їх нема. Альтернатива – це меми, рілс і твіти.

Утім, особисто для мене, є одна річ, яка мені сильно не подобається в культурі раціоналістів. У мене є імунітет до неї, але не у деяких інших людей. Це трохи «делікатна» тема, і вона точно не переважає наявні плюси, але вона є і вона робить свою погану справу, принаймні на вразливих людях (а в LessWrong приходить багато вразливих людей). Я не впевнений, чи варто про це писати, але якщо комусь сильно потрібно, то я напишу. Якщо ні, то краще ні.

І ще одна думка: ці всі відмінності мають значення лише всередині. Для зовнішьного спостерегача це все єдина маса - він навіть EA від E/acc не відрізнить, не кажучи вже про курцвейліанських сингулярітаріанців від вінжеанських. Класифікації і типології можуть бути цікавими як інтелектуальна вправа та як привід подискутувати всередині, але на фоні людства і масової культури це все ефективно одна група.

Ось таку структуру накидав. Що скажете? Є серйозні зауваження (і несерйозні)?

(В коментарях якісніша версія зображення)

Цей аспірант вчора взяв інтервʼю в мене на LWCW. Він задав багато з тих питань, які я обговорюю в тому числі на цьому каналі. В основному, бесіда була про спільноти і ідеї навколо AI safety, бо це є головною темою його дисертації.

Останнім його питанням було: чому світ став таким? Чому світ опинився тут, на твою думку?

Я подумав, у відповідь:

Так. I amar prestar aen.

Момент був ніби режисером створений. Ми сиділи на пірсі, одразу біля води, у озера Ванзее. Недалеко милувалася заходом сонця закохана пара раціоналістів. Навпроти на хвилях ледве хиталися човни та маленькі яхти. Сонце було в хвилинах, а може в десятках секунд від того, щоб зайти. Його промені проходили через далеку вузьку полосу стовбурів дерев на протилежному березі і відбивалися від води. Воно швидко рухалося через ті стовбури, і через це світло ніби трохи мерехтіло. Як завжди чомусь буває в околицях Берліну, в повітрі стояв лагідний і солодкий аромат квітів і трав, в контрасті з металевим присмаком в самому Берліні. На березі люди грали в якісь ігри і сміялися.

Який чудовий світ! Я міг би жити в ньому мільярди років, і радіти, і мені б не набридло.

Чому він прийшов до цього?

Я був в настрої плакати вже від деяких попередніх питань, але я взяв хвилинку, щоб прийти в себе, і потім спокійно сказав приблизно наступне:

Якби ж я знав! Я і сам задаю собі це питання часто. Але, якщо спробувати щось відповісти - я не думаю, що є чи повинна бути конкретна вузька причина, чому світ став таким. Це свого роду ентропійне явище: станів, які ведуть до знищення, просто більше, ніж станів, які ведуть до процвітання. Нема конкретних причин, які б вели світ вузьким шляхом процвітання. Нема оптимізаційного тиску, який би тиснув в цьому напрямку. Напевно, світ став таким, бо не було гарних причин, чому він би став інакшим.

https://music.youtube.com/watch?v=GLdjURq4cFI&si=5HuQDcPZnApAsajo

Зараз буде серія постів про LessWrong Community Weekend.
Саммарі:
1. Для тих, хто був на олімпіадах - це приблизно як всеукраїнська або скоріше міжнародна олімпіада, тільки люди в цілому ще розумніші і дивніші, і нема власне олімпіади, лише соціальна частина.
2. У мене були помірно високі очікування, і вони сильно перевершені. Було надзвичайно гарно, хоча завжди можна зробити щось краще, звичайно.
3. Я пишу це насамперед, бо вважаю, що немалій частині з вас було б цікаво поїхати туди наступного разу.

https://music.youtube.com/watch?v=BciS5krYL80&si=VotAZz4WfM7fWLHg

1. Стара гвардія

На мене, з особистих причин, найбільше враження справило спілкування з першим поколінням дослідників AGI та раціоналістів. Тими, хто бачив сяйво Двох Дерев в дні, коли світ був юним. По-перше, як-то кажуть, це красиво - просто спостерігати за швидкістю та якістю їхнього мислення.

Наприклад, на мою лекцію по біологічній аугментації інтелекту людей прийшов друг Юдковського і давній співробітник MIRI. Ми довго спілкувалися з ним, і те що він сказав, було надзвичайно важливим для мене.

А на лекцію про історію трансгуманізму прийшов колишній друг Роко, який придумав той самий базиліск Роко, часів навчання в Кембриджі. Він знає дуже багато лору раціоналістів і був в центрі процесу в Нью-Йорку та Каліфорнії в нульових.

Окрім спілкування по суті, для мене була важлива "філософська" складова: послухати про їхній досвід, помилки, переконання; показати, що у них є наступники - може не такі екстраординарні, як вони, але є; і показати собі, що поруч з їх величчю, мені не буде про що соромитися.

2. Схожі люди і різноманітність

People are sparce in people-space - це я зрозумів дуже давно. Людей у світі банально дуже мало, щоб заповнити простір можливих людей. І тому майже нема людей, схожих на тебе. Утім, інколи трапляються вийнятки, і LWCW - одне з дуже небагатьох місць, де вони трапилися для мене. Ніде більше я не міг, спілкуюючись з людиною усього 20 хвилин, усвідомити, що, навіть якщо залишити поза увагою такі тривіальні перетини, як трансгуманізм, когнітивні науки і алайнмент, ви обидва:
- працюєте над ШІ для single cell;
- маєте досвід одночасно в фінансах, VC, та біоінформатиці;
- маєте серед іншого освіту в біології та computer science;
- робили SPVs;
- цікавитеся теоріями Вольфрама, але не є фанатами Вольфрама;
- волонтерили для longevity;
- автоматично розпізнаєте картини Ешера;
- здатні підтримати розмову про дослідження Майкла Левіна;
- маєте одні й ті самі погляди про феномен та науку "емерджентності".

При цьому, якщо брати в цілому, люди дуже різноманітні. Єдине, що об'єднує майже всіх - це хоча б мінімальна дотичність до програмування та комп'ютерних наук, але це напевно можна сказати про будь-яку тусовку розумних людей зараз.

3. Багато трансгуманістів і біохакерів

Хоча формально тусовка присвячена раціоналізму, але, як я і сподівався, було доволі багато класичних трансгуманістів і біохакерів в сенсі Брайана Джонсона, хоча і не зустрів біохакерів в сенсі Джозі Зейнер. Було приємно пообмінюватися стеками добавок та рутин, конструктивно покритикувати стеки один одного і обговорити що там нового в longevity та кріоніці, хоча зараз я витрачаю на це набагато менше уваги. Дізнався про нову цікаву книжку - The Future Loves You. В черговий раз мене заохочували жерти метилфенідад, в тому числі дипломовані психіатри, але якось я все сумніваюся.

Багато сесій були присвячені трансгуманістичним темам безпосередньо, і трансгуманісти успішно сформували свою свій осередок всередині івенту.

4. Дуже багато дуже розумних людей в цілому

Ну, тут все стандартно: вундеркінди, 25-річні постдоки, народ з Оксфордів-Кембріджів, фаундери, винахідники.

5. Але є і багато просто нердів та диваків

Якщо у вас синдром самозванця, то не варто переживати, що вам тут не місце. Організатори - цілком правильно - вважають, що різноманіття і відкритість відіграють дуже позитивну роль. Кожен може бути дивним на LWCW по-своєму, і кожен знайде тих, з ким він може бути дивним. Також, якщо у вас якісь психічні розлади, соціофобія, аутизм чи проблеми з комунікацією, ви майже напевно чудово проведете час все одно. Я запевняю, що всі будуть ставитися до вас дуже гарно, акуратно та емпатично.

На Статуї Свободи написані чудові слова:
"Give me your tired, your poor,
Your huddled masses yearning to breathe free,
The wretched refuse of your teeming shore.
Send these, the homeless, tempest-tost to me,
I lift my lamp beside the golden door!"

До цього напевно варто додати, що підтримується гарний баланс між складністю та характером сесій: є хардкорні сесії про алайнмент та термоядерний синтез, є змагання у надскладних модифікаціях шахів, але також є сеанси ігор в Dungeons and Dragons, покер, мафію чи фехтування на світлових мечах.

6. Адекватне ставлення до російсько-української війни

Адекватність у сприйнятті російсько-української війни взагалі часто слугує для мене мірилом адекватності спільнот. На жаль, багато хто з європейців досі має цілком наївні чи банально фактологично некоректні погляди щодо України та Росії. Я не особливо очікував якогось вищого рівня усвідомленості на LWCW, тим більше враховуючи той факт, що люди там зазвичай більш м'які, миролюбні і далекі від політики, ніж в середньому, але був приємно здивований. Було 2 сесії про Україну, і в цілому всі погодилися, що єдиним гарним сценарієм є радикально більш інтенсивне озброєння України майже будь-якими методами і знищення Росії у її сучасній формі. Я розумію, що для вас це звучить очевидно, але врахуйте, що для багатьох іноземців це, на жаль, досі не очевидно. І ще - в черговий раз, я переконався в тому, як же чудово, коли люди слухають твій аргумент і сприймають його як привід змінити свою думку, а не захистити свою минулу позицію! Це відбувається надзвичайно рідко в звичайному житті, але серед раціоналістів це відбувається постійно. Чесно кажучи, я не зустрічав такого рівня геополітичної усвідомленості та адекватності ніде за межами українських спільнот. Люди майже не мали хибних переконань, а там, де мали, вони охоче відмовлялися. Ті, хто мав "компромісну" позицію до 2022 року та підтримував перемовини з Росією та роззброєння в Європі, казали, що їм соромно за це.

7. Звичайно, дуже багато AI safety

Тут нічого не поробиш, такі часи. Усі тусовки раціоналістів, трансгуманістів, ефективних альтруїстів та будь-яких схожих "істів" зараз дуже сильно про AI safety. Хвиля Сингулярності насувається і підіймає все перед собою. Більше половини учасників так чи інакше працюють в AI safety. Але варто зазначити, що більша частина людей і так вже наслухалися про алайнмент і навпаки хочуть поговорити про щось інше. Тому, не варто боятися, що вас змусять говорити про це чи слухати. Скоріше навпаки - вам буде складно змусити дослідника алайнменту говорити про свої роботи, бо він приїхав сюди відпочити від них.

До речі, було декілька людей і з AI capabilities, і ніхто їх не бив і не відсажувався від них на лекціях чи в кафетерії.

А що щодо мінусів? Особисто для себе, я знайшов 2 мінуси, але вони реально маленькі.

1. Непрохана полігамія та поліаморія

У мене заздалегідь були сильні негативні очікування щодо цього - з наступних причин:

По-перше, уся спільнота затоки носиться с т.зв. "Аеллою" як дурень зі ступою, і я досі не розумію цього приколу взагалі. По-друге, враховуючи те, з яким завзяттям деякі люди в спільноті розповідають про власне поліаморне сексуальне життя і намагаються переконати інших робити те ж саме, не питаючи дозволу, не роблячи дисклеймерів чи попереджень, не поцікавившись, чи хочеться співбеседніку слухати про це та чи не буде його від цього фізично нудити, я очікував схожих проблем на LWCW. І проблеми були, але суттєво менші, ніж я очікував.

Дійсно, певна частка людей постійно розмовляють про поліаморію і секс, в тому числі під час ланчу, і мені це не подобається. Але багато кого це теж дратує - тобто якщо вас теж це дратує, ви там явно будете не одні і навіть напевно не в меншості. Здається, вся тема з поліаморією більш поширена в старшого покоління однак.

Але ніхто не намагався завербувати мене в жодну оргію чи policule, і навіть розмови про оргії за їжею припинялися, коли я вічливо просив, хоча це і викликало пару ворожих поглядів.

2. Трохи дух хіппі

Багато якоїсь психології - медитації, spirituality, менеджмент емоцій, колективні обійми, а також танців і співів. Це звичайно не погана річ як така, просто мені це не цікаво і виглядає для мене як вклинювання іншої групи в мою групу.

Але я ще раз кажу - це мінуси особисто для мене. Для когось це можуть бути плюси!

Загальний вердикт: все вийшло набагато краще, ніж очікувалося, при тому що очікувалося немало! Ще раз - дуже рекомендую!

Я в черговий раз задаюся питанням: чому не давати солдатам, хоча б на першій лінії, пігулки з ціанідом? Це не може бути дорого. Чому нема якогось руху за це, петиції тощо? Чи може є? Чи може я щось упускаю фундаментально?

https://kyivindependent.com/the-shocking-toll-of-russian-captivity-on-ukrainian-prisoners-of-war/?fbclid=IwdGRjcAMk3lpleHRuA2FlbQIxMQABHh8ZaK0KpF8p40WdIAm1B83BIbj5Tq9UFIp2qxT8XNHDVjyhM-p9IjHW500h_aem_EKdevPKKE6BEMYsj7GSsnA

Моя презентація про аугментацію інтелекту людей, кому цікаво.

І про історію трансгуманістичних спільнот, трохи недороблена.