Landon: Now, my job dictates that I must have my men enter your home and conduct a thorough search before I can officially cross your family's name off my list. And if there are any irregularities to be found, rest assured they will be…
That is unless you have something to tell me that makes the conducting of a search unnecessary. I might add, also, that any information that makes the performance of my duty easier will not be met with punishment. Actually, quite the contrary. It will be met with reward. And that reward will be, your family will cease to be harassed in any way by the ESS during the rest of the Alignment Theory Development Period.
You're assisting the developers of existential threats to humanity, are you not?

Padit: Yes.

Landon: You're assisting them by giving them unauthorized access to your GPUs, aren't you?

Padit: Yes.

Landon: You communicate with them using Chinese VPNs and servers beyond the Great Firewall?

Padit: Yes.

Landon: Point out to me their IP addresses.

Landon, via phone: lieutenant, I am transferring the coordinates, engage the nearest F-35 squadron and exterminate.

Дуже гарна ініціатива від моїх дуже гарних друзів і найкращий освітній івент з біоінформатики в Україні.

Bідбір на третю літню школу з біоінформатики в Ужгороді - Ukrainian Biological Data Science Summer School (UBDS^3) 2025 відкрито!

Школа пройде з 19 липня по 2 серпня 2025 року та включатиме курси і наукові проекти з аналізу даних з різноманітних галузей біології: оміки, структурної біології, імунології, еволюційної генетики, протистології, обчислювальної екологіі та інших.

Школа повністю двомовна: англійська + українська.

Участь є повністю безкоштовною - заявку можна подати до 25 квітня 2025 року за посиланням: https://forms.gle/ALQgibAkWpgHan2NA

Запрошені викладачі, попередня програма і більше деталей на сайті https://www.bds3.org/

CEO майже усіх стартапів по ШІ-редагуванню зображень зараз.

https://openai.com/index/introducing-4o-image-generation/

Майже будь-яке висловлювання, яке я бачу в інтернеті, в якому згадується теорема Геделя, є кричущо неправильним. Цікаво, чи справедливе це твердження для самого себе.

Раніше, я міг би сказати: руїнами американського фондового ринку задоволений. Ви хотіли - тепер жеріть! Раніше, я б радів ниттю tech bros та мільярдерів, які поставили на Трампа, а тепер ниють - “произошла чудовищная ошибка».

Але тепер я вважаю, що злорадство - це невелика винагорода за усе зло та страждання, що відбувається та відбудеться. Супутня шкода невинним від «помсти» виновникам не вартує того. Нема сенсу радіти тому, що корабель з купою невинних людей тоне - навіть якщо при цьому втопиться декілька шахраїв та ідіотів, що навели його на айсберг.

Речі, які варто робити лише в умовах крайньої необхідності:
- відвідувати ОАЕ;
- казати слова thrilled, excited та navigate;
- надягати краватку;
- повідомляти, скільки країн ти відвідав;
- повідомляти, що тобі подобається «саморозвиток»;
- починати першим розмову про криптовалюти.

До речі, ставка урядів на штучний суперінтелект як актив національної безпеки в принципі не може спрацювати.

Навіть якщо спільнота AI alignment помиляється і суперінтелект буде виконувати накази людей, уряди все одно не отримають суперінтелект. Ані Альтман, ані Амодеї, ані Сатскевер, ані будь-який інший реалістичний кандидат на особу, що буде приймати перше рішення про доступ до суперінтелекту, не передасть доступ до нього уряду (і в принципі, правильно зробить).

Я нарешті сів за Claude 3.7. Це неймовірно, просто неймовірно (для програмування). Відчуваю себе так: https://www.youtube.com/watch?v=_UCSZz3U7qU

Нещодавно опублікований AI 2027 є, напевно, найбільш ґрунтовною спробою прогнозування ШІ на сьогодні.

Він дає медіанну оцінку появи штучного суперінтелекту на, передбачувано, 2027 рік.

В цілому, усі оцінки конвергують в діапазон 2027-2030, як я вже писав.

Варто зазначити, що один з головних авторів репорту - Кокотажло, людина, відома своїм старим прогнозом на роки до 2026, який майже повністю збувся, а також тим, що відмовилася від багатомільйонних опціонів OpenAI, щоб не підписувати угоду про нерозголошення і говорити вільно.

https://ai-2027.com/

Нарешті можу сказати: ми з другом будемо запускати подкаст про екзистенційні ризики штучного інтелекту українською!

По контенту, декілька перших випусків готові, зараз ми думаємо про те, як зробити гарне розповсюдження на старті. Тому, звертаюся за допомогою до підписників.

Цікавлять поради, ідеї та конкретні пропозиції, де ми можемо поширити оголошення про подкаст. Це можуть бути інші подкасти, блоги, телеграм канали, чи медіа - звичайно бажано такі, що мають релевантну аудиторію та що потенційно зацікавлені в темі. Якщо у когось є загальний досвід чи знання, які можуть стати у нагоді в розповсюдженні, теж чудово!

Проблема, звичайно, не тільки в фондових ринках.

Памʼятаю, як під час/після виборів прихильники Трампа казали: він же був вже президентом, чому тепер буде гірше?

Як, Донні вам вже нормально пояснив, чому? Чи ще аргументів не вистачає? Нічого, він навіть найбільш тугих переконає.

Економічна рецесія через велетенські тарифи по всьому світу, ядерна проліферація (і може проліферація чого погірше) через America first в обороні, скажений російський агент-конспіролог на чолі американської розвитки, руйнування усіх американських інституцій, шалена гонитва за суперінтелектом разом з Китаєм - ladies and gentlemen, start your engines!

Минулого терміну Трамп зробив помилку (відносно своїх цілей) - оточив себе здебільшого компетентними професіоналами, які не давали йому робити божевільні речі. Тепер він цю помилку виправив.

Послухав подкаст з Адамом Брауном: https://youtu.be/XhB3qH_TFds?si=jFT6rXOMox5mI7Oz

До цього, взагалі не знав і навіть не чув про цю людину, але він моментально потрапляє в мій топ людей за адекватністю мислення. Не памʼятаю, коли я в останній раз відчував настільки сильну ідеологічну, епістемологічну та можна навіть сказати духовну близькість.

В моєму досвіді, подія «ти слухаєш людину більше двох годин, коли вона говорить на теми, складніші за побутові, і вона жодного разу не сказала річ, яка здається insane» відбувається рідко. Надзвичайно рідко. Майже не відбувається. Це саме той випадок, коли відбулася.

Ти слухаєш і думаєш: «Так. Правильно. Очевидно. Я не один такий. Фух».

- We are AI safety researchers.
- What kind of AI safety researchers?

(Жарт про взаємовідносини спільнот AI alignment та AI ethics)

Стосовно другого закону термодинаміки.

Ейнштейн колись задав питання: чи був у Бога вибір, коли він створював Всесвіт?

На мій погляд, вибір у нього точно був. Закони фізики в принципі можна варіювати - від цього не виникає протиріч, якщо закони дійсно фундаментальні. Це логічно можливо.

Але у Бога не було вибору, коли він створював закони математики. Вони просто є. Можна уявити собі світ з іншими константами Стандартної моделі, але неможна уявити світу з іншим числом пі. Нікому не під силу створити такий світ, навіть Богу, якби він існував.

І другий закон термодинаміки, для мене, знаходиться в сірій зоні між законами фізики та математики - єдиний в своєму роді. Я не можу уявити собі, як в принципі може існувати світ без другого закону. І тим не менш, цей закон називається законом фізики.

Ще Еддінгтон, давним-давно сказав:

“If your theory is found to be against the Second Law of Thermodynamics I can give you no hope; there is nothing for it but to collapse in deepest humiliation.”

Другий закон термодинаміки вважається законом фізики. Але як бачу його я, він виглядає як логічно неминучий факт про будь-яку систему, а не про нашу випадкову реальність. Чи ні? Точно я не знаю.

Чи був у Бога вибір, коли він писав другий закон термодинаміки?

“Create an image of a WW2-style memorial monument dedicated to AI alignment researchers who went crazy under stress and complexity”.

До речі, поцікавтеся, який application form зробили для подачі на роботу в Safe Superintelligence. Навіть повний доступ до будь-яких cheating-інструментів і будь-які можливості як завгодно прикрасити резюме не допоможуть відповісти на ті питання, якщо ти не геній. Дуже, дуже якісно зробили.

https://jobs.ashbyhq.com/ssi/b91659e4-9352-46fa-b3c5-4fb28827eb2e

“Парадокс Курцвейла” (назвемо це так): історія прогресу в ШІ виглядає так, що він дуже залежав від алгоритмічних інновацій, і без них ми б не були і близько до поточної траекторії. Але найбільш правильними виявилися ті минулі прогнози, які повністю ігнорували алгоритмічній прогрес і покладалися виключно на елементарну екстраполяцію прогресу в обчислювальних потужностях.