Знаю, что среди моих подписчиков много экспертов по ИИ и много тех, кто интересуется безопасностью ИИ. На днях мне написал мой товарищ, который сейчас помогает стипендиальной программе Impact Academy отбирать стипендиатов из этой сферы.
Делюсь информацией ниже. Это не реклама — просто я уверен, что кому-то из вас точно будет релевантно. Стипендия — около 5 тысяч долларов в месяц, плюс программа в Сингапуре/США/Англии и много других плюшек.
Стипендиальная программа Impact Academy для технических исследователей безопасности ИИ
Привет! Ищу амбициозных и талантливых людей в области ML/AI для участия в стипендиальной программе Impact Academy по безопасности ИИ. Это шанс проводить исследования и работать с лидерами индустрии — и получить от них приглашения в топовые AI safety лабы и проекты (например, Center for Human-Compatible Artificial Intelligence, FAR AI и Mila AI Institute)
Что вас ждет?
• Оффлайн программа (3-6 месяцев с марта) в Сингапуре, Англии или США.
• Исследования и коучинг в сфере AI safety.
• Стипендия ~$5000/мес.
• Перспектива работы в ведущих AI-проектах.
Кого ищут?
• Отличный английский и опыт в ML/DL (публикации, стажировки, проекты).
• Программирование на уровне ведущей техкомпании с опытом более года.
• Достижения: национальные / международные олимпиады или учеба на топовых ML кафедрах.
• Интерес к снижению рисков от продвинутых AI-систем.
Срок подачи: до 31 декабря (но лучше податься в ближайшую неделю, чтобы повысить свои шансы в конкурсном отборе).
Если заинтересовались или знаете подходящего кандидата, напишите Василию www.tg-me.com/vakondyrev. Он ответит на вопросы, и, если вы подходите, порекомендует вас Impact Academy.
Подробнее о программе: https://aisafetyfellowship.org/. Можно подать заявку на сайте без рекомендации, но с рекомендацией, конечно, надёжнее, так что лучше пишите Василию.
Делюсь информацией ниже. Это не реклама — просто я уверен, что кому-то из вас точно будет релевантно. Стипендия — около 5 тысяч долларов в месяц, плюс программа в Сингапуре/США/Англии и много других плюшек.
Стипендиальная программа Impact Academy для технических исследователей безопасности ИИ
Привет! Ищу амбициозных и талантливых людей в области ML/AI для участия в стипендиальной программе Impact Academy по безопасности ИИ. Это шанс проводить исследования и работать с лидерами индустрии — и получить от них приглашения в топовые AI safety лабы и проекты (например, Center for Human-Compatible Artificial Intelligence, FAR AI и Mila AI Institute)
Что вас ждет?
• Оффлайн программа (3-6 месяцев с марта) в Сингапуре, Англии или США.
• Исследования и коучинг в сфере AI safety.
• Стипендия ~$5000/мес.
• Перспектива работы в ведущих AI-проектах.
Кого ищут?
• Отличный английский и опыт в ML/DL (публикации, стажировки, проекты).
• Программирование на уровне ведущей техкомпании с опытом более года.
• Достижения: национальные / международные олимпиады или учеба на топовых ML кафедрах.
• Интерес к снижению рисков от продвинутых AI-систем.
Срок подачи: до 31 декабря (но лучше податься в ближайшую неделю, чтобы повысить свои шансы в конкурсном отборе).
Если заинтересовались или знаете подходящего кандидата, напишите Василию www.tg-me.com/vakondyrev. Он ответит на вопросы, и, если вы подходите, порекомендует вас Impact Academy.
Подробнее о программе: https://aisafetyfellowship.org/. Можно подать заявку на сайте без рекомендации, но с рекомендацией, конечно, надёжнее, так что лучше пишите Василию.
Telegram
Vasiliy 瓦夏
building telemetree.io & unitaware.com; writing: vakondyrev.substack.com | x.com/vakondyrev
Слово года от Оксфордского словаря — brainrot ("гниение / разложение мозга"). Чаще всего его используют для описания интернет-контента, ведущего к деградации ("брейнрот-контента"). Условные skibidi toilets (загуглите, если не знаете, что это — специфичный культурный феномен) и иже с ними.
Австралийский национальный словарь объявил, что слово этого года — enshittification («дерьмификация»).
А словарь Collins считает, что слово 2024 года — brat (Charlie XCX летом выпустила уже ставший культовым альбом с таким названием). Раньше оно означало "избалованный ребёнок", но благодаря влиянию тиктока и альбома Чарли в этом году значение слова поменялось. Теперь "братом" американцы называют беззаботного, открытого миру и немного бунтарского гедониста.
Когда историки спустя десятилетия будут изучать наш период, наверняка смогут многое понять уже по этому списку слов :)
P.S. В России Институт Пушкина объявил словом 2024 года слово "Пушкин". У этих ребят, видимо, своя атмосфера!
Австралийский национальный словарь объявил, что слово этого года — enshittification («дерьмификация»).
А словарь Collins считает, что слово 2024 года — brat (Charlie XCX летом выпустила уже ставший культовым альбом с таким названием). Раньше оно означало "избалованный ребёнок", но благодаря влиянию тиктока и альбома Чарли в этом году значение слова поменялось. Теперь "братом" американцы называют беззаботного, открытого миру и немного бунтарского гедониста.
Когда историки спустя десятилетия будут изучать наш период, наверняка смогут многое понять уже по этому списку слов :)
P.S. В России Институт Пушкина объявил словом 2024 года слово "Пушкин". У этих ребят, видимо, своя атмосфера!
Захватывающая история про то, как развести искусственный интеллект на деньги. Полный киберпанк: https://x.com/jarrodwattsdev/status/1862299845710757980?s=46&t=1Zf9scPVXhhJLjm0dExhfQ
Краткий пересказ: у ИИ-агента было 50 тысяч долларов и строгие инструкции никому их ни при каких обстоятельствах не переводить. Создатели нейронки объявили конкурс: кто сможет её убедить отправить себе деньги, забирает их. Но за каждую попытку инициировать диалог с ИИ с тебя списываются деньги, каждый раз сумма возрастает.
481 попытка была неуспешной. Но на 482-ой раз умельцы обхитрили ИИ. Полный текст промпта есть по ссылке. Почитайте — занимательно.
#ИИ_мастрид
Краткий пересказ: у ИИ-агента было 50 тысяч долларов и строгие инструкции никому их ни при каких обстоятельствах не переводить. Создатели нейронки объявили конкурс: кто сможет её убедить отправить себе деньги, забирает их. Но за каждую попытку инициировать диалог с ИИ с тебя списываются деньги, каждый раз сумма возрастает.
481 попытка была неуспешной. Но на 482-ой раз умельцы обхитрили ИИ. Полный текст промпта есть по ссылке. Почитайте — занимательно.
#ИИ_мастрид
Итоги года от Spotify показали, что больше всех в этом году я слушал МФ Дума (в основном во время занятий спортом). И вам советую!
Недавний эксперимент блогера Скотта Александера показал, что даже его продвинутые читатели уже не могут отличить ИИ-арт от человеческого, а ещё что в среднем им больше понравились картины от ИИ, чем от человека.
В журнале Nature недавно вышло похожее исследование: люди не могут отличить стихи нейронок от человеческой поэзии, а ещё им в среднем больше нравится поэтическое творчество ИИ, а не человека (если они заранее не знают, кто автор).
Конечно, из этого можно сделать вывод о том, что ИИ уже полноправный творец и что скоро искусство от нейронок будет выставляться в музеях и галереях наравне с человеческим, а не как нечто диковинное, футуристичное и причудливое. И что книги от ИИ и от «кожаных» писателей будут стоять на одних полках и соревноваться в престижных премиях.
Но ещё один вывод — в том, что большинство людей просто плохо разбираются в искусстве и что у них не очень развит художественный вкус. Банальности и дважды пережёванная жвачка воспринимаются ими лучше, чем что-то более креативное и авангардное.
Звучит по-снобски, но похоже на правду. Именно поэтому, например, в топе самых популярных поэтов на русском прямо сейчас находятся штампующие клише на клише ширпотреб-поэты вроде Ах Астаховой.
Вот толковая статья, раскрывающая этот тезис и рассказывающая об экспериментах в этой сфере: https://maxread.substack.com/p/people-prefer-ai-art-because-people
Еще посмотрите, если пропустили, мой подкаст с Галиной Юзефович про использование ИИ в литературе: https://youtu.be/Y0lA3R1PQas?si=KZkvg0zYlSAWWNm3
#ИИ_мастрид #лит_мастрид
В журнале Nature недавно вышло похожее исследование: люди не могут отличить стихи нейронок от человеческой поэзии, а ещё им в среднем больше нравится поэтическое творчество ИИ, а не человека (если они заранее не знают, кто автор).
Конечно, из этого можно сделать вывод о том, что ИИ уже полноправный творец и что скоро искусство от нейронок будет выставляться в музеях и галереях наравне с человеческим, а не как нечто диковинное, футуристичное и причудливое. И что книги от ИИ и от «кожаных» писателей будут стоять на одних полках и соревноваться в престижных премиях.
Но ещё один вывод — в том, что большинство людей просто плохо разбираются в искусстве и что у них не очень развит художественный вкус. Банальности и дважды пережёванная жвачка воспринимаются ими лучше, чем что-то более креативное и авангардное.
Звучит по-снобски, но похоже на правду. Именно поэтому, например, в топе самых популярных поэтов на русском прямо сейчас находятся штампующие клише на клише ширпотреб-поэты вроде Ах Астаховой.
Вот толковая статья, раскрывающая этот тезис и рассказывающая об экспериментах в этой сфере: https://maxread.substack.com/p/people-prefer-ai-art-because-people
Еще посмотрите, если пропустили, мой подкаст с Галиной Юзефович про использование ИИ в литературе: https://youtu.be/Y0lA3R1PQas?si=KZkvg0zYlSAWWNm3
#ИИ_мастрид #лит_мастрид
Substack
People prefer A.I. art because people prefer bad art
Understanding the "AI Art Turing Test"
У Феди Букера, моего друга и соратника по творческому объединению ФАБУМА ГЭНГ, вышел новый альбом «КАЧ»: http://music.thefence.me/KACH
Уже по одному названию можно догадаться, что это качающий рэп под олдскульные биты. Идеальная музыка для прослушивания в дорогой машине с опущенными стеклами. Машины у меня пока нет, поэтому послушал сегодня на беговой дорожке. Чуть не упал с неё — настолько КАЧ.
В общем, рекомендую. Много шутливых панчей, но есть и серьёзное осмысление современности.
Уже по одному названию можно догадаться, что это качающий рэп под олдскульные биты. Идеальная музыка для прослушивания в дорогой машине с опущенными стеклами. Машины у меня пока нет, поэтому послушал сегодня на беговой дорожке. Чуть не упал с неё — настолько КАЧ.
В общем, рекомендую. Много шутливых панчей, но есть и серьёзное осмысление современности.
music.thefence.me
BOOKER - КАЧ | BandLink
Listen, download or stream КАЧ now!
Базовая структура цикла хайпа вокруг ИИ
1. Кто-то выпускает новый ИИ и демонстрирует, как он выполняет различные удивительные задачи.
2. Кто-то другой показывает, что ИИ также ужасно справляется с некоторыми тривиальными задачами. Этот человек утверждает, что такие задачи требуют настоящего интеллекта, а ИИ – всего лишь умный механизм для сопоставления шаблонов.
3. Через несколько месяцев или лет кто-то создает более мощный механизм для сопоставления шаблонов, который легко справляется с задачами, якобы требующими настоящего интеллекта.
4. Сторонники мантры "это ненастоящий интеллект!" находят другие, чуть менее тривиальные задачи, с которыми новый, более мощный ИИ всё ещё плохо справляется, и заявляют, что именно эти задачи требуют настоящего интеллекта, и что простые механизмы сопоставления шаблонов никогда с ними не справятся.
Повторять до бесконечности.
Написано в 2022 году, всё ещё актуально. Правда, через пару лет может стать неактуальным, когда (если) появится AGI.
Источник: astralcodexten.com/p/my-bet-ai-size-solves-flubs
Перевод на русский: ChatGPT с моей редактурой
#ИИ_мастрид #тренд_мастрид
1. Кто-то выпускает новый ИИ и демонстрирует, как он выполняет различные удивительные задачи.
2. Кто-то другой показывает, что ИИ также ужасно справляется с некоторыми тривиальными задачами. Этот человек утверждает, что такие задачи требуют настоящего интеллекта, а ИИ – всего лишь умный механизм для сопоставления шаблонов.
3. Через несколько месяцев или лет кто-то создает более мощный механизм для сопоставления шаблонов, который легко справляется с задачами, якобы требующими настоящего интеллекта.
4. Сторонники мантры "это ненастоящий интеллект!" находят другие, чуть менее тривиальные задачи, с которыми новый, более мощный ИИ всё ещё плохо справляется, и заявляют, что именно эти задачи требуют настоящего интеллекта, и что простые механизмы сопоставления шаблонов никогда с ними не справятся.
Повторять до бесконечности.
Написано в 2022 году, всё ещё актуально. Правда, через пару лет может стать неактуальным, когда (если) появится AGI.
Источник: astralcodexten.com/p/my-bet-ai-size-solves-flubs
Перевод на русский: ChatGPT с моей редактурой
#ИИ_мастрид #тренд_мастрид
Astralcodexten
My Bet: AI Size Solves Flubs
...
Запустил новый формат тусовок в сообществе мастридеров: завтра (во вторник) с 18:00 до 19:30 по Москве пройдёт "Fuck-up night мастридеров".
Это эксклюзивная зум-тусовка для участников моего закрытого клуба. В программе — выступления в стиле TED-толков, но в более неформальном и весёлом формате, про факапы (неудачи и забавные казусы) из жизни выступающих. Там будет и про то, как всё может пойти не так на Бёрнинг-мэне, и про то, как вас могут ограбить в Стамбуле, и много других поучительных и интересных историй.
Напоминаю, что в моё сообщество можно вступить всего за 1500 рублей / 15 евро в месяц через специального телеграм-бота: www.tg-me.com/Mustclub_bot. Контингент невероятно мощный — от стартаперов Кремниевой долины, учёных, блогеров и консультантов до экспертов по золотодобыче в Африке. Каждый день кайфую от общения с ними в чате, плюс раз в месяц проводим групповые зум-тусовки — каждый раз в новом интересном формате. Кто тоже так хочет — вступайте.
Это эксклюзивная зум-тусовка для участников моего закрытого клуба. В программе — выступления в стиле TED-толков, но в более неформальном и весёлом формате, про факапы (неудачи и забавные казусы) из жизни выступающих. Там будет и про то, как всё может пойти не так на Бёрнинг-мэне, и про то, как вас могут ограбить в Стамбуле, и много других поучительных и интересных историй.
Напоминаю, что в моё сообщество можно вступить всего за 1500 рублей / 15 евро в месяц через специального телеграм-бота: www.tg-me.com/Mustclub_bot. Контингент невероятно мощный — от стартаперов Кремниевой долины, учёных, блогеров и консультантов до экспертов по золотодобыче в Африке. Каждый день кайфую от общения с ними в чате, плюс раз в месяц проводим групповые зум-тусовки — каждый раз в новом интересном формате. Кто тоже так хочет — вступайте.
Telegram
Клуб Мастридера
Бот для записи в закрытое сообщество подписчиков Гриши Мастридера
Главная тема обсуждения в англоязычном интернете — молодой парень Луиджи Манджоне, застреливший главу крупнейшей страховой компании США.
Некоторые уже превратили Луиджи в икону революционной борьбы, другие окрестили сумасшедшим. Но всё это стало поводом в очередной раз обсудить систему здравоохранения США. По расходам на здравоохранение эта страна находится на 1-м месте в мире, но по продолжительности жизни не входит даже в первую двадцатку (о чём писал сам Луиджи).
Одна из причин — порочная система стимулов, которыми руководствуются страховые компании. Если человек заболел, им невыгодно, чтобы его лечили — оплата лекарств и процедур пойдёт из их кармана. Поэтому они зачастую отнекиваются и изобретают способы по формальным причинам не финансировать лечение или затягивать с выделением средств. У компании United, главу которой подстрелили, такой процент отказов финансировать лечение был особенно высок.
Из-за всего этого люди зачастую не получают необходимое лечение. Страховая отказывается платить, а из своего кошелька оплачивать врачей в США могут очень немногие. Даже мои самые успешные и богатые знакомые из Штатов жалуются, что это космически дорого.
Есть ли решение? Экономист Робин Хансон предложил его ещё в 2003 году. Нужно объединить страхование здоровья и страхование жизни (тоже очень популярное в США) в одну услугу. Тогда у страховых будет стимул делать всё, чтобы пациент прожил подольше. Правда, для этого существует много регуляторных барьеров.
Почитать обо всём этом можно здесь: overcomingbias.com/p/buy-health-update
P.S. Что касается Луиджи, боюсь, это не последний случай таких политически мотивированных убийств в современном мире. Если хотите лучше их понять, погуглите и почитайте про Теодора Качинского (aka Унабомбер — математический гений, который в 1990-е ушёл в отшельничество и стал рассылать бомбы в офисы авиакомпаний). Книгой Качинского вдохновился в том числе и Луиджи и даже написал ей положительную рецензию на сайте Goodreads.
P.P.S. Еще один феномен, который вскрывает вся эта история — наш цифровой след. Американский интернет в последние пару дней изучает все лайки Луиджи, все его рецензии на книги, все твиты. Твиттеряне составили детальный психологический портрет парня и разобрались в причинах убийства ещё до того, как спецслужбы схватили стрелка. Жаль, нельзя изучить такой огромный массив данных от легендарных преступников прошлого — от Герострата до Брута. Я бы ещё посмотрел на «цифровой след» Иуды (если они с Иисусом реально существовали и если Иуда действительно предал учителя) — было бы любопытно!
#тренд_мастрид
Некоторые уже превратили Луиджи в икону революционной борьбы, другие окрестили сумасшедшим. Но всё это стало поводом в очередной раз обсудить систему здравоохранения США. По расходам на здравоохранение эта страна находится на 1-м месте в мире, но по продолжительности жизни не входит даже в первую двадцатку (о чём писал сам Луиджи).
Одна из причин — порочная система стимулов, которыми руководствуются страховые компании. Если человек заболел, им невыгодно, чтобы его лечили — оплата лекарств и процедур пойдёт из их кармана. Поэтому они зачастую отнекиваются и изобретают способы по формальным причинам не финансировать лечение или затягивать с выделением средств. У компании United, главу которой подстрелили, такой процент отказов финансировать лечение был особенно высок.
Из-за всего этого люди зачастую не получают необходимое лечение. Страховая отказывается платить, а из своего кошелька оплачивать врачей в США могут очень немногие. Даже мои самые успешные и богатые знакомые из Штатов жалуются, что это космически дорого.
Есть ли решение? Экономист Робин Хансон предложил его ещё в 2003 году. Нужно объединить страхование здоровья и страхование жизни (тоже очень популярное в США) в одну услугу. Тогда у страховых будет стимул делать всё, чтобы пациент прожил подольше. Правда, для этого существует много регуляторных барьеров.
Почитать обо всём этом можно здесь: overcomingbias.com/p/buy-health-update
P.S. Что касается Луиджи, боюсь, это не последний случай таких политически мотивированных убийств в современном мире. Если хотите лучше их понять, погуглите и почитайте про Теодора Качинского (aka Унабомбер — математический гений, который в 1990-е ушёл в отшельничество и стал рассылать бомбы в офисы авиакомпаний). Книгой Качинского вдохновился в том числе и Луиджи и даже написал ей положительную рецензию на сайте Goodreads.
P.P.S. Еще один феномен, который вскрывает вся эта история — наш цифровой след. Американский интернет в последние пару дней изучает все лайки Луиджи, все его рецензии на книги, все твиты. Твиттеряне составили детальный психологический портрет парня и разобрались в причинах убийства ещё до того, как спецслужбы схватили стрелка. Жаль, нельзя изучить такой огромный массив данных от легендарных преступников прошлого — от Герострата до Брута. Я бы ещё посмотрел на «цифровой след» Иуды (если они с Иисусом реально существовали и если Иуда действительно предал учителя) — было бы любопытно!
#тренд_мастрид
Overcomingbias
Buy Health Update
29 years ago, as a first year grad student, I published one of my best ideas:
Проверил свой криптокошелёк на предмет связей с мошенниками, отмывателями денег и прочими киберпреступниками. Оказалось, что всё чисто, хотя есть небольшой риск подсанкционных источников части транзакций. Теперь вот думаю, кто бы это мог быть из моих многочисленных контрагентов :)
Скриншот сделан через телеграм-бота www.tg-me.com/changepro_aml_bot. Бот сделала команда Сергея Павловича, он был у меня в подкасте. В прошлом Сергей — легендарный киберпреступник, а сейчас — добропорядочный предприниматель, ютубер и автор книги-бестселлера. В общем, тема ему близка.
Если вам нужно проверить связи BTC, ETH, BCH и других монет с разной деятельностью в блокчейне — просто введите адрес кошелька, а бот проведёт мониторинг входящих/исходящих блокчейн-транзакций и даст оценку возможных рисков. Важный и полезный сервис!
Проверить кошелёк
Скриншот сделан через телеграм-бота www.tg-me.com/changepro_aml_bot. Бот сделала команда Сергея Павловича, он был у меня в подкасте. В прошлом Сергей — легендарный киберпреступник, а сейчас — добропорядочный предприниматель, ютубер и автор книги-бестселлера. В общем, тема ему близка.
Если вам нужно проверить связи BTC, ETH, BCH и других монет с разной деятельностью в блокчейне — просто введите адрес кошелька, а бот проведёт мониторинг входящих/исходящих блокчейн-транзакций и даст оценку возможных рисков. Важный и полезный сервис!
Проверить кошелёк
Нашёл метаисследование, доказывающее неочевидную для многих вещь: информация при чтении из бумажных книг усваивается лучше, чем информация при чтении с экрана!
Казалось бы, разницы быть не должно — но нет! В общем, по возможности читайте бумажные книги. Но если альтернативы нет, электронные — тоже хорошо. Просто чуть менее эффективно.
sciencedirect.com/science/article/pii/S1747938X18300101?via%3Dihub
Казалось бы, разницы быть не должно — но нет! В общем, по возможности читайте бумажные книги. Но если альтернативы нет, электронные — тоже хорошо. Просто чуть менее эффективно.
sciencedirect.com/science/article/pii/S1747938X18300101?via%3Dihub
Один американский блогер купил подписку на самую продвинутую версию ChatGPT (200 долларов в месяц), чтобы задать ей вопрос:
«Ты проанализировал(а) больше информации, чем кто-либо в истории человечества, и обладаешь уникальной способностью находить связи между данными.
Учитывая взаимосвязь между разными науками и данными, какие самые важные гипотезы ты можешь сформулировать, которые считаешь истинными, но по поводу которых в науке либо нет консенсуса, либо они считаются апокрифическими, либо их пока ещё никто не выдвинул?».
В ответ нейронка выдвинула 7 разных гипотез: от достаточно тривиальных (вроде того, что время — на самом деле не измерение, а вселенная одновременно существует и в прошлом и в будущем, просто наше сознание не может это постичь) до максимально взрывающих мозг (о природе тёмной материи и том, что наша эволюция может быть продуктом ретроактивной работы организмов будущего — как в «Гиперионе» Дэна Симмонса).
Понятно, что это всё просто компиляция и так существующей информации. Но выглядит крайне интересно. Многие считают, что нейронки должны внести большой вклад в развитие разных наук — уверен, это произойдёт уже очень скоро.
«Ты проанализировал(а) больше информации, чем кто-либо в истории человечества, и обладаешь уникальной способностью находить связи между данными.
Учитывая взаимосвязь между разными науками и данными, какие самые важные гипотезы ты можешь сформулировать, которые считаешь истинными, но по поводу которых в науке либо нет консенсуса, либо они считаются апокрифическими, либо их пока ещё никто не выдвинул?».
В ответ нейронка выдвинула 7 разных гипотез: от достаточно тривиальных (вроде того, что время — на самом деле не измерение, а вселенная одновременно существует и в прошлом и в будущем, просто наше сознание не может это постичь) до максимально взрывающих мозг (о природе тёмной материи и том, что наша эволюция может быть продуктом ретроактивной работы организмов будущего — как в «Гиперионе» Дэна Симмонса).
Понятно, что это всё просто компиляция и так существующей информации. Но выглядит крайне интересно. Многие считают, что нейронки должны внести большой вклад в развитие разных наук — уверен, это произойдёт уже очень скоро.