а в Чили затянулся Юрский период )

Сэм Альтман написал собственную утопию-манифест, в котором объявил, что сингулярность уже наступила, - и не простая, а с красивым названием, которое войдет в историю, - The Gentle Singularity, Нежная сингулярность.

Процитирую главное. Спорить с Альтманом легко, но оцените замах, – давно уже людям никто не предлагал утопии, образа будущего, в которое хотелось бы попасть.

«Мы преодолели горизонт событий; начался взлёт. Человечество близко к созданию цифрового сверхразума. Роботы ещё не ходят по улицам, но уже созданы системы, которые во многих отношениях умнее людей.

Будущее может быть намного лучше настоящего, потому что ИИ ускорит научный и технологический прогресс, а научный прогресс — главный движущий фактор общего прогресса и улучшения качества жизни. Мне очень интересно думать о том, чего мы могли бы достичь.

В 2025 году появились агенты, способные выполнять практическую интеллектуальную работу. В 2026 году, вероятно, появятся системы, способные генерировать новые идеи. В 2027 - роботы, способные выполнять задачи в реальном мире.

Гораздо больше людей смогут создавать программы и произведения искусства. Но эксперты, вероятно, по-прежнему будут намного лучше справляться с этой задачей, чем новички, при условии, что они освоят новые инструменты. В целом, самым поразительным изменением станет способность одного человека сделать в 2030 году гораздо больше, чем в 2020-м, - и многие люди поймут, как извлечь из этого выгоду.

Мы не знаем, насколько далеко мы можем продвинуться в развитии интеллекта, но скоро узнаем. В 2030-х годах интеллект и энергия — идеи и способность воплощать идеи в жизнь — станут невероятно востребованными. Эти два фактора долгое время были фундаментальными ограничителями человеческого прогресса; при наличии достаточного количества интеллекта и энергии (и хорошего управления) мы теоретически можем получить всё, что угодно.

Мы уже живём в мире невероятного цифрового интеллекта, и после первоначального шока большинство из нас к нему привыкло. Очень быстро мы переходим от восхищения тем, что ИИ может сгенерировать красиво написанный абзац, к вопросу о том, когда он сможет сгенерировать красиво написанный роман; от восхищения тем, что он может ставить жизненно важные медицинские диагнозы, к вопросу о том, когда он сможет разрабатывать лекарства. Вот так и наступает сингулярность: чудеса становятся привычными, а затем превращаются в обыденность.

Мы уже слышим от учёных, что они стали в два или три раза продуктивнее, чем до появления ИИ. Возможно, мы сможем использовать ИИ для более быстрого проведения исследований в области ИИ. Если мы сможем провести исследования, рассчитанные на десять лет, за год или за месяц, то темпы прогресса, очевидно, будут совсем другими. ИИ, которые мы уже создали, будут помогать нам в дальнейших научных исследованиях и в создании более совершенных систем ИИ, - запустится цикл рекурсивного самосовершенствования.

В игру вступают и другие самоусиливающиеся циклы. Нам придётся создавать первый миллион человекоподобных роботов по старинке, но затем они смогут управлять всей цепочкой поставок — добывать и перерабатывать полезные ископаемые, водить грузовики, управлять заводами, — чтобы создавать больше роботов, которые смогут строить больше заводов по производству микросхем и т. д. Темпы прогресса будут совсем другими. Скорость, с которой будут создаваться новые чудеса, будет огромной. Сегодня трудно даже представить, что мы откроем к 2035 году. Но если бы мы сказали вам в 2020 году, что окажемся там, где находимся сегодня, это, вероятно, прозвучало бы более безумно, чем наши нынешние прогнозы.

Мы (вся индустрия, а не только OpenAI) создаём мозг для всего мира. Он будет максимально персонализированным и простым в использовании для всех. Сейчас OpenAI занимается многими вещами, но прежде всего мы — исследовательская компания в области сверхинтеллекта. Перед нами стоит много задач, но большая часть пути уже освещена, и тёмные участки быстро отступают. Мы невероятно благодарны за возможность заниматься тем, чем занимаемся".

Выскажу свои мысли про будущее ИИ - вслед манифесту Альтмана и всенародному футурошоку.

Мне ситуация в целом очень нравится: ИИ все лучше мне помогает, - размышлять, изучать и понимать этот мир, создавать тексты, находить и структурировать инфу и т.п. С ним приятно работать, без него было скучнее и медленнее, он дает возможности для творчества, - а это главная радость в жизни. И потихоньку начинает происходить то, чего я больше всего ждал от будущего в последние годы – что появится идеально меня знающий и понимающий не просто помощник, а советник и наставник. ИИ уже начинает учить! Моя жена разговаривает с ним как с репетитором по-английски, например, и это намного круче совы с ее бесконечными упреками. Кстати, в исследованиях ИИ как репетитор показывает себя просто блестяще: в недавнем исследовании, например, студенты Гарварда, изучавшие физику с ИИ-репетитором, показали намного лучшие результаты, чем те, кто занимался по обычной программе. В другом исследовании ученики, работавшие с ИИ-репетитором по математике показали на 46% больший прирост знаний, чем те, кто учился с помощью опытного человека-репетитора! И так далее, таких исследований много. Неудивительно, ведь он видит и типичные ошибки, и индивидуальные особенности, и дает обратную связь сразу же. Надеюсь, ИИ-революция в образовании не за горами.

Но дело, конечно, далеко не только в том, что ИИ так здорово помогает работать и учиться. На мой взгляд, ИИ вообще – главная надежда человечества. Развитие технологий и цивилизации неизбежно создает все более сложную среду, и люди все хуже справляются с управлением разными процессами в этой среде. Способностей человеческого мозга все острее не хватает, - поэтому без ИИ нас ждут учащающиеся факапы во всех областях, примитивные решения, войны, катастрофы, деградация. И в главных задачах науки, таких как существенное продление здорового периода жизни людей, тоже основная надежда на ИИ. А без решения этого вопроса человечество просто вымрет, никто больше как кролики размножаться не будет.

Опасен ли ИИ? Конечно! Но опасность не в том, что «машины восстанут». Все истории про пробуждение сознания у ИИ – наши фантазии и проекции. Машины в силу своего устройства не проявляют никакой «агентности» или склонности к самоопределению, потому что в коде нет мотивации, а есть поставленные задачи, команды, и машина их выполняет, - это и есть устройство, выполняющее команды кода, и ничего больше оно не делает, никаких чудес. Впрочем, сколько это не повторяй, люди все равно будут верить в чудо, - в то, что говорящий с ними чат-бот это такой же мотивированный и переживающий субъект, как мы, - эта ориентация на диалог с другими субъектами нам в подкорку вшита.

Настоящая опасность ИИ – в том, что они могут служить злой воле, выполнять программы, созданные одними людьми против других людей. Это очень большая и серьезная опасность, - но это же не значит, что правы цифровые луддиты. Все важнейшие технологии вместе с небывалыми возможностями всегда приносят небывалые опасности, - и что теперь, отказываться от эволюции? Вопрос в поиске оптимальных решений, а не в том, как спрятаться от будущего.

Что делать, чтобы минимизировать опасность ИИ? Те, кто будет пытаться затормозить разработку умных технологий, просто станут жертвой хищных ИИ, созданных конкурентами. Мне кажется, пришло время «в гаражах» тайно создавать «добрые ИИ», никому, кроме владельца, неподконтрольные, охраняющие вашу личную безопасность и ваши интересы от других ИИ, служащих государствам, компаниям, мошенникам и т.п. Такой «крипто ИИ» должен, как криптовалюта, иметь встроенный механизм, принципиально не позволяющий вмешаться в его работу со стороны, - никому, кроме человека, с которым этот ИИ неразрывно связан.

На видео – система доставки книг в китайской библиотеке. Книги классные, как и глиняные таблички, – но усложнившийся мир обрабатывает намного больше информации и нуждается в других системах ее хранения и анализа. То же и с мозгами )

В этом выпуске разбора научных анекдотов мы снова отправимся в бар, - на этот раз в компании роботов и алгоритмов. Выпуск я собирал три года назад, - с тех пор нейросети так и не научились создавать смешные анекдоты, ни на шаг не продвинулись. Думаю, и не научатся. Хотя в анекдоте, который мне тогда сочинила ламповая нейросеть Балабоба, определенно что-то есть.

Заходит нейросеть в бар...

Создали учёные самый мощный супеpкомпьютеp и задают ему вопpос:
— Есть ли Бог?
Компьютер подумал, пожужжал и отвечает:
— Hедостаточно инфоpмации. Подсоедините меня ко всем мощнейшим суперкомпьютерам планеты.
Делать нечего, подсоединили. Опять спpашивают:
— Есть ли Бог?
Машина отвечает:
— Hедостаточно инфоpмации. Подсоедините меня ко всем компьютерам, сетям, ко всем умным вещам!
Сделали и это. Спрашивают:
— Есть ли Бог?
Компьютер:
— Тепеpь есть.

Анекдоты про роботов были ещё в советское время: даже младшеклассники рассказывали друг другу про «отключения Электроника» или про робота Вертера, - тормознутого, но успевшего в анекдотах сделать ребенка Алисе Селезневой. С тех пор изменилось мало что: анекдоты об их далёком потомке роботе Фёдоре были посвящены в основном тому, на какой именно день на орбите он запил.

Роботов теперь скорее боятся: слишком умными стали. А ещё на смену антропоморфным машинам с руками и ногами в анекдотах пришли роботы-пылесосы, самоуправляемые автомобили и другие умные устройства. Иногда они просто пародируют людей.

Садится девушка в беспилотное такси и удивляется:
— Вот это да — автомобиль без водителя!
Машина:
— Вообще-то я искусственный интеллект для бизнеса, такси — это так, подработка.

Иногда ведут себя на нейросетевой манер, так что понятно лишь тем, кто в теме:

Нейросеть заходит в бар. Бармен спрашивает:
— Что будете заказывать?
Нейросеть:
— А что заказывают другие?

Впрочем, алгоритмы нового поколения уже не только учатся на чужих примерах, но и сами генерируют образы и тексты. Неужели они научатся сочинять смешные анекдоты? Я забил фразу «Нейросеть заходит в бар» на сайте Балабобы — яндексовской нейросети, способной создавать короткие истории. Поскрипев, Балабоба выдал:

Нейросеть заходит в бар. Бармен:
— Что вам угодно?
Нейросеть:
— Бутылку пива. И ещё две для бармена.
Бармен:
— А может, лучше вы придёте ко мне домой, мы выпьем на кухне по бутылочке пивка и поговорим о жизни и работе?
Нейросеть:
— Нет, у вас слишком много проблем. Я лучше здесь посижу.

Уже третье лето слежу за экспедициями на поморском карбасе, - благодаря шеф-редактору бумажного «Кота Шредингера» Грише Тарасевичу, вписавшемуся в команду. Карбас - это такая лодка, на которой в XVII веке поморы покоряли Сибирь – деревянная, сшитая без единого гвоздя по технологиям, которым больше пятисот лет. Сегодня началась новая экспедиция – от Дубны до Архангельска, предстоит пройти на веслах и парусе более 2500 км.

Во время остановок планируются вылазки храбрецов на встречи с местными жителями, а в плавании - запись микролекций-разговоров с борта, на котором обещали поработать гребцами разные мудрецы (на самом деле тоже надеюсь на несколько дней туда попасть). Посмотрим, что получится, - если что-то хорошее, то и вам покажем. А пока первое видео, его записали еще до старта, вчера, когда морские волки смолили свой карбас, воспевая смолу и пользу от нее.

📷 Dylan Royal

Новый прорыв в области нейропротезирования (в Nature его даже не поскупились назвать «Святым Граалем речевых нейроинтерфейсов», но подождем): устройство, созданное в Калифорнийском университете в Дэвисе, практически мгновенно переводит нейронную активность в слова, возвращая парализованным пациентам обычную речь – спонтанную, непрерывную, с интонациями, - они могут даже петь. Прогресс в этой области идет очень быстро, но до сих пор самые совершенные модели воспроизводили речь только после того, как пользователи заканчивали произносить в уме целое предложение, - да и то с трехсекундной задержкой. А чтобы нормально говорить, принципиально важно получать обратную связь в реальном времени, сразу же слышать свой голос.

Разработанное устройство – один из тех нейроинтерфейсов нового поколения, которые используют искусственный интеллект для декодирования электрической активности мозга. И первый, способный воспроизводить не только слова, но и помогающие выразить смысл и эмоции особенности естественной речи, такие как интонация, высота тона и ударение. Все предыдущие нейроинтерфейсы говорили ровным и монотонным «голосом робота».

Участнику эксперимента, практически потерявшему речь из-за болезни управляющих мышцами нейронов, вживили имплант из 256 кремниевых электродов, каждый длиной 1,5 мм, в область коры, контролирующую движения (на рисунке). Алгоритмы глубокого обучения обрабатывают сигналы, поступающие от моторной коры каждые 10 миллисекунд, и декодируют их в реальном времени в звуки, которые пытается воспроизвести пациент, - не только слова, но и междометия, нечленораздельные восклицания и вообще любое бульканье.

Исследователи персонализировали синтетический голос так, чтобы он звучал как собственный голос мужчины, обучив нейросеть на записях интервью, которые он давал до начала болезни. С новым нейроинтерфейсом участник произносил слова, отвечал на открытые вопросы и говорил все, что хотел, используя слова, которые не были частью обучающих данных декодера. Он рассказал исследователям, что синтетический голос ощущает своим, и чувствует себя счастливым.

случай на мосту