Правительство Дании решило сделать то, что в других странах обсуждали в рамках ироничных правовых дискуссий: включение личных идентифицирующих характеристик (внешность, голос, и пр.) в закон об авторском праве.

Коалиция в Правительстве и присоединившиеся к ней партии договорились о внесении изменений в закон, который должен наделить граждан Дании авторским правом на изображение внешности и голоса. Такая мера, как предполагается, поможет бороться с несогласованными дипфейками

В случае принятия этого законопроекта люди смогут требовать от платформ на территории Дании удаления дипфейков с их изображением без согласия.

Нарушение новых правил не повлечет за собой санкций для лиц, распространяющих контент, но в зависимости от обстоятельств может быть возможным получение компенсации в соответствии с общими правилами возмещения ущерба по датскому праву. Также не исключается ответственность платформ, распространяющих такой контент, по Digital Service Act.

Важно, что закон будет предусматривать исключения для случаев сатиры и пародии (своеобразное свободное использование).

К этому предложению так много вопросов, что я не знаю с какого начать.

1. Зачем вносить в закон об авторском праве объекты, которые охраноспособными не являются? Почему не создать специальный режим или в крайнем случае не внести специальные нормы в какой-нибудь закон, который регулирует распространение информации в интернете?

В целом я могу понять, почему эти изменения могли поместить именно в этот закон - потому что в нем предусмотрены правовые инструменты для того, чтобы требовать удаления виртуальных двойников. Если датские парламентарии считают, что это логично, что ж.

2. Также не могу удержаться и не задать вопрос: насколько широко датчане хотят трактовать «личные идентифицирующие характеристики» и насколько близким должно быть сходство между реальным человеком и виртуальной копией, чтобы нормы закона можно было применить?

Это как с товарными знаками: будет ли нарушением только тождество или сходство тоже попадает под зонтик закона. Если мы опускаем второй вариант, то под горячую руку попадает бесконечное количество виртуальных двойников, которые хоть сколько близко будут напоминать реального человека.

3. Вытекающий из прошлого вопрос: а что делать со случайными совпадениями, особенно теми виртуальными аватарами, которые были созданы до вступления в силу этого закона?

Будут ли они подпадать под сферу действия закона или также как и пародии будут разрешены, а если не будут разрешены - не будет ли такой жесткий подход нарушать право на свободу слова и самовыражения? Дания страна не большая, но условный художник, который использует нейронки в своей работе, не должен знать лица всех своих сограждан.

Более того статистически (в зависимости от количества сравниваемых характеристик) вероятность того, что у вас есть «двойник» варьируется от 1 к 1000 до 1 к 15000. Что этот закон предлагает делать с этими near-doppelgängers?

В общем, понимая всю ценность таких нововведений, я не очень понимаю в каких условиях они должны эффективно заработать, особенно, когда нормы касаются только территории Дании.

Я не нашла статистики насколько дипфейки - проблема для Дании. Единственная релевантная новость - это история о распространении дипфейк-видео с мэром одного из датских городов.

Другие популярные случаи использования дипфейков - revenge-porn и войсфейки (использование чужого голоса для мошенничества). В первом случае предложение не возымеет никакого результата из-за экстерриториального характера распространения такого контента. Во втором случае риск возникает в моменте, когда голос используется в диалоге с пострадавшим, поэтому лично я не понимаю как возможность удаления дипфейков может на такие случаи повлиять? (Спойлер: никак).

Новая охота на ведьм в твиттере: если вы используете длинное тире и серийную запятую (оксфордскую), то ваш текст скорее всего сгенерирован ИИ, а вы сами - бот.

Если про длинное тире я слышала и сама на его обращаю внимание, то оксфордская запятая для меня открытие.

Орфографические и пунктуационные ошибки, как признак человечности, где мы свернули не туда?

Рынок данных формируется за счет активных игроков: компания Cloudflare объявила, что будет блокировать ИИ боты, которые пытаются собрать данные с размещенных на её платформе сайтов.

По заявлению Cloudflare предоставит своим клиентам возможность вручную разрешать или запрещать доступ к ботам краулерам и внедрит услугу "оплата за сканирование" (pay-per-crawl), позволяющую клиентам получать компенсацию за каждый факт сбора контента с их сайта ИИ-ботами.

Владельцы сайтов смогут разрешать или запрещать сканирование контента для каждого этапа жизненного цикла ИИ (обучение, дообучение) и формировать белые списки ИИ-ботов, которым сканирование контента разрешено. Клиенты также смогут устанавливать тарифы за доступ ИИ-ботов к их сайтам.

На первый взгляд складывается впечатление, что Cloudflare смогли придумать классный инструмент для монетизации данных, о котором так много говорят особенно в разрезе споров о нарушении авторских прав. Однако есть несколько нюансов, которые следует учитывать.

Cloudflare контролирует около 20% веб-инфраструктуры. Блокировка ботов по умолчанию может трактоваться как ограничение доступа к рынку данных: даже если сейчас Cloudflare не является доминирующим участником, тем не менее, контролируя доступ к значительной части сайтов, компания становится гейткипером для рынка данных необходимых для обучения ИИ. Особенно, в разрезе права на TDM.

Негативные последствия для Cloudflare возможны, если компания начнет отдавать предпочтение ИИ-ботам от своих собственных партнеров или дискриминировать аналогичные инициативы своих клиентов. Также, если Cloudflare начнет обуславливать доступ к "pay-per-crawl" использованием других ее сервисов - это может быть расценено как "tying" (привязывание клиента к своим сервисам, ограничивая право выбора).

Хотелось бы посмотреть как будут сформулированы лицензионные условия, а именно, как можно будет использовать полученную на сайте информацию (возможно ли ограничение в отношении этического/неэтического использования данных? Полагаю, что так далеко еще не заходили).

Также интересно как будет разрешаться конфликт, в случае, если доступ к ИИ-боту будет предоставлен (за это заплатили), но на сайте будет машиночитаемый отказ, robots.txt или материалы, защищенные от анализа? Скорее всего в пользу компании, которая запустила ИИ-бота, с другой стороны - владелец сайта не несет ответственности за качество тех данных, который получит краулер.

Любимая (полагаю) юристами арт-группа MSCHF (вот тут писала про них) запустила новый проект - King Solomon's Baby.

Название и сама работа являются отсылкой к суду Царя Соломона из Третьей Книги Царств (3:16-28), где Соломон предлагал разрубить ребенка дабы урегулировать конфликт двух блудниц.

Как вы понимаете все это стало основой манифеста артистов, которые собираются продать гигантскую скульптуру младенца, но есть нюанс.

В покупке могут поучаствовать до 1000 коллекционеров, но в таком случае каждый из них получит по 1/1000 доли во всех смыслах - работа будет разрезана на 1000 долек, а коллекционеры станут обладателями рандомных частей гигантского ребенка. Кстати, если только один человек решится на такую покупку - он заберет с собой всего ребенка без ампутаций (как он его будет перевозить - другой вопрос)

Сверх того, артисты в манифесте рассуждают о риске коллекционеров, добровольном отказе от формы (путем распила скульптуры) и популярности двухмерности (тонкая долька работы все равно, что картина, что доводит идею примата 2D до абсолюта).

В общем манифест интригует, заигрывает с аудиторией, хотя кажется, что такие идеи лежат на поверхности.

У меня конечно же возникаю следующие вопросы: становятся ли коллекционеры владельцами 1/1000 работы (или любой другой доли в зависимости от количества участников), или же каждый коллекционер владеет только той частью большого младенца, которую он уносит? Будут ли какие-то обязательства между со-коллекционерами (не ломать, не продавать без согласия остальных участников и др.) или же они смогут действовать независимо друг от друга?

Интересный социальный эксперимент: могут ли десятки коллекционеров объединиться, чтобы максимизировать свою выгоду от продажи целиковой работы, а не ее кусочков.

kingsolomonsbaby.com

175 страниц годноты про авторское право и генИИ от ЕС - это мы читаем и разбираем.

Новость, которая прекрасно сочетается со сплетнями о том, что Amazon собирается купить Condé Nast (причиной тому стало появление жены Джеффа Безоса на обложке американского Vogue).

Медиагиганты Condé Nast (Vogue, GQ) и Hearst (Cosmopolitan, Harper’s Bazaar) заключили с Amazon сделки по лицензированию их контента для обучения ИИ ассистента для покупателей Rufus. Также ссылки на материалы журналов будут появляться с ответах ИИ агента.

Rufus - это ИИ ассистент Amazon, который отвечает на вопросы покупателей, используя каталог товаров, отзывы и данные из интернета. Материалы популярных журналов смогут разнообразить обучающую базу данных.

Что в целом не снимает с Amazon ответственности за качество данных: мы знаем что отзывы, как позитивные, так и негативные, можно купить: хорошая ботоферма сможет обеспечить ракообразие разнообразных ответов, жалоб и похвалы. Задача Amazon в этом всем создать среду, в которой товары могли продолжать конкурировать.

Сделка - это новый источник дохода для издателей в условиях падения рекламных прибылей и снижения спроса на печатные журналы, однако никто не застрахован от того, что медиа потеряют часть трафика, если пользователи останутся в Rufus вместо перехода на их сайты.

Короче, тут должен был быть ЗВ мем (с Энакином и Падме), потому что «мои ожидания - мои проблемы».

Открывая исследование, которое опубликовал Европарламент я ожидала, что там будет хороший разбор GPAIM, и вообще-то он там в некотором виде есть, правда ему посвящен довольно короткий раздел 2.5 (стр. 85-89), но есть строгое ощущение, что исследователи, если и читали AI Act, то термины, которые даны в этом регламенте, они правильно применяли только в разделе 2.5. (GenAI успел побыть и плохим близнецом TDM (про это дальше), и ИИ моделью, и ИИ системой (стр. 12). В повреждение моих слов здесь стоит просто процитировать вводное слово на стр. 16:

В этом исследовании термин Generative AI в основном относится к GPAI моделям. Это модели, обученные на огромных наборах данных и способные создавать результаты в разных форматах (модальностях), таких как текст, изображения, музыка или код.
К таким моделям относятся, например LLMs (Large Language Models) - большие языковые модели и модели для генерации изображений.
В соответствии с Recital 105 и статьей 53 AI Act, мы фокусируемся на вопросах авторского права, связанных с этими GPAI системами. В частности, нас интересуют использование защищенного авторским правом контента для обучения моделей и правовой статус результатов (контента), созданного ИИ.

Если вы откроете Recital 105 и статью 53 AI Act, то речь там пойдет про GPAI модели (не системы), более того, Recital 105 прямо указывает на TDM как исключение, которое учитывается как правообладателями, так и “providers”.

Чтобы вы понимали, последнее предложение Recital 105 звучит следующим образом: если автор выразил свое право на отказ от TDM, разработчики GPAIM должны получить разрешение автора, если они хотят провести анализ таких произведений.

И по сути задача этого исследования могла сводиться к оценке законного доступа к произведениям и критике отсутствия общего подхода к машиночитаемому отказу. Но авторы исследования решили, что они хотят защитить авторов в ЕС от OpenAI и их гегемонии, поэтому начали выдавать желаемое за действительное.

Если изучить исследование с самого начала, особенно в части, которая посвящена вопросам законности использования объектов авторского права при обучении ИИ, можно найти довольно некорректные сравнения (про это много написал @legalelysium, советую почитать).

Почему? Потому что в какой-то момент генеративный ИИ, как общее определение технологии, которое в Recital 99 AI Act приравнивается к General Purpose AI Models (стр. 19), внезапно начинает сравниваться со способом анализа данных, text and data mining - TDM (см. стр. 32 и далее, на стр. 40 даже придумали табличку).

Это, во-первых, с точки здравого смысла не корректно, а во-вторых, разумно приводит к не совсем справедливым выводам авторов, которые скупой логикой можно изложить следующим образом: TDM позволяет анализировать (!) данные/информацию и тем самым полученные закономерности использоваться в аналитических (!) целях (в качестве примера такого использования приведено восстановление культурных ценностей - стр. 40).

С другой стороны genAI - это такой анализ данных, при котором полученные закономерности могут воспроизводить выразительные элементы тех объектов авторского права, которые были использованы при его обучении. И соответственно это не противоречит цели TDM, которая была заложена в Директиве 2019/790 “Copyright in the digital single market”.

Сказать, что такой вывод не выдерживает критики, это ничего не сказать, потому что в данном случае идет сравнение одного из этапов обучения ИИ модели с самой ИИ моделью. Такой подход особенно удивляет, потому что на самом деле в исследовании заданы хорошие вопросы: используются ли объекты авторского права при обучении ИИ, применяются ли текущие исключения для TDM к обучению генеративного ИИ, какова роль TDM и насколько хорошо реализуется машиночитаемый отказ.

Более того, безапелляционное заявление, что при обучении ИИ происходит использование объектов авторского права (копирование и воспроизведение), что при обучении и последующей генерации происходит воспроизведение выразительных элементов объектов авторского права, что существует вероятность воспроизведения оригинального объекта авторского права, который был использован в обучающем датачете - сложно комментировать не задаваясь вопросом - «будет ли ответ на вопрос почему вы так считаете?» (стр. 30-31).

Ответа на этот вопрос не будет, потому что элементарное обращение к опредению TDM может нарушить стройную логику: TDM (text and data mining) - это любой метод автоматического анализа текстов и данных в цифровой для извлечения информации, например закономерностей, тенденций, взаимосвязей.

TDM не ограничен дальнейшими целями использования выявленных закономерностей кроме тех, которые прямо закреплены в Директиве. Поэтому сейчас отрицание применения TDM к генеративному ИИ по логике авторов происходит, потому что разработчики нарушают права авторов, а нарушают они права авторов, потому что при анализе копируют (!) выразительные элементы (!) оригинальных работ, которые позволяют создавать конкурирующие на рынке произведения.

То что мы видим это не предложение решения проблемы с opt-out механизмом, который сами авторы критикуют, это попытка перепрочтения директивы в пользу идеи, что она не распространяется на генеративный ИИ, потому что генеративный ИИ - это другое.

В одном из приведенных примеров (стр. 39) авторы указывают, что если результат генерации похож на материал из обучающего датасата - это общая проблема генеративного ИИ, то что это признак ущербности самого датасета (отсутствие разнообразия и контроля качества - авторы не упоминают).

Как я бы видела это исследование: оценка законного доступа к произведениям (что мы считаем таковым), является ли обучение использованием (я бы сказала скорее нет, но если мы говорим про TDM, то хотя бы утвержала, что обучение генеративного ИИ под него подпадает), какие лицензионные сделки могут быть (для обучения ИИ) и почему opt-out важен, как избежать генерации схожих произведений, оценила бы эффективность требований к GPAIM с целью защиты интересов авторов.

В дополнение ко всему этому нам предлагают создать ОКУП для оплаты правообладателям за обучение на их произведениях, не охранять AI generated работы, а только AI assisted (и никакого sui generis регулирования, без оценки негативного влияния на рынок работ тех же самых авторов, которых пытаются защитить).

Это были очень дорогие нам 175 страниц.

Заключение Европарламента читалось примерно так.