Учёные назвали этот эффект «распадом атрибуции» (attribution decay). Он означает, что даже если конкретное произведение удалить из обучающей выборки, генеративная модель может продолжать создавать изображения, стилистически напоминающие его.
Например, если полностью исключить работы Пабло Пикассо из набора данных, модель всё равно способна генерировать изображения с характерными для художника визуальными особенностями. Однако установить, какое именно произведение послужило источником такого результата, становится практически невозможно.
Проблема особенно актуальна на фоне многочисленных судебных споров вокруг использования защищённых авторским правом материалов для обучения ИИ. Разработчики моделей используют огромные массивы книг, статей, фотографий и произведений искусства, зачастую без прямого согласия их авторов. Это уже привело к судебным разбирательствам между правообладателями и разработчиками генеративных систем.
В частности, Disney, NBCUniversal и DreamWorks подали иск против разработчика генератора изображений Midjourney, обвинив компанию в нарушении интеллектуальных прав. В 2023 году The New York Times также подала иск против OpenAI и Microsoft, заявив о незаконном использовании материалов издания для обучения ИИ-систем.
Однако новое исследование указывает на дополнительную проблему. Даже если удастся доказать, что определённое произведение присутствовало в обучающем наборе, установить его непосредственную связь с конкретным результатом генерации может оказаться крайне трудно.
По словам ведущего автора исследования Чжэна Дая, это заставляет пересмотреть традиционный подход к определению происхождения контента. Если связь между обучающими данными и результатом генерации постепенно исчезает, становится сложнее использовать сам факт сходства изображения с произведением как доказательство его непосредственного влияния.
Для правообладателей это создаёт парадоксальную ситуацию: огромные объёмы данных позволяют ИИ воспроизводить характерные особенности определённых авторов и художественных направлений, но одновременно затрудняют установление конкретного источника такого сходства.
Исследователи считают, что полученные результаты могут иметь последствия не только для технологий генеративного ИИ, но и для будущего законодательства об авторском праве и принципов добросовестного использования произведений при обучении моделей.
Источник: https://www.semafor.com/article/08/19/2026/generative-ai-outputs-are-unattributable-study-findsЕсли вам понравился материал, кликните значок — вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал —не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!
