Исследователи из лаборатории CSAIL Массачусетского технологического института (MIT) обнаружили феномен «затухания атрибуции» в генеративных моделях. По мере увеличения объема обучающих данных вклад каждого отдельного примера в конкретный результат стремится к нулю. Удаление любого изображения или работ конкретного художника из датасета не меняет итоговый сгенерированный образец.
Авторы работы Чжэн Дай и Дэвид Гиффорд разработали архитектуру «диффузионного ансамбля», позволяющую точно оценивать влияние данных без переобучения модели. Этот метод исключает использование приблизительных оценок, применявшихся ранее, и демонстрирует абсолютное отсутствие связи между входными данными и выводом при больших масштабах. Результаты опубликованы в журнале Nature Communications.
Эксперименты на наборах данных объемом до 160 000 изображений подтвердили, что «контрфактический радиус» уменьшается по степенному закону. Профессор Гиффорд указывает, что это ставит под сомнение статус сгенерированных изображений как производных произведений в контексте авторского права. Если вывод нельзя атрибутировать конкретному источнику, вопросы добросовестного использования и компенсации авторам требуют нового юридического осмысления.
Юрист Джеймс Гриммельманн из Корнельского университета отмечает, что традиционные методы оценки копирования становятся неэффективными для сложных моделей. Технологическим компаниям может потребоваться внедрение подобных архитектур для доказательства отсутствия нарушений прав интеллектуальной собственности. Применимость выводов к большим языковым моделям остается предметом дальнейших исследований.