Данные для AI Новое исследование показывает, что обучение быстро исчезает

Недавнее исследование Data Provenance Initiative, исследовательской группы под руководством Массачусетского технологического института, выявило растущий кризис доступности данных, используемых для обучения моделей искусственного интеллекта (ИИ). Исследование, которое проверил 14,000 XNUMX веб-доменов включен в три наиболее часто используемых AI обучающих наборов данных, показало, что значительная часть высококачественных источников данных в настоящее время ограничивает доступ к своему контенту.

По оценкам исследования, в наборах данных C4, RefinedWeb и Dolma примерно 5% всех данных и 25% данных из источников самого высокого качества были ограничены.. Эти ограничения в первую очередь реализуются через Протокол исключения роботов, давний метод владельцев веб-сайтов, позволяющий предотвратить сканирование их страниц автоматическими ботами с помощью файла robots.txt.

Ведущий автор Шейн Лонгпре предупреждает: «Мы наблюдаем быстрое снижение числа согласий на использование данных в Интернете, что будет иметь последствия не только для AI компаний, но и для исследователей, ученых и некоммерческих организаций». Эта тенденция может существенно повлиять на развитие и совершенствование AI ухода, которые в значительной степени полагаются на огромное количество разнообразных высококачественных данных для обучения.

Нехватка данных для обучения становится критической проблемой AI промышленность. Как AI Системы становятся все более сложными и применяются ко все более сложным задачам, растет спрос на богатые, разнообразные наборы данных. Однако предложение таких данных сокращается из-за различных факторов, включая проблемы конфиденциальности, этические соображения и сопротивление со стороны создатели контента.

Многие издатели и онлайн-платформы предприняли шаги для защиты своих данных от сбора без разрешения. У некоторых есть установили платный доступ или изменили условия обслуживания ограничить использование их контента для AI обучение. Другие, такие как Reddit и StackOverflow, начали зарядка AI компании за доступ к их данным. Также были предприняты юридические действия, когда The New York Times подала в суд на OpenAI и Microsoft за предполагаемое нарушение авторских прав, связанное с использованием новостных статей в AI обучение.

Последствия этого дефицита данных имеют далеко идущие последствия. AI Модели, обученные на недостаточных или предвзятых данных, могут испытывать снижение точности, ограниченную обобщаемость и неспособность адаптироваться к новым ситуациям. Это может потенциально замедлить инновации в этой области и помешать разработке новых AI приложений.

Для решения этих проблем исследователи и AI Компании изучают альтернативные подходы. Они включают в себя методы активного обучения, которые фокусируются на выборе наиболее информативных точек данных для обучения, и трансферное обучение, которое использует знания из предварительно обученные модели для повышения производительности при выполнении новых задач с ограниченными данными.

Некоторые компании также заключают соглашения с издателями, чтобы обеспечить постоянный доступ к их контенту. Например, OpenAI, Google и Meta недавно заключили соглашения с новостными организациями. таких как Associated Press и News Corp, чтобы обеспечить непрерывный поток высококачественных обучающих данных.

Как AI отрасль борется с этим новым кризисом данных, она может быть вынуждена разрабатывать более эффективные и ответственные способы обучения моделей. Это может привести к инновациям в сборе данных, их использовании и даже к совершенно новым парадигмам обучения, которые меньше зависят от массивных наборов данных.

исследовании's результаты подчеркивают необходимость сбалансированного подхода к AI развитие, которое уважает права интеллектуальной собственности и проблемы конфиденциальности, одновременно способствуя инновациям. Поскольку ландшафт AI Данные по обучению продолжают развиваться, сотрудничество между технологическими компаниями, создателями контента и политиками будет иметь решающее значение для преодоления этих трудностей и обеспечения устойчивого роста AI технологии.