Нещодавнє дослідження Data Provenance Initiative, дослідницької групи під керівництвом Массачусетського технологічного інституту, виявило зростаючу кризу в доступності даних, які використовуються для навчання моделей штучного інтелекту (ШІ). Дослідження, яке перевірив 14,000 XNUMX веб-доменів включено до трьох часто використовуваних AI навчальні набори даних, виявили, що значна частина високоякісних джерел даних зараз обмежує доступ до свого вмісту.
Згідно з оцінками дослідження, у наборах даних C4, RefinedWeb та Dolma приблизно 5% усіх даних та 25% даних з найякісніших джерел було обмежено . Ці обмеження в основному реалізуються за допомогою Протокола виключення роботів (Robots Exclusion Protocol) – давнього методу, який власники веб-сайтів використовують для запобігання скануванню їхніх сторінок автоматичними ботами за допомогою файлу під назвою robots.txt.
Провідний автор Шейн Лонгпре попереджає: «Ми спостерігаємо швидке зниження згоди на використання даних в Інтернеті, що матиме наслідки не лише для AI компанії, але й для дослідників, науковців та некомерційних організацій». Ця тенденція може суттєво вплинути на розвиток та вдосконалення AI Моделі, які значною мірою покладаються на величезну кількість різноманітних високоякісних даних для навчання.
Дефіцит навчальних даних стає критичною проблемою в AI промисловість. як AI Системи стають більш досконалими та застосовуються для вирішення дедалі складніших завдань, попит на багаті та різноманітні набори даних зростає. Однак пропозиція таких даних скорочується через різні фактори, зокрема проблеми конфіденційності, етичні міркування та відмова від творці контенту.
Багато видавців і онлайн-платформ вжили заходів для захисту своїх даних від збирання без дозволу. Деякі мають налаштувати платні стіни або змінити умови обслуговування обмежити використання їхнього контенту для AI навчання. Інші, як-от Reddit та StackOverflow, почали зарядка AI компанії за доступ до своїх даних. Також було вжито юридичних заходів, зокрема The New York Times подала до суду на OpenAI та Microsoft за ймовірне порушення авторських прав, пов’язане з використанням новинних статей у AI навчання.
Наслідки цієї нестачі даних є далекосяжними. AI Моделі, навчені на недостатніх або упереджених даних, можуть мати знижену точність, обмежену узагальнюваність та нездатність адаптуватися до нових ситуацій. Це потенційно може уповільнити інновації в цій галузі та перешкодити розвитку нових AI додатків.
Щоб вирішити ці проблеми, дослідники та AI компанії досліджують альтернативні підходи. До них належать методи активного навчання, які зосереджені на виборі найбільш інформативних точок даних для навчання, та трансферне навчання, яке використовує знання з попередньо навчені моделі щоб підвищити ефективність виконання нових завдань з обмеженими даними.
Деякі компанії також укладають угоди з видавцями, щоб забезпечити постійний доступ до свого контенту. Наприклад, OpenAI, Google та Meta нещодавно уклали угоди з новинними організаціями, такими як The Associated Press та News Corp, щоб забезпечити безперервний потік високоякісних навчальних даних.
Як AI У той час як галузь бореться з цією кризою даних, що виникає, вона може бути змушена розробляти ефективніші та відповідальніші способи навчання моделей. Це може призвести до інновацій у зборі та використанні даних і навіть до абсолютно нових парадигм навчання, які менше залежать від величезних наборів даних.
Команда вчитися's результати підкреслюють необхідність збалансованого підходу до AI розвиток, який поважає права інтелектуальної власності та питання конфіденційності, водночас сприяючи інноваціям. Оскільки ландшафт AI Оскільки навчальні дані продовжують розвиватися, співпраця між технологічними компаніями, творцями контенту та політиками матиме вирішальне значення для подолання цих викликів та забезпечення сталого зростання AI технології.
БОНУС: Отримайте наші 200 доларівAI «Набір інструментів майстерності» БЕЗКОШТОВНО при реєстрації!
