Niedawne badanie przeprowadzone przez Data Provenance Initiative, grupę badawczą kierowaną przez MIT, ujawniło narastający kryzys w dostępności danych wykorzystywanych do uczenia modeli sztucznej inteligencji (AI). Badania, które zbadał 14,000 XNUMX domen internetowych zawarte w trzech powszechnie używanych AI zestawy danych szkoleniowych wykazały, że znaczna część wysokiej jakości źródeł danych ogranicza obecnie dostęp do swojej zawartości.
W badaniu szacuje się, że w zbiorach danych C4, RefinedWeb i Dolma ok Ograniczono 5% wszystkich danych i 25% danych pochodzących ze źródeł najwyższej jakości. Ograniczenia te są wdrażane głównie poprzez Protokół wykluczania robotów, to dawna metoda stosowana przez właścicieli witryn internetowych, zapobiegająca indeksowaniu ich stron przez automatyczne boty przy użyciu pliku o nazwie robots.txt.
Główny autor Shayne Longpre ostrzega: „Obserwujemy gwałtowny spadek zgody na wykorzystywanie danych w sieci, co będzie miało konsekwencje nie tylko dla AI firm, ale dla badaczy, pracowników naukowych i podmiotów niekomercyjnych”. Tendencja ta może znacząco wpłynąć na rozwój i ulepszenie AI modele, które na potrzeby szkoleń w dużym stopniu opierają się na ogromnych ilościach różnorodnych danych wysokiej jakości.
Niedobór danych szkoleniowych staje się krytycznym problemem w AI przemysł. Jako AI Wraz ze wzrostem zaawansowania systemów i coraz bardziej złożonych zadań rośnie zapotrzebowanie na bogate i zróżnicowane zbiory danych. Jednak podaż takich danych maleje z powodu różnych czynników, w tym obawy dotyczące prywatności, względy etyczne i sprzeciw ze strony twórcy treści.
Wielu wydawców i platform internetowych podjęło kroki, aby chronić swoje dane przed gromadzeniem bez pozwolenia. Niektórzy tak skonfigurowali ściany płatne lub zmienili warunki korzystania z usług aby ograniczyć wykorzystanie ich treści AI szkolenia. Inne, takie jak Reddit i StackOverflow, zaczęły ładowanie AI firmy o dostęp do swoich danych. Podjęto również kroki prawne, a „The New York Times” pozwał OpenAI i Microsoft za rzekome naruszenie praw autorskich związane z wykorzystaniem artykułów informacyjnych w AI szkolenia.
Konsekwencje niedoboru danych są daleko idące. AI Modele trenowane na niewystarczających lub stronniczych danych mogą charakteryzować się obniżoną dokładnością, ograniczoną generalizacją i niezdolnością do adaptacji do nowych sytuacji. Może to potencjalnie spowolnić innowacje w tej dziedzinie i utrudnić rozwój nowych AI aplikacji.
Aby sprostać tym wyzwaniom, naukowcy i AI Firmy badają alternatywne podejścia. Należą do nich techniki aktywnego uczenia się, które koncentrują się na wyborze najbardziej informacyjnych punktów danych do szkolenia, oraz transfer wiedzy, który wykorzystuje wiedzę z wstępnie wytrenowane modele aby poprawić wydajność nowych zadań przy ograniczonych danych.
Niektóre firmy zawierają także umowy z wydawcami, aby zapewnić sobie stały dostęp do ich treści. Na przykład, OpenAI, Google i Meta zawarły niedawno umowy z organizacjami informacyjnymi jak Associated Press i News Corp, aby zapewnić ciągły przepływ wysokiej jakości danych szkoleniowych.
Jak AI Branża zmaga się z narastającym kryzysem danych, co może zmusić ją do opracowania bardziej efektywnych i odpowiedzialnych metod szkolenia modeli. Może to doprowadzić do innowacji w gromadzeniu i wykorzystywaniu danych, a nawet zupełnie nowych paradygmatów uczenia się, które będą mniej zależne od ogromnych zbiorów danych.
„The Puzzle of Monogamous Marriage” 's Ustalenia podkreślić potrzebę zrównoważonego podejścia do AI Rozwój, który szanuje prawa własności intelektualnej i kwestie prywatności, jednocześnie wspierając innowacyjność. W miarę jak krajobraz AI dane szkoleniowe nadal ewoluują, współpraca między firmami technologicznymi, twórcami treści i decydentami będzie miała kluczowe znaczenie w pokonywaniu tych wyzwań i zapewnianiu zrównoważonego rozwoju AI technologii.
BONUS: Odbierz nasze 200 dolarówAI „Zestaw narzędzi Mastery Toolkit” GRATIS po rejestracji!
