W bezprecedensowym obrocie wydarzeń pojawił się deepfake wideo Menedżer piłkarski Anglii Gareth Southgate przeklinanie jego drużyny stało się viralem, wywołując spore poruszenie wśród fanów i szerszej publiczności. Wideo, które pojawiło się wkrótce po tym, jak Anglia's dramatyczne zwycięstwo w półfinale nad Holandią w Euro 2024, wzbudziło poważne obawy dotyczące konsekwencji treści generowanych przez sztuczną inteligencję w epoce cyfrowej.
W fałszywym filmie widać, jak pozornie rozwścieczony Gareth Southgate wygłasza pełną przekleństw tyradę skierowaną do swoich graczy, w tym do znanych osobistości, takich jak Harry Kane, Phil Foden i Jack Grealish. Ten portret jest całkowicie nietypowy dla Southgate, który jest powszechnie znany ze swojej spokojnej i opanowanej postawy. Film szybko zyskał popularność na platformach mediów społecznościowych, zwłaszcza na TikToku, gdzie został udostępniony i obejrzany miliony razy w ciągu kilku godzin od premiery.
Na nagraniu wideo słychać, jak fałszywy Southgate mówi: „Wygląda na to, że dzisiaj włożyłem je do dużej, grubej Rizliy”, wśród innych zapalnych uwag. Wideo wykorzystuje narzędzia sztucznej inteligencji powtórzyć Southgate'a's głosu i manipulować mimiką twarzy, chociaż eksperci wskazali kilka oznak świadczących o jego braku autentyczności, takich jak nieregularne ruchy ust i nienaturalne tempo mowy.
Deepfake’i są tworzone przy użyciu zaawansowanych technologii AI algorytmy, które mogą generować wysoce realistyczną treść audio i wideo. Technologie te znacznie się rozwinęły, ułatwiając nawet początkującym użytkownikom produkcję przekonujących fałszywych filmów.
Rozwój technologii deepfake został ułatwiony dzięki postępowi w uczeniu maszynowym i sieci neuronowe. Aplikacje do zamiany twarzy i narzędzia do klonowania głosu, takich jak te z Jedenaście laboratoriów, umożliwiają użytkownikom tworzenie wysoce realistycznych symulacji osób publicznych. Narzędzia te mogą być wykorzystywane do różnych celów, od nieszkodliwej rozrywki po bardziej złośliwe zamiary, takie jak szerzenie dezinformacji or zniesławianie poszczególnych osób.
Eksperci z Faculty AI, brytyjskiej firmy specjalizującej się w wykrywaniu deepfakes, przeanalizowali zidentyfikowane wideo Southgate kilka niespójności, które wskazują na jego sztuczny charakter. Należą do nich wspomniane ruchy ust i wzorce mowy, a także ogólny kontekst filmu, który jest bardzo nietypowy dla Southgate’a's znane zachowanie.
Wirusowe rozprzestrzenianie się fałszywego filmu Garetha Southgate’a podkreśla szersze implikacje technologii deepfake. Chociaż wiele deepfake'ów jest tworzonych w celach humorystycznych lub rozrywkowych, ryzyko niewłaściwego wykorzystania jest znaczne. generatywna sztuczna inteligencja systemy, takie jak ChatGPT i W połowie drogi, poprawiają się w zastraszającym tempie, czyniąc je coraz większymi trudno odróżnić treści prawdziwe od fałszywych.
Wydział AI zauważył, że oszustwa oparte na sztucznej inteligencji stanowią „większe zagrożenie dla społeczeństwa”, ponieważ technologia staje się coraz bardziej dostępna i wyrafinowana. Firma wskazała również, że samo ręczne wykrywanie wkrótce nie będzie wystarczające, aby zapobiec rozprzestrzenianiu się naprawdę szkodliwych treści. To przekonanie podziela wielu ekspertów w tej dziedzinie, którzy ostrzegają, że szybki postęp AI technologia wymaga opracowania bardziej niezawodnych mechanizmów wykrywania i regulacji.
Platformy mediów społecznościowych odgrywają kluczową rolę w rozpowszechnianiu fałszywych treści. Wirusowy charakter filmu Southgate został w dużej mierze ułatwiony dzięki platformom takim jak TikTok, gdzie film był szeroko udostępniany. Chociaż platformy te posiadają zasady mające na celu zwalczanie szkodliwych treści, sama ilość i szybkość, z jaką mogą rozprzestrzeniać się deepfakes, stanowią poważne wyzwania.
W odpowiedzi na deepfake Southgate firmy z branży mediów społecznościowych wezwano do udoskonalenia swoich praktyk moderowania treści i inwestowania w więcej zaawansowane technologie wykrywania. Obejmuje to korzystanie z AI oraz algorytmy uczenia maszynowego aby skuteczniej identyfikować i usuwać treści typu deepfake.
Wirusowy, fałszywy film przedstawiający Garetha Southgate'a przeklinającego reprezentację Anglii stanowi wyraźne przypomnienie o sile i potencjalnych zagrożeniach związanych z treściami generowanymi przez sztuczną inteligencję. Ponieważ technologia deepfake stale ewoluuje, zainteresowane strony, w tym firmy technologiczne, organy regulacyjne i społeczeństwo, muszą współpracować, aby stawić czoła wyzwaniom, jakie ona stwarza. Ulepszone metody wykrywania, bardziej rygorystyczne przepisy i zwiększona świadomość społeczna to kluczowe elementy w walce z niewłaściwe wykorzystanie technologii deepfake.
BONUS: Odbierz nasze 200 dolarówAI „Zestaw narzędzi Mastery Toolkit” GRATIS po rejestracji!
