
Здійснюючи важливий крок у боротьбі з розповсюдженням неконсенсусних відвертих зображень (NCEI), Google оголосив про нові заходи для боротьби з deepfake pornграфію у своїх результатах пошуку. Технологічний гігант's менеджер з продукції Емма Хігем розповіла, що нещодавні коригування Google's Алгоритми ранжування вже зменшили кількість підроблених відвертих зображень на понад 70% для пошукових запитів, спрямованих на конкретних осіб..
Ця ініціатива з'явилася у відповідь на зростаюче занепокоєння щодо відвертого контенту, створеного штучним інтелектом , яке сплескнуло через зростаючу доступність інструментів для маніпулювання зображеннями. Новий підхід Google спрямований на те, щоб надавати пріоритет новинним статтям та інформативному контенту про діпфейки, а не на показ самих проблемних зображень.
Цей алгоритмічний зсув стався після розслідування WIRED , яке виявило попереднє небажання Google впроваджувати пропозиції персоналу та експертів щодо вирішення проблеми NCEI . Тепер компанія зайняла більш проактивну позицію, поширивши три ключові заходи, які раніше використовувалися для справжніх небажаних відвертих діпфейків, на синтетичний контент:
- Видалення дублікатів знятих зображень
- Фільтрування явних результатів схожих запитів
- Пониження веб-сайтів із великою кількістю успішних запитів на видалення
За словами Хігама, ці зміни створені, щоб дати користувачам «додатковий спокій», особливо тим, хто хвилюється щодо появи подібного вмісту в майбутньому.
Цей крок узгоджується з ширшими зусиллями галузі щодо вирішення проблеми діпфейків. Нещодавно Microsoft закликала Конгрес створити «закон про шахрайство з діпфейками», тоді як наглядова рада Meta розкритикувала методи обробки компанією відвертих діпфейків публічних осіб, згенерованих штучним інтелектом.

Незважаючи на ці позитивні кроки, деякі прихильники стверджують, що Google міг би піти далі. Наприклад, компанія не впровадила попереджувальні повідомлення для пошукових запитів, що стосуються сексуальних діпфейків дорослих, подібних до тих, що використовуються для пошукових запитів, пов’язаних із зображеннями експлуатації дітей.
Оскільки технологія діпфейків продовжує розвиватися, і очікується, що до 2025 року в Інтернеті буде поширено приблизно 8 мільйонів діпфейків, потреба в ефективних контрзаходах стає дедалі нагальнішою. Останні зусилля Google є значним кроком у правильному напрямку, але боротьба з непристойними зображеннями залишається постійним викликом для технологічних компаній і суспільства в цілому.
Вплив цих змін виходить за межі індивідуальних проблем конфіденційності, торкаючись питань дезінформації, політичних маніпуляцій і цілісності онлайн-інформації. як AI technology Поступово межа між справжнім і підробленим вмістом стає все більш розмитою, що підкреслює важливість проактивних заходів з боку основних технологічних платформ.
Google's придушення явні дипфейки знаменує важливу подію в поточній боротьбі за збереження довіри та безпеки в епоху цифрових технологій. Оскільки компанія продовжує вдосконалювати свій підхід, технологічна індустрія та політики уважно спостерігатимуть, як ці заходи формують майбутнє онлайн модерація вмісту та AI управління.


