Google націлюється на відверті Deepfakes у результатах пошуку

Google націлюється на відверті Deepfakes у результатах пошуку

Здійснюючи важливий крок у боротьбі з розповсюдженням неконсенсусних відвертих зображень (NCEI), Google оголосив про нові заходи для боротьби з deepfake pornграфію у своїх результатах пошуку. Технологічний гігант's менеджер з продукції Емма Хігем розповіла, що нещодавні коригування Google's Алгоритми ранжування вже зменшили кількість підроблених відвертих зображень на понад 70% для пошукових запитів, спрямованих на конкретних осіб..

Ця ініціатива з'явилася у відповідь на зростаюче занепокоєння щодо відвертого контенту, створеного штучним інтелектом , яке сплескнуло через зростаючу доступність інструментів для маніпулювання зображеннями. Новий підхід Google спрямований на те, щоб надавати пріоритет новинним статтям та інформативному контенту про діпфейки, а не на показ самих проблемних зображень.

Цей алгоритмічний зсув стався після розслідування WIRED , яке виявило попереднє небажання Google впроваджувати пропозиції персоналу та експертів щодо вирішення проблеми NCEI . Тепер компанія зайняла більш проактивну позицію, поширивши три ключові заходи, які раніше використовувалися для справжніх небажаних відвертих діпфейків, на синтетичний контент:

  1. Видалення дублікатів знятих зображень
  2. Фільтрування явних результатів схожих запитів
  3. Пониження веб-сайтів із великою кількістю успішних запитів на видалення

За словами Хігама, ці зміни створені, щоб дати користувачам «додатковий спокій», особливо тим, хто хвилюється щодо появи подібного вмісту в майбутньому.

Цей крок узгоджується з ширшими зусиллями галузі щодо вирішення проблеми діпфейків. Нещодавно Microsoft закликала Конгрес створити «закон про шахрайство з діпфейками», тоді як наглядова рада Meta розкритикувала методи обробки компанією відвертих діпфейків публічних осіб, згенерованих штучним інтелектом.

Матеріали зі сценами сексуального насильства над дітьми, створені ШІ

Незважаючи на ці позитивні кроки, деякі прихильники стверджують, що Google міг би піти далі. Наприклад, компанія не впровадила попереджувальні повідомлення для пошукових запитів, що стосуються сексуальних діпфейків дорослих, подібних до тих, що використовуються для пошукових запитів, пов’язаних із зображеннями експлуатації дітей.

Оскільки технологія діпфейків продовжує розвиватися, і очікується, що до 2025 року в Інтернеті буде поширено приблизно 8 мільйонів діпфейків, потреба в ефективних контрзаходах стає дедалі нагальнішою. ​​Останні зусилля Google є значним кроком у правильному напрямку, але боротьба з непристойними зображеннями залишається постійним викликом для технологічних компаній і суспільства в цілому.

Вплив цих змін виходить за межі індивідуальних проблем конфіденційності, торкаючись питань дезінформації, політичних маніпуляцій і цілісності онлайн-інформації. як AI technology Поступово межа між справжнім і підробленим вмістом стає все більш розмитою, що підкреслює важливість проактивних заходів з боку основних технологічних платформ.

Google's придушення явні дипфейки знаменує важливу подію в поточній боротьбі за збереження довіри та безпеки в епоху цифрових технологій. Оскільки компанія продовжує вдосконалювати свій підхід, технологічна індустрія та політики уважно спостерігатимуть, як ці заходи формують майбутнє онлайн модерація вмісту та AI управління.

https://twitter.com/DrDataScientist/status/1818646445656084623

залишити коментар

Ваша адреса електронної пошти не буде опублікована. Обов'язкові поля позначені *

Реєстрація Aimojo Плем'я!

Приєднуйтеся до 76,000 XNUMX+ учасників, щоб щотижня отримувати поради від інсайдерів! 
🎁 БОНУС: Отримайте наші 200 доларівAI «Набір інструментів майстерності» БЕЗКОШТОВНО при реєстрації!

Тенденції AI Інструменти
AI Ангели

Створіть особистий AI дівчина, яка справді тебе пам'ятає. Приватні чати, голосові дзвінки, індивідуальні фантазії. Для дорослих AI товариство з постійною пам'яттю та персоналізованою романтикою.

OpenCode

Швидше розповсюджуйте надійний код за допомогою гнучких рішень AI агенти. Один агент кодування, сотні провайдерів. Автоматизація репозиторіїв з відкритим кодом у терміналах та робочих процесах на робочому столі.

scribbr

Вивчайте польські академічні статті та виявляйте помилки цитування на ранній стадії. Знайдіть помилки в цитуванні перед остаточним здаванням роботи. Академічна коректура, перевірка оригінальності та розумніше управління літературою.

Викликати

Швидше перетворюйте складні академічні дослідження на достовірні та практичні висновки. Знаходьте документи, витягуйте докази, створюйте звіти. An AI науковий асистент, створений для аналізу наукових доказів.

Звільнений ШІ

Перетворіть розмови з пацієнтами на організовані нотатки без ведення діаграм пізно вночі. Клінічна документація, яка вивчає ваш стиль. An AI медичний писар, створений для незалежної клінічної практики.

© Авторське право 2023 - 2026 | Стати AI Професіонал | Зроблено з ♥