Google มุ่งเป้าไปที่ Deepfakes ที่ชัดเจนในผลการค้นหา

Google มุ่งเป้าไปที่ Deepfakes ที่ชัดเจนในผลการค้นหา

Google ได้ประกาศมาตรการใหม่ในการปราบปราม Deepfake ซึ่งเป็นมาตรการสำคัญในการปราบปรามการแพร่กระจายของภาพอนาจารที่ไม่ได้รับความยินยอม (NCEI) pornography ในผลการค้นหาของบริษัทยักษ์ใหญ่ด้านเทคโนโลยี's เอ็มม่า ฮิกแฮม ผู้จัดการผลิตภัณฑ์ เปิดเผยว่าการปรับปรุงล่าสุด Google's อัลกอริธึมการจัดอันดับได้ลดการมองเห็นภาพอนาจารปลอมลงมากกว่า 70% สำหรับการค้นหาบุคคลเฉพาะ.

โครงการนี้เกิดขึ้นเพื่อตอบสนองต่อความกังวลที่เพิ่มขึ้นเกี่ยวกับเนื้อหาอนาจารที่สร้างขึ้นโดย AIซึ่งเพิ่มสูงขึ้นอย่างมากเนื่องจากเครื่องมือดัดแปลงภาพเข้าถึงได้ง่ายขึ้น แนวทางใหม่ของ Google มีเป้าหมายที่จะให้ความสำคัญกับบทความข่าวและเนื้อหาให้ข้อมูลเกี่ยวกับ deepfake มากกว่าการแสดงภาพที่มีปัญหาเหล่านั้นโดยตรง

การเปลี่ยนแปลงอัลกอริทึมนี้เกิดขึ้นหลังจากWIRED ได้ทำการสืบสวนและพบว่าก่อนหน้านี้ Google ลังเลที่จะนำข้อเสนอแนะของพนักงานและผู้เชี่ยวชาญมาใช้เพื่อแก้ไขปัญหา NCEIบริษัทจึงได้หันมาใช้แนวทางเชิงรุกมากขึ้น โดยขยายมาตรการสำคัญ 3 ประการที่เคยใช้กับ deepfake ที่มีเนื้อหาลามกอนาจารที่ไม่พึงประสงค์ มาใช้กับเนื้อหาสังเคราะห์:

  1. การลบภาพที่ซ้ำกันที่ถูกลบออก
  2. การกรองผลลัพธ์ที่ชัดเจนจากข้อความค้นหาที่คล้ายกัน
  3. การลดระดับเว็บไซต์ที่มีคำขอลบออกสำเร็จจำนวนมาก

การเปลี่ยนแปลงเหล่านี้ได้รับการออกแบบมาเพื่อให้ผู้ใช้ "เพิ่มความอุ่นใจ" โดยเฉพาะผู้ที่กังวลเกี่ยวกับเนื้อหาที่คล้ายคลึงกันในอนาคต ตามที่ Higham กล่าว

การเคลื่อนไหวนี้สอดคล้องกับความพยายามในวงกว้างของอุตสาหกรรมในการรับมือกับความท้าทายจากดีพเฟค (deepfake) เมื่อเร็วๆ นี้ ไมโครซอฟต์ได้เรียกร้องให้รัฐสภาออกกฎหมายเกี่ยวกับการฉ้อโกงจากดีพเฟค ในขณะที่คณะกรรมการกำกับดูแลของ Meta ได้วิพากษ์วิจารณ์การจัดการของบริษัทต่อดีพเฟคที่สร้างโดย AI ซึ่งมีเนื้อหาโจ่งแจ้งของบุคคลสาธารณะ

สื่อการล่วงละเมิดทางเพศเด็กที่สร้างโดย AI

ถึงแม้จะมีการดำเนินการในเชิงบวกเหล่านี้ แต่ผู้สนับสนุนบางรายก็โต้แย้งว่า Google สามารถทำได้มากกว่านี้ ตัวอย่างเช่น บริษัทยังไม่ได้ใช้ข้อความเตือนสำหรับการค้นหาภาพปลอมแปลงทางเพศของผู้ใหญ่ คล้ายกับที่ใช้สำหรับการค้นหาภาพที่เกี่ยวข้องกับการละเมิดสิทธิเด็ก

เนื่องจากเทคโนโลยีดีพเฟคยังคงพัฒนาอย่างต่อเนื่อง โดยคาดการณ์ว่าจะมีดีพเฟคประมาณ 8 ล้านชิ้นถูกเผยแพร่ทางออนไลน์ภายในปี 2025 ความจำเป็นในการมีมาตรการรับมือที่แข็งแกร่งจึงมีความเร่งด่วนมากขึ้น ความพยายามล่าสุดของ Google ถือเป็นก้าวสำคัญในทิศทางที่ถูกต้อง แต่การต่อสู้กับ ภาพอนาจาร ที่ละเมิดลิขสิทธิ์ยังคงเป็นความท้าทายอย่างต่อเนื่องสำหรับบริษัทเทคโนโลยีและสังคมโดยรวม

ผลกระทบของการเปลี่ยนแปลงเหล่านี้ขยายขอบเขตไปไกลกว่าความกังวลด้านความเป็นส่วนตัวของแต่ละบุคคล โดยครอบคลุมถึงประเด็นของข้อมูลที่ไม่ถูกต้อง การบิดเบือนทางการเมือง และความสมบูรณ์ของข้อมูลออนไลน์ เช่น AI เทคโนโลยี ความก้าวหน้าเส้นแบ่งระหว่างเนื้อหาจริงและเนื้อหาปลอมเริ่มเบลอมากขึ้น ซึ่งตอกย้ำถึงความสำคัญของมาตรการเชิงรุกโดยแพลตฟอร์มเทคโนโลยีรายใหญ่

Google's ปราบปราม การปลอมแปลงอย่างชัดแจ้ง ถือเป็นการพัฒนาที่สำคัญในการต่อสู้อย่างต่อเนื่องเพื่อรักษาความไว้วางใจและความปลอดภัยในยุคดิจิทัล ในขณะที่บริษัทยังคงปรับปรุงแนวทางของตน อุตสาหกรรมเทคโนโลยีและผู้กำหนดนโยบายจะจับตาดูอย่างใกล้ชิดเพื่อดูว่ามาตรการเหล่านี้จะกำหนดอนาคตของออนไลน์อย่างไร การควบคุมเนื้อหา และ AI การกำกับดูแล.

https://twitter.com/DrDataScientist/status/1818646445656084623

เขียนความเห็น

ที่อยู่อีเมลของคุณจะไม่ถูกเผยแพร่ช่องที่จำเป็นต้องกรอกจะมีเครื่องหมาย* กำกับไว้

เข้าร่วม Aimojo เผ่า!

เข้าร่วมกับสมาชิกกว่า 76,000 รายเพื่อรับเคล็ดลับจากผู้เชี่ยวชาญทุกสัปดาห์! 
🎁 โบนัส: รับ $200 ของเรา”AI Mastery Toolkit” ฟรีเมื่อคุณสมัคร!

ได้รับความนิยม AI เครื่องมือ
AI แองเจิล

สร้างความเป็นส่วนตัว AI แฟนสาวที่จำคุณได้จริงๆ แชทส่วนตัว, การโทรด้วยเสียง, จินตนาการแบบกำหนดเอง ผู้ใหญ่ AI มิตรภาพที่ตราตรึงด้วยความทรงจำและเรื่องราวความรักที่เป็นส่วนตัว

โอเพ่นโค้ด

ส่งมอบโค้ดที่เชื่อถือได้เร็วขึ้นด้วยความยืดหยุ่น AI ตัวแทน ตัวแทนการเข้ารหัสเพียงคนเดียว แต่ให้บริการแก่ผู้ให้บริการนับร้อย การทำงานอัตโนมัติของคลังเก็บข้อมูลโอเพนซอร์สในเทอร์มินัลและเวิร์กโฟลว์บนเดสก์ท็อป

ขีดเขียน

ตรวจสอบบทความวิชาการภาษาโปแลนด์และตรวจจับข้อผิดพลาดในการอ้างอิงตั้งแต่เนิ่นๆ ตรวจสอบข้อผิดพลาดในการอ้างอิงก่อนส่งงานฉบับสุดท้าย การตรวจทานงานเขียนเชิงวิชาการ การตรวจสอบความถูกต้องของเนื้อหา และการจัดการอ้างอิงอย่างชาญฉลาด

ล้วง

เปลี่ยนงานวิจัยทางวิชาการที่ซับซ้อนให้เป็นข้อมูลเชิงลึกที่น่าเชื่อถือและนำไปใช้ได้จริงได้รวดเร็วยิ่งขึ้น ค้นหาเอกสาร รวบรวมหลักฐาน และจัดทำรายงาน An AI ผู้ช่วยวิจัยที่สร้างขึ้นเพื่อการวิเคราะห์หลักฐานทางวิทยาศาสตร์

AI อิสระ

เปลี่ยนบทสนทนากับผู้ป่วยให้เป็นบันทึกที่เป็นระเบียบ โดยไม่ต้องเสียเวลาบันทึกข้อมูลตอนดึก ระบบบันทึกข้อมูลทางคลินิกที่เรียนรู้จากสไตล์การเขียนของคุณ An AI โปรแกรมจดบันทึกทางการแพทย์ที่สร้างขึ้นสำหรับคลินิกอิสระ