Facebook ออกนโยบายแบนคลิป deepfake อย่างเป็นทางการ โดยระบุว่า ทางแพลตฟอร์มจะแบนวิดีโอและเนื้อหาที่ผ่านการแก้ไข สังเคราะห์ (ไม่รวมการปรับแต่งให้คมชัดขึ้น) และผลลัพธ์คือทำให้เกิดความเข้าใจผิด หรือวิดีโอที่ปรับแต่งโดย AI แต่ไม่รวมวิดีโอที่ทำขึ้นเชิงตลก ล้อเลียน
deepfake เป็นประเด็นสำคัญที่บริษัทเทคโนโลยี และสำนักข่าวให้ความสำคัญ เพราะมีความเสี่ยงที่ข้อมูลปลอมนี้จะป่วนการเลือกตั้งสหรัฐฯ 2020 ได้ บริษัทไอทีจึงตื่นตัว นำมาสู่ความร่วมมือระหว่าง Twitter, Facebook, Amazon ในการสนับสนุนงานวิจัยและโครงการโอเพ่นซอร์สเพื่อตรวจจับ deepfake ได้ดีขึ้น, กูเกิลจ้างนักแสดงมาสร้างชุดข้อมูลวิดีโอปลอมสนับสนุนการพัฒนา AI ตรวจจับ deepfake, Reuters ร่วมกับ Facebook ทำคอร์สออนไลน์ฟรี ช่วยนักข่าวจับผิดข่าวปลอม deepfake
อย่างไรก็ตาม มีการตั้งข้อสงเกตว่า นโยบายใหม่ของ Facebook อาจไม่มีประสิทธิภาพเท่าที่ควร เพราะคลิปของ Nancy Pelosi โฆษกสภาคองเกรส ที่ปรับแต่งให้เสียงเหมือนคนเมา กับคลิปของ Joe Biden อดีตรองประธานาธิบดีสหรัฐฯ ที่มีการตัดต่อคำพูดให้ฟังแล้วเข้าใจผิดได้นั้น ก็อาจไม่ถึงขั้นถูกแบนตามนโยบายใหม่ของ Facebook เพราะทั้งสองวิดีโอไม่ได้ตัดต่อคำใหม่หรือใส่เสียงใหม่ที่พวกเขาไม่ได้พูดเข้าไป
ซึ่งจากการที่ Facebook ไม่ได้แบนคลิป Nancy Pelosi ในทันทีทำให้มีการทดสอบลองเชิงเกิดขึ้น คือมีศิลปินร่วมมือกับเอเจนซี่ สร้างคลิป deepfake มาร์ค ซักเคอเบิร์ก โดยใส่คำพูดที่เป็นลางร้ายและเป็นคำพูดที่มาร์คไม่มีทางพูดเอง เพื่อทดสอบว่า Facebook จะแบนไหม ซึ่งตอนนี้วิดีโอก็ยังหาดูได้บน Instagram
ที่มา - Facebook Blog, The Verge