ดร.เจษฎา เปิดการบรรยายด้วยการทดลองให้ผู้ฟังแยกเสียงจริงกับเสียงที่ AI สร้างขึ้น ก่อนเฉลยว่า “ไม่จริงทั้งคู่ เป็นเสียงปลอมทั้งคู่” สะท้อนให้เห็นว่าเทคโนโลยีสร้างเสียงด้วย AI พัฒนาไปถึงจุดที่มนุษย์อาจแยกแยะได้ยาก

เพียงใช้เสียงต้นแบบภาษาอังกฤษประมาณ 20 วินาที AI ก็สามารถสร้างเสียงภาษาไทยที่มีเนื้อเสียงใกล้เคียงเจ้าของเสียงได้ จนนำไปสู่ความเสี่ยงในการถูกนำไปใช้โดยมิจฉาชีพ โดยเฉพาะเมื่อ “เสียง” เคยเป็นหนึ่งในสิ่งที่เราใช้ระบุตัวตนและสร้างความไว้วางใจ

ภัยดังกล่าวเกิดขึ้นจริงแล้วทั่วโลก ตั้งแต่การปลอมเสียงผู้บริหารเพื่อหลอกโอนเงิน ไปจนถึงการสร้างทั้งภาพและเสียงของบุคคลในการประชุมออนไลน์ ซึ่งสร้างความเสียหายมูลค่ามหาศาล

โจทย์สำคัญจึงไม่ใช่เพียงการสร้าง Automatic Speaker Verification (ASV) เพื่อยืนยันว่าเสียงเป็นของบุคคลนั้นจริงหรือไม่ แต่ต้องทำให้ระบบสามารถรู้เท่าทัน Spoofing Attack ทั้งเสียงที่ AI สร้างขึ้น การบันทึกเสียงมาเล่นซ้ำ การเลียนเสียง และ Voice Conversion

ตลอดกว่า 10 ปี เทคโนโลยีตรวจจับเสียงปลอมพัฒนาจากการวิเคราะห์ลักษณะเฉพาะของเสียง สู่ Deep Learning และปัจจุบันก้าวเข้าสู่ Self-Supervised Learning ที่ให้ AI เรียนรู้โครงสร้างของเสียงก่อนนำไปจำแนกเสียงจริงและเสียงปลอม

ทีมวิจัย NECTEC ยังพัฒนา Thai Spoof ฐานข้อมูลเสียงปลอมภาษาไทย เพื่อศึกษาว่าความสามารถในการตรวจจับเสียงปลอมขึ้นอยู่กับภาษาหรือไม่ และต่อยอดสู่โมเดลที่คำนึงถึงความหลากหลายของภาษาถิ่น หลังพบว่าบางระบบอาจตีความ “ภาษาอีสาน” ว่าเป็นเสียงปลอม

อย่างไรก็ตาม ความท้าทายสำคัญยังคงอยู่ เพราะ “ระบบเราจะเก่ง ถ้ารู้ว่าเสียงปลอมปลอมยังไง แต่ในทางปฏิบัติเราไม่รู้ล่วงหน้า” รวมถึงกรณีที่มีการปลอมเสียงเพียงบางช่วงของคลิป ซึ่งยังเป็นโจทย์ที่ต้องวิจัยต่อไป

ยิ่งระบบตรวจจับเก่งขึ้น ผู้โจมตีก็พัฒนาเทคนิคใหม่ขึ้นตามมา จนถึงการทำ Adversarial Attack เพื่อหลอกระบบตรวจจับเสียงปลอมโดยตรง ทำให้การแข่งขันระหว่าง “เทคโนโลยีสร้างเสียงปลอม” กับ “เทคโนโลยีตรวจจับ” ยังคงดำเนินต่อไป