Coinbase รายงานความสำเร็จล่าสุดของระบบ AI ป้องกันการฉ้อโกง (AI scam-prevention agent) ที่สามารถยับยั้งการโอนเงินจำนวน 4.7 ล้านดอลลาร์ ไม่ให้ไปถึงมือมิจฉาชีพ โดยเหตุการณ์ดังกล่าวเกิดขึ้นจากการที่กลุ่มมิจฉาชีพใช้เทคโนโลยี Deepfake ของ Elon Musk สร้างความน่าเชื่อถือผ่านการไลฟ์สดทาง YouTube โดยอ้างถึงกิจกรรมแจกเหรียญคริปโตในช่วงระหว่างการสาธิตเทคโนโลยีของ Tesla
กลไกการตรวจจับความผิดปกติแบบเรียลไทม์
กระบวนการป้องกันของ Coinbase ทำงานอย่างเป็นระบบด้วยเทคโนโลยี Machine Learning ที่ประเมินคะแนนความเสี่ยง (Risk Score) ของธุรกรรมขาออกแบบเรียลไทม์ โดยระบบไม่ได้ตรวจสอบเพียงแค่ความถูกต้องของธุรกรรม แต่ยังวิเคราะห์ถึงรูปแบบการหลอกลวง (Scam Pattern) รวมถึงการแอบอ้างชื่อแบรนด์และที่อยู่กระเป๋าเงินดิจิทัลที่เพิ่งสร้างขึ้นใหม่ ระบบจะดำเนินการสื่อสารโต้ตอบกับลูกค้าที่กำลังจะโอนเงินเพื่ออธิบายถึงกลโกงที่เกิดขึ้นและตั้งคำถามเพื่อประเมินความมั่นใจของลูกค้าก่อนปล่อยให้ธุรกรรมดำเนินการต่อไป
ความซับซ้อนของมิจฉาชีพในครั้งนี้สูงกว่าที่ระบบเคยถูกฝึกสอนมา เนื่องจาก Deepfake ที่เชื่อมโยงกับการเปิดตัวผลิตภัณฑ์จริงไม่ได้อยู่ในข้อมูลชุดฝึกสอนเดิมของ AI อย่างไรก็ตาม ระบบสามารถทำความเข้าใจรูปแบบการฉ้อโกงได้โดยอัตโนมัติจากการสังเกตสัญญาว่าจะเพิ่มมูลค่าเงินให้เท่าตัว ข้อจำกัดของเวลาในกิจกรรมไลฟ์สด และสถานะของธุรกรรมที่ไม่สามารถเรียกคืนได้ ซึ่ง Coinbase ระบุว่ากระบวนการทั้งหมดนี้ทำงานโดยไม่มีมนุษย์เข้ามาแทรกแซง
ในแง่ของความปลอดภัยของแพลตฟอร์ม Coinbase ยืนยันว่าไม่มีการถูกบุกรุก (No breach) หรือการเข้าถึงบัญชีผู้ใช้โดยมิชอบแต่อย่างใด เนื่องจากกรณีนี้เป็นรูปแบบการหลอกลวงที่เหยื่อเป็นผู้กดโอนสินทรัพย์ด้วยตนเอง ทำให้การป้องกันแบบดั้งเดิมที่เน้นดูเพียงกิจกรรมที่เจ้าของบัญชีไม่ได้อนุญาตนั้นไม่เพียงพอ ระบบ AI จึงเข้ามามีบทบาทสำคัญในการเห็นสัญญาณเตือนภัยที่มนุษย์อาจมองข้ามไปในช่วงเวลาวิกฤต
ในอีกด้านหนึ่ง นักวิเคราะห์ในอุตสาหกรรมชี้ให้เห็นว่าเทคโนโลยี Deepfake กำลังเปลี่ยนโครงสร้างเศรษฐศาสตร์ของการฉ้อโกงให้ทำได้ง่ายและประหยัดต้นทุนมากขึ้น จากเดิมที่ต้องใช้ทีมงานและสตูดิโอขนาดใหญ่ ปัจจุบันเพียงแค่ช่องทางการไลฟ์สดและโมเดล AI ก็สามารถเริ่มปฏิบัติการได้ทันที Coinbase จึงเตรียมขยายการใช้ AI ในการวิเคราะห์ธุรกรรมที่มีความเสี่ยงให้ครอบคลุมทุกประเภทการฉ้อโกง และเพิ่มความสามารถให้ระบบสามารถเรียนรู้จากรูปแบบการโจมตีใหม่ๆ ได้ภายในระยะเวลาเพียงไม่กี่ชั่วโมง