如何防範深偽技術 (Deepfake) 及AI相關詐騙？

2024-02-262024-02-26 benny

早前一間跨國企業的香港員工遭到deepfake視像會議欺騙，造成2億港元的巨額損失。此事揭露了deepfake技術在詐騙領域造成的威脅日益嚴重，在社會響起警號。驗證平台Sumsub產品總監Andrew Novoselsky就此議題發表對deepfake詐騙趨勢及防範這類詐騙的建議。

AI及deepfake詐騙持續增長

根據Sumsub的《2023年身分欺詐報告》，去年全球各行各業偵測到的deepfake事件暴增十倍。值得注意的是，從2022年到2023年，亞太地區的deepfake事件激增1530%，高踞全球第二，情況令人擔憂。同時，香港是全球身分詐騙率最高的五大地區之一，詐騙率佔驗證總數的3.33%。

此外，政府的最新統計數據顯示，2023年詐騙案件較按年上升42.6%，錄得39,824宗，損失總額超過90億港元。隨著資訊科技的蓬勃發展，詐騙變得盛行，隨著deepfake發展得越來越逼真，這種情況恐怕會繼續惡化，並衍生出全新的詐騙形式，如上述詐騙案中的語音deepfake，反映deepfake或其他合成詐騙愈趨複雜。

除了複雜的詐騙技術外，騙徒還利用身分驗證的漏洞來獲利。香港人口流動性高、身分識別形式多元化，以及香港作為國際金融中心，跨境交易量龐大，這些因素均對身分驗證構成挑戰。因此，驗證不同司法管轄區的身分和遵守不同地域的法規令驗證過程變得更加複雜，並助長deepfake詐騙活動。

應採取的反詐騙措施 — 通過偵測deepfake和交易監察加強KYC (認識你的客戶) 驗證

AI是一把雙刃劍，它既可以被用於惡意用途，但同時亦可以成為反詐騙解決方案供應商的盟友。我們觀察到，由AI驅動的deepfake偵測技術開始獲得更廣泛的應用。另外，嚴謹的KYC流程亦是防範詐騙活動的關鍵，尤其是在引導新客戶 (customer onboarding) 方面。KYC驗證可確保參與金融交易的個人和企業的合法性，從而降低詐騙活動的風險，保護其免受重大的經濟損失。除了傳統的多重身分驗證和文件驗證外，無文件驗證 (包括生物特徵識別驗證及真人偵測技術等等) 預計將更加普及，能以先進的科技實現更簡便快捷的身分認證。為應對身分詐騙案件的飆升，我們預計KYC流程進一步整合，以及一體化驗證解決方案誕生會成為主要趨勢。

在引導新客戶後的下一個階段，持續的交易監察也可以防範AI詐騙活動，包括早期的可疑活動偵測、實時行為分析和風險評估。由於AI驅動的詐騙通常採用複雜技術以模仿正規行為和逃避偵測，因此我們可以利用專業和先進的驗證工具，對deepfake詐騙相關的異常情況 (如通訊模式或財務請求突然出現變化) 進行持續監察，並及時作出標記和調查。我們也可以使用由過往數據訓練的機器學習模型來識別詐騙模式，並因應時間作出調整，以偵測不斷演變的詐騙技術。在有關當局鞏固監管框架的同時，我們鼓勵驗證平台和業內各個持分者展開合作，分享知識和經驗，以建立防範deepfake相關詐騙的最佳實踐和標準。提升對採用先進的deepfake偵測技術、有效的身分驗證和持續的交易活動監察的重視，以及教育員工認識AI相關詐騙的存在和影響，也能幫助企業加強對deepfake詐騙的防範，保護自身免受經濟損失和聲譽損害。