Sumsub：大中華消費者日益使用AI代理決策 逾四成不良後果
全球驗證服務及反欺詐服務供應商Sumsub公布最新調查結果，發現即使存在相關安全風險，消費者仍日益授權AI代理自主作出決策及行動。Sumsub亞太區副總裁Penny Chai表示：「AI代理即使確實能大幅提升效率，亦不能在問責層面取代人類負上責任。」
AI代理的使用於近月呈上升趨勢，消費者主要在熟悉的應用程式及服務平台中接觸AI代理，包括電商平台、銀行及支付應用程式、旅遊與休閒服務，以及社交與即時通訊平台。AI代理一般用於回答問題、整理及總結資訊、協助規劃消費或行程，和自動處理日常事務等；在部分情況下，AI代理更會代表消費者執行操作，例如完成交易或進行付款。
Sumsub亞太區副總裁Penny Chai表示：「AI代理應擔當副駕駛角色，提供協助，而非在缺乏監督下獨立行事。現今科技以前所未有的速度發展，消費者與企業最需要的，是能夠明確知道決策是怎樣誕生的、由誰負責，以及一旦出現問題應如何處理。只有妥善釐清這些關鍵問題，才能推進整個數碼環境的互信，鼓勵更廣泛應用，同時確保創新發展不會以安全為代價。」
Sumsub大中華區AI代理消費者信任調查於中國内地、香港及台灣地區訪問1,050位消費者，發現44%曾經歷至少一次與AI代理相關的不良後果，包括未經授權的行為 (20%) 和付款 (16%)、個人資料外洩 (20%)、欺詐 (16%) 和帳戶被操控 (13%)。隨着AI代理能力及自主程度不斷提升，其潛在風險引起全球監管機構關注。2026年3月，香港個人資料私隱專員公署就已發出警告，提醒公眾及機構留意AI代理所涉及的私隱及安全風險。
不過，是次調查亦顯示，於今年第一季，已有37%的中國內地、20%的台灣地區，以及15%的香港消費者曾授權AI代理代為作出決策。唯不足一半受訪者能正確分辨AI代理與其他AI應用的分別，當中香港僅45%，反映大眾對AI代理可被授權執行的行為以及仍需保留人類確認的環節，存在明顯認知落差，進一步增加發生負面影響的機會。
報告重點包括：
- 59%自稱為「早期採用者」（Early Adopter）的受訪者表示，信任AI代理在不經人類覆核決定的情況下運作。
- 近八成香港受訪者表示不確定（38%）或不知道（41%）服務平台可能設有規範AI代理使用的條款。
- 當服務平台對AI代理設限時，42%的香港消費者仍會繼續使用AI代理，例如只以 AI 代理支援決策過程而自行完成操作、嘗試繞過限制，或轉用容許AI代理運作的平台等。
- 香港消費者對AI代理失誤時的問責歸屬意見分歧，其中40%認為應屬各方「共同責任」，而非由AI開發者、服務平台或用戶獨自承擔責任。
- 74%香港消費者認同驗證AI代理能核實其身分、權限及行為，有助提升使用信心。
人類必須繼續擔當最終把關角色
消費者對AI代理的信任與其認知的風險程度密切相關。調查指出大中華區消費者普遍較能接受AI 代理處理非財務相關的低風險工作，當中超過七成受訪者每週至少使用一次AI代理，主要用於提問、生成內容、整合或摘要資訊，以及整個流程的規劃或資料搜集等輔助功能。然而，當涉及金錢決策時，消費者信心明顯下降，反映在後果較重大的情境下，必須清楚界定 AI 代理可以自行作出決定的範圍。
調查顯示，市場對人類監督仍有明確期望。77%的大中華區消費者同意AI代理執行操作前先經人類確認會令他們感到更安心，特別是在涉及付款、敏感數據或不可逆轉的決策時。這些調查結果表明，隨著 AI 代理自主運作的能力提升，人類仍然必須擔當最後的把關者。
數碼信任有賴穩健的驗證機制
消費者於調查之中清晰指出有助重建信心的三大關鍵因素，包括服務平台的消費者保障（39%）、額外的驗證檢查（38%）與加強法例監管（37%）。此外，超過七成受訪者同意，驗證 AI 代理將有助提升使用信心。
消費者信任亦分布於不同持份者之間。有相近比例的受訪者稱最信任 AI 平台開發者（39%）、政府與監管機構（37%），或提供獨立驗證服務的企業（36%）確保 AI 代理的安全保障及問責機制，可見相關風險並非單一持份者可獨力應對。
Sumsub亞太區政府事務主管陳崇軒表示：「有效的AI代理治理必須建基於公私營機構之間的緊密合作。Sumsub 已準備好與政府、監管機構及業界夥伴攜手合作，共同訂立明確標準、改善問責機制，以及提升大眾對負責任使用 AI 代理的意識，以保障消費者與企業，並確保相關系統能夠在具體而可執行的安全框架下運作。」
因應市場對清晰問責機制的迫切需求，Sumsub已在其 Know Your Agent（KYA）框架下推出AI代理驗證解決方案，應對不斷增加的風險及信任挑戰。該方案透過將 AI 代理的行為與經驗證的人類身分進行綁定，確保只有獲授權及可信的自動化系統可執行操作，從而建立明確的人類問責，同時保障消費者及企業免受AI欺詐的風險影響。
