在今年的香港金融科技周上，Sumsub 亞太區政府事務主管陳崇軒針對代理式 AI 的發展及其在金融業的應用提出了重要見解。他指出，代理式 AI 正在從提供分析和建議的角色，逐漸演變為能夠代表用戶或企業執行實際工作的工具。
代理式 AI 的挑戰與機遇
陳崇軒強調，隨著 AI 代理的自主權增加，網絡安全威脅的出現速度和規模也在上升。因此，企業在擴大 AI 應用時，必須解決確認 AI 身分、管理權限及釐清責任的問題。他建議香港企業應建立清晰的『人、Agent、權限』關係，將 AI 代理與經過驗證的人類身分連結，並明確限制其可存取的資料及操作權限。
他指出，對於涉及敏感資料和金融交易等高風險操作，企業應該加入額外的驗證和確認機制，以降低代理被冒用、越權或濫用的風險。陳崇軒強調，無論企業選擇哪種問責模式，AI 治理的核心在於建立一條清晰的問責鏈，並制定業界標準及監管方向。
香港金融管理局的積極推動
陳崇軒對香港金融管理局今日公布的『Project SAGE』表示歡迎，該計劃旨在推動代理式 AI 在金融業的應用及治理，並探討 AI 代理的治理框架、安全措施及『Know Your Agent』標準。他認為，這將為金融業安全及負責任地應用代理式 AI 提供更清晰的方向。
此外，Sumsub 也在持續推動業界的相關發展，並於今年初推出了 Know Your Agent 框架及 AI 代理驗證解決方案。隨著 AI 代理能力的發展，Sumsub 進一步推出了 KYA Module for MCP 解決方案，旨在提升企業的合規能力。
未來展望
陳崇軒指出，隨著全球市場逐步建立 AI 相關規範，穩健的 AI 治理及合規機制不僅是風險管理的一部分，更會影響香港企業拓展海外市場的能力。因此，香港企業應在部署 AI 的早期階段，就將治理及合規考量納入業務布局，以建立清晰的責任及風險控制機制，從而提升監管機構、企業客戶及消費者的信心，鞏固數碼生態系統中的信任基礎。