香港金管局总裁余伟文：警惕金融机构依赖**AI服务提供商

21世纪经济报道记者 张伟泽 香港报道
10月31日，香港金管局总裁余伟文在香港金管局与国际结算银行合办研讨会上表示，金融机构对AI服务提供商群体的日益依赖引起了监管机构的担忧。目前金融机构的AI服务都由**提供，一旦这些服务提供商遭遇IT故障或是黑客攻击，许多依赖于此的金融机构运营将会受到严重影响。
余伟文指出，对于这种风险，香港金管局要求银行对AI服务提供商进行全面的风险评估。此外，金管局还要求银行制定稳健的业务应急计划，以应对**提供的服务可能出现的中断。
余伟文认为，在创新和监管之间保持适当的平衡是一项具有挑战性的工作，但也是极其重要的。金融系统需要为生成式AI的发展制定框架以及进行风险管理实践，就像是高速公路旁的护栏，可以防止技术由于发展过快而偏离轨道。
10月28日，香港特区政府发布有关在金融市场负责任地应用人工智能的政策宣言，宣言中提出，金融机构应制定人工智能管治策略，为如何实施及使用人工智能系统指明方向。香港将采取双轨制以推动香港金融服务业应用人工智能。在人工智能系统的采购、使用及管理上应采用风险为本的方法，而人为监督对缓解潜在风险至关重要。
余伟文指出，目前金融机构已经在许多不同的领域部署了人工智能，以提高运营效率并改善客户互动。人工智能在风险管理、欺诈检测和工作流程自动化的中后台运营中已有广泛应用。但同时，金融机构也要确保新技术带来的任何系统性风险得到有效管理，以保障金融体系的稳定性和弹性。
余伟文指出，为平衡发展与风险监控，香港金管局采用沙盒的形式，为技术提供足够的发展空间，让技术可以在其中迭代发展。这种方式可以能够在新技术发展的早期识别可能威胁更广泛的金融系统的风险。
8月13日，香港金管局宣布推出新的生成式人工智能（GenA.I.）沙盒，旨在促进银行业负责任地创新发展GenA.I.。沙盒将协助银行在风险可控的框架内测试各种GenA.I.的创新用例，并提供所需的技术支持和针对性的监管意见。
而对于人工智能带来的风险，余伟文表示，目前诈骗者已经用人工智能制作Deepfake的视频进行诈骗，其在网络上就曾有见过自己的形象被人用于制作诈骗视频。金融监管者应该警惕，Deepfake的技术将有可能被不法分子使用，在市场紧张时期发布谣言，引发公众恐慌。
余伟文进一步表示，为应对这类风险，香港金管局通过公众教育提升公众警惕性。解决这个问题的关键，是企业应该以负责任的态度发展AI，在发展技术的过程中考虑伦理道德风险，市场应该有人工智能治理框架的引导，以确保金融机构在使用AI的过程中能够公平地对待客户，同时采取透明度、决策和强大的数据隐私措施。
余伟文表示，人工智能正以前所未有的速度前进，其影响可能是革命性的。任何一方，无论是公共实体还是私人实体，都无法单独应对所有挑战。我们必须提供公私伙伴关系和国际合作，以利用所有利益攸关方的集体智慧。