应用普及 风险恐升 国行:拟加强监管金融AI

纵观整体调查，国行不否认，生成式人工智能应用为金融服务供应商带来一系列新的网络安全挑战，尤其不法分子更加利用这项技术进行恶意活动，比如生成恶意软件或人工智能脚本。

“此外，生成式人工智能还带来更复杂的网络威胁，包括更难检测与防御的深度伪造、网络钓鱼诈骗和身分欺诈，不过金融服务供应商已开始更新内部控制措施，更好应对这些新兴威胁。”

随着人工智能技术的发展演变，国行意识到人工智能的应用有可能会带来新风险，而现有监管框架并不足以应对，为此将继续保持警惕，并密切监控国内金融服务供应商的使用情况。

国行披露，将依据平等、对称与中立的原则，一旦人工智能相关风险有恶化的趋势，比如在关键职能部门广泛使用人工智能应用程式，或者有取代人类决策的现象，则会考虑加强监管。

“若真的有这个现象，我们考虑在未来或有需要时引入新的监管预期。”

在监管方法方面，国行指出，全球在人工智能应用的监管差异颇大，部分国家颁布法规与律法，也有其他国家发布非约束性指南，借以推进负责任且合乎道德的人工智能发展。

“在大马，科学、工艺及革新部（MOSTI）则发布自愿性指南——2024年人工智能治理和道德准则（AIGE），呼吁最终用户、政策制定者和技术供应商优先考虑以道德和负责任方式，在各领域推行人工智能。”

将秉持平等比例中立原则监管

国行重申，将秉持平等、比例和中立的原则监管金融领域人工智能相关活动，这意味相同风险的活动将以相同方式监管，另监管预期和监管严谨性将依据风险重大性与可能性进行调整，并不受不同技术、系统和方法取得的结果影响。

“本地金融服务供应商目前受到无关技术，及以结果为导向的监管要求约束，这些仍适用于运用人工智能技术的金融服务，而许多与人工智能相关风险，对金融领域来说并非新鲜事。

报告说明：“大部分已运用或将部署的人工智能技术都将聚焦非金融风险领域，取代人类做决定的可能性不大，因此现有监管框架还是能够应对现阶段人工智能潜在引起的风险管理。”

逾60%业者视AI为首要策略

在受访的金融领域业者中，超过60%视人工智能为未来3年的首要策略。

根据报告，国内金融服务供应商近年来提高人工智能的应用，而这个趋势料还会是未来几年的焦点，逾半受访者认同，人工智能的运用确有能为公司及消费者显著增值的潜能。

“去年落实至少一项人工智能应用程式的金融机构及发展金融机构（DFI）约71%，而伊斯兰保险营运商（ITO）方面则高达77%，都优于前年的56%及58%。”

国行指出，未来应用人工智能的金融服务供应商料持续增加，逾60%的金融机构及伊斯兰保险营运商视人工智能为未来3年的首要策略。

“大部分的金融服务供应商将2024年视为探索人工智能的关键年，整体来说部署试点或探索性人工智能应用数量的金融服务供应商，比2023年增加逾8倍。”

报告披露，金融服务供应商去年推出有限和全面部署的人工智能应用程式数量，比2023年增加逾30%，这股增势或归功于人们对探索生成式人工智能应用的兴趣日益浓厚。

“根据我们向特定金融服务供应商取得的资料，他们几乎在整体业务供应链中都善用人工智能应用程式，支持前、中及后台的各种服务。当中，去年最常见或部署的人工智能应用程式运用在客户分析及行销，接着是强化内部营运和科技与网络风险。”

国行指出，国内金融服务供应商目前正积极开发或预计近期部署的大多数人工智能应用程式，旨在增强而非取代人类决策。

“我们虽还未观察到采用更具自主性代理人工智能系统的趋势，但随着科技能力不断进步，这仍是一个相当有潜能的领域。”

续专注研发非金融风险领域AI

另一方面，国行汇整抽调结果后，预期金融服务供应商将继续专注研发非金融风险领域的人工智能，例如欺诈检测和客户分析应用。相比下，在定价、评分和承保等金融风险相关应用的人工智能项目数量增长则相对缓慢。

“无论如何，我们将会继续与金融服务供应商保持联系，以强化对金融领域落实人工智能应用机遇与挑战的认知，更好让我们支持整个领域迈向负责任革新。”

国行也鼓励金融领域其他部门建立在人工智能应用基础上，借力各自行业协会的支持，通过保持与人工智能治理框架一致的步伐，或根据自身具体情况制定互补方案，以进一步推进人工智能治理。

“在整个金融领域更广泛遵循负责任的人工智能原则，将会是确保在国内金融生态体系一致且有效治理的关键。”