黄国华│GenAI的金融伦理挑战

这就是公平式审查不能够只是一劳永逸地勾选一个选项的原因，因为AI模型会随着时间的推移而偏离，数据也会改变，如果无人持续监控，小错误就可能演变成大问题。

另外，GenAI也带来了诈骗、操纵、不稳定等新风险。事实证明，GenAI能够生成极具说服力的文字、音讯与影像，相较于旧有工具，其欺骗效果更为强大。

诈骗者可以冒充企业高层、撰写假文告，或在社群媒体上大量散播看似可信、却意在影响公司股价的内容。有组织的活动甚至可以推动“拉高出货”骗局，在危机期间散播恐慌，或制造某公司财务状况混乱讯息。

即使一家公司的内部系统本身相当安全，可是当虚假资讯的制作成本低廉且易于传播时，整个市场环境也会变得更加嘈杂，更难以信任。

存在系统风险问题

除了蓄意滥用，GenAI也存在系统风险问题。试想想，如果许多金融机构都以类似方式使用类似的AI工具，将会发生什么事？

若银行、基金与交易公司都依赖在类似数据上训练、以类似方法建构的模型，就可能会同时对相同讯号做出反应，进而引发“羊群效应”，也就是许多系统会在同一时间内买进或卖出，放大市场波动。

在极端情况下，尤其是在高速交易中，这种行为可能形成快速的回馈回路：一个模型的行动触发其他模型，导致整个系统出现不可预测的剧烈震荡。

金融市场过去也曾经历过科技引发的冲击，令人担忧的是，GenAI的广泛应用，恐怕会创造出更多共同的弱点，让冲击变得更大，也更难控制。

接下来是问责。

如果一份AI生成的报告包含严重错误，或自动交易系统造成重大损失时，究竟谁该负责？模型的开发者？使用模型的公司？批准使用模型的高阶主管？或是依赖模型的员工？

在实务上，大家的责任界线往往模糊不清，这是相当危险的。如果问题发生后，人人都可以将责任推给AI，人为监督就会逐渐弱化。

以“演算法”当作挡箭牌，确实可能逃避责任，然而，金融伦理要求对结果有清楚的责任归属，尤其是牵涉到人们的存款、贷款与生计时。

要在金融领域安全使用GenAI，企业需要的是务实的方法，而不是空洞的口号。

资安控管防滥用

金融机构应该设计出能够以简单易懂的语言解释决策的系统，即使底层模型相当复杂。他们应定期进行偏误测试与审核，并使用能反映受影响客户与社区的数据。同时，金融机构也需要强而有力的资安控管来防止滥用，包括监测深伪、身分冒用及可疑的资讯操纵行动。

企业也应像对待金融体系其他部分一样，对GenAI工具进行压力测试，找出在高负载下模型可能出现的异常行为。

最重要的是，金融机构必须在高风险决策中持续让人类实质参与，目标不应是以自动化取代判断，而是将GenAI作为支援受过训练专业人士的工具，并订立清楚的规则，界定何时必须由人类审查、覆核或最终批准其输出结果。