NewsCove - Watch & Read Online Free

ADVERTISEMENT

ADVERTISEMENT

【AI时代，別慌】丁源森 / AI误言，孰之过？

讲一件2025年下半年发生在澳洲、值得我们提早留意的事。澳洲就业部门花了44万澳元（折马币约130万），委托全球4大会计师事务所之一的德勤（Deloitte），做一份独立的政府系统审查报告。审查对象是澳洲一套“自动扣减没按时找工作的福利金领取者补助”的执行机制，评估它是否运作得当。报告完成、公开后不久，有人认真翻了一遍，意外发现报告里多个学术文献根本不存在，一段联邦法官判词更是凭空虚构，前前后后被翻出二十几处错误。事后，德勤发布了更正版，确认报告里有部分内容是用类似ChatGPT的AI起草的，并退还了一部分合约费用，事情才告一段落。类似的乌龙，其实不只这一桩 2023年，美国一位律师在准备诉状时，让ChatGPT帮他找判例。AI很热心，端出一大堆“看起来很像”的案例，连法官姓名、案号、判词都齐全。律师没核对就提交了。结果对面律师怎么也查不到，因为这些案例全部是AI编的。法庭最后判处5000美元罚款，案子一时哄动业内，成了法学院讲课时常被搬出来的反面教材。乌龙是一件事。但这两个故事真正值得我们深思的，是另一个问题——当AI写错了东西、害了人，到底谁该负责？听起来简单，其实没那么好答。粗略至少有3种立场： AI公司可以说：“我们卖产品时白纸黑字写明AI会胡说，使用者自己要核实。我们的告知责任尽到了。” 中间的专业人士可以说：“AI是个黑箱，里头怎么运作我们也看不清。它出错的具体方式我们无从预料。” 而买单的客户则会说：“我请你这位专业人士，就是请你替我把关，不是请你转手拿AI复制粘贴。” 3种说法各自有理。可问题来了——前两种立场如果都同时成立，整个系统就出现一个奇怪的真空：每个人都把球往别人那边踢，最后没人接得住。法律学界把这个现象戏称为“双重免责盾”（Double Shield）。这个问题，人类法律史上其实早就遇过一次类似的版本，只不过那时候的主角不是 AI，是药。笔者举个简单的例子。你今天去医院看病，医生开了药给你，吃下去出了大问题。请问，是制药公司的错，还是医生的错？美国法律过去大半个世纪的答案大致是：制药公司只要把这款药的风险、副作用、禁忌都清楚告知医生，它的责任就尽到了一大半。剩下的责任要由医生承担，因为医生才是那个了解你的体质、判断这款药适不适合你、决定要不要开给你的人。这条原则有个名字，叫“学识中介原则”（Learned Intermediary Doctrine），上世纪60年代由美国法庭在一桩制药官司里正式定名，沿用至今。简单说，制药公司和病人中间，必须有一个“懂的人”在做判断，整套系统才跑得动。而这个“懂的人”的价值，恰恰来自一件事——他必须真的去判断。如果医生只是把药商广告单原封不动塞给病人，那他其实没在当中介，只是在传话。法律上这种情况，他的“中介身分”就作废了。搬回AI时代，问题突然就清晰了当一家中介把AI起草的报告不充分核实就送出门，当一位律师把ChatGPT找的判例直接呈给法庭，他们都不是“用户”，而是中介。他们存在的价值，就是用专业判断把AI的产出过滤一遍，再交给客户。如果他们跳过这一步，他们其实没在当中介，只是在传话，而且还收了一笔不小的费用。而一旦中介自废了武功，AI公司原本可以躲在它身后的免责盾也跟着塌了，因为整个免责机制的前提，就是“有一个懂的人在做判断”。中介不判断，盾就保不住。所以这个问题真正的答案，往往不是简单地说“AI公司有错”或“用户活该”，而是那个夹在中间、本该负责把关、却把这一关跳过去了的专业人士，错最大。不只关乎会计师事务所或律师老师用AI改作业、医生用AI看片、科学家用AI写论文、工程师用AI写程序——只要你以“专业人士”的身分，把AI的产出转交给依赖你的人，你就是那个中介。AI出的错，最后是要算在你头上的。当然，查证的力度要和事情的分量成正比。一份内部草稿，不必逐字推敲；但当产出关乎客户的钱、病人的健康、被告的自由，那核实就不再是“最佳实践”，而是专业的底线。笔者自己是科学家，对这件事感受特别深。我们这行用AI加速研究已经是日常，但AI偶尔会编出一些听起来言之凿凿、其实根本不存在的文献和数据。所以越倚赖AI，论文出门前的逐项核对反而越不能省。一旦有什么漏过去，把锅推给AI公司是不可能的，也不应该。这件事放回马来西亚也值得留意。本地不少行业，从咨询、会计、法律到医疗和教育，都已经在不同程度地引入AI工具。如果我们的专业守则和行业自律没有跟上AI的步伐，类似的问题恐怕也不会离我们太远。那政府监管能不能解决这个问题？只能解决一部分。欧盟2024年通过的《人工智能法案》，把司法、教育、医疗等高风险领域的AI应用纳入了事前审查与透明度要求，并明文规定这些系统必须设计成“让人类可以有效监督”。换言之，人在那里，不能只是装饰品。这是好事。但监管能定的是“底线”，定不了“上限”——它没办法替每一位医生、每一位律师、每一位老师，对每一份具体的AI产出做判断。最后回到很多人焦虑的那个问题：专业人士，会不会被AI取代？笔者的答案是：不会被取代，但角色会换。过去，专家的价值更多在“能干别人干不了的事”。现在，AI可以代劳很多这种活。但AI干不了一件事——承担责任。法律责任、道德责任、社会责任，这些只能落在人身上，因为只有人才能被告、能被吊销执照、能在镜子前为自己的判断负责。也正是因为这一点，“专业”两个字在AI时代要被重新理解。专业不再只是“会做”，更是“为别人对一份产出负责”。 AI能帮你写，但它没办法替你签名。而签名两个字，在AI时代的分量，比从前任何时候都更沉。 *本文部分论述思路与素材，来自笔者与所指导的法学院学生Blaise Tayese的合作讨论，及其近期论文“The Duty to Verify”（《核实之责》）。特此致谢。相关文章：丁源森 / AI会答题，但不会替你提问丁源森 / AI已经进入了下半场，你准备好了吗？更多新教育：排练24小时就登台表演半岛古典吉他合奏团并非速成班廖克发：创作不是把人当材料有些故事，不能随便讲

1天前

Malaysia news headlines and analysis Info lengkap di www-sindonews-com www-malaymail-com Site www-detik-com Site