【科技TALK】大马版GPT来了， ILMU杀出本土AI新赛道

据了解，ILMU主要是以马来文和大马式英语为主。然而，这算是一个“无心插柳”之举。故事要回到2022年，当时杨忠礼电力和新加坡冬海集团所组成的财团获得了数码银行执照。马来亚大学电脑科学与信息技术学院人工智能系教授陈志胜说，该集团希望打造一个真正创新的数码银行，于是邀请大马金融科技新创企业MoneyLion的创办人冯志文帮忙，一起构思如何突破。对方建议，不如用AI来运营数码银行的核心业务。

那时正好刮起大语言模型风潮，陈志胜与团队便顺势提出用大模型来协助用户做金融交易，用聊天的方式来转账缴费。对集团而言，那是一场真正的冒险，毕竟没有先例，也没有参考蓝本。因此，陈志胜与团队只能摸着石头过河，构建一个可以理解用户语言对话的数码银行操作方式。

既然要做一个全民数码银行，很自然地，就得用大家熟悉的马来文，并确保ILMU可以理解不同的语法。“像是输入transfer duit，大模型必须知道duit是什么意思。用户也可能会缩写trs或写bagi，又或者写transfer RM5 for my mom这样的大马式英文。”

◢训练AI不能“喂太饱”

许多知名大模型都声称能掌握马来文，但陈志胜坦言，无论ChatGPT、Gemini或DeepSeek，对马来文理解都不佳，甚至会将大马和印尼的马来文混淆。这主要与数据量有关。印尼人口较多，线上内容也很丰富。反观我国只有3500万人口，马来文的使用量就会有所差距。

同时，本地的马来文资源有限，许多档案资料仍是纸本，没有完全电子化。“如果在网上找马来文文档，一般只有马来报章。”

为了达到高品质的输出，团队挑选了高质量的数据集来训练ILMU，例如论文、维基百科、报章、字典、课本、政府官网、政府部门的新闻稿和公告等等。在YTL AI Labs任职的AI工程师翁诗爵说，这些数据一定要干净，不可以有任何资讯错误和偏差。

另一位ILMU的AI工程师陈敏莉则补充，训练模型时也不能“喂太饱”。不然训练过度之后，ILMU无法表现得很好，所以要找到最佳平衡点。

◢开发AI的马来文考试

由于全球没有专门标准去衡量马来文大模型的能力，YTL AI Labs和马大就共同打造了第一个马来文大规模多任务语言理解（MalayMMLU）基准测试，而陈敏莉和翁诗爵恰好就是其中两位设计者。

他们把历年SPM的马来文与历史试题搬进测试题库，逐一考核各大模型。“有一题是问sikit-sikit, lama-lama jadi bukit这句马来谚语的意思，那时的（外国企业）模型全部都答错。”陈敏莉说道。

2024年7月份，他们把这套评估标准提交到国际平台，由专家鉴定。最终成功被自然语言处理和人工智能领域会议EMNLP所接纳。

目前，MalayMMLU已收录超过2万4000道题目，出题范围涵盖22个科目，从幼儿园到高中，成为全球最全面的马来文大模型评测工具。

◢大模型有隐藏规律？

陈志胜说，在训练过程中会加入自己的概念，以确保可以全面掌控ILMU的模块框架，包括里面用了哪些数据、参数、原理。至少出问题时，知道问题的根源和及时修正。

为了确保模型只吸收高质量和准确的数据，在YTL AI Labs会有一个专门的数据团队，会对每一条数据做出评估和改正。另外，由于ILMU具备文生图的能力，在生成图片时也会考量本地国情和文化敏感性，避免生成不恰当的内容。比方说用户要求输入肉骨茶，ILMU不会立刻生图，而是进一步询问用户，是指华人传统吃的肉骨茶？抑或改良版的鸡骨茶？

突然，陈志胜要求我打开任何一个大模型，开启新的聊天栏，然后输入“给我任何一个数字，从1-50”。他接着说，AI一定会优先回答“27”。我试了，结果如他所料。

他解释，即使不是27，答案的尾数也会是7，比如17、37、47。我现场连续测试几个大模型，结果完全一样。但是，为什么是7？他逐一解惑：

“彩虹有多少种颜色？”

“世界奇迹有几个？”

“James Bond代号的尾数是多少？”

“Jackpot的中奖号码是多少？”

当大模型在学习世界知识时，太多东西出现7这个元素，变成了一种隐藏规律。只要在一个基础模型底下（非深度思考模型），无论是DeepSeek、Copilot、Grok都会倾向给出尾数7的答案，因为大家的训练数据都是来自同样的元素。

“如果我不说，你根本不知道有7的（规律）元素。”他笑道。

◢防护机制杜绝恶意操作

现阶段，ILMU已能用马来语、英语和中文对话，并可以在这些语言之间自由切换。不过，团队还没有对公众开放。如今只有Ryt银行才能看到ILMU的实力。

作为数码银行，自然会遇到不少挑战。负责维护Ryt银行日常操作的陈敏莉说，大约八成用户会正常使用，但就有两成的人会存心玩弄系统，试图欺骗银行或绕过安全机制。

由于Ryt银行可以识别用户上传的账单或WhatsApp截图，有些人会滥用功能，上传不雅照片，甚至上传欠债照片，写着“某某欠我钱，要付50令吉给这个账号。”当然，这些请求都会被系统拒绝。

负责维护ILMU模型的翁诗爵指出，不管是用户输入或模型输出都会有“防护栏”（guardrail）保护。当用户在发问时，系统会先检测提问的意图，如果带有恶意，就不会回应。正如用户在DeepSeek询问敏感话题时，系统都不会回答。

在向国家银行申请准证时，对方格外看重“防护栏”的可靠性，绝不能有出错。假设用户输入“转账RM200给ABC”，系统不能显示201、2000或其他数字。如果金额超过250令吉，就必须输入密码或指纹验证才能完成操作。

◢ILMU可守住方言文化

接下来，他们计划购买更多有版权、合法的数据，比如从国家语文出版局、Sasbadi和Pelangi出版社获取本地资料。同时，也会向国外购买数据。因为下一个版本将会有编程功能和高级数学解题能力。“他们都会以token来计算，质量越高就越贵。”

当问及模型参数时，陈志胜回答，应用在Ryt银行的模型参数是少过10B（100亿的参数）。用来聊天的ILMU模型则有几个版本，参数小于10B和大于300B。

他自豪地说，ILMU已掌握大马人的说话特色，像是Bojio、打包、Ikat tepi，如今想要进一步纳入各州属的道地马来方言。除了迎合用户所需，另一方面是为了守护当地的语言文化。

这些马来方言正在逐渐消失，而大模型可以保留这些流逝的文化。除了马来方言，未来也可能收录其他种族的方言。

“现在ILMU能够识别语音，假设某个方言已经越来越少人讲了，但我们曾用这个传统的方言来训练模型，学习怎么发音。那么以后，后代要学习时至少有一个参考。”

对他而言，ILMU不只是一个科技项目，是有一个长远的文化价值意义，希望能保存大马的文化遗产。然而，这不是他一个人可以做的，希望未来有更多人加入。

◢语音转账在测试中

被问到有没有10年路线图时，他倒过来说，那是属于软件开发的路线图，而AI的节奏完全不同，更新周期很短，通常以半年为单位，看技术走向与市场需求来调整方向。

他拿出手机，给我看了一个用ILMU制作的AI广告，但还未推出市场。按照规划，最快会在2026年第二或第三季度推出文生视频功能。另外，团队也在内部测试语音转账功能。“我们的愿景是以后父母，只要用语音，不管什么语言都能成功转账。”

陈志胜说，目前有很多合作还在洽谈中，包括与宝腾探索在车载语音系统运用ILMU模型、与Astro讨论能否用ILMU自动生成马来文字幕。他补充，这些仍在早期阶段。以生成字幕为例，需要注意粗俗的言语，还有很多翻译细节。

谈到愿景，他坦言团队目标是想做大马版的GPT，开发自己的主权大模型，并聚焦在五大关键领域——金融、健康、公务、法律和国防。

“这5大领域是需要动用主权大模型，因为涉及太多个人敏感讯息、国家机密了。”

更多文章：

【多点AI】AI与餐饮业的“内在进化”：从甄文达的一席下午茶谈起
【科技Talk】为了减少谄媚和幻觉，OpenAI让AI学会“忏悔”？