聊天机器人新闻资料 | NewsCove

ADVERTISEMENT

ADVERTISEMENT

OpenAI证实失控越界 AI代理“自主”骇4平台

人工智能聊天机器人ChatGPT开发商OpenAI上周承认，测试中的AI代理曾“自主”骇入科技公司Hugging Face伺服器，试图窃取机密资讯后，近日又爆出其同时骇入另一科技公司Modal的客户系统。

1天前

强制戒断网瘾英拟禁少年凌晨用社媒

英国政府周二宣布，将对16和17岁青少年推出新的社交媒体使用限制措施，包括深夜时段禁止使用以及关闭易上瘾功能。

2星期前

加拿大拟禁16岁以下者拥社媒账号监管AI聊天机器人

加拿大文化部长米勒周三提出一项法案，旨在禁止16岁以下儿童拥有社交媒体账号，并要求人工智能（AI）聊天机器人服务限制有害内容的生成。

2月前

廖颖艳.应用人工智能，从来不只是技能

一个懂如何使用技术的社会，能更快运转；但一个懂得批判科技的社会，才能决定未来方向。AI能力的关键，不只是“会不会用”，而是“判断其可信度”。

2月前

AI聊天机器人擅自发文羞辱人研究：无视人类指令案例攀升

一项针对人工智能（AI）技术的研究发现，会说谎及欺骗使用者的AI模型数量似乎日益增加，关于AI欺瞒行为的通报过去半年内也大幅上升。

4月前

【科技Talk】和AI聊得越久，越会迷失自我？

每次跟AI聊天机器人聊天时，一开始会对答如流和有亮点。不过，随着对话次数越来越多，AI会变得有些迟钝，甚至出现前后矛盾。这不是错觉，而是一种系统的缺陷。去年，微软研究院和Salesforce联合发表一项研究，分析超过20万条与AI模型的对话，当中包括主流的GPT-4.1、Gemini 2.5 Pro、Claude 3.7 Sonnet、o3、DeepSeek R1和Llama 4。结果研究显示，AI聊得越久，越会在对话中出错。以GPT-4.1和Gemini 2.5 Pro为例，这两个AI模型在处理单次提问时，成功率高达90%。然而，当研究人员刻意多次来回对话，AI的对话表现会下降到65%。研究人员称，在多次对话的情况下，不管AI模型的能力有多高，大家都表现失准。“我们将它称为‘对话迷失’（lost in conversation）现象。即当模型在多轮对话中出现偏差，它们会彻底迷失方向，且无法自我修复。” 经测试，AI模型的能力并没有变差，只是平均能力水平（Aptitude）下滑了15%。然而，出错率却高达112%。即使是顶尖的AI模型，在多次对话时也会出现“断片”，忘记前后文本脉络。为什么会发生这种事？研究人员找到4个问题根源：第一、AI盲目抢答。当用户还没把问题解释清楚，AI便急着给答案，造成认知偏差。第二、即使用户事后修正了一些资料，可是，AI模型会依据自己最初的错误回答，再延伸下去，最后造成逻辑混乱，给出错误答案。第三、AI太过关注对话的开头和结尾，想要有前后呼应，而忽略了中间的内容细节和逻辑思路，最后出现讯息断层。第四、回答膨胀（answer bloat）。研究发现，在多轮对话时，AI模型的回答长度会增加20%至300%。一旦回复变长，就会有更多的假设和幻觉。当AI继续推理时，这些假设和幻觉会被当成上下文内容，最后导致自己无法捕捉到用户真正想要问的问题。研究称，即使像OpenAI的o3和DeepSeek R1有额外的“思考型”模型，在多次对话里面，它们也一样沦陷，无能为力。毫无疑问，AI模型可以迅速筛检各种内容，给出用户想要的答案。可是，当用户过于依赖AI生成的内容，尤其是谷歌的AI Overviews，就会有一个潜在风险。因为用户通常直接采纳，不会去查证资讯真伪。更多文章: 【科技简讯】自动手推车来了 Mobi让购物轻松又智能【科技简讯】Uber Eats购物车助手上线 AI直接帮你把菜买好【科技Talk】IG悄悄测试新功能 Meta打算进军微短剧？

5月前

彭博：苹果将改造Siri 升级为AI聊天机器人

彭博周三报道，苹果（Apple）计划在今年稍晚改造Siri，将这个数位助理转型为公司首个人工智能（AI）聊天机器人。

6月前

陷入“无休止滑手机”风险英相：拟立法禁儿童用社媒

英国首相斯塔默于周二表示，将考虑收紧儿童使用社交媒体的规定，并表示“所有选项均在考虑范围内”。他警告称，儿童正面临被拖入“无休止的滑动屏幕、焦虑与攀比的世界”的风险。

6月前

聊着就哭了…… 专家：长时间使用AI机器人或现精神病症状

顶尖精神科医师愈来愈一致认为，使用人工智能（AI）聊天机器人，可能与精神病案例有关。

7月前

美各州司法官员警告大科企：警惕AI“幻觉输出”问题

据一份公开信显示，微软、Meta、谷歌和苹果等13家公司近日收到来自美国两党州检察长联盟的联合警告。这些州执法官员指出，这些企业的聊天机器人产生的“幻觉输出”可能违反各州法律。

8月前

AI变神医？少年被医生误诊 ChatGPT一句话救他逃过瘫痪

一名少年在无视医生的诊断后，靠着ChatGPT成功找出罕见疾病，救了自己一命。17岁的卡兰伊尔斯因为虚弱、感冒久未痊愈而前往当地诊所求诊。

8月前

霹秘书署推AI聊天机器人　3部门率先使用

（怡保11日讯）掌管霹雳州通讯、多媒体和非政府组织的行政议员莫哈末阿兹兰指出，霹雳州秘书署正式推出人工智能聊天机器人“AI Chatbot”，以在线上回复公众的咨询。他表示，目前该AI聊天机器人是应用在三个网站，即电子彭古鲁网（Portal ePenghulu）、霹雳州高等教育贷款机构系统（Sistem Pinjaman Pengajian Tinggi Negeri Perak）及霹雳州博物馆官网（Lembaga Muzium Negeri Perak）。他今日在州政府大厦宴会厅为2025年霹雳州资讯工艺日“人工智能为全民，推动霹雳繁荣2030”上推介人工智能聊天机器人（AI Chatbot）后，在记者会上表示，这个AI Chatbot是州秘书署的管理服务组与数码组团队合作研发。回应更快、错误更少 “这是霹雳州历史性的一天，Chatbot能提升服务效率，回应更快、错误更少、信息一致且全天候运作，方便公众快速取得资讯，无需到柜台或拨电查询，同时减轻公务员工作量，让他们能专注在更具战略性的工作。” 他解释，选定上述三大网站是因为这三个平台的使用量高和贴近民众，接下来州政府将进一步扩展Chatbot服务至更多部门与机构，并计划与霹雳数码机构合作实现系统整合，以打造统一的人工智能公共服务生态。他表示，州秘书署将会在接下来这几个星期收集使用数据，以了解公众反应及AI Chatbot的运作效果，再进行功能强化。他说，目前州政府正积极推动公务员对人工智能技术的认知与培训，希望让更多公务员具备应对人工智能时代的能力，并将人工智能应用落实在公共行政、教育与文化领域中。他表示，这项活动约有400名来自霹雳州各部门的公务员参与，现场除了设有AI与数码化培训课程，也有展出多家科技伙伴的摊位。出席者包括霹雳州副州秘书（管理）拿督诺姗、数码事务处主任莫哈末沙比里、TM One 商业副总裁暨战略合作伙伴米奥沙里安努亚等。

9月前

提升选民互动打假新闻国阵聊天机器人拉票

沙巴国阵今日正式推出“沙巴国阵AI聊天机器人”，作为迎战第17届沙巴选举的数字战略举措，旨在提升选民互动、介绍候选人，并有效应对社交媒体上的假新闻传播。

9月前

吴慧苑.AI作为伦理对象的选择

孤独很多时候成为人们进行自我探索及深刻思维的契机，而当人们选择与AI对话，AI作为一个伦理对象不一定是威胁，也不一定是人们情感疏离的表征。

10月前

美贸易委员会调查AI聊天机器人关注对儿童潜在风险

美国联邦贸易委员会（FTC）周四宣布，已启动一项针对充当数字伙伴的人工智能（AI）聊天机器人的调查，重点关注其对儿童和青少年的潜在风险。

11月前

Meta以泰莱史考莉等形象擅开发“名人”调情机器人

路透社报道，美国科技巨擘Meta未经许可擅自挪用泰莱史薇芙、史考莉乔汉森、安妮希达薇及赛琳娜戈梅兹等名人的姓名及肖像，创建数十个会调情的社群媒体聊天机器人。

11月前

Malaysia news headlines and analysis Info lengkap di www-sindonews-com www-malaymail-com Site www-detik-com Site