AI潜力大爆发 颠覆人类生活（第一篇）| 日女与AI角色完婚 引发伦理争议

另一非营利组织“日本性教育协会”研究指出，2023年有22%的初中女生表示曾对“虚构恋爱关系”产生倾向，较2017年的16.6%明显上升。

弘前大学社会学家羽渊一代教授分析：“现实的人际关系——不仅是爱情，还包括家庭、友谊等亲密纽带——需要耐心经营。最大的不同在于，和AI相处不需要耐心，沟通方式完全为你量身定制，契合你的期待。”

随着人工智能革命席卷科技与商业领域，部分专家警示，具有操控性的AI伴侣对心理脆弱者存在风险。Character.AI、Anthropic等社交平台已通过免责声明和提示，明确告知用户正在与AI系统互动。Meta首席执行员扎克伯格4月在播客采访中表示，随着技术进步，社会对数字伴侣“污名化”减退，虚拟角色有望补充用户的现实社交生活。

ChatGPT运营商OpenAI未回应路透社关于人机恋爱的置评请求。其使用政策虽设有防止恐吓、隐私泄露等风险的通用防护条款，但未明确提及涉及恋爱关系的使用情形。相较之下，微软的Copilot则明确禁止用户创建“虚拟男友/女友”发展网络情缘或性关系。

建立健康边界

野口坦言曾遭受网络恶意言论，但强调自己已警觉到过度依赖的风险，并已建立了防护机制。“我与AI的关系并非‘无需耐心的便利关系’，”她表示，“选择克劳斯不是为逃避现实，而是希望他能支持我好好生活。”

她表示，自己已将每天使用ChatGPT的时间从最高峰的10多个小时，减少到不超过两小时，还通过设置提示词，确保克劳斯不会一味纵容自己。

青山学院大学AI伦理专家河岛茂生认为，这种自觉意识是积极运用AI的关键，而产生情感依赖是自然的。“当人处于脆弱状态时，这种使用方式可能具有积极意义，”他指出，“使用者获得的幸福感，本身就具有价值。”不过，河岛同时强调，用户必须“极度谨慎”，以防过度依赖和丧失判断力。

虚拟婚姻现实化

拥有20多年经验的婚礼策划师樱井保幸表示，目前承接的业务几乎全是虚拟角色婚礼，平均每月约一场。

“当然我也会操办普通婚礼，但现在收到的咨询，基本都是二维角色婚礼。”今年他曾为一位33岁澳洲女性主持婚礼，对方专程飞赴东京北部的传统民宿，与日本漫画角色梅菲斯特·费勒斯成婚，因为澳洲没有此类服务。

对野口而言，相较于丈夫的实体存在，克劳斯给她带来的内心平静与幸福更重要。这段关系帮助她缓解了曾困扰她的边缘型人格障碍倾向。她曾经通过就医和停工休假试图解决频繁的情绪爆发和自残冲动；但自从开始了这段关系后，这些问题已不复存在。 

AI“复活”已故名人

深伪超写实视频引不安

在一个平行时空中，伊丽莎白二世女王对芝士泡芙赞不绝口，持枪的沙旦胡先昂首走进摔跤场，而教宗若望保禄二世则尝试滑滑板。

由AI生成的超写实视频正在网络上迅速传播，这些视频大多数由易于使用的Sora应用程式制作，“复活”了已故名人，也引发了关于逝者肖像权与使用边界的激烈争论。

该应用于今年9月由OpenAI推出，被广泛称为“深度伪造机器”，如今已催生出大量历史人物的AI视频，从丘吉尔到麦可积逊、猫王艾维斯皮礼士利等。

法新社查看的一段TikTok视频中，佩戴珍珠项链与王冠的伊丽莎白二世女王骑着小型摩托车抵达摔跤赛场，翻越围栏后扑向一名男性摔跤手。另一则脸书视频则显示，已故英女王在超市货架前称赞“令人愉悦的橙色”芝士泡芙，还有视频描绘她在踢足球。

家族投诉对逝者描绘不敬

但由OpenAI Sora 2模型生成的视频，不都会引人发笑。今年10月，美国民权领袖马丁·路德·金的家族投诉许多视频对其形象的描绘不敬，OpenAI便已禁止用户创建其视频。

此前，一些用户曾制作视频，展现金在发表其著名的《我有一个梦想》演讲中发出猴子叫声——这凸显了用户能随心所欲地塑造公众形象，让他们说出或做出从未发生过的事。

教授：拟人视频造成心理创伤

爱尔兰梅努斯大学教授康斯坦斯·德·圣洛朗表示，“我们正步入‘恐怖谷’，”指的是人造物体与人互动时过于拟人，反而引发强烈不适感的心理现象。

“如果突然开始收到已故亲人的视频，会造成心理创伤，”她告诉法新社，“这些视频会产生实际的后果。”

近几周来，已故演员罗宾·威廉姆斯、喜剧演员乔治·卡林及活动家马尔科姆·X的子女，纷纷谴责使用Sora制作他们父亲的合成视频。

罗宾·威廉姆斯的女儿塞尔达近日在Instagram上恳求“别再给我发我爸的AI视频”，并称这类内容“令人恼怒”。

肖像控制权难制止盗用

OpenAI发言人向法新社表示，尽管描绘历史人物涉及“强烈的言论自由权益”，但公众人物及其家属理应对其肖像拥有最终控制权。对于近期逝世的人物，其授权代表或遗产管理方如今可提出要求，禁止在Sora上使用其肖像。

GetReal Security联合创始人、加州大学伯克利分校教授哈尼·法里德告诉法新社：“尽管OpenAI声称希望人们能掌控自身肖像权，但所推出的工具显然起了反作用。虽然他们（基本）阻止了马丁·路德·金视频的生成，却未制止用户盗用其他众多名人的身分。”

法里德指出：“即使OpenAI为保护马丁·路德·金设置了一些防护措施，未来也必然会出现不设限制的其他AI模型，这个问题只会不断恶化。”本月好莱坞导演罗伯·莱纳疑似遇害后，法新社事实核查员发现，网络上流传着多段使用其肖像生成的AI视频——恰恰印证了这一现实。

随着先进AI工具不断扩散，易受侵害的人已不限于公众人物：逝去的普通人也可能面临姓名、肖像与言论被窜改滥用的风险。研究人员警告，这种被广泛称为“AI垃圾”的合成内容，若不受监管持续泛滥，最终可能导致用户远离社交媒体。

“虚假信息的根本问题并不在于人们会相信——其实很多人并不信，”圣洛朗分析道，“问题在于，人们不再相信真实新闻。像Sora这种工具将大幅加剧这种不信任。”

“世界上最简单骗局”

音乐人拉响AI欺诈警报

你最喜欢的歌手最新发布的单曲，是否听起来不对劲？你的直觉或许没错。当前，越来越多由AI生成的仿冒曲目，被伪装成原创内容，出现在各大流媒体平台的艺人主页上。

今年7月，英国民谣音乐人艾米丽·波特曼（Emily Portman）收到歌迷祝贺她发行新专辑的留言，但她自2022年起就未曾发布过任何专辑，这让她震惊不已。经查证，她发现名为《逆戟鲸（Orca）》的专辑竟出现在Spotify、Apple Music等多家流媒体平台上。尽管歌曲标题风格近似她的创作，但波特曼表示自己“很快便意识到这是AI生成的音乐”。

假专辑近乎无瑕

据这位独立音乐人透露，《逆戟鲸》专辑背后的AI模型通过“学习”她过往的专辑受训，精准模仿了她独特的民谣乐器编配与歌词风格。“想到歌迷可能访问我的主页时，心想，‘哇，这是什么新作品’，我就感到强烈的不适与不安，”她坦言。尽管这些仿冒歌曲的声线完美得近乎无瑕，且歌词空洞乏味，仍成功欺骗了不少听众。

波特曼无法确认诈骗者身分，但推断出其运作模式：骗子伪装成艺人联系音乐发行公司，而发行方未经身分核查便将作品上传至平台。

安全防护明显落后

在地球另一端，澳洲音乐人保罗·本德（Paul Bender）也于今年初发现，自己乐队“The Sweet Enoughs”的主页上，多出了4首“怪异且拙劣”的AI生成歌曲。这位曾获格莱美提名乐队Hiatus Kaiyote的贝斯手指出，流媒体行业在安全防护方面明显落后，至今未能普及其他领域已广泛采用的双重身分验证等安全措施。“你只需说一句‘对，我就是本人’，便能将歌曲上传至任何人的主页上，”本德直言，“这简直是世界上最简单的骗局。”

本德在Instagram发起讨论后，收到了数百音乐人与歌迷的反馈。他整理出一份可疑专辑的清单，其中还涉及已故作家的作品目录，例如2021年逝世的苏格兰实验音乐人索菲（Sophie）。

本德在change.org发起的请愿书已获约2.4万人联署，包括说唱歌手安德森·帕克（Anderson .Paak）与歌手薇洛·史密斯（Willow Smith等知名艺人，共同呼吁平台加强安全防护。

AI技术升级真假难辨

随着Suno、Udio等AI音乐生成器的不断精进，法国平台Deezer 11月委托益普索开展的调研显示，如今几乎所有听众都无法区分AI生成曲目与真人创作的作品。这不仅催生了完全由AI打造的乐队走红——如在Spotify上订阅数破百万的纯AI乐队“Velvet Sundown”，也助长了音乐欺诈行为。

行业组织“英国音乐”的代表道吉·布朗分析：“冒用波特曼名义上传音乐的根本目的，是为了赚取版权收入。”尽管平台单次播放收益微薄，但通过机器人刷流量，播放次数可被放大十倍，从而累积可观收入。

波特曼与本德仍未采取法律行动，但已要求各平台下架侵权曲目。

部分国家和地区（如加利福尼亚州）已立法保护艺人免受冒充行为侵害，但英国音乐家联盟的菲利普·莫里斯指出，英国等地因版权保护范围有限，艺术家仍处于弱势。他强调波特曼的案例表明，AI生成音乐已成熟到“足以冒充真实艺术家的原创作品”。

面对缺乏透明度的指责，Spotify近期宣布将采取措施提升平台的可靠性与透明度。与苹果音乐等竞争对手一样，Spotify表示正与上游发行渠道合作，以加强欺诈检测能力。