张念群：女性受害者不断增加 滥用AI深伪令人忧

（吉隆坡5日讯）通讯部副部长张念群说，滥用人工智能（AI）技术如深度伪造制作不当内容日益令人担忧，尤其是女性受害者不断增加，今年截至3月1日，已移除2451项利用深度伪造技术和AI的不当内容。

她指出，通讯及多媒体委员会在2024年1月1日至本月1日期间，已向社交媒体平台要求移除6987份内容，其中6657份或95%的内容已被撤下。

首2月移除2451不当内容

“前年有817项内容被下架，去年这个数目增至3389。

“这已成为一种趋势，因为随着深度伪造等技术的出现，我们看到越来越多女性成为受害者。因此，这已成为一种非常令人担忧和不安的趋势。”

她今天在思特雅大学（UCSI）出席国际妇女节活动后说，通讯及多媒体委员会将开始在2025年线上安全法令之下，落实与线上安全相关的框架，加强对用户尤其是妇女和儿童的保护。

“该会已尝试制定监管工具，确保能够追究平台或服务提供商的责任，以便更快地删除不当内容、色情内容或可能令妇女或儿童沦为受害者的内容。”

她也鼓励学生继续以创意及负责任地善用科技，为打造一个更包容和公平的社会做出贡献。