人工智能发展方兴未艾，中国近期传出多起相关诈骗、假信息案件。同时，马斯克5日首谈中国之行，称中国政府正准备推动人工智能的监管法规。 推特、特斯拉执行长马斯克（Elon Musk）结束上週为期两天的访中行程后，週一（6月5日）与美国民主党总统候选人肯尼迪（Robert F. Kennedy Jr.）在推特音讯空间（Twitter Space）谈话提到，中国政府正在推动人工智能（AI）法规。 马斯克并未详细说明，仅表示他在中国期间会见了当地高层，并就AI的风险及监管必要性，进行了“富有成效的讨论”。他说，他也从这些谈话中得知，中国计画启动AI的相关监管措施。 AI诈欺、假信息兴起 AI在中国飞速发展，该国AI相关欺诈案近期也有所激增。《华尔街日报》5日报道，中国各地警方近日都在官方社交媒体上，广泛警告民众小心犯罪份子藉AI假冒成朋友进行诈骗。 报道指，一名郭姓中国男子4月在微信上接到一通诈骗视讯电话，诈骗者在影像中以AI换脸、语音合成技术冒充其友人的容貌和声音，假可乱真地说服他将约60万美元的款项转入内蒙古的银行帐户。直到郭姓男子联系朋友确认款项，才得知自己受骗上当。根据内蒙古警方的微信贴文，中国当局已终止该笔交易，并试图追回受骗款项。 此事在中国网民间引起热议，一度在微博上以“#AI 诈骗正在全国爆发”的标签广传，该话题随后受审查限制，无法再显示搜索结果。同月，安徽警方因一起类似案件逮捕了一名诈骗份子。 除诈骗案外，AI也在中国造成多起假信息事件。甘肃5月有男子藉网络收集的新闻片，以ChatGPT捏造了一篇火车事故的假贴文，在允许用户分润的博客平台上发表，藉此得利。警方将其逮捕后称，该篇文章获得了1万5000次浏览。同月，河南当局也称，有名男子藉ChatGPT生成“餐馆发生暴力扭打，一名女性被砖击头部后身亡”的假信息，藉以获得流量。 OpenAI并未在中国提供ChatGPT服务，但仍有许多中国民众“翻墙”使用。 政府出手监管 为应对层出不穷的AI案件，中国政府已出台相关法规。 针对假消息、诈骗等案件，中国网信办1月宣布，禁止以AI生成的图像、音频和文本，传播错误、违法或“破坏经济或国家安全”的信息内容。《华尔街日报》指，这些笼统而广泛的定义，给了中国当局相当大的执法自由。 中国网信办4月也公布了管理生成式AI服务（如百度“文心一言”、阿里巴巴“通义千问”等）的措施草案，规定AI产出的内容须“符合国家社会主义核心价值观”、“不得宣扬恐怖主义、歧视、暴力”，并要求企业需为“训练AI产品的数据的合法性负责”，且在公开推出产品之前，须先提交当局进行“安全评估”。 倘若企业未遵守上述指导方针，将被处以1万元人民币（约1450美元）以上的罚款，并得停止旗下AI服务，面臨刑事调查。 彭博社引述分析师说法指，中国网信办的相关规定可能影响未来中国训练AI模型的方式。 除中国外，世界各国也都在寻求規范AI机器人发展的方法。意大利4月一度以个人信息、隐私疑虑，以及生成内容不准确为由暂时禁止ChatGPT，并于ChatGPT母公司OpenAI更新隐私条款后解除禁令。 美国商务部4月亦曾针对“AI模型是否应经认证后才能上市”一事公开请求意见。对此，OpenAI回应“强大的AI系统应受严格的安全评估”，若想落实此类评估，就需要对AI加以监管，因此该公司愿“积极与政府合作，以制定此类监管的最佳形式”。
人工智能发展方兴未艾，中国近期传出多起相关诈骗、假信息案件。同时，马斯克5日首谈中国之行，称中国政府正准备推动人工智能的监管法规。
推特、特斯拉执行长马斯克（Elon Musk）结束上週为期两天的访中行程后，週一（6月5日）与美国民主党总统候选人肯尼迪（Robert F. Kennedy Jr.）在推特音讯空间（Twitter Space）谈话提到，中国政府正在推动人工智能（AI）法规。
马斯克并未详细说明，仅表示他在中国期间会见了当地高层，并就AI的风险及监管必要性，进行了“富有成效的讨论”。他说，他也从这些谈话中得知，中国计画启动AI的相关监管措施。
AI诈欺、假信息兴起
AI在中国飞速发展，该国AI相关欺诈案近期也有所激增。《华尔街日报》5日报道，中国各地警方近日都在官方社交媒体上，广泛警告民众小心犯罪份子藉AI假冒成朋友进行诈骗。
报道指，一名郭姓中国男子4月在微信上接到一通诈骗视讯电话，诈骗者在影像中以AI换脸、语音合成技术冒充其友人的容貌和声音，假可乱真地说服他将约60万美元的款项转入内蒙古的银行帐户。直到郭姓男子联系朋友确认款项，才得知自己受骗上当。根据内蒙古警方的微信贴文，中国当局已终止该笔交易，并试图追回受骗款项。
此事在中国网民间引起热议，一度在微博上以“#AI 诈骗正在全国爆发”的标签广传，该话题随后受审查限制，无法再显示搜索结果。同月，安徽警方因一起类似案件逮捕了一名诈骗份子。
除诈骗案外，AI也在中国造成多起假信息事件。甘肃5月有男子藉网络收集的新闻片，以ChatGPT捏造了一篇火车事故的假贴文，在允许用户分润的博客平台上发表，藉此得利。警方将其逮捕后称，该篇文章获得了1万5000次浏览。同月，河南当局也称，有名男子藉ChatGPT生成“餐馆发生暴力扭打，一名女性被砖击头部后身亡”的假信息，藉以获得流量。
OpenAI并未在中国提供ChatGPT服务，但仍有许多中国民众“翻墙”使用。
政府出手监管
为应对层出不穷的AI案件，中国政府已出台相关法规。
针对假消息、诈骗等案件，中国网信办1月宣布，禁止以AI生成的图像、音频和文本，传播错误、违法或“破坏经济或国家安全”的信息内容。《华尔街日报》指，这些笼统而广泛的定义，给了中国当局相当大的执法自由。
中国网信办4月也公布了管理生成式AI服务（如百度“文心一言”、阿里巴巴“通义千问”等）的措施草案，规定AI产出的内容须“符合国家社会主义核心价值观”、“不得宣扬恐怖主义、歧视、暴力”，并要求企业需为“训练AI产品的数据的合法性负责”，且在公开推出产品之前，须先提交当局进行“安全评估”。
倘若企业未遵守上述指导方针，将被处以1万元人民币（约1450美元）以上的罚款，并得停止旗下AI服务，面臨刑事调查。
彭博社引述分析师说法指，中国网信办的相关规定可能影响未来中国训练AI模型的方式。
除中国外，世界各国也都在寻求規范AI机器人发展的方法。意大利4月一度以个人信息、隐私疑虑，以及生成内容不准确为由暂时禁止ChatGPT，并于ChatGPT母公司OpenAI更新隐私条款后解除禁令。
美国商务部4月亦曾针对“AI模型是否应经认证后才能上市”一事公开请求意见。对此，OpenAI回应“强大的AI系统应受严格的安全评估”，若想落实此类评估，就需要对AI加以监管，因此该公司愿“积极与政府合作，以制定此类监管的最佳形式”。