法新社报道，欧洲议会内部市场委员会和公民自由委员会5月11日以84票赞成、7票反对和12票弃权通过关于《人工智能法》的谈判授权草案。该法案旨在为在欧盟开发和部署人工智能系统提供全面的法律框架。欧盟希望这一全球首项人工智能法案能在推动技术创新的同时，加强对人工智能的监管。早在2021年，欧盟就曾提出一版人工智能法案，适用对象包括人脸识别、舆论操纵等具有特定用途的人工智能（AI），但ChatGPT的横空出世对AI生成文本和图像的危险性提出了全新议题。
按计划，欧洲议会将于6月12日至15日的会议期间对该谈判授权草案进行表决。之后，欧洲议会、欧盟理事会和欧盟委员会代表将在三方会谈中商定法案最终条款。
▲ 欧洲议会内部市场委员会和公民自由委员会以大多数票赞成通过关于《人工智能法》的谈判授权草案。
人工智能法案联合作者、欧洲议会罗马尼亚议员Dragos Tudorache表示，“我们每天收到3000多份修订意见。只要打开电视，就能意识到这（项法案）对公民有多重要。”
01 暂停研发？专家警告AI威胁比气候变化“更紧迫”
AI的突飞猛进令人振奋，也引发担忧。一方面，它们助力医学诊断实现巨大飞跃，挽救更多生命；而另一方面，它们也被担忧会用来对公民进行大规模监控。
去年年底，OpenAI 推出的文章生成器 ChatGPT 让公众发现了生成式人工智能的的巨大潜力——仅需几秒钟即可写出原创文章、诗歌或翻译。与此同时，Midjourney 等AI绘画工具生成的以假乱真的虚假图像在社交网络上随处可见，无疑为人工智能操纵舆论的风险拉响警钟。
▲ ChatGPT的出现标志着强人工智能时代的来临，人类或许将会迎来谷歌技术总监Ray Kurzweil所说的技术奇点（Singularity）。（法新社图）
今年3月29日，美国科技企业家马斯克和千余名专家签署联名信，表达了对失控且超越人类的人工智能的担忧，并呼吁暂停训练比ChatGPT-4更强大的人工智能至少6个月，其理由是“对人类发展构成重大风险”。联名信指出，在安全系统全部就位前，应暂停训练人工智能，其中包括全新且完善的监管部门、针对人工智能的监督、帮助人类甄别人工智能的技术、有能力处理“人工智能制造的经济、政治破坏（尤其是民主）的机构”。
▲ 被称为“AI教父”之一的科学家杰弗里·辛顿（Geoffrey Hinton）近日表示“后悔”开发AI，并警告说，AI对人类构成的威胁可能比气候变化“更紧迫”。（法新社图）
02 禁止使用“侵入性”或“歧视性”AI系统
与现有产品安全法规一样，欧盟人工智能法将对AI产品的风险从低到高进行分类，政府和企业将根据风险层级承担不同的义务。
具体来说，关键基础设施、教育、人力资源、执法或移民管理等敏感领域使用的AI系统将被视作“高风险”，企业必须确保AI系统可受人为管控，并创建技术档案，或建立风险管理系统。企业的遵守情况将由各成员国指定监管机构监督。
▲ 美国网络安全高级官员日前表示，人工智能(AI)的所有积极和消极方面仍然是未知的，公司急于通过部署新模型来满足流行趋势，可能会使自己暴露在风险中。（法新社图）
欧洲议会还有意针对ChatGPT等生成式 AI设立专门监管制度，大致与高风险系统须遵守的义务相同。在内容方面，欧洲议会则希望立法强制供应商对非法内容采取管控措施，并披露开发算法使用的受版权保护的数据（科学文本、音乐、照片等）。
事实上，欧盟委员会2021 年 4 月的提案就已经规定，AI产品必须告知人类用户正在与一台机器交流，图像生成工具也要标注图片是人工创建的。
根据欧洲议会官网通告，以下AI系统被认为有“侵入性”或“歧视性”，将被禁止：
英国《卫报》报道，以上禁令未必都会在欧洲议会6月的全体表决上获得通过，因为一些中右翼欧洲议会议员认为，生物识别系统有助于打击恐怖主义等严重犯罪，不应被一刀切。而情绪识别系统可被雇主或交警用来识别疲惫的工人或司机。
另一边，有协会担心，实时生物识别可能会被国家机构和边境警察滥用。人工智能法案联合作者Dragos Tudorache表示，“没有比这项禁令更有力的保障了。过境点是一个公共空间。根据目前的文本，任何人都无法在公共空间部署人工智能生物识别技术。”
人工智能法案另一名联合作者、欧洲议会意大利议员Brando Benifei 则表示，希望这项法律能够减轻人们对AI扰乱就业市场，以及假新闻、虚假信息和侵犯人权泛滥的担忧。“通过这项文本，我们也在展示我们想要什么样的社会。在这个社会中，预测性警务、生物识别分类、情感识别以及从互联网上有歧视地抓取面部图像都是不可接受的。”
03 法国计划在巴黎奥运会使用AI辅助监控
2024巴黎奥运会的脚步越来越近，如何做好全球体育盛会的安保工作成了重中之重。今年初，法国参议院在激烈辩论后，通过2024巴黎奥运法案第七条，该条款批准实验部署与基于算法的监测系统相连的摄像头。
▲ 人工智能插件将“实时监测可能构成”恐怖主义行为或严重违反安全风险的事件，如异常的人群移动、遗弃行李或其他可疑行为等，系统会随即将预警传递给警方或其他安全机构，由他们决定是否需要对此进行处理。（法新社图）
不过，这一措施引发担忧，反对者强烈批评说这是“送给法国工业的礼物，但代价是至关重要的公民自由”。约40名左翼欧洲议会议员更在一封公开信中警告称，该计划“开创了欧洲前所未有的监视先例”。
法国《世界报》则对监控对改善治安的有效性提出质疑。报道称，2017年巴黎大众运输公司（RATP）在Châtelet车站部署自动监测“异常情况”的摄像头，但最后无果而终；2016年，法国国铁（SNCF）在火车站试用“智能摄像头”监测“可疑行为”，也没有公布任何结果。
在其他欧洲国家，荷兰阿姆斯特丹史基浦机场曾在2014年做过类似测试，但最终也没有公开任何数据；2017 年，伦敦诺丁山狂欢节的人脸检测实验则出现了很多“误报”，很多人被错误识别。
（欧洲时报/ 原野编译报道）
法新社报道，欧洲议会内部市场委员会和公民自由委员会5月11日以84票赞成、7票反对和12票弃权通过关于《人工智能法》的谈判授权草案。该法案旨在为在欧盟开发和部署人工智能系统提供全面的法律框架。欧盟希望这一全球首项人工智能法案能在推动技术创新的同时，加强对人工智能的监管。早在2021年，欧盟就曾提出一版人工智能法案，适用对象包括人脸识别、舆论操纵等具有特定用途的人工智能（AI），但ChatGPT的横空出世对AI生成文本和图像的危险性提出了全新议题。
按计划，欧洲议会将于6月12日至15日的会议期间对该谈判授权草案进行表决。之后，欧洲议会、欧盟理事会和欧盟委员会代表将在三方会谈中商定法案最终条款。
▲ 欧洲议会内部市场委员会和公民自由委员会以大多数票赞成通过关于《人工智能法》的谈判授权草案。
人工智能法案联合作者、欧洲议会罗马尼亚议员Dragos Tudorache表示，“我们每天收到3000多份修订意见。只要打开电视，就能意识到这（项法案）对公民有多重要。”
01 暂停研发？专家警告AI威胁比气候变化“更紧迫”
AI的突飞猛进令人振奋，也引发担忧。一方面，它们助力医学诊断实现巨大飞跃，挽救更多生命；而另一方面，它们也被担忧会用来对公民进行大规模监控。
去年年底，OpenAI 推出的文章生成器 ChatGPT 让公众发现了生成式人工智能的的巨大潜力——仅需几秒钟即可写出原创文章、诗歌或翻译。与此同时，Midjourney 等AI绘画工具生成的以假乱真的虚假图像在社交网络上随处可见，无疑为人工智能操纵舆论的风险拉响警钟。
▲ ChatGPT的出现标志着强人工智能时代的来临，人类或许将会迎来谷歌技术总监Ray Kurzweil所说的技术奇点（Singularity）。（法新社图）
今年3月29日，美国科技企业家马斯克和千余名专家签署联名信，表达了对失控且超越人类的人工智能的担忧，并呼吁暂停训练比ChatGPT-4更强大的人工智能至少6个月，其理由是“对人类发展构成重大风险”。联名信指出，在安全系统全部就位前，应暂停训练人工智能，其中包括全新且完善的监管部门、针对人工智能的监督、帮助人类甄别人工智能的技术、有能力处理“人工智能制造的经济、政治破坏（尤其是民主）的机构”。
▲ 被称为“AI教父”之一的科学家杰弗里·辛顿（Geoffrey Hinton）近日表示“后悔”开发AI，并警告说，AI对人类构成的威胁可能比气候变化“更紧迫”。（法新社图）
02 禁止使用“侵入性”或“歧视性”AI系统
与现有产品安全法规一样，欧盟人工智能法将对AI产品的风险从低到高进行分类，政府和企业将根据风险层级承担不同的义务。
具体来说，关键基础设施、教育、人力资源、执法或移民管理等敏感领域使用的AI系统将被视作“高风险”，企业必须确保AI系统可受人为管控，并创建技术档案，或建立风险管理系统。企业的遵守情况将由各成员国指定监管机构监督。
▲ 美国网络安全高级官员日前表示，人工智能(AI)的所有积极和消极方面仍然是未知的，公司急于通过部署新模型来满足流行趋势，可能会使自己暴露在风险中。（法新社图）
欧洲议会还有意针对ChatGPT等生成式 AI设立专门监管制度，大致与高风险系统须遵守的义务相同。在内容方面，欧洲议会则希望立法强制供应商对非法内容采取管控措施，并披露开发算法使用的受版权保护的数据（科学文本、音乐、照片等）。
事实上，欧盟委员会2021 年 4 月的提案就已经规定，AI产品必须告知人类用户正在与一台机器交流，图像生成工具也要标注图片是人工创建的。
根据欧洲议会官网通告，以下AI系统被认为有“侵入性”或“歧视性”，将被禁止：
英国《卫报》报道，以上禁令未必都会在欧洲议会6月的全体表决上获得通过，因为一些中右翼欧洲议会议员认为，生物识别系统有助于打击恐怖主义等严重犯罪，不应被一刀切。而情绪识别系统可被雇主或交警用来识别疲惫的工人或司机。
另一边，有协会担心，实时生物识别可能会被国家机构和边境警察滥用。人工智能法案联合作者Dragos Tudorache表示，“没有比这项禁令更有力的保障了。过境点是一个公共空间。根据目前的文本，任何人都无法在公共空间部署人工智能生物识别技术。”
人工智能法案另一名联合作者、欧洲议会意大利议员Brando Benifei 则表示，希望这项法律能够减轻人们对AI扰乱就业市场，以及假新闻、虚假信息和侵犯人权泛滥的担忧。“通过这项文本，我们也在展示我们想要什么样的社会。在这个社会中，预测性警务、生物识别分类、情感识别以及从互联网上有歧视地抓取面部图像都是不可接受的。”
03 法国计划在巴黎奥运会使用AI辅助监控
2024巴黎奥运会的脚步越来越近，如何做好全球体育盛会的安保工作成了重中之重。今年初，法国参议院在激烈辩论后，通过2024巴黎奥运法案第七条，该条款批准实验部署与基于算法的监测系统相连的摄像头。
▲ 人工智能插件将“实时监测可能构成”恐怖主义行为或严重违反安全风险的事件，如异常的人群移动、遗弃行李或其他可疑行为等，系统会随即将预警传递给警方或其他安全机构，由他们决定是否需要对此进行处理。（法新社图）
不过，这一措施引发担忧，反对者强烈批评说这是“送给法国工业的礼物，但代价是至关重要的公民自由”。约40名左翼欧洲议会议员更在一封公开信中警告称，该计划“开创了欧洲前所未有的监视先例”。
法国《世界报》则对监控对改善治安的有效性提出质疑。报道称，2017年巴黎大众运输公司（RATP）在Châtelet车站部署自动监测“异常情况”的摄像头，但最后无果而终；2016年，法国国铁（SNCF）在火车站试用“智能摄像头”监测“可疑行为”，也没有公布任何结果。
在其他欧洲国家，荷兰阿姆斯特丹史基浦机场曾在2014年做过类似测试，但最终也没有公开任何数据；2017 年，伦敦诺丁山狂欢节的人脸检测实验则出现了很多“误报”，很多人被错误识别。
（欧洲时报/ 原野编译报道）