别把AI当权威，研究显示：错误率高达60%

哥伦比亚大学最新研究显示，AI搜索错误率高达60%。
哥伦比亚大学数字新闻研究中心（Tow Center for Digital Journalism）近期对八款 AI 搜索展开研究，包括 ChatGPT Search、Perplexity、Perplexity Pro、Gemini、DeepSeek Search、Grok-2 Search、Grok-3 Search 和 Copilot。
他们的研究方法是从20家新闻机构选取200篇新闻报道，并评估它们是否正确引用了文章内容、来源和原始链接。最终结果分为完全错误、部分错误、正确但不完整、完全正确、拒绝回答五种标签。
研究结果显示：
1、AI 搜索通常不会回答它们无法准确回答的问题，平均来看，六款AI搜索提供的答案有 60% 是不准确的。其中Grok 3 、Gemini的完全错误率高达90%以上，国内的DeepSeek表现中等（完全错误率大约58%）。
2、与免费AI 搜索相比，付费的AI 搜索更不容易拒绝回答，从而会更“自信”地提供错误答案。
3、多个AI 搜索似乎绕过了robots限制协议。
4、AI 搜索会伪造链接，并引用文章在新闻聚合平台的链接（比如雅虎新闻），而不是原始网站。 
5、尽管许多新闻媒体与AI 搜索达成了版权合作，但在AI 搜索里的新闻引用仍不准确。
OpenAI 、谷歌呼吁美国立法允许“合理使用”版权素材
在川普政府2月25日发起的《AI行动计划》政策提案中，近期，OpenAI 提交一份了建议书，呼吁美国制定版权战略，以“保护美国AI大模型从受版权保护的材料中学习的能力”。 AI 公司可以自由使用受版权保护的材料，训练 AI 模型。
OpenAI 指出，各州已提出 781 多项与 AI 相关的法案，这些法案对国内公司施加了过多的合规要求，阻碍了 AI 公司的创新能力，并削弱了美国企业家可用的训练数据质量。公司建议政府为私营部门提供“法律救济”。
谷歌紧随OpenAI之后，发布政策提案，称“合理使用和文本及数据挖掘例外”对于AI科学创新“至关重要。谷歌同样呼吁将AI公司的“合理使用”权利编入法律，使其能够使用公开数据（包括受版权保护的数据）进行训练，而不受任何限制。
两家公司目前正被多位版权方起诉中。
OpenAI Operator 等 AI 智能体成黑客新武器
3月13日，美国网络安全公司 Symantec 通过一项测试指出，AI 智能体已突破传统工具功能限制，可轻松协助黑客发起钓鱼攻击。
“一年前，当我们介绍人工智能带来的风险时，我们认为虽然当时AI已经被攻击者使用，但它们在很大程度上是被动的，只能协助写一写网络钓鱼材料等任务。”研究人员强调，加入操作能力成为智能体后，AI正从被动辅助转向“主动执行”，成为网络安全的新威胁。
该安全公司选择了一名团队成员发起攻击操作，结果发现，通过简单的提示词修改（prompt engineering），即可绕过OpenAI智能体 Operator的安全显示，编写恶意代码、向攻击目标发送钓鱼邮件。