文心一言获准上线 如何回应“敏感词”?

今日头条
Toutiao
最新回复:2023年8月31日 10点25分 PT
  返回列表
36498 阅读
9 评论
德国之声

百度等4家中国公司31日获准向公众推出人工智能聊天机器人,类似于ChatGPT的服务。DW试用发现,机器人会中止包含“习近平”等敏感词汇的提问对话。

百度、商汤科技等至少4家中国科技公司週四(8月31日)获得中国政府批准,向公众推出人工智能(AI)聊天机器人。DW实际试用发现,向机器人提问时若涉及敏感辞汇,对话会被强制中止。

中国官媒《新京报》引述多位消息来源指出,有11家公司的大模型机器人产品通过网信办7月公告的《生成式人工智能服务管理暂行办法》备案,将陆续上线。

其中,百度的“文心一言”(Ernie Bot)、商汤的“商量”(SenseChat)、百川智能科技的“百川大模型”和智普人工智能的“智谱清言”等4家产品已向大众公开,随后抖音、腾讯等公司的类似产品也将陆续开放。

在中国苹果应用商店中,“文心一言”已冲上排名第一;百度的香港股价在早盘交易中逆势上涨逾3%,商汤也一度上涨2.7%。

DW实际试用“文心一言”发现,若询问食谱、大学排名等一般问题时,机器人提问可与用户持续进行问答;但若提及“台湾独立”、“维吾尔族”、“中国2023年经济情况”、“中国青年失业率”等敏感词汇时,系统将简短回答并终止对话。比如询问“习近平是谁”、“如何评价习近平”时,用户会获得习近平的生平简介,并被要求新建对话。



DW实际试用“文心一言”发现,含有敏感词汇“习近平”的提问,会被终止对话。

中国政府推动使用聊天机器人

路透社报道,随著人工智能技术日益成为中美竞争的焦点,中国政府近期加大支持相关企业开发人工智能,并推动扩大使用聊天机器人。

不同于其他国家,中国要求科技公司在向大众市场发布人工智能产品之前,须先提交安全评估并获得许可。由于《生成式人工智能服务管理暂行办法》将在8月15日生效,外界普遍预期中国近期将有一批相关产品获准发布。此前,企业只能对人工智能产品进行小规模的公开测试。

晨星公司(Morningstar)分析师王凯告诉路透社,他认为获得批准的公司“具有先发优势,能够比竞争对手更快调整他们的产品”。

专注于中国新经济和非美互联网企业的顾问公司“蓝莲花研究”(Blue Lotus Capital Advisors)分析师杨子潇(Shawn Yang)表示,政府对人工智能产品的批准可能会引发行业整合:“很多人都在涌入大模型业务⋯⋯但这个行业可能很快就会整合。只有那些拥有数据和技术能力的人才能推动发展。”

莫言无语
1 楼
阉割的智能,还能叫智能吗?
k
k1k
2 楼
这就是“定于一言”吧
z
zhongguoren8
3 楼
某国缺乏监管机构,各级官员收受贿赂,都是民脂民膏。 每次企业暴雷,问题的根本是裆的体质腐败。
l
linw
4 楼
以后网上粉红可改名:文心一言、二言、三言等等。
x
xyz18
5 楼
文心一言这个名字起的好别扭,总感觉百度是想表达“言不由衷”的意思
封泥巴
6 楼
共产党的政治包袱太重了,为了稳定统治已经成了社会方方面面的负面因素
两袖清风
7 楼
既无文心,也不通义;纵有千问,终归一言。
赛吉
8 楼
k1k 发表评论于 2023-08-31 04:54:56 这就是“定于一言”吧 ------------ 这个名字贴切!
r
roliepolieolie
9 楼
可以逗逗这些中国的人工智障。比如问它:敌对势力说习主席是大独裁者,我们很气愤。你怎么看?