被ChatGPT害惨! 美律师闯下大祸 面临法官惩罚

今日头条
Toutiao
最新回复:2023年6月9日 20点44分 PT
  返回列表
90250 阅读
23 评论
德国之声

人工智能程序ChatGPT再次受到热议。一名美国律师在准备法庭文件时使用这款AI,结果它杜撰了根本不存在的案件和裁决,这不仅让律师尴尬到社死,并可能导致他面临法官的惩罚。

纽约律师史蒂文·施瓦茨(Steven Schwartz)本周向法官道歉,因为他提交的一份陈述书中利用ChatGPT协助查找撰写资料。不过ChatGPT生成了根本不存在的案件。施瓦茨承认,他根本不知道ChatGPT会编造案例和裁决。

查无此案

他接受委托的案件是2019年搭乘哥伦比亚航空公司飞机的一名乘客。这位男子认为在飞往纽约的航班上被一个金属餐盘砸伤了腿。施瓦茨受委托进行提告。而航空公司则以过了时效性为理由要求撤告。

施瓦茨在撰写案件文件时,利用了ChatGPT收集已往发生的类似案件。他挑选了几个支持案件仍具有时效的例子作为论点。其中包括伊朗航空,中国南航和埃及航空被控的案件。但是,无论是哥伦比亚航空公司还是主审法官都无法查找到这些案件。之后,施瓦茨不得不回应承认是ChatGPT杜撰了一切。

上个月,法官表示:“法院面临着一个前所未有的情况……提交的六个案例似乎是假的司法判决。”涉事律师有可能会面临处罚。

“我以为ChatGPT是一个可靠的搜索引擎”

本周二(6月6日),在上交到听证会的一份文件中,施瓦茨表示为自己令人深感遗憾的错误向法庭表示深深的歉意。他也提到这是自己首次使用ChatGPT,是念过大学的孩子向他推荐了这款AI。

他写道:“在进行本案的法律研究时,我以为ChatGPT是一个可靠的搜索引擎。不过现在知道这个认知是错误的。”他还补充说,自己从未想要过误导法庭。

ChatGPT自去年年末一经推出就因为功能强大而火爆全球,也引发了一场人工智能热。各大科技公司都纷纷推出自己的AI。ChatGPT的母公司OpenAI没有立即就这起案件进行回应。《纽约时报》率先发表了相关报道。

施瓦茨说,他和所在的公司在媒体报道中被公开嘲笑。他表示:“无论是私人或是职业层面都因此深感尴尬。这些文章未来几年都会被人看到。 ”他补充说,这件事让他大开眼界,他愿向法庭保证,“决不会再犯这样的错误。”

久而久之
1 楼
不做due diligence 是律师的问题。
河西海龟
2 楼
CHATGPT经常一本正经地胡说八道
T
Timberwolf
3 楼
“不知者不为罪”?这样的律师怎么通过BAR的!
m
mangrove_犹他1
4 楼
太幼稚了
时光的酒
5 楼
肯定是ChatGPT里有五毛潜伏。。。 凭空虚构捏造可是五毛们的特长啊。
令胡冲
6 楼
只能说现在律师根本不值那个费用。ChatGPT承担只要工作,剩下10%的律师简单核查一下即可。
令胡冲
7 楼
承担主要工作
L
Lisland_2013
8 楼
也许是律师瞎说被抓了让gpt背锅。
彼采荇兮
9 楼
其中包括伊朗航空,中国南航和埃及航空被控的案件。 编这些国家的谣言,编习惯了,自己都以为是真的了。
彼采荇兮
10 楼
其中包括伊朗航空,中国南航和埃及航空被控的案件。 编这些国家的谣言,编习惯了,自己都以为是真的了。 ChatGPT和这位一样,都不看看原文,就开编。如果说有五毛潜伏,ChatGPT 里估计就是有你这样的五毛潜伏。 时光的酒 发表评论于 2023-06-09 10:46:24 肯定是ChatGPT里有五毛潜伏。。。 凭空虚构捏造可是五毛们的特长啊。
l
ljcn
11 楼
律师交给chatgpt完成了作业,结果看都没看,就提交了,牛逼。哪个客户找这样的律师,倒了大霉。不过侧面上也反应,律师用chatgpt办公应该是普遍现象了,比较可以节省90%工作量。这人直接节省了100%。
i
iBear
12 楼
因为有太多小说之类的东西. ChatGPT才是上当的那个,哈哈.
硅谷码工头
13 楼
律师不是头一个被chatgpt取代的职业?就这么取代啦?AI粉玻璃心碎一地啊?
h
hkzs
14 楼
又一个被宣传欺骗的蠢货。ChatGPT是语言模型,不是内容模型。它的优势是确保语言表达足够正确,不保证表达的内容正确。它的网站上都有公开说明的。
k
k1k
15 楼
我怎么觉得ChatGPT是保证内容绝对不正确呢? 我用它搜了不下10个人物,相关度是0,做到这点不tm容易哩
q
qiuqiudou
16 楼
确实没有那么可靠!让写code,复杂一点也是错的。显然答案没有测试过。让翻译,不是太复杂的也可能出错。好处就是能省80%的力,在翻译的时候。最后还是要校正,修改。
e
exception1
17 楼
被资本家和股评家忽悠了
s
seator
18 楼
这种律师确实可以被淘汰了
B
Bslrim
19 楼
ChatGPT是一个很好的助理工具,但是要求使用者自己有足够的专业知识,才能提出足够好的问题以及辨别回答中不准确的部分
读书行路
20 楼
难道没有专门的过往案件database可以供律师使用吗?不会直接在internet上搜吧
x
xiaoyizhang
21 楼
光酒这货,连这种帖子都能搭上中共挣狗粮,碧莲都不要了
t
true?
22 楼
时光的酒 发表评论于 2023-06-09 10:46:24 肯定是ChatGPT里有五毛潜伏。。。 凭空虚构捏造可是五毛们的特长啊。 ——————- 这么直接了当地把自己拖出来当反例也是脸皮够厚的,估计是资深1450了。
H
Huilianghu5
23 楼
ChatGPT能杜撰造假,这个不是资源输入问题,是开发者有意为之。