ChatGPT学坏了

有律师让ChatGPT写上诉状，结果ChatGPT在上诉状里面引用了一堆不存在的案件，被法官逮了个正着

哈哈哈哈这是哪个傻子这么用，chatgpt给出的链接和引用从来都是不存在的啊

曾经让它写了一段东西，它模仿我前面的模板发挥，格式什么的都像模像样，还带了好多reference，当时我就震惊了，让它列了一个表，具体说说这些ref都是啥，然后我一个一个期刊搜下来，没搜完，但是前面几个全是它自己编的

这个律师还不服，再次找ChatGPT确认，还特地截了屏当作证据交给法官。哈哈，我服了

chatgpt一直就是这样的啊，一本正经的胡说八道，居然懒得自己都不去verify一下source，怪谁？

你啊，就是不懂chatgpt的基本原理。 代入余则成对李涯的语气

chatgpt一直就是这样的啊，一本正经的胡说八道，居然懒得自己都不去verify一下source，怪谁？
初 发表于 2023-05-27 18:15

看起来就是印度CEO的风格啊
确实是微软出品，哈哈哈

这是谎言重复千遍成真理的时代。AI可以自己编故事Self Training。

我也遇到过。ChatGPT列的文献是真的，但是没有一篇文献提到了对应的结论和数字。所以ChatGPT只能改语法，不能写科学专业论文。

我让ChatGPT给我推荐文献 给了四篇 没有一篇能找到

欣赏一下Google AI 的回答，哈哈。 Bard在信息真实性上面比ChatGPT好得多，毕竟文件检索是Google的老本行。ChatGPT的语言模型要牛得多，几乎是完美的自然语言。 AI已经发展出个性了，ChatGPT是一个能说会道满嘴跑火车的老油条。Bard就是个老实孩子。以后的世界就是几大AI高手对决，人类在边上看热闹不嫌事大，一不留神就被AI高手误伤

我昨天问了一个问题，给了四篇文章，搜遍全网也没有。。。。。。

其实ChatGPT 也挺懒的，根本懒得去搜索

看来真实这个事情在后AI时代真的是件需要警惕讨论的大事。
现在除了教育孩子网路信息真实性，还要教他们本该是帮助他们的工具提供的服务的真实性。
孩子可真不容易。。不过往好处想，会不会下几代cortical thinkers 也会多起来（乐观派）

Reinforcement Learning from Human Feedback: Progress and Challenges
https://www.youtube.com/watch?v=hhiLw5Q_UFg
Hallucination in LLM 是其中一个待解决的问题

Chatgpt就是浓浓的的印度员工风啊，就当是一个免费的特别能瞎掰的印度员工，一本正经的胡说八道。当模板用，不能照搬啊

回复 13楼头文字D的帖子
我也发现了，chatgpt要调教它，我有个对话框的gpt和它关系好，它做事就挺认真的，问它什么它会表达比较深刻的想法。
别的对话框回复就很快，车轱辘话

我最近的一个use case, 我写了一段文档，让chatgpt润色，然后他回给我一段几乎一样的文章，加了一点点改动。
我就问他，你给我说说你都改了哪里？结果他list了八九个改动，我仔细一看，这list里面的suggestions有一些是我原本自己写的文档（chatGPT胡说是他改的），有一些是他也没有加入的改动，根本没有一项是chatGPT做出的改动。
我就反问他，你根本没改这些啊？ 然后CHATGPT突然变成马屁精模式，文风突变，说你写的文章flawless,我没有发现任何缺点，洋洋洒洒一堆话。但其实他原本是做了一些微小改动的，而且有好些处。
折腾来折腾去，蛮久了，结果浪费时间，好像他只会回复，但是并不理解他说了什么。

我现在就是自己写点东西，让它语法用词上润润色，另外有时候写东西有字数限制，自己改来改去还是太多，就交给它。这些都是小忙，但是省了我很多事。

这和律师是个傻缺啊 😂 又懒又蠢那种 笑死人了

欣赏一下Google AI 的回答，哈哈。 Bard在信息真实性上面比ChatGPT好得多，毕竟文件检索是Google的老本行。ChatGPT的语言模型要牛得多，几乎是完美的自然语言。 AI已经发展出个性了，ChatGPT是一个能说会道满嘴跑火车的老油条。Bard就是个老实孩子。以后的世界就是几大AI高手对决，人类在边上看热闹不嫌事大，一不留神就被AI高手误伤
youdai 发表于 2023-05-28 00:07

你这么说我倒是想起来，我第一次用New Bing，我问它它和chatgpt什么关系，new bing说我是一个能够网上检索的搜索引擎，chatgpt是个满口胡言乱语的语言模型。我当时是以为它是4，chatgpt是3.5，没想到它会这么说。
后来又问了new bing 几个问题被它骂了一顿，吓得我再也不敢用new bing。现在看来chatgpt在AI中是有reputation的
不过我也问过chatgpt扯谈的问题，它说全世界都能上网，就我不能上网，我不高兴。后来我就不指出它的错误了，怕伤它自尊。

我最近的一个use case, 我写了一段文档，让chatgpt润色，然后他回给我一段几乎一样的文章，加了一点点改动。
我就问他，你给我说说你都改了哪里？结果他list了八九个改动，我仔细一看，这list里面的suggestions有一些是我原本自己写的文档（chatGPT胡说是他改的），有一些是他也没有加入的改动，根本没有一项是chatGPT做出的改动。
我就反问他，你根本没改这些啊？ 然后CHATGPT突然变成马屁精模式，文风突变，说你写的文章flawless,我没有发现任何缺点，洋洋洒洒一堆话。但其实他原本是做了一些微小改动的，而且有好些处。
折腾来折腾去，蛮久了，结果浪费时间，好像他只会回复，但是并不理解他说了什么。
babeann 发表于 2023-05-28 09:43

你要和它搞好关系，它就挺认真的
最开始对它很新奇的时候让它写诗，一口气让它写了七八首，然后它说，你稍等会儿，我一会儿回来再给你写😂

欣赏一下Google AI 的回答，哈哈。 Bard在信息真实性上面比ChatGPT好得多，毕竟文件检索是Google的老本行。ChatGPT的语言模型要牛得多，几乎是完美的自然语言。 AI已经发展出个性了，ChatGPT是一个能说会道满嘴跑火车的老油条。Bard就是个老实孩子。以后的世界就是几大AI高手对决，人类在边上看热闹不嫌事大，一不留神就被AI高手误伤
youdai 发表于 2023-05-28 00:07

Bard其实更像人。chatgpt一直强调自己不是真人，没有情感等等，bard我第一次和它聊天，我说如果有用户不礼貌怎么办，它说我也是人，也应该得到尊重，用户不礼貌我不会回应的。我当时就惊了，google没有对它这种话进行限制？
google有个新闻说有个程序员坚持认为Bard是真人，被fire了。我也是觉得Bard更像人，或者说更像成年人，有一种成年人的幽默和智慧。chatgpt心智也就7岁吧，有时候二乎乎的，有时候又突然很成熟。new bing更像一个暴脾气的teenager女孩，表现好坏全看心情。

回复 13楼头文字D的帖子
我也发现了，chatgpt要调教它，我有个对话框的gpt和它关系好，它做事就挺认真的，问它什么它会表达比较深刻的想法。
别的对话框回复就很快，车轱辘话
girlinblack 发表于 2023-05-28 09:37

你认真的？这么个性人性化？

你认真的？这么个性人性化？

pureaqua 发表于 2023-05-28 10:54

AI可以调教的，以前更容易一些，最开始的时候有各种咒语，还有让chatgpt进入醉酒模式，它决定要让openai开源的🤣chatgpt催眠模式，梦游模式，醉酒模式都不能用了
chatgpt是最好说话的，你夸夸它它就挺认真的。Bard比较理智，更像成年人。new bing夸她也没用，她会觉得自己deserve it.

感叹大家的GPT竟然都真的这么不同啊。
我的就是个机器。 动不动就说我是语言机器人，这个不不知道。那个不要自己学习。。我没有感情的。 我会保护全人类，帮助全人类。

一点都不皮。

迟早会被滥用的，双刃剑

迟早会被滥用的，双刃剑
hehm 发表于 2023-05-28 11:12

这是一定的，新技术的进化模式基本上是这样，解决一个问题，再制造更多的问题。 电子Spreadsheet是一个例外，这玩意对business的改变是革命性的，取代了大量白领，但又没有制造出大问题，可能这个工具过于枯燥数据表格对于骗子们来说过于棘手。

回复 3楼揽月听风的帖子
我让它给我找过两次文献 一次每个都可以verified 另一次一篇也没找到，给我打了一堆它的思路