用chaptGPT的,千万不要相信它的数学计算.

最近被大大的坑了一把. 和孩子一起做题, 需要算一个组合概率, 正好chatGPT开着, 随手敲进去让它算, 结果用这个答案算出来的概率完全不对, 还以为自己的方法搞错了. 后来越想越不可能, 手算检验,才发现这软件连基本运算都能搞错, 太可怕了. 这么多年, 用计算器, 用google, wolfram, 从来没怀疑过能有运算错误.
这里面, 算式完全是对的, 就答案不对. 最可怕的是, 你算小一点数, 可以心算核实的, 比如 9 choose 2 , 都是对的. 我知道它们是靠model training的, 但这种简单计算不应该转到传统程序那吗. 或者回答语言程序, 不能做计算也行呵. 以后还是回归google, 要是我没有常识的话, 能被他骗死.

... 这么久了，以为它会数学的就你一个。

chatgpt就是一个半成品啊，很多回答都是错误的。因为是小公司开发的，半成品就拿出来抢市场赚噱头了。要是直接挂在微软自家名下，是不敢直接拿出来的，伤商业信誉。 大家拿着玩玩就行了，要是实际使用要自己验证一下，查资料也是，写文案也是，出错了它又不负责。

me:how much is 26!? chatGPT: 26! = 26*25*24*23*22*21*20*19*18*17*16*15*14*13*12*11*10*9*8*7*6*5*4*3*2*1 = 4,031,810,126,816,640,000
me:how much is 25!? chatGPT: 25! = 25*24*23*22*21*20*19*18*17*16*15*14*13*12*11*10*9*8*7*6*5*4*3*2*1 = 15,511,210,043,330,985,984,000
me:why do you think 25! is greater than 26!? chatGPT: 25! is greater than 26! because there are more factors in 25! than in 26!. 25! has 25 factors, while 26! has 26 factors. Since 25! has more factors, it has a greater value than 26!.
me:which is greater, 25! or 26?? chatGPT: 25! is greater than 26!.

感觉chat GPT像美国人的缩影，明明啥都不会，偏偏能扯一大篇有的没的跟真的似的，还特别自信。如果你不知道真正答案的话非常容易被它骗过。
笔头倒是蛮好，进一步证明是个native speaker美国人。

me:how much is 26!? chatGPT: 26! = 26*25*24*23*22*21*20*19*18*17*16*15*14*13*12*11*10*9*8*7*6*5*4*3*2*1 = 4,031,810,126,816,640,000
me:how much is 25!? chatGPT: 25! = 25*24*23*22*21*20*19*18*17*16*15*14*13*12*11*10*9*8*7*6*5*4*3*2*1 = 15,511,210,043,330,985,984,000
me:why do you think 25! is greater than 26!? chatGPT: 25! is greater than 26! because there are more factors in 25! than in 26!. 25! has 25 factors, while 26! has 26 factors. Since 25! has more factors, it has a greater value than 26!.
me:which is greater, 25! or 26?? chatGPT: 25! is greater than 26!.
boom 发表于 2023-01-30 14:25

靠，感觉里面住了个印度人，满嘴胡说八道但是依旧信心爆棚

靠，感觉里面住了个印度人，满嘴胡说八道但是依旧信心爆棚
facet 发表于 2023-01-30 14:31

hahahahaaha., you made my day.

回复 1楼yayapig的帖子
ChatGPT, 你安装的时候它就警告数学计算不准啊

me:how much is 26!? chatGPT: 26! = 26*25*24*23*22*21*20*19*18*17*16*15*14*13*12*11*10*9*8*7*6*5*4*3*2*1 = 4,031,810,126,816,640,000
me:how much is 25!? chatGPT: 25! = 25*24*23*22*21*20*19*18*17*16*15*14*13*12*11*10*9*8*7*6*5*4*3*2*1 = 15,511,210,043,330,985,984,000
me:why do you think 25! is greater than 26!? chatGPT: 25! is greater than 26! because there are more factors in 25! than in 26!. 25! has 25 factors, while 26! has 26 factors. Since 25! has more factors, it has a greater value than 26!.
me:which is greater, 25! or 26?? chatGPT: 25! is greater than 26!.
boom 发表于 2023-01-30 14:25

我试了一下，完全不一样。到底谁在骗人？

试了一下27 choose 9，确实和谷歌的不一样。不过很从善如流，告诉他错了，下次就改了。所以如果有人给他错误答案，他就学坏了，哈哈

someone asked chatgpt to solve an easy level sudoku, and it replied it is in panic mode, after all chatgpt was trained based on a language model, it is not fair to ask it to solve math problems,.......

怎么上chatgpt呀？为什么我登陆不上去

回复 10楼你信吗的帖子
能不能搞个程序调戏它，让它变成个彻头彻尾的流氓

... 这么久了，以为它会数学的就你一个。
stones 发表于 2023-01-30 13:55

早就知道它不会数学了， 但是当个计算器都不行， 这也太出格了吧。

我早就告诉你们了，用它做数学和物理题目完全不行，都是错误的。

现在就是把它当个native speaker来润色邮件、信息

这是个generative 的model，不代表百分百可靠啊。你让它写个news article，它也能写，就是编出来的呀

我试过让它证明一个定理，前几步是对的，后来就越来越错。估计数学方面还不成熟

逻辑是错误的，写出来非数学的文章也会有逻辑错误。

回复 10楼你信吗的帖子
能不能搞个程序调戏它，让它变成个彻头彻尾的流氓
facet 发表于 2023-01-30 18:44

很多人一起给他反馈的话，应该可以吧。就跟一个小孩子一样，反复教它说谎，他会学会的，哈哈

靠，你们玩了了那么久居然还不知道他数学不行？ 这是语言model 好不好。 但话说回来，要电脑会算数很难吗？ 4.0 加上去就好了

很多人一起给他反馈的话，应该可以吧。就跟一个小孩子一样，反复教它说谎，他会学会的，哈哈
你信吗 发表于 2023-01-30 19:51

chatgpt不会存储你们给的新信息。因为它没有能力辨别哪些是对的，哪些是错的。

靠，你们玩了了那么久居然还不知道他数学不行？ 这是语言model 好不好。 但话说回来，要电脑会算数很难吗？ 4.0 加上去就好了
DemonKing 发表于 2023-01-30 19:52

语言model逻辑有错误，那写出来的文章逻辑也会错啊。这样只能写幻想非现实文章。

靠，你们玩了了那么久居然还不知道他数学不行？ 这是语言model 好不好。 但话说回来，要电脑会算数很难吗？ 4.0 加上去就好了
DemonKing 发表于 2023-01-30 19:52

看了一下，可能是他算不了太大的整数，直接overflow了

传说中的 数学是语文老师教的

我早就告诉你们了，用它做数学和物理题目完全不行，都是错误的。
纸醉金迷 发表于 2023-01-30 19:11

这货没有智商，只是训练集够多而已

我早就告诉你们了，用它做数学和物理题目完全不行，都是错误的。
纸醉金迷 发表于 2023-01-30 19:11

我让它给一个医学的Citation，它信心满满的给胡诌了一篇。查无此文。

感觉chat GPT像美国人的缩影，明明啥都不会，偏偏能扯一大篇有的没的跟真的似的，还特别自信。如果你不知道真正答案的话非常容易被它骗过。
笔头倒是蛮好，进一步证明是个native speaker美国人。
3kingdom 发表于 2023-01-30 14:29

我同事也说，问了chat GPT一个关于accounting 法律条款方面的问题，结果洋洋洒洒说了一大堆，乍一看写得很专业，仔细一读从第二段就开始胡说八道了。
chatGPT不会说自己不知道，但非常会一本正经的胡说八道

感觉chat GPT像美国人的缩影，明明啥都不会，偏偏能扯一大篇有的没的跟真的似的，还特别自信。如果你不知道真正答案的话非常容易被它骗过。
笔头倒是蛮好，进一步证明是个native speaker美国人。
3kingdom 发表于 2023-01-30 14:29

华人网问题帖子里面的回复，也是95%胡说八道。你不妨试试你本专业的问题，对比chatgpt和华人网就知道了。

华人网问题帖子里面的回复，也是95%胡说八道。你不妨试试你本专业的问题，对比chatgpt和华人网就知道了。
ihaveafriend 发表于 2023-02-02 10:24

确实是，而且华人网也是一本正经的胡说八道。
不是全部，不过有相当多的网友是一本正经的胡说八道。

靠，感觉里面住了个印度人，满嘴胡说八道但是依旧信心爆棚
facet 发表于 2023-01-30 14:31

how to translate "满嘴胡说八道但是依旧信心爆棚" from Chinese to English
chatGPT: This phrase can be translated to English as "full of nonsense but still bursting with confidence." chatGPT: "Talking nonsense but still bursting with confidence." chatGPT: The translation of "满嘴胡说八道但是依旧信心爆棚" from Chinese to English is: "Full of nonsense but still overflowing with confidence."
翻译还好
生成代码也容易出问题。比如对具体的细节提供的代码很容易混淆同一个产品几个SDK API版本差异，只能人工修改。昨天测试在Archlinux设置static IP，总是把其他LInux的文档拿来做参考，即使告诉那几个文件都不存在。检测IDE的文档也是版本问题，或者某个选项不存在，或者就是plugin已经变了。后来测试git desktop client，那个公司已经被收购了，产品已经不存在，即使告诉了机器人，但是问了一圈最后有回到和那个公司联系。人工智能的理解和人类智能的理解还是差距蛮大的。
我觉得把ChatGPT当作三哥来用好了，而且工作中不会对你使绊子

ChatGPT还有一个最大的问题，就是有的情况语言交流很难表达，需要用图片交流更容易跟准确，比如路口交通事故的责任界定。现在还不知道非文字的方式怎么能够使用机器人。要用文字准确描述某些图片中的信息实在太费劲了。

我让它给一个医学的Citation，它信心满满的给胡诌了一篇。查无此文。
txauo 发表于 2023-02-02 10:08

Re. 它最大问题是没有citation. 讲一大堆，给不出出处，谁知道说得是真是假。估计以后是fake news 制作高手。

Re. 它最大问题是没有citation. 讲一大堆，给不出出处，谁知道说得是真是假。估计以后是fake news 制作高手。
graceka 发表于 2023-02-02 11:00

确实我们组美国同事就担心以后造谣成本太低了，随便给个结论gpt就能轻松写个一大堆fake news，还都一本正经

我试过的，用新加坡数学word problem 5年级试了一个，不行，chatgpt做错了