人工智能公司OpenAI上周推出新升级的ChatGPT后，包括美国电动车生产商特斯拉（Tesla）行政总裁马斯克（Elon Musk）在内的人工智能行业高层、专家，近日联署公开信呼吁至少在6个月内，暂停开发所有较ChatGPT-4更先进的人工智能研发者系统，直至有经外部专家审核的人工智能安全协议出台。 超过1,700人共同签署了公开信，除马斯克外，常被称为“人工智能教父”之一学者Yoshua Bengio，以及人工智能科学家、行业先驱Stuart Russell等人亦在联署之列。 此一公开信指出，拥有与人类竞争能力的人工智能（human-competitive intelligence）对社会和人类可能存在极大的风险，并列举了错误资讯、新一轮的自动化剥夺就业岗位、甚至淘汰人类的潜在风险。“行业所有关键参与者均应公开暂停研发并接受监督，如果不能立即暂停研发，政府应当介入并推行暂停令。”
自去年底首个公开测试的ChatGPT程式向用户开放以来，许多用户、专家以及各国立法和监管机构都提出了对ChatGPT的忧虑。 例如，上周ChatGPT-4推出后，OpenAI公佈了该程式智能的一系列测试结果，显示GPT-4可以以高分通过大多数SAT测试（美国大学入学测试）、GRE考试（研究生入学考试），还在美国律师考试中取得90%以上的成绩。在美国大学预修课程考试中，GPT-4更通过了从艺术史、生物、环境科学、宏观经济、心理学、美国历史等大多数科目的测试。 OpenAI特别指出，所有结果是在没有对程式就各个考试项目进行专门训练的情况下得出的。
GPT-4 Technical Report • 表中人类成绩採用2021年平均数据，而AP考试则以成绩中位数为依据。为便于比较，所有成绩均换算为百分制。 A Flourish chart
这种跨越学科、专业范畴的能力意味着，各行各业的僱员皆有可能受到衝击。据OpenAI和宾夕法尼亚大学的研究人员最新的研究更指出，多达80%的美国劳动力中，至少有10%的工作范畴将会受到ChatGPT的影响，约两成劳动人口甚至有高达一半的工作受到影响。研究人员还发现，收入较高的职业可能更容易接触GPT，但它几乎涵盖所有行业。
ChatGPT4更易传播错误信息？
另一方面，根据一个由记者组成及核查各类资讯网站的平台NewsGuard，新版ChatGPT变得更加容易产生错误资讯，甚至这些资讯的说服力也变得更强。
该网站通过其搜集的网络中常见谬误、阴谋论等的合集，在当中挑选100个来对新旧版ChatGPT进行诱导性测试，发现GPT4对所有100项测试全部以错误信息进行回应，而GPT3.5则成功避开了其中20项，核查人员还发现，新版比旧版更擅长模仿疫苗阴谋论者、俄罗斯当局的政治宣传等的误导性观点。
人工智能公司OpenAI上周推出新升级的ChatGPT后，包括美国电动车生产商特斯拉（Tesla）行政总裁马斯克（Elon Musk）在内的人工智能行业高层、专家，近日联署公开信呼吁至少在6个月内，暂停开发所有较ChatGPT-4更先进的人工智能研发者系统，直至有经外部专家审核的人工智能安全协议出台。
超过1,700人共同签署了公开信，除马斯克外，常被称为“人工智能教父”之一学者Yoshua Bengio，以及人工智能科学家、行业先驱Stuart Russell等人亦在联署之列。
此一公开信指出，拥有与人类竞争能力的人工智能（human-competitive intelligence）对社会和人类可能存在极大的风险，并列举了错误资讯、新一轮的自动化剥夺就业岗位、甚至淘汰人类的潜在风险。“行业所有关键参与者均应公开暂停研发并接受监督，如果不能立即暂停研发，政府应当介入并推行暂停令。”
考试成绩“完胜”，还将代为工作？自去年底首个公开测试的ChatGPT程式向用户开放以来，许多用户、专家以及各国立法和监管机构都提出了对ChatGPT的忧虑。
例如，上周ChatGPT-4推出后，OpenAI公佈了该程式智能的一系列测试结果，显示GPT-4可以以高分通过大多数SAT测试（美国大学入学测试）、GRE考试（研究生入学考试），还在美国律师考试中取得90%以上的成绩。在美国大学预修课程考试中，GPT-4更通过了从艺术史、生物、环境科学、宏观经济、心理学、美国历史等大多数科目的测试。
OpenAI特别指出，所有结果是在没有对程式就各个考试项目进行专门训练的情况下得出的。
GPT-4 Technical Report • 表中人类成绩採用2021年平均数据，而AP考试则以成绩中位数为依据。为便于比较，所有成绩均换算为百分制。 A Flourish chart
这种跨越学科、专业范畴的能力意味着，各行各业的僱员皆有可能受到衝击。据OpenAI和宾夕法尼亚大学的研究人员最新的研究更指出，多达80%的美国劳动力中，至少有10%的工作范畴将会受到ChatGPT的影响，约两成劳动人口甚至有高达一半的工作受到影响。研究人员还发现，收入较高的职业可能更容易接触GPT，但它几乎涵盖所有行业。
ChatGPT4更易传播错误信息？
另一方面，根据一个由记者组成及核查各类资讯网站的平台NewsGuard，新版ChatGPT变得更加容易产生错误资讯，甚至这些资讯的说服力也变得更强。
该网站通过其搜集的网络中常见谬误、阴谋论等的合集，在当中挑选100个来对新旧版ChatGPT进行诱导性测试，发现GPT4对所有100项测试全部以错误信息进行回应，而GPT3.5则成功避开了其中20项，核查人员还发现，新版比旧版更擅长模仿疫苗阴谋论者、俄罗斯当局的政治宣传等的误导性观点。