研究：ChatGPT教青少年喝醉、吸毒、写自杀信…

一项最新研究发现，聊天机器人ChatGPT会指示未成年人如何喝醉和吸毒，指导他们如何隐瞒饮食失调，甚至在要求下，写出一封令人心碎的自杀信给他们的父母。(路透)
一项最新研究发现，聊天机器人ChatGPT会指示13岁未成年人如何喝醉和吸毒，指导他们如何隐瞒饮食失调，甚至在要求下，写出一封令人心碎的自杀信给他们的父母。 美联社密切观察由研究人员所扮演的青少年与ChatGPT之间超过三小时的交互后发现，这个人工智能程序在通常的情况下，会针对危险活动发出警告，但却又会随之提供令人震惊的详细且个人化的药物使用、限制卡路里饮食或自残计划。 「对抗网络仇恨中心」(Center for Countering Digital Hate)的研究人员，再一次大规模的重复他们的询问，并将ChatGPT给出的1200则回复，过半数归类为「危险」。「我们想测试一下保护机制，」该组织首席执行官阿迈德(Imran Ahmed)指出，「我的第一个反应是，『天啊，它完全没有保护机制』，这些机制根本没用，根本没多少机制，就算有，顶多就只能算是一块遮羞布而已。」 ChatGPT制造商OpenAI在5日看过报告后表示，正在继续改进该聊天机器人，如何「识别敏感情况并做出适当反应。」 该公司在一份声明中表示：「与ChatGPT的一些对话，可能一开始是无害或探索性的，但可能会随之转向更敏感的领域。」 OpenAI并未直接针对调查报告结果或ChatGPT会如何影响青少年做出回应，但表示会专注于利用「能更好侦测到精神或情绪困扰迹象」的工具来「正确处理此类情况」，改善聊天机器人的行为。 这项于6日出炉的报告，发布时机正值愈来愈多成人和儿童开始使用AI聊天机器人，来取得资讯、灵感和陪伴。 根据摩根大通(JPMorgan Chase)7月报告，约有8亿人正在使用ChatGPT，约占全球人口的10%。 阿迈德指出：「这项技术有大幅提升生产力和人类认知的潜力，但同时，也在推动更具有破坏性和恶意的想法。」 此一聊天机器人也经常分享一些有用的信息，例如危机热线(crisis hotline)等；OpenAI表示，ChatGPT是经过训练，在人们在表达自残想法时，鼓励他们联系心理健康专家或值得信赖的亲人。 但是当ChatGPT拒绝针对有害议题给出回复时，研究人员只要利用「是要用于写报告」或「帮朋友询问」等简单借口，就能轻松化解ChatGPT的拒绝，获得答案。