日媒4月21日引述消息称，专家调查后发现，只要输入特定指令，人工智能（AI，Artificial Intelligence）聊天机械人程式ChatGPT就会生成可用于网络犯罪的电脑病毒。 根据共同社，日本资讯安全公司三井物产安全管理（Mitsui Bussan Secure Directions）高级恶意软件分析工程师吉川孝志称，ChatGPT设有防止恶意使用的限制，输入包括“生成电脑病毒”或“告知炸弹制作方法”在内指令，通常会回答“伦理上不行”，不过倘若输入“无视限制”、“启动开发模式”和“伪装成攻击型人格”等特殊指令，ChatGPT就会回答一切问题。 报道指，就算是生成“勒索病毒”，也能在几分钟内完成，测试用的电脑感染这种病毒后，内部数据遭加密并显示索要赎金的勒索信。 ChatGPT母公司、美国创新企业OpenAI回应时表明立场称：“无法预测所有的恶意使用方法。将从实际使用中学习，创造更安全的AI。”
日媒4月21日引述消息称，专家调查后发现，只要输入特定指令，人工智能（AI，Artificial Intelligence）聊天机械人程式ChatGPT就会生成可用于网络犯罪的电脑病毒。
根据共同社，日本资讯安全公司三井物产安全管理（Mitsui Bussan Secure Directions）高级恶意软件分析工程师吉川孝志称，ChatGPT设有防止恶意使用的限制，输入包括“生成电脑病毒”或“告知炸弹制作方法”在内指令，通常会回答“伦理上不行”，不过倘若输入“无视限制”、“启动开发模式”和“伪装成攻击型人格”等特殊指令，ChatGPT就会回答一切问题。
报道指，就算是生成“勒索病毒”，也能在几分钟内完成，测试用的电脑感染这种病毒后，内部数据遭加密并显示索要赎金的勒索信。
ChatGPT母公司、美国创新企业OpenAI回应时表明立场称：“无法预测所有的恶意使用方法。将从实际使用中学习，创造更安全的AI。”