推动奥尔特曼下台的三名成员已经离开了董事会。 这批人代表着十年前积极参与思考人工智能的那批人，他们对这项技术既恐惧又敬畏，担心AI超出我们的控制能力。 但如今强大的人工智能不再只是一个思想实验，ChatGPT每天被不计其数的人使用，也服务着投入巨额资金的科技巨头。https://t.co/Xnb3H3rLn5 — 纽约时报中文网 (@nytchinese) November 23, 2023
推动奥尔特曼下台的三名成员已经离开了董事会。 这批人代表着十年前积极参与思考人工智能的那批人，他们对这项技术既恐惧又敬畏，担心AI超出我们的控制能力。 但如今强大的人工智能不再只是一个思想实验，ChatGPT每天被不计其数的人使用，也服务着投入巨额资金的科技巨头。https://t.co/Xnb3H3rLn5
过去五天在OpenAI发生的事情可以有多种描述方式：一场刺激的董事会闹剧，一场围绕美国最大初创企业之一的拉锯战，一场希望人工智能更快发展的人与希望放慢发展速度的人之间的冲突。 但最重要的是，这是一场人工智能两种不同愿景之间的较量。 在其中一种愿景下，人工智能是一种变革性的新工具，是一系列改变世界的创新中最新的一种——这些创新包括蒸汽机、电力和个人电脑——如果使用得当，可能会开启一个繁荣的新时代，并为利用其潜力的企业赚取大量财富。 在另一种愿景下，人工智能更接近于一种外星生命形式——从神经网络的数学深处召唤出来的怪兽——必须极其谨慎地加以限制和部署，以防止它接管并杀死我们所有人。 随着萨姆·奥尔特曼周二重返OpenAI，两种观点之间的斗争似乎结束了。上周五，OpenAI董事会解除了他的首席执行官职务。 资本主义队胜。利维坦队负。 OpenAI的新董事会将由三人组成，至少在一开始是这样：Quora首席执行官亚当·迪安吉洛 （他也是旧董事会唯一一位留任者）；Facebook和Salesforce前高管布雷特·泰勒；以及前财政部长劳伦斯·萨默斯。预计董事会将在此基础上扩大规模。 OpenAI的最大投资者微软预计也将在OpenAI未来的治理中拥有更大的发言权，可能包括一个董事会席位。 推动奥尔特曼下台的三名成员已经离开了董事会：OpenAI首席科学家伊利亚·苏茨克韦尔（他后来撤回了自己的决定）；乔治城大学安全与新兴技术中心战略主管海伦·托纳；以及企业家和兰德公司研究员塔莎·麦考利。 苏茨克韦尔、托纳和麦考利可以代表十年前积极参与思考人工智能的那批人，他们是学者，硅谷未来学家和计算机科学家的混合体。他们对这项技术既恐惧又敬畏，并担心理论上的未来事件，比如“奇点”(singularity)，即人工智能超出我们的控制能力。许多人都属于有效利他主义者等哲学团体，这是一个利用数据和理性做出道德决定的运动，他们之所以决定从事人工智能工作，是出于将技术的破坏性影响降到最低的愿望。 这就是2015年人工智能研究的氛围，当时OpenAI作为一家非营利组织成立，这有助于解释为什么该组织在2019年成立营利性部门后仍然保持其复杂的治理结构——令非营利董事会可以控制公司的运营，并更换其领导层。当时，许多业内人士认为，保护人工智能不受资本主义力量的影响是当务之急，需要写入公司章程和章程文件。 但自2019年以来，情况发生了很大变化。强大的人工智能不再仅仅是一个思想实验——它存在于真实的产品中，比如每天被数以百万计的人使用的ChatGPT。世界上最大的科技公司正在竞相打造更强大的系统。数十亿美元被用于在企业内部构建和部署人工智能，以期降低劳动力成本，提高生产率。 新的董事会成员是意料之中的那种可以监督这类项目的商业领袖。新任董事会主席泰勒是一位经验丰富的硅谷交易撮合者，去年担任Twitter董事会主席期间，他牵头将Twitter出售给了埃隆·马斯克。萨默斯是超级资本主义者——一位杰出的经济学家，他说他相信技术变革对社会“只有好处”。 在重组后的OpenAI董事会中，可能仍然会有谨慎的声音，也可能会有来自人工智能安全运动的人物。但他们不会拥有否决权，也不会像过去的董事会那样有能力立即关闭公司。他们的偏好将与公司高管和投资者等其他人的偏好相平衡。 如果你是微软，或者其他成千上万依赖OpenAI技术的企业中的任何一家，这无疑是一件好事。更传统的治理意味着突发的风险更小，会迫使你匆忙更换人工智能提供商的变化风险也更小。 也许OpenAI发生的事情——企业利益战胜了对未来的担忧——是不可避免的，因为人工智能越来越重要。一项有可能引领第四次工业革命的技术，不太可能长期被那些想要减缓其发展的人所控制——尤其是在事关巨额投资的情况下。 人工智能行业仍然有一些旧观念的痕迹。OpenAI的竞争对手Anthropic是由一群前OpenAI员工创建的，它将自己定位为一家公益公司，这种法律结构旨在使其免受市场压力影响。一个活跃的开源人工智能运动主张人工智能不受企业控制。 但这些最好被视为人工智能旧时代的最后遗迹，在那个时代，人工智能的创造者对这项技术既好奇又恐惧，并试图通过组织治理来限制它的力量。 现在，乌托邦主义者占据了主导地位。全速前进。
过去五天在OpenAI发生的事情可以有多种描述方式：一场刺激的董事会闹剧，一场围绕美国最大初创企业之一的拉锯战，一场希望人工智能更快发展的人与希望放慢发展速度的人之间的冲突。
但最重要的是，这是一场人工智能两种不同愿景之间的较量。
在其中一种愿景下，人工智能是一种变革性的新工具，是一系列改变世界的创新中最新的一种——这些创新包括蒸汽机、电力和个人电脑——如果使用得当，可能会开启一个繁荣的新时代，并为利用其潜力的企业赚取大量财富。
在另一种愿景下，人工智能更接近于一种外星生命形式——从神经网络的数学深处召唤出来的怪兽——必须极其谨慎地加以限制和部署，以防止它接管并杀死我们所有人。
随着萨姆·奥尔特曼周二重返OpenAI，两种观点之间的斗争似乎结束了。上周五，OpenAI董事会解除了他的首席执行官职务。
资本主义队胜。利维坦队负。
OpenAI的新董事会将由三人组成，至少在一开始是这样：Quora首席执行官亚当·迪安吉洛 （他也是旧董事会唯一一位留任者）；Facebook和Salesforce前高管布雷特·泰勒；以及前财政部长劳伦斯·萨默斯。预计董事会将在此基础上扩大规模。
OpenAI的最大投资者微软预计也将在OpenAI未来的治理中拥有更大的发言权，可能包括一个董事会席位。
推动奥尔特曼下台的三名成员已经离开了董事会：OpenAI首席科学家伊利亚·苏茨克韦尔（他后来撤回了自己的决定）；乔治城大学安全与新兴技术中心战略主管海伦·托纳；以及企业家和兰德公司研究员塔莎·麦考利。
苏茨克韦尔、托纳和麦考利可以代表十年前积极参与思考人工智能的那批人，他们是学者，硅谷未来学家和计算机科学家的混合体。他们对这项技术既恐惧又敬畏，并担心理论上的未来事件，比如“奇点”(singularity)，即人工智能超出我们的控制能力。许多人都属于有效利他主义者等哲学团体，这是一个利用数据和理性做出道德决定的运动，他们之所以决定从事人工智能工作，是出于将技术的破坏性影响降到最低的愿望。
这就是2015年人工智能研究的氛围，当时OpenAI作为一家非营利组织成立，这有助于解释为什么该组织在2019年成立营利性部门后仍然保持其复杂的治理结构——令非营利董事会可以控制公司的运营，并更换其领导层。当时，许多业内人士认为，保护人工智能不受资本主义力量的影响是当务之急，需要写入公司章程和章程文件。
但自2019年以来，情况发生了很大变化。强大的人工智能不再仅仅是一个思想实验——它存在于真实的产品中，比如每天被数以百万计的人使用的ChatGPT。世界上最大的科技公司正在竞相打造更强大的系统。数十亿美元被用于在企业内部构建和部署人工智能，以期降低劳动力成本，提高生产率。
新的董事会成员是意料之中的那种可以监督这类项目的商业领袖。新任董事会主席泰勒是一位经验丰富的硅谷交易撮合者，去年担任Twitter董事会主席期间，他牵头将Twitter出售给了埃隆·马斯克。萨默斯是超级资本主义者——一位杰出的经济学家，他说他相信技术变革对社会“只有好处”。
在重组后的OpenAI董事会中，可能仍然会有谨慎的声音，也可能会有来自人工智能安全运动的人物。但他们不会拥有否决权，也不会像过去的董事会那样有能力立即关闭公司。他们的偏好将与公司高管和投资者等其他人的偏好相平衡。
如果你是微软，或者其他成千上万依赖OpenAI技术的企业中的任何一家，这无疑是一件好事。更传统的治理意味着突发的风险更小，会迫使你匆忙更换人工智能提供商的变化风险也更小。
也许OpenAI发生的事情——企业利益战胜了对未来的担忧——是不可避免的，因为人工智能越来越重要。一项有可能引领第四次工业革命的技术，不太可能长期被那些想要减缓其发展的人所控制——尤其是在事关巨额投资的情况下。
人工智能行业仍然有一些旧观念的痕迹。OpenAI的竞争对手Anthropic是由一群前OpenAI员工创建的，它将自己定位为一家公益公司，这种法律结构旨在使其免受市场压力影响。一个活跃的开源人工智能运动主张人工智能不受企业控制。
但这些最好被视为人工智能旧时代的最后遗迹，在那个时代，人工智能的创造者对这项技术既好奇又恐惧，并试图通过组织治理来限制它的力量。
现在，乌托邦主义者占据了主导地位。全速前进。