上月围绕“萝卜快跑”引发的热议,折射了AI技术进步导致的社会矛盾,特别是催生了新一轮的对技术取代人的恐惧。 害怕被新技术取代并不是最近才出现的现象。 公元前3500年左右,美索不达米亚引入了制陶轮,这让工匠们感到担忧。 大约1455年,谷登堡印刷机问世后,抄写员的技能变得无关紧要。 工业革命结束了数百万人的农业生活方式,一个名为“卢德派”(Luddites)的秘密誓言组织试图摧毁纺织机,这样织工的技能就不会白白浪费。 如今,“卢德分子”这个词被用来侮辱任何抵制技术创新的人;它意味着墨守成规者、无知的人、进步的障碍。但记者兼作家布赖恩·莫森特(Brian Merchant)的新书《机器中的鲜血》(Blood in the Machine,2023)认为,卢德主义并不反对技术本身,而是要在自动化面前维护工人的权利。 《机器中的鲜血》的出版正值我们面临以人工智能为核心的新一轮技术自动化浪潮——一些人将其称为“工业4.0”。当今的“省力技术”威胁着新的工作类别: 客户服务由聊天机器人完成; 亚马逊正在销售由ChatGPT撰写的电子书; 设计师和插图画家的工作正被图像生成器抢走; 翻译人员被要求“整理”人工智能生成的文字稿。 莫森特使用了“初创企业”和“科技巨头”等不合时宜的术语来描述早期的工厂和企业家,试图与现在的情况相提并论。当然这种类比并不完全成立。 比如,卢德分子眼睁睁地看着一幢幢厂房在他们的乡村小镇上拔地而起,将传统上由家庭或小作坊独立完成的劳动集中起来。这些工厂的工人通常是儿童,其工作条件令人发指;肢体残缺不全的恐怖故事最终推动了工厂的改革。 而今天,自动化的受害者并不那么显而易见。ChatGPT用户看不到肯尼亚等国的低薪内容审核员,他们支撑着程序的输出,执行着繁重的心理任务,而研究表明,这种任务会诱发P.T.S.D.。更重要的是,人工智能的基础是人类辛辛苦苦生产出来的原材料:成堆的文本和图像,程序将其处理成模式,然后重新混合成新鲜的“内容”。与第一次工业革命的机器不同,人工智能并不一定需要更多的投入,它可以自我维持。 OpenAI的首席执行官山姆·阿尔特曼(Sam Altman)对《大西洋月刊》说:“工作肯定会消失,就是这样。” 01 警惕技术沙文主义 阿尔特曼的态度典型地反映了一种可以被称为“技术沙文主义”的现象,它围绕着这样一种信念而发生:技术始终是任何问题的最佳解决方案,并且本质上优于传统或非技术方法。然而,这种观点可能会导致人们忽视非技术替代方案,或用以蔑视对技术进步的合理批评。 技术导致社会不平等的最重要方式之一是技术本身的不均衡获取。即使技术是可以获得的,缺乏有效利用技术基本技能和培训的个人也可能会处于不利地位。这可能导致数字鸿沟的出现,技术获取方面的不平等进一步扩大了现有的社会不平等。 此外,技术可以延续社会普遍存在的偏见和歧视,也可能对个人隐私和公民自由构成威胁,尤其是对可能受到更多审查和监视的边缘群体。这些问题有可能加强和巩固现有的社会不平等。 因此,深入研究技术进步的意外后果(通常称为外部性)如何影响社会福祉至关重要。必须确定这些变化在社会和政治层面上的影响,并思考当代社会制度如何适应和发展以应对这样的挑战。科技解决方案可能会引起不同社会利益和目标之间的冲突,所有这一切都在塑造创新的发展和实施方面发挥着作用。这些冲突可能表现为社会争端,源于对所感知的社会威胁的不同解释。从政治哲学和社会学领域角度进行的分析可以在这方面做出宝贵的贡献。 一些理论家认为,这类发展体现了一种技术决定论,强调技术在一定程度上具有自主性。然而,更乐观的观点认为,负责任的技术使用、伦理考量和教育可以使个人能够有效地驾驭这种复杂的技术格局。 02 反对技术中立论 技术被理解为社会关系的反映,因此不能以中立的眼光看待它。从这个角度来看,技术不能在社会背景之外进行设计。权力关系的不对称被纳入技术的实际设计中。 因此,选择一个介于技术与社会之间的技术批判理论框架至关重要。 技术批判理论将注意力引向技术的社会条件建构和技术对社会的影响。批判理论探索物质和现象的辩证法,并关注体现人类特定历史活动的社会现实,寻求解释个人在技术背景下的地位、技术的权力关系、人与技术之间的中介,乃至技术的意识形态。 技术批判理论的主要代表人物之一赫伯特·马尔库塞(Herbert Marcuse)指出: 技术的一个问题是,不断扩大的工业基础和技术主义社会秩序所强加的条件正在压制人类的个性,而有利于标准化的效率。 人们对新的现代理性的出现也采取了同样的批评态度,这种理性伴随着工业化时代技术的发展,代表着大规模生产的基础,并影响着其他社会关系。 技术批判方法基于这样一种假设,即经济和社会增长是由科技进步决定的,而科技进步归根结底是一个政治问题,不能把政治问题简化为技术问题,将其解决交给专家而非政治家。 虽然批判理论本质上是有价值重负的,但在我看来,它应该以中立的方式进行分析:技术既不应被崇拜,也不应被妖魔化;我们需要能够识别技术的好坏两方面。只有这样,我们才能拥有改造技术的工具,令其潜在功能民主化。 这些问题很复杂,需要科技公司、政府、学术机构和整个社会的合作。我们很可能会在很长一段时间内继续努力解决这些问题,并有必要寻求永久的解决方案。 03 计算主导世界之弊 最近两年里,关于技术进步与社会发展之间关系的讨论多了起来,一些人不无悲观地认为,未来社会可能会朝着“高技术,低生活”的赛博朋克方向发展。现实中,以外卖平台为例,平台、骑手和顾客三方对于最佳效率的追求,确实导致了“算法决定一切”的霸权问题。 要认清背后原因,需要理解当今社会的本质。现代技术已经扩展到研究、开发和制造之外,渗透到公共和私人生活中,以至于它似乎正在创造一个以技术、人和大数据互联为中心的社会。 技术、人工智能、人和数据的这种融合在实施过程中带来了新的伦理和政治挑战和困境。 一方面,技术和人工智能正在彻底改变我们的环境,另一方面,在我们没有意识到的情况下,它们也在重塑我们;它们决定了我们的生活。这种“数字化转型”目前正在挑战现代社会中既定的二分法,例如主体/客体、公共/私人、消费/生产、思想/身体、工作/休闲、文化/自然等等。现在,我们可以谈论一个需要新的阐释和反思的数字公民社会。 在数字资本主义背景下,晚期资本主义的传统物质生产和服务将重点转向数据生产。经济格局的这种变化非常重视用户生成的数据,将经济从物理领域转移到虚拟领域,影响了个人在技术中的定位。 虚拟世界已成为宇宙“数据化”过程的舞台。首先我们看到的是一般的信息、知识与经验的数据化,其次出现了将数据进行商品化的平台,数据经过分析,利用算法、人工智能、神经网络和深度学习,来引入新的服务和商业模式。 从政治经济学和批判理论的角度来看,这代表了一种新现象。在这种新的数字经济格局中,中心焦点是数据及其生成,这标志着一种通过公开共享数据进行资本积累的独特策略。当下炙手可热的人工智能其实也不过是这个进程的一部分。 在此背景下,认识到算法和新技术在塑造我们日常现实中的作用非常重要。我们经常使用这些技术,却不了解它们的工作原理或背后的算法。结果,我们的社会现实变得简单,导致计算主导世界。这种主导关系可能引发政治和社会冲突。冲突发生在市场经济与数据共享之间,收集信息可能导致歧视、道德困境和认知偏见。个人权利与公共福祉之间也存在冲突,因为监控和影响个人行为可能会破坏他们的自由。 04 工作变迁是社会选择 除了技术与权利的关系,在“萝卜快跑”相关新闻爆发后,大众对人工智能最为关心的,还是集中在职业替代上。一直以来,外卖、快递和出租车司机这三项工作,都被戏称为中年失业者的最佳去处,有所谓的“铁人三项”的说法。AI无人驾驶不是完全的增量市场,而是对现有模式的迭代,对劳动力市场可能形成的冲击很大。 然而实际上,扰乱我们工作的不是技术,工作不安全的本质是企业和政策制定者决策的结果。 当我们学习工业革命时,我们听到了很多关于工厂、蒸汽机乃至动力织机的知识。我们被教导说,技术创新推动了社会变革,彻底改变了工作世界。 同样,当我们谈论当今的经济时,我们关注的是智能手机、人工智能和应用程序。在这里,人们也认为,技术的不可阻挡的进步颠覆了传统的工作方式,逐步淘汰了有固定工资或薪水的员工,引入了独立承包商、顾问、临时工和自由职业者——即所谓的零工经济。 其实这类说法都是错误的。劳动的历史表明,技术通常不会推动社会变革。相反,社会变革通常是由我们如何组织世界的决定所驱动。只是后来技术才突飞猛进,加速和巩固这些变化。 对于任何担心零工经济的不安全性和其他缺陷的人来说,这一见解至关重要。因为它提醒我们,工作的性质远非技术进步不可避免的结果,而始终是一个社会选择的问题。它不是算法的结果;它是企业和政策制定者决策的集合。 以工业革命为例。早在19 世纪工业革命发生之前,18 世纪就发生了另一场劳动革命,历史学家称之为“勤劳革命”。在这场革命之前,人们在自己居住的地方工作。例如,纺织品的生产依赖于独立农民网络,他们纺纱织布,独立工作,并非工厂雇员。 然而,在工业革命中,制造商将工人聚集在一个屋檐下,在那里可以分工和监督劳动。这是第一次大规模地将家庭生活和工作生活分开。人们不再控制自己的工作方式,他们获得工资,而不是直接分享他们劳动的利润。 这是工业革命的必要前提。虽然工厂技术会巩固这一发展,但工厂技术的创造之所以可能,只是因为人们与工作的关系已经发生了变化。动力织布机对在家织布的农民网络毫无用处。 今天的数字革命也是如此。虽然它经常被描述为“第二机器时代”,但当前的历史时刻最好被理解为“第二次工业革命”。这场革命已经进行了40余年,包括自20世纪70年代以来战后时代相对稳定的雇佣劳动经济的崩溃,以及后工业主义和服务经济的兴起。 在过去数十年中,我们看到零工的数量不断增加。他们的工作涵盖了各个收入阶层,但都具有20世纪70年代后经济中所有工作的共同点:临时性和不稳定性。来自美国的数据显示,在过去10年中,94%的新增净就业岗位出现在传统就业之外。目前已有约三分之一的工人和一半的年轻工人参与到替代性工作中,将其作为主要或补充收入来源。 互联网技术无疑加剧了这一发展。但Uber等服务和TaskRabbit等在线自由职业市场是为了利用已经独立的劳动力而创建的;他们并没有创造这种劳动力。他们的技术正在解决本已不安全的工作环境中的商业和消费者问题。简而言之,Uber是一种症状,而不是原因。 我既不支持也不反对零工(或自由职业)。这种新兴的灵活经济不可能全然是好或全然是坏。对一些人来说,零工经济的兴起代表着从企业压抑的世界中解放出来。但对于绝大多数工人来说,零工经济的“自由”只是恐惧的自由。这是企业和雇员之间义务的割裂。这是现代社会曾经在我们的法律和习俗中努力争取的保护的崩溃。 我们不能让时光倒流,但工作不安全感也不是不可避免的。正如战后时期成功让工业化造福产业工人一样,我们需要制定新的规范、制度和政策,让数字化造福当今的工人。专家们提出了许多前进的道路——“可携带”福利、全民基本收入、工人重新分类——但无论选择哪种方式,重要的是要记住我们确实有选择权。 不安全感并不是技术进步不可避免的代价。只有理解了这一事实,我们才能采取行动。
上月围绕“萝卜快跑”引发的热议,折射了AI技术进步导致的社会矛盾,特别是催生了新一轮的对技术取代人的恐惧。
害怕被新技术取代并不是最近才出现的现象。
公元前3500年左右,美索不达米亚引入了制陶轮,这让工匠们感到担忧。
大约1455年,谷登堡印刷机问世后,抄写员的技能变得无关紧要。
工业革命结束了数百万人的农业生活方式,一个名为“卢德派”(Luddites)的秘密誓言组织试图摧毁纺织机,这样织工的技能就不会白白浪费。
如今,“卢德分子”这个词被用来侮辱任何抵制技术创新的人;它意味着墨守成规者、无知的人、进步的障碍。但记者兼作家布赖恩·莫森特(Brian Merchant)的新书《机器中的鲜血》(Blood in the Machine,2023)认为,卢德主义并不反对技术本身,而是要在自动化面前维护工人的权利。
《机器中的鲜血》的出版正值我们面临以人工智能为核心的新一轮技术自动化浪潮——一些人将其称为“工业4.0”。当今的“省力技术”威胁着新的工作类别:
客户服务由聊天机器人完成;
亚马逊正在销售由ChatGPT撰写的电子书;
设计师和插图画家的工作正被图像生成器抢走;
翻译人员被要求“整理”人工智能生成的文字稿。
莫森特使用了“初创企业”和“科技巨头”等不合时宜的术语来描述早期的工厂和企业家,试图与现在的情况相提并论。当然这种类比并不完全成立。
比如,卢德分子眼睁睁地看着一幢幢厂房在他们的乡村小镇上拔地而起,将传统上由家庭或小作坊独立完成的劳动集中起来。这些工厂的工人通常是儿童,其工作条件令人发指;肢体残缺不全的恐怖故事最终推动了工厂的改革。
而今天,自动化的受害者并不那么显而易见。ChatGPT用户看不到肯尼亚等国的低薪内容审核员,他们支撑着程序的输出,执行着繁重的心理任务,而研究表明,这种任务会诱发P.T.S.D.。更重要的是,人工智能的基础是人类辛辛苦苦生产出来的原材料:成堆的文本和图像,程序将其处理成模式,然后重新混合成新鲜的“内容”。与第一次工业革命的机器不同,人工智能并不一定需要更多的投入,它可以自我维持。
OpenAI的首席执行官山姆·阿尔特曼(Sam Altman)对《大西洋月刊》说:“工作肯定会消失,就是这样。”
01
警惕技术沙文主义
阿尔特曼的态度典型地反映了一种可以被称为“技术沙文主义”的现象,它围绕着这样一种信念而发生:技术始终是任何问题的最佳解决方案,并且本质上优于传统或非技术方法。然而,这种观点可能会导致人们忽视非技术替代方案,或用以蔑视对技术进步的合理批评。
技术导致社会不平等的最重要方式之一是技术本身的不均衡获取。即使技术是可以获得的,缺乏有效利用技术基本技能和培训的个人也可能会处于不利地位。这可能导致数字鸿沟的出现,技术获取方面的不平等进一步扩大了现有的社会不平等。
此外,技术可以延续社会普遍存在的偏见和歧视,也可能对个人隐私和公民自由构成威胁,尤其是对可能受到更多审查和监视的边缘群体。这些问题有可能加强和巩固现有的社会不平等。
因此,深入研究技术进步的意外后果(通常称为外部性)如何影响社会福祉至关重要。必须确定这些变化在社会和政治层面上的影响,并思考当代社会制度如何适应和发展以应对这样的挑战。科技解决方案可能会引起不同社会利益和目标之间的冲突,所有这一切都在塑造创新的发展和实施方面发挥着作用。这些冲突可能表现为社会争端,源于对所感知的社会威胁的不同解释。从政治哲学和社会学领域角度进行的分析可以在这方面做出宝贵的贡献。
一些理论家认为,这类发展体现了一种技术决定论,强调技术在一定程度上具有自主性。然而,更乐观的观点认为,负责任的技术使用、伦理考量和教育可以使个人能够有效地驾驭这种复杂的技术格局。
02
反对技术中立论
技术被理解为社会关系的反映,因此不能以中立的眼光看待它。从这个角度来看,技术不能在社会背景之外进行设计。权力关系的不对称被纳入技术的实际设计中。
因此,选择一个介于技术与社会之间的技术批判理论框架至关重要。
技术批判理论将注意力引向技术的社会条件建构和技术对社会的影响。批判理论探索物质和现象的辩证法,并关注体现人类特定历史活动的社会现实,寻求解释个人在技术背景下的地位、技术的权力关系、人与技术之间的中介,乃至技术的意识形态。
技术批判理论的主要代表人物之一赫伯特·马尔库塞(Herbert Marcuse)指出:
技术的一个问题是,不断扩大的工业基础和技术主义社会秩序所强加的条件正在压制人类的个性,而有利于标准化的效率。
人们对新的现代理性的出现也采取了同样的批评态度,这种理性伴随着工业化时代技术的发展,代表着大规模生产的基础,并影响着其他社会关系。
技术批判方法基于这样一种假设,即经济和社会增长是由科技进步决定的,而科技进步归根结底是一个政治问题,不能把政治问题简化为技术问题,将其解决交给专家而非政治家。
虽然批判理论本质上是有价值重负的,但在我看来,它应该以中立的方式进行分析:技术既不应被崇拜,也不应被妖魔化;我们需要能够识别技术的好坏两方面。只有这样,我们才能拥有改造技术的工具,令其潜在功能民主化。
这些问题很复杂,需要科技公司、政府、学术机构和整个社会的合作。我们很可能会在很长一段时间内继续努力解决这些问题,并有必要寻求永久的解决方案。
03
计算主导世界之弊
最近两年里,关于技术进步与社会发展之间关系的讨论多了起来,一些人不无悲观地认为,未来社会可能会朝着“高技术,低生活”的赛博朋克方向发展。现实中,以外卖平台为例,平台、骑手和顾客三方对于最佳效率的追求,确实导致了“算法决定一切”的霸权问题。
要认清背后原因,需要理解当今社会的本质。现代技术已经扩展到研究、开发和制造之外,渗透到公共和私人生活中,以至于它似乎正在创造一个以技术、人和大数据互联为中心的社会。
技术、人工智能、人和数据的这种融合在实施过程中带来了新的伦理和政治挑战和困境。
一方面,技术和人工智能正在彻底改变我们的环境,另一方面,在我们没有意识到的情况下,它们也在重塑我们;它们决定了我们的生活。这种“数字化转型”目前正在挑战现代社会中既定的二分法,例如主体/客体、公共/私人、消费/生产、思想/身体、工作/休闲、文化/自然等等。现在,我们可以谈论一个需要新的阐释和反思的数字公民社会。
在数字资本主义背景下,晚期资本主义的传统物质生产和服务将重点转向数据生产。经济格局的这种变化非常重视用户生成的数据,将经济从物理领域转移到虚拟领域,影响了个人在技术中的定位。
虚拟世界已成为宇宙“数据化”过程的舞台。首先我们看到的是一般的信息、知识与经验的数据化,其次出现了将数据进行商品化的平台,数据经过分析,利用算法、人工智能、神经网络和深度学习,来引入新的服务和商业模式。
从政治经济学和批判理论的角度来看,这代表了一种新现象。在这种新的数字经济格局中,中心焦点是数据及其生成,这标志着一种通过公开共享数据进行资本积累的独特策略。当下炙手可热的人工智能其实也不过是这个进程的一部分。
在此背景下,认识到算法和新技术在塑造我们日常现实中的作用非常重要。我们经常使用这些技术,却不了解它们的工作原理或背后的算法。结果,我们的社会现实变得简单,导致计算主导世界。这种主导关系可能引发政治和社会冲突。冲突发生在市场经济与数据共享之间,收集信息可能导致歧视、道德困境和认知偏见。个人权利与公共福祉之间也存在冲突,因为监控和影响个人行为可能会破坏他们的自由。
04
工作变迁是社会选择
除了技术与权利的关系,在“萝卜快跑”相关新闻爆发后,大众对人工智能最为关心的,还是集中在职业替代上。一直以来,外卖、快递和出租车司机这三项工作,都被戏称为中年失业者的最佳去处,有所谓的“铁人三项”的说法。AI无人驾驶不是完全的增量市场,而是对现有模式的迭代,对劳动力市场可能形成的冲击很大。
然而实际上,扰乱我们工作的不是技术,工作不安全的本质是企业和政策制定者决策的结果。
当我们学习工业革命时,我们听到了很多关于工厂、蒸汽机乃至动力织机的知识。我们被教导说,技术创新推动了社会变革,彻底改变了工作世界。
同样,当我们谈论当今的经济时,我们关注的是智能手机、人工智能和应用程序。在这里,人们也认为,技术的不可阻挡的进步颠覆了传统的工作方式,逐步淘汰了有固定工资或薪水的员工,引入了独立承包商、顾问、临时工和自由职业者——即所谓的零工经济。
其实这类说法都是错误的。劳动的历史表明,技术通常不会推动社会变革。相反,社会变革通常是由我们如何组织世界的决定所驱动。只是后来技术才突飞猛进,加速和巩固这些变化。
对于任何担心零工经济的不安全性和其他缺陷的人来说,这一见解至关重要。因为它提醒我们,工作的性质远非技术进步不可避免的结果,而始终是一个社会选择的问题。它不是算法的结果;它是企业和政策制定者决策的集合。
以工业革命为例。早在19 世纪工业革命发生之前,18 世纪就发生了另一场劳动革命,历史学家称之为“勤劳革命”。在这场革命之前,人们在自己居住的地方工作。例如,纺织品的生产依赖于独立农民网络,他们纺纱织布,独立工作,并非工厂雇员。
然而,在工业革命中,制造商将工人聚集在一个屋檐下,在那里可以分工和监督劳动。这是第一次大规模地将家庭生活和工作生活分开。人们不再控制自己的工作方式,他们获得工资,而不是直接分享他们劳动的利润。
这是工业革命的必要前提。虽然工厂技术会巩固这一发展,但工厂技术的创造之所以可能,只是因为人们与工作的关系已经发生了变化。动力织布机对在家织布的农民网络毫无用处。
今天的数字革命也是如此。虽然它经常被描述为“第二机器时代”,但当前的历史时刻最好被理解为“第二次工业革命”。这场革命已经进行了40余年,包括自20世纪70年代以来战后时代相对稳定的雇佣劳动经济的崩溃,以及后工业主义和服务经济的兴起。
在过去数十年中,我们看到零工的数量不断增加。他们的工作涵盖了各个收入阶层,但都具有20世纪70年代后经济中所有工作的共同点:临时性和不稳定性。来自美国的数据显示,在过去10年中,94%的新增净就业岗位出现在传统就业之外。目前已有约三分之一的工人和一半的年轻工人参与到替代性工作中,将其作为主要或补充收入来源。
互联网技术无疑加剧了这一发展。但Uber等服务和TaskRabbit等在线自由职业市场是为了利用已经独立的劳动力而创建的;他们并没有创造这种劳动力。他们的技术正在解决本已不安全的工作环境中的商业和消费者问题。简而言之,Uber是一种症状,而不是原因。
我既不支持也不反对零工(或自由职业)。这种新兴的灵活经济不可能全然是好或全然是坏。对一些人来说,零工经济的兴起代表着从企业压抑的世界中解放出来。但对于绝大多数工人来说,零工经济的“自由”只是恐惧的自由。这是企业和雇员之间义务的割裂。这是现代社会曾经在我们的法律和习俗中努力争取的保护的崩溃。
我们不能让时光倒流,但工作不安全感也不是不可避免的。正如战后时期成功让工业化造福产业工人一样,我们需要制定新的规范、制度和政策,让数字化造福当今的工人。专家们提出了许多前进的道路——“可携带”福利、全民基本收入、工人重新分类——但无论选择哪种方式,重要的是要记住我们确实有选择权。
不安全感并不是技术进步不可避免的代价。只有理解了这一事实,我们才能采取行动。