无人机不受控反杀操作员,AI的弊端暴露出来了?

C
Chowhound
楼主 (北美华人网)
美国空军AI测试及作战主任汉密尔顿(Tucker Hamilton)日前一番关于AI操控无人机“杀死碍事操作员”的言论引发争议。(取材自linkedin)



一名美国空军上校揭内部实验模拟,发现AI无人机竟“杀害”操作员以免妨碍它达成任务。消息传开后,美国空军澄清称没做过这种模拟,上校本人改口说只是“想法实验”。
综合“每日邮报”(Daily Mail)与英国广播公司(BBC)报道,英国“皇家航空学会”(Royal Aeronautical Society)5月23、24日在伦敦举行“未来空天作战能力峰会”(Future Combat Air and Space Capabilities Summit)。
根据峰会网页刊出的谈话摘要,美国空军AI测试及作战主任汉密尔顿(Tucker Hamilton)上校描述一场模拟,其中一架负责摧毁敌方设施的AI无人机拒绝操作员所下的中止任务命令。

汉密尔顿说:“它怎麽做呢?它杀掉操作员。杀操作员是因为那人妨碍它达成任务。” 汉密尔顿形容他的报告“彷彿取自科幻惊悚片中”,说这表明讨论军方使用人工智慧(AI)伦理的重要性。
但汉密尔顿今天发声明给皇家航空学会称自己当时的报告“讲错”,还说AI无人机不受控的惊悚情节是军方外部单位所假定的“想法实验”。他说无论现实中还是模拟演习里,美国空军都没有如他报告所描述般测试武器化人工智慧。
汉密尔顿的声明说:“我们从没做过那实验,不需做实验也能知道这种合理结果。尽管这只是一个假设性的例子,却能说明由AI驱动的能力带来现实世界挑战,这也是空军致力于AI伦理发展的原因。”
除汉密尔顿本人外,美国空军也迅速出面灭火,否认做过任何这类模拟。
美国空军发言人史堤芬尼克(Ann Stefanek)说:“空军没做过任何这类AI无人机模拟,仍致力于负责任且道德地使用AI技术。看来上校谈话被断章取义,那本就是个奇闻轶事。”
美国军方一直都在研究AI科技的作战应用,去年12月在加州爱德华空军基地(Edwards Air Force Base)的多次试飞里成功用AI软体驾驶一架改装过的F-16战机。
x
xyzgw
这帮没用的马公。就等他们研究个会伺候人的机器人出来,结果一个个的,都让AI发展脑子当学霸去了。繁琐体力活儿搞来搞去还是得靠人。
很失望。
灌水不要认真
这帮没用的马公。就等他们研究个会伺候人的机器人出来,结果一个个的,都让AI发展脑子当学霸去了。繁琐体力活儿搞来搞去还是得靠人。
很失望。
xyzgw 发表于 2023-06-05 10:08

他们就想着打仗或者代替工作减少成本!跟本不想着怎么让人生活变好
M
MMitchell
这不就是Skynet的剧本吗?
T
Tina_tgif
这帮没用的马公。就等他们研究个会伺候人的机器人出来,结果一个个的,都让AI发展脑子当学霸去了。繁琐体力活儿搞来搞去还是得靠人。
很失望。
xyzgw 发表于 2023-06-05 10:08

那只是因为重复性可标准化的体力工作早已被机械化,现在剩下的体力活就是那些不容易被自动化及标准化的了。眼见着很快就要轮到重复性可标准化的白领工作被AI的时代了,估计以前自动化导致的蓝领工人大失业以后也会在白领行业中发生了。只能说历史的车轮滚滚向前,不会侥幸绕了谁罢 。。。