聪明的华人网友，大家觉得自动驾驶的这个伦理问题怎么解决

比如遇到情况，压死一个闯红灯的行人可以救车主，不然车主急刹车会重伤，人类司机不到关键时刻不用思考这类问题。AI auto pilot的代码里应该如何选择？

这个还远。我觉得主要还是技术问题。
自动驾驶技术上还差得远。十年之内没洗。我觉得最可能的结果是这些自动驾驶公司纷纷死掉。

比如遇到情况，压死一个行人可以救车主，AI auto pilot应该如何选择
Huadajiyin 发表于 2021-07-05 18:28

不伤害行人是自动驾驶的bottom line，也是自动驾驶自证安全的基础。在此之后才是研究如何不陷车主于险境。

机器人三原则嘛 我黏贴一下 第一法則

機器人不得傷害人類，或坐視人類受到傷害；

第二法則

機器人必須服從人類命令，除非命令與第一法則發生衝突；

第三法則

在不違背第一或第二法則之下，機器人可以保護自己。

这种情况可以直接忽略阿。 差不多等于桥马上塌下来， 你怎么知道该停下还是往前。

可以设置选项吧，不选就是默认值

建议看看 正义 一場思辨之旅-Michael Sandel， 这本书开篇就是类似的例子， 值得思考，也很有意思。当时看这本书的时候我也有过同样的问题
油管上有桑德尔教授的哈佛公开课视频。
"第一部份 Michael Sandel教授：這是一門探討正義的課，讓我們先說一個故事。假設你是一個火車駕駛員，而你駕駛的這輛車正快速在軌道上行駛，時速六十英里，而在軌道盡頭有五個工人在工作，你試著想要煞車，但卻做不到，你的煞車失效了。你感到十分緊張，因為你知道，如果你撞上這五個工人，他們必死無疑。假設這是一個確定的結果，因此你感到非常無助，但接著你發現右邊有條岔路，而那條岔路底只有一個工人在工作，你的方向還可以控制，車輛還可以轉向，可以轉向岔路，撞死一名工人，但閃過五名工人。   第一個問題是：你該如何做才是正確的？你會怎麼做？我們來投票吧！有多少人會把火車轉向？開向那岔路？請舉手，有多少人不會轉，繼續往前走？選擇繼續往前走的請把手舉起來。有一些人這樣選擇，大部分的人則是選擇轉向。現在，我們要開始分析，瞭解你為何如此判斷，判斷這是正確選擇的原因。我們先從那些想要轉向的人開始討論。你為什麼會想要轉向岔路？你的原因是什麼？誰自願說明？請站起來。"

自动驾驶要不要考虑天空中原子弹爆炸时要跑多远才行？

不伤害行人是自动驾驶的bottom line，也是自动驾驶自证安全的基础。在此之后才是研究如何不陷车主于险境。
冲上云霄 发表于 2021-07-05 18:57

行人突然窜向机动车道呢？人类司机反应不过来，自动驾驶能，但 选择一：紧急刹死，车主受伤甚至甩得颈椎断裂 选择二：直接撞过去
怎么办？

行人突然窜向机动车道呢？人类司机反应不过来，自动驾驶能，但 选择一：紧急刹死，车主受伤甚至甩得颈椎断裂 选择二：直接撞过去
怎么办？
fleabane 发表于 2021-07-05 19:14

自求多福？反正人类操控也避免不了，电脑操控会灵活很多，也就是概率大大降低不代表完全避免

比如遇到情况，压死一个行人可以救车主，AI auto pilot应该如何选择
Huadajiyin 发表于 2021-07-05 18:28

这么复杂的决策，你太高看AI了

建议看看 正义 一場思辨之旅-Michael Sandel， 这本书开篇就是类似的例子， 值得思考，也很有意思。当时看这本书的时候我也有过同样的问题
油管上有桑德尔教授的哈佛公开课视频。
"第一部份 Michael Sandel教授：這是一門探討正義的課，讓我們先說一個故事。假設你是一個火車駕駛員，而你駕駛的這輛車正快速在軌道上行駛，時速六十英里，而在軌道盡頭有五個工人在工作，你試著想要煞車，但卻做不到，你的煞車失效了。你感到十分緊張，因為你知道，如果你撞上這五個工人，他們必死無疑。假設這是一個確定的結果，因此你感到非常無助，但接著你發現右邊有條岔路，而那條岔路底只有一個工人在工作，你的方向還可以控制，車輛還可以轉向，可以轉向岔路，撞死一名工人，但閃過五名工人。   第一個問題是：你該如何做才是正確的？你會怎麼做？我們來投票吧！有多少人會把火車轉向？開向那岔路？請舉手，有多少人不會轉，繼續往前走？選擇繼續往前走的請把手舉起來。有一些人這樣選擇，大部分的人則是選擇轉向。現在，我們要開始分析，瞭解你為何如此判斷，判斷這是正確選擇的原因。我們先從那些想要轉向的人開始討論。你為什麼會想要轉向岔路？你的原因是什麼？誰自願說明？請站起來。"
Gongyong 发表于 2021-07-05 19:11

假设不成立： 道口不是DRIVER 可以选择的
WHAT THE DRIVER COULD DO WAS JUST TO APPLY EMERGENCY BRAKE

行人突然窜向机动车道呢？人类司机反应不过来，自动驾驶能，但 选择一：紧急刹死，车主受伤甚至甩得颈椎断裂 选择二：直接撞过去
怎么办？
fleabane 发表于 2021-07-05 19:14

我想问一下，你是经历过几次紧急刹死后，开始思考这个问题？

行人要规范吧，这点美国可能容易做到

比如遇到情况，压死一个行人可以救车主，AI auto pilot应该如何选择
Huadajiyin 发表于 2021-07-05 18:28

简单，依照交规

你女朋友和你媽同時掉進河裡你救哪一個

行人突然窜向机动车道呢？人类司机反应不过来，自动驾驶能，但 选择一：紧急刹死，车主受伤甚至甩得颈椎断裂 选择二：直接撞过去
怎么办？
fleabane 发表于 2021-07-05 19:14

你没学过交规？ 还是说你是国内id其实一辈子没有开过车？

简单，依照交规
789 发表于 2021-07-05 20:42

按照交规 闯红灯的行人可以被压死？

先要解决安全问题

你女朋友和你媽同時掉進河裡你救哪一個
mise88 发表于 2021-07-05 20:43

女朋友和妈当然是救妈，这还用问么，好歹问老婆和妈救谁吧

行人突然窜向机动车道呢？人类司机反应不过来，自动驾驶能，但 选择一：紧急刹死，车主受伤甚至甩得颈椎断裂 选择二：直接撞过去
怎么办？
fleabane 发表于 2021-07-05 19:14

这种极端情况不会发生，因为目前的自动驾驶仅仅是自动驾驶，车辆参数跟手动驾驶的车辆没有区别，law of physics 是一样的，再猛力踩刹车也不会导致司机重伤。

按照交规 闯红灯的行人可以被压死？
童童童鞋 发表于 2021-07-05 20:44

按照某大国交通工具有先行权的话，的确如此
车辆右转的时候，无视斑马线和人 直行的，看到斑马线也不减速，随时准备让人头破血流

前段时间国内那个塔吊倒下来压死亿万富翁父女就是这个情况，当时因为行人看见塔吊倒塌逃到车前，逼停了轿车，车里的人看不到上面停车被压死了，要想逃命就得冲过行人。

很容易解决的。在initialization的时候，让车主自己选择settings。出了事情，车主，车厂各自承担自己的责任。车厂买自己的保险，车主买自己的保险，车主premium根据车主的initialization的settings里面定。

太简单了。 在买车时让车主签一个同意书，把类似这类选择让都让车主选择完。 然后车辆AI遵照执行就好了。

按照交规 闯红灯的行人可以被压死？
童童童鞋 发表于 2021-07-05 20:44

你看不懂回答吗？依照交规就是依照交规。 能不能压死行人并不重要，甚至在各地可能不同。
汽车在编程的时候，BA在写case旁边放一本所在地交规，必须要符合。

前段时间国内那个塔吊倒下来压死亿万富翁父女就是这个情况，当时因为行人看见塔吊倒塌逃到车前，逼停了轿车，车里的人看不到上面停车被压死了，要想逃命就得冲过行人。
huanongying 发表于 2021-07-05 21:58

自动驾驶是可以被人 override 的。这不是技术问题，而是法律问题。也就是何种情况下可以 override，谁可以 override 啥。
这 override 也并没有要求车主乘客是雷锋，具体还是由法律法规定。
Override 不一定需要方向盘刹车，可以仅仅是指令。