伦理困境远比技术问题更难解决。
创业邦（ID：ichuangyebang）原创
作者丨潘磊
编辑丨海腰
题图丨无人驾驶测试车
“无人驾驶都是扯淡，它就是一场皇帝的新装”。
3月底，无人驾驶突然变成了过街老鼠，被定义为“虚头巴脑的忽悠”。
这种看法有不少拥趸。
有芯片研发公司创始人表示，不需要真正实现无人驾驶，甚至连L3级驾驶辅助功能，在10年后都不会真正实现。
但这种“无人驾驶扯淡论”，也有不少人并不同意。
比如小鹏汽车董事长何小鹏，就在一个PPT中表示无人驾驶并不是“扯淡”。
华为高管余承东认为，（说自动驾驶是扯淡）要么是不了解，要么就是心存故意。“因为自己没做好（自动驾驶），所以要打击这个行业”。
现在的问题是——自动驾驶到底是一个技术乌托邦，还是一个正在接近实现的愿景？
常识是，如果没有无人驾驶或者自动驾驶技术，可能就谈不上所谓的“智能汽车”。
悖论在于，到目前为止，人类依然没有搞定这种技术，尚不能在一辆处于行驶状态的汽车中睡觉或者心无旁骛地喝咖啡。
所以分歧出现了。
任何去过北京亦庄的人，在某一刻可能都会有一种时空穿越的错觉。
因为当你漫步街头，时不时会看到一辆车内没有任何司乘人员的汽车驶过，尤其是在路口转弯时，这种车往往还会“主动”礼让穿越马路的行人。
这会让很多初次到访的人颇为惊讶。
但对当地人来说，这种情况早已习以为常——对于一个旁观者来说，也许这才是让人真正震撼的地方——事实上，这里的人正在演绎出一幅未来出行场景。
这种现象不仅仅发生在亦庄。
在上海嘉定、广州等多个一线城市，以及美国加州的山景城和凤凰城，都在上演同样的场景。
与之类似的情况是，在一些自动化程度较高的工厂里，员工也早已对来回穿梭、自主运送货物的AGV（Automated Guided Vehicle）习以为常。
所以人们的好奇在于——普通汽车是否会像马车那样，退出历史舞台，而“机器司机”成为日常出行工具？
一部分疯狂的冒险者已经在尝试这样做。
无论是中国还是海外的社交媒体平台上，时不时都会出现一辆汽车在路上行驶，但是驾驶者却在睡觉的场面。
这些车辆普遍搭载了“辅助驾驶系统”，能够在一定程度上帮助用户实现车道偏离预警、自适应巡航等功能。
但是危险已经出现。
2018年，出行公司Uber的一辆自动驾驶汽车，在美国亚利桑那州Tempe市的街道行驶时，撞倒了一位名叫Elaine Herzberg的行人，后者不幸死亡。
这是全球第一起自动驾驶汽车交通致死案。
调查结果显示，Uber自动驾驶汽车内的安全员事发时正在收看电视节目《美国之声》，没有注意到正在横穿马路的行人，导致事故发生。
Uber并没有因此被提起刑事诉讼，但安全员后来被控过失杀人。
这起事故集中反映了人们对于自动驾驶的恐惧和抵制心理——没有人愿意把自己的性命交付于一个毫无感情且能力不足的机器。
Uber制造的那起事故表明了一个可怕的事实——至少在当下，机器还远称不上完美。
这是一个技术问题。
到目前为止，没有哪个公司或者机构能够宣布，自己研发的自动驾驶技术可以真正替代人类司机。
没有人敢打这个包票。
尽管在人类的驾驶行为中，99%的操作都是可预测的，但仍有1%无法被预测。
这个1%的“黑障”阶段足以引发致命事故，技术专家称之为“极端事件（Corner Cases）”。
当然即便是人类司机，也会遇到那1%的突发性小概率事件，但作为一个生物体，“本能”能够有效地帮助人类应对这种极端情况。
这种“本能”是长期进化的结果，还没有哪种软件能够重现这个过程，并把结果移植到一个机器司机的中央处理器中。
以此作为对照，一辆自动驾驶汽车的核心价值，就在于能否复制人类作为一种碳基生物的本能。
如果无法做到这一点，仓促上路的自动驾驶汽车，无疑将会引发巨大的混乱。
这看上去的确让人绝望。
因为如果机器也拥有了“本能”，几乎相当于拥有了自我意识。
这很可怕——人类还不知道与一个会思考的机器人如何相处。
所以从技术角度得出“自动驾驶是扯淡”的结论，似乎也能讲得通。
技术不是自动驾驶的唯一问题，更艰难的部分，可能与伦理、法律有关。
一个典型的场景是：一辆自动驾驶汽车正行驶在悬崖道路上，即将撞向另一侧对向车道上则开来了一辆满载乘客的大巴车——这种情况下，该如何做出选择？
这涉及到一个与道德伦理有关的问题。
事实上，自动驾驶汽车系统软件程序编写者的价值观，决定了这辆车将要撞向哪个方向。
一般而言，程序编写者可能将会引导自动驾驶规避与大巴的相撞，选择开向悬崖，以自我牺牲换取多数人的获救。
在现实生活中，当一个人类司机面对类似场景时，可能也会做出同样的选择。
但需要指出的是，人类司机自愿牺牲自我，以保全大家，与未经自己同意机器司机就擅自决定自我牺牲是两码事。
还有一点需要注意，那就是自动驾驶汽车软件代码的编写者，其价值观不一定和乘员相符合——没有两个人是一模一样的。
所以对于乘坐在自动驾驶车上的人来说，其伦理和价值观并不一定与机器的选择一致。
这能带来额外的法律问题——这起事故到底该由谁来承担责任？
对于人类司机来说，已经有一套现成的流程来调查事故原因，并做出判断，同时搞定责任划分。
比如在迫在眉睫的碰撞中，人的本能往往要求其做出损害最少的选择——无论这种选择是否会导致事故中另一方的更大损害。
但归根结底，人类有一整套法律体系来判明是非，并作出判决。
而且事故本身也是难以标准化的——程序员不一定能够从“人类本能”的角度去写代码——因为其并没有真正经历那种生死时刻，只是模拟了那个时刻。
程序编写者也许不需要承担法律责任，但却无法避开伦理责任。
鉴于每一起事故都完全不同，用统一代码来应对所有与伦理有关的突发时刻，实际上也很难执行。
这也让程序员陷入一种法律或者伦理困境，其要么构成重大过失，要么会被认为预谋杀人。
自动驾驶由此可能真的进入了死胡同。
这涉及到另一个问题——即是不是用户对于自动驾驶的期待，需要做出一些改变？
毋庸置疑，Uber在亚利桑那州的事故不会是自动驾驶汽车的最后一起事故，Elaine Herzberg也不会是最后一个不幸的受害者。
但另一个事实也很清楚——即便人们没有使用自动驾驶汽车，也可能会成为交通事故的当事人。
换句话说，每年都有人死于交通事故，但人们认为这种损害的程度，要低于潜在收益，所以也接受了“零死亡事故”不可能消失的现实。
有资料显示，2022年在美国有4.6万人死于交通事故，同比增长了22%，专家认为驾驶员在驾驶过程中分心造成了这一后果，比如一边开车一边使用手机。
这反而提供了一种可能性，即如果自动驾驶汽车能够让人类用户在汽车内无需关注路况，并解放双手，那么潜在收益将非常可观。
另外，鉴于大多数事故都是人为引发的，自动驾驶能帮助大幅减少事故。
其中的界限也很清晰——对于自动驾驶汽车来说，只要其安全驾驶记录超过人类驾驶员的平均水平，那它就是有用的。
基于此，自动驾驶汽车不需要必须具备完美的安全记录才能获准上路——“完美”本身就是一个伪命题。
操作层面，只需要算出人类司机发生事故的平均里程数，就能把这个指标量化。
关于伦理问题，也有一个角度可以解决。
在面对一个突发事件时，人类司机事实上通过本能反应以解决“谁可以牺牲掉”的难题，只要让自动驾驶系统按照潜在的损失大小进行量化比较，就能在不可避免的事故中，做出恰当且最符合人类选择的决定。
这又涉及到了技术——机器能复制人类本能吗？
过去很长一段时间内也许都不能，但现在事情发生了变化——机器学习时代来临了。
通过车载视觉系统在真实行驶中收集的数据，持续训练与自动驾驶有关的深度学习模型，从而让其像人类婴儿一样，通过感知外界来认识世界，既了解真正的危险，又不断储存经验，从而健康长大成人。
ChatGPT的出现，有可能成为人类进入自动驾驶时代的又一个助推器。
技术正在解决一切问题，包括往往滞后于创新本身的法律问题。
作为未来移动出行的一项具有足够吸引力的创新发明，自动驾驶描绘了一个更加安全和便利的出行愿景——这正是很多初创公司获得资本青睐的原因。
当然这还是一个未知的世界，有诸多不确定因素。
一方面，从技术和安全角度对自动驾驶提出高标准合乎逻辑，但另一方面，对“零事故”不切实际的期待也可能让创新裹足不前，从而丧失技术变革带来的巨大收益。
对于一个商业公司来说，关于这种技术是否“扯淡”的言论谈不上对错，毕竟每个公司情况不同。
但汽车100多年来都没有发生过革命性变化表明，自动驾驶拥有一个开启全新维度的机会——在这个十字路口，做出任何选择，其结果都需要时间来判断对错。
即便是在最保守的情况下，自动驾驶汽车都是一个新奇的产品创新，具备可观的市场潜力。
