创新工场董事长兼首席执行官李开复本周在瑞士达沃斯举行的2022年世界经济论坛上发表了题为关于人工智能的的演讲电车问题新思维栏目
李开复在文章中说，自主机器人和自主决策确实可能会造成致命的错误，机器人失误造成的死亡将导致一个道德困境的新时代电车问题可是，如果社会接受机器学习，并试图以负责任的态度引入机器人技术，将会拯救更多的生命
以下是关于人工智能，电车问题新思维》全文:
未来20年，伴随着机器人技术的进步，自动驾驶汽车，工业机器人和医疗机器人将拥有更强的能力，更高的自主性和更广泛的应用不可避免的是，这些自主机器人可能会犯决策错误，导致数百人死亡但如果人类参与进来，这种灾难是可以避免的
这样的未来是可怕的，但一旦人类社会能够负责任地使用机器人技术，挽救的生命将比造成的死亡更多。
机器学习的过程
机器人不是通过人类编程并模仿人类的决策过程他们从大数据中学习，使用从数据中导出的复杂数学公式，并执行识别红绿灯诸如此类的任务机器学习过程所需的数据量远超人类所需可是，一旦经过训练，机器人将在任何特定任务中胜过人类通过机器学习，人工智能和机器人的性能在过去五年里有了很大的提高
我在这篇文章中提出的思路，适用于医疗健康，制造业等正在快速实现自动化的行业以自驾为例一个经验丰富的人类司机一生可能有几十万英里的驾驶经验，而谷歌旗下的自动驾驶汽车公司Waymo仅在2021年就完成了230万英里的路测里程背后的AI技术通过数据学习每辆车的驾驶体验此外，这些自动驾驶车辆永远不会疲劳，不像健忘的人类司机，他们可能会忘记自己的错误
特斯拉的Ldquo智能通话首次启动该功能后，汽车无需车主操作即可驶离停车位并绕过障碍物起初，许多用户抱怨这一新功能的性能不尽人意，但在短短几周内，特斯拉收集了早期用户的数据，并重新训练了新功能背后的机器学习模型从此智能通话显著提升成为特斯拉新车的关键竞争优势
自主机器人可以拯救生命。
伴随着可供学习的数据量越来越大，人工智能的能力得到了快速提升，AI变得更加准确，适应性更强，安全性更高伴随着越来越多的机器人进入主流日常应用，其应用领域也越来越广，这标志着功能机器人技术正在逐步普及自动驾驶会从开始，握住方向盘To 松开方向盘然后发展到不需要监控甚至无需关注并最终演变成不带方向盘全自动状态
中国的自动驾驶公司文远之星就是一个很好的例子该公司已经在中国的几个城市部署了无人驾驶小巴和无人驾驶环卫车与无人驾驶出租车相比，它们在运营环境上受到的限制更多，但与人类司机相比，其安全性已经大大提高这些车辆在特定环境下运行并收集大量数据后，最终会摆脱道路上的这些初始限制
在机器人技术从简单应用向复杂场景发展的过程中，我们会获得更多的数据，从而提高其性能和安全性例如，在未来十年，通过减少人为错误，自动驾驶汽车可以防止4.7万起严重交通事故，仅在英国就可以挽救3900人的生命兰德的研究发现，即使自动驾驶的安全性只比人类驾驶高10%，也能挽救许多宝贵的生命
道德困境
对于机器人的大规模应用，大多数人还是表现出极大的关注，包括关于机器错误导致人类死亡的道德争议古典电车问题它指的是一种道德困境经典的假设是，旁观者可以通过转换失控电车的轨道来拯救另外五个人，尽管有一个人会因此丧生这个难题说明了至关重要的谁生谁死选择，本质上是一种道德判断，这样的决定不应该交给无情的机器
但由于机器人和人类感知不同，发生的错误类型自然也不同，这就使得道德困境进一步加剧例如，机器人反应很快，总是很注意，但它们可能会误判障碍例如，优步的无人驾驶汽车曾误判推着自行车过马路的行人为汽车，并因此预测它会比自己行驶得更快
人为失误和机器失误的区别，让大众更难接受机器人造成的死亡如果他们曾经听过类似2018年美国凤凰城车祸的媒体渲染报道，那他们就更难以释怀了一旦各种媒体继续用谴责性的标题批评每一个自动驾驶死亡的案例，人们很可能会对自动驾驶系统彻底失去信心，尽管这项技术最终可能会拯救数百万人的生命
如果人类司机造成他人死亡，将面临法律判决，并承担相应后果但是人工黑盒无法用人类能够理解的术语，或者用法律上和道德上正当的人类语言，向法官和公众解释事故判决的原因
另一个需要讨论的问题是问责制在凤凰城的事故中，汽车中的人类司机被指控过失杀人但是，在这种情况下，汽车制造商，人工智能算法供应商或者工程师是否应该为此负责，承担一定的法律责任只有问责明确，才能有共识的基础和准则，才能构建完善的自动驾驶生态系统
人工智能和机器学习时代的Ldquo电车问题
既然机器人技术可以拯救无数生命，只要证明它比人类略胜一筹，我们就完全有理由大规模推广自动化技术在我看来，我们应该抓住一切机会引进对人类有益的机器人自动化工具一开始应该在有限的特定环境中使用，然后逐渐大规模采用，最后获得更多的自主权和更广泛的推广通过这种循序渐进的方法，一方面可以收集更多的数据，提高机器人的性能，另一方面可以最大限度地减少危害人类生命的事故
考虑到可能出现的反对意见，我们需要共同努力，让公众更多地了解机器人技术带来的短期痛苦和长期好处只有这样，我们才能在拥抱自动化技术的过程中，逐渐培养出负责，严谨的态度，让机器人更好地服务于人类社会
郑重声明：此文内容为本网站转载企业宣传资讯，目的在于传播更多信息，与本站立场无关。仅供读者参考，并请自行核实相关内容。
