展会信息港展会大全

别不在意,当你无人驾驶时导致了生命的损失,谁应该承担责任?
来源:互联网   发布日期:2021-01-13   浏览:3290次  

导读:2018年,日本发生了一场车祸。驾驶员打开了汽车的自动辅助驾驶功能,但车撞上了一辆?吭诼繁叩拿姘,导致一人死亡、两人受伤。法院认为,无法判断这起车祸的起因是自动辅助驾驶系统故障,还是超出系统能力范围,但有证据表明驾驶者当时非常疲倦,已经无...

2018年,日本发生了一场车祸。驾驶员打开了汽车的自动辅助驾驶功能,但车撞上了一辆?吭诼繁叩面包车,导致一人死亡、两人受伤。法院认为,无法判断这起车祸的起因是自动辅助驾驶系统故障,还是超出系统能力范围,但有证据表明驾驶者当时非常疲倦,已经无法正常驾驶,因此,驾驶者应该负主要责任;而驾驶者的家属则认为,在这起车祸中,自动辅助驾驶系统同样应该承担责任。

现在许多企业都在开发更高级的自动驾驶系统,希望有朝一日能够制造可以全程无人驾驶的汽车。到那时,如果无人驾驶汽车出现车祸,应该是谁来负责呢?是汽车生产厂商,还是无人驾驶系统的开发者?还是汽车的使用者?

这道难题,是未来AI网络化所面临的复杂法律问题的一个缩影。我们来设想这样一个情形,在一条盘山公路上,一辆由人驾驶的汽车突然失控,眼看着就要撞向一辆满载客人的无人驾驶汽车。这辆无人驾驶汽车安装了AI系统,能够紧急转向来避免相撞,但是如果紧急转向的话,它可能会掉下悬崖,也可能撞上岩壁,那样的话,车上的乘客必然难以幸免。于是,这辆无人驾驶汽车没有转向,而是正面撞上了对面失控的汽车,导致失控汽车内的乘客伤亡,而无人驾驶车内的乘客则安然无恙。

这是一个可以被不断挖掘讨论的案例:

首先是伦理问题,AI应该优先;ぷ陨沓丝偷纳,还是应该优先;ざ悦娉盗局械某丝蜕?AI在处理这种紧急情况时,应该最大限度地考虑减少社会损失和人员伤亡的问题吗?

其次是技术问题,在即将相撞时,无人驾驶汽车中的AI是否出了错误,做出了错误判断?AI做出的判断,是否是设计时就存在的缺陷?

最后是责任问题,AI的行为是不是出自汽车设计师的设计?AI制造商是否对使用者尽到告知潜在危险的义务?

这些问题,都将会是在法庭上辩论的焦点。但是,透过这些表面的问题,我们将会发现,核心在于我们能否预测AI将会做出怎样的判断。如果AI的决策过程始终是一个“黑箱”的话,我们也许永远也找不到答案。既然责任无法确定,那么谁来承担责任,也就成了谜题。

传统的计算机程序不能自主做出判断,而AI的特征就在于它有创造性。而因为现在的AI是个“黑箱”,因此在做出判断和行为后,即使是AI的开发者本人,也难以查明AI做出这种判断的原因。

AI的行为无法预知,也就会带来难以意料的危险,进而造成责任的空白,我们甚至没有办法在法律上做出判断。而即使找到原因,认定责任的确归属于AI,我们也没有办法做出惩罚,因为惩罚只能用在人类这样拥有人格的生物身上。那么AI是否拥有人格呢?这显然会引起规模更大的讨论,涉及人类所拥有的诸多权利和义务。

所以我们可以看到,如果不改变这种AI行为无法预知的特性的话,我们将会面临诸多法律上的困境。为了避免这些困境,我们能想到的最好的方式,就是让AI的开发变得更加可控,让AI的逻辑变得更加透明,让人能够理解AI做出判断的原因,并让AI避开作为刑事责任主体的可能性。

这个结论可能会让我们有点不舒服。毕竟我们已经习惯了责任明晰的法律判断,而对AI这样介于生物和非生物之间的模糊物体还不大适应。但要解决这样的问题,根本方法是对AI的开发和使用建立规则。这看起来和刑法离得有点远,却是解决这类刑事问题的最好方案。

具体地来说,网络化AI的问题可能会集中在两个方面,分别是日常生活中的隐性影响,以及重大的刑事问题。在这两个方面,我们都需要建立一些通用原则,来预防AI对个人和社会带来的冲击。比如,完善相关法律,例如知识产权法不应该;I创作的内容,企业应该更谨慎地对待客户的个人隐私和个人数据;其次,尝试改变现在AI的开发方式,建立更透明、更可控的人工智能系统,让我们能够理解AI做出判断的理由和方法。

有一个好消息是,在最近几年,人工智能学界已经开始反思AI黑箱化所带来的种种问题,也诞生了一个新的领域,叫做“可解释人工智能”,它指的是为人工智能使用人类可以理解的算法,来让AI的决策结果变得可以预测。

人工智能学界已经意识到传统AI不透明所带来的局限性,而这个弱点正因为AI的广泛使用变得越来越突出。未来我们需要和AI协同工作,如果AI是一个黑箱的话,我们就无法信任它。从2018年开始,国际上成立了一个名叫“公平、问责和透明度”的跨学科同行评议会议,其中就涉及如何让AI开发和使用过程变得更加透明的问题。

现在,我们已经有了一些“可解释人工智能”的算法模型,它们在通用的人工智能机器学习算法基础上,结合了新开发的人机界面技术,让使用者可以更方便地理解人工智能算法的逻辑,并且预测它的运行结果。

也许有一天,“可解释人工智能”会取代现在基于机器学习的AI“黑箱”,让AI成为我们生活和工作中的重要帮手,帮我们提高自己的生活质量,提升整个社会的智力水平。这也应该是未来AI的发展方向。

赞助本站

人工智能实验室
AiLab云推荐

展会专题 ZhanHui

展开
Copyright © 2010-2021 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港
华体会体育彩票网站