当自动驾驶车辆撞到行走者时，谁应该被认为是合法的责任?应该把矛头指向驱动车辆的人工智能(AI)软件的车主、制造商还是工程师?
当机器人或人工智能做出决策时，决定“风险”的问题是一个有趣而重要的课题，因为这种创新在行业中的应用越来越多，并开始更直接地影响我们的日常生活。
诚然，随着人工智能和机器学习创新的应用发展，我们可能会观察到它如何改变工作、组织、企业和社会的观念。但是，尽管人工智能有能力颠覆和推动更显著的效率，但它也有它的缺点：“当事情出错时，谁会面临风险”是其中之一。
道路交通事故是造成意外死亡的主要原因之一，也是为什么应更迅速地采用自动驾驶汽车的主要支持论点之一。尽管新加坡、韩国和欧洲等许多地方的准备工作正在取得进展，但为包括人工智能这样的尖端技术在内的灾难分担风险的努力已成为全球对话的主流。
在第三届技术法律年会期间。在最近举行的FEST论坛上，专家们表示，新加坡的法律目前无法充分指定风险，因为在包括人工智能或机器人技术在内的事故中遭受的不幸或损害。
新加坡法律学会机器人和人工智能小组委员会联席主席CharlesLim说：“自主机器人和人工智能框架在没有人为贡献的情况下独立工作的非凡能力搅浑了责任的浑水。
由11个部分组成的机器人和人工智能小组在一个月前发布了关于在此类案件中应如何确定民事责任的报告。尽管新加坡在国际发展研究中心2019年的政府人工智能准备指数中排名第一，但该国实际上并没有法律框架来监管机器人或人工智能引发的责任，包括自动驾驶汽车(AVs)的民事责任。
他说：“有很多不同的因素(例如，在起作用的方面，AI框架的基础软件代码，准备的信息以及框架的外部环境。”Lim是法律顾问和联合主席新加坡法学院机器人与人工智能小组委员会。
这种情况非常令人迷惑，事故是否可能是由于非活动的错误，由最新的软件更新引起的，还是由于人们为事故铺平道路的功能选择所造成的。Lim在网络研讨会上以个人身份发言，他说，按照事件的确切顺序为事故铺平道路以证明责任可能是不可预测的和代价的。
另一位小组成员、机器人和人工智能小组委员会成员乔希·李(JoshLee)认为，对于这里的立法者来说，第一步可能是解决如何称呼坐在驾驶座上的个人。
他说：“我们建议将此人称为‘用户负责人’，因为此人可能无法完成驾驶任务，但有能力在必要时接管车辆。”。“这在当今许多情况下都可以应用于无人驾驶车辆，例如医疗诊断。”
2018年，英国法律委员会首次提出了“用户负责”这一说法，该委员会推迟了将这类用户置于独立监管体制下的完全自动化环境中的建议。
人工智能和机器人小组委员会成员、律师BeverlyLim在网络研讨会上表示，不应该被追究风险的人是坐在驾驶座上的司机，因为他购买车辆时会认为人工智能会是一个相对更可靠的司机。