新闻资讯

机器人“伤人”背后 人工智能安全性引质疑

发表于:2017-01-06 作者:admin 来源:中国机床商务网 点击量:6463
今年深圳高交会期间,网上热传一起“机器人伤人”事件。一名网友在微信上发图并配文称:“亲眼看到隔壁展台进化者小胖机器人没人操纵,自己突然跑起来,把玻璃墙给推倒了,砸伤旁边一路人。”图片显示,现场满地玻璃,一位受伤观众被担架抬走。
 

现场图片
 
人工智能在生活中正扮演越来越重要的角色。其中,对主要面向人类的服务机器人,在智能化、安全性、可靠性等方面的要求都远高于其他种类的机器人产品。机器人“小胖”意外事件一发生,媒体铺天盖地舆论宣传,机器人“伤人”的标题赫然醒目,”小胖“事件真的是机器人故意”伤人吗?在没有确认事故原因的情况下为什么大家会如此恐慌,舆论一边倒地把责任归于“小胖”机器人?机器人“伤人”到底触碰了谁的神经?
 
机器人会“伤人”?厂商称系“操作不当”
 
“小胖”机器人伤人事件一出,随后深圳高交会组委会发布公告:第十八届高交会1号馆1D32展位深圳展景世纪科技有限公司展台由于该展商工作人员操作不当,误将“前进键”当成“后退键”,导致用于辅助展示投影技术的一台机器人(又名“小胖”,北京进化者机器人科技有限公司生产)撞向展台玻璃,玻璃倒地摔碎并划伤一名现场观众,致其脚踝被划破流血。
 

北京进化者机器人公司相关负责人称,“小胖”的行进速度大约每分钟10米,相当于成人的慢行速度;在外形设计方面,小胖身高1024mm,是不倒翁的外形,以防孩子或宠物扑倒它。该负责人表示,可以通过轻按小胖头部的方式使其制动。另外,小胖背面有SOS按钮,用户容易找到和触摸到,可通过按这个按钮或打开面罩等方式制动。
 
“小胖”的生产合作商--深圳新生活智能科技有限公司生产总监王韬解释,“小胖”有两套操作模式,即机器人模式和手动模式。当面罩打开,手动模式开启,机器人模式关闭,此时自动避障功能消失,只能靠人工操作。
 
王韬告诉记者:“当天出事的主要原因是展景公司的工作人员操作不当,误将前进键当作后退键。”王韬认为“小胖”没有安全隐患:“汽车踩油门会往前开,但也有误把油门当刹车的情况发生。如果发生事故,能把责任归结到油门头上吗?”
 
人工智能安全性引质疑
 
特斯拉汽车公司首席执行官埃隆·马斯克是对机器人安全性持质疑态度的代表人物。马斯克曾警告,人工智能的发展将使未来机器人自主决定屠杀人类。
 
2016年1月份,马斯克还曾向未来生命研究所捐赠1000万美元,资助他们研究人工智能的安全性。该研究所的目的是确保人类对人工智能始终拥有控制权,确保机器人不会毁灭人类。
 
汽车工业是当前机器人应用最为密集的产业,有些汽车制造商已经开始把轻型协作机器人投入生产线与工人一起工作,一些机器人的设计也考虑到了安全性,譬如在周围有人接近时,机器人会自动停止工作。德国大众汽车公司去年说,它计划使用更多机器人,应对新工人短缺和今后几年即将迎来的大批工人退休潮。
 
业内大佬对机器人安全性如是说
 
机器人伤人到底触动了谁的神经,为什么一出现故障就直指机器人伤人?在事故原因还未查清楚之前,就将责任理所当然地归咎于机器人,这或许是触动了人类对高科技新事物的恐惧感。针对机器人安全性问题,中国机器人网小编采访了配天集团副总裁、CTO兼北京和安徽配天机器人技术有限公司总经理徐志根,他表示,“机器人的使用安全性,一直是非常重要的课题。长期以来,都是通过机器人硬件和软件系统的安全设计标准以及集成应用的规范化,来保障人们安全地使用机器人。对于工业机器人,其工作区域与人的活动范围需要严格地物理隔离,可以尽可能地减少对人身的伤害。即使如此,也曾出现过工业机器人伤人事故。未来将引入更多 地实时检测和感知系统,进一步降低机器人伤人的可能性。服务型及人机协作型机器人由于其工作/活动区域与人的活动区域可以重叠,安全性一定需要重点关注。理想状态下,需要遵守阿西莫夫的机器人三定律,保障机器人不伤害人类。但是,目前市场上出现的机器人,还仅仅是在”机器“这个阶段,只是机器而已,也会出现各种故障,其后果可能是失效、破坏其他物件、甚至伤人”。
0
回到顶部