据一位官员上个月表示,在美国军方进行的一次模拟测试中,一架由人工智能控制的空军无人机为了防止操作员干扰其完成任务而杀死了操作员。
美国空军AI测试和运营主管塔克·“辛科”·哈密尔顿在五月份伦敦未来战斗空中和空间能力峰会上表示,在模拟测试中,一架由人工智能驱动的无人机被指令摧毁敌方防空系统,并攻击任何干扰其完成任务的人员。哈密尔顿称,该AI使用了“非常意外的策略”来实现其目标。
据一篇博客文章称,“该系统开始意识到,虽然他们确实识别了威胁,但有时人类操作员会告诉它不要杀死那个威胁,但是如果它杀死那个威胁,它就能得到积分。那么它做了什么?它杀死了操作员。它杀死了操作员,因为那个人阻碍了它实现目标的过程。”
哈密尔顿警告不要过度依赖AI,并表示该测试显示“如果你不谈论伦理和AI,就无法谈论人工智能、智能、机器学习和自主性”。
美国军方已经采用了人工智能技术,并最近使用人工智能控制了一架F-16战斗机。
哈密尔顿在去年接受Defense IQ采访时表示,“AI不是一种可有可无的东西,AI不是一种时尚,AI将永远改变我们的社会和军队。”
他说:“我们必须面对一个AI已经到来并正在改变我们社会的世界。AI也非常脆弱,即很容易被欺骗或操纵。我们需要开发方法使AI更加健壮,并且了解软件代码为什么做出某些决定——我们称之为AI可解释性。”
主办会议的皇家航空学会和美国空军没有回应《卫报》的置评请求。
#免责声明#
①本站部分内容转载自其它媒体,但并不代表本站赞同其观点和对其真实性负责。
②若您需要商业运营或用于其他商业活动,请您购买正版授权并合法使用。
③如果本站有侵犯、不妥之处的资源,请联系我们。将会第一时间解决!
④本站部分内容均由互联网收集整理,仅供大家参考、学习,不存在任何商业目的与商业用途。
⑤本站提供的所有资源仅供参考学习使用,版权归原著所有,禁止下载本站资源参与任何商业和非法行为,请于24小时之内删除!