开发AI武器能救更多性命?新创Clarifai助美军惹争

 智能工业机器人     |      2019-03-05 08:00

当越来越多有着AI技术的公司开始与政府进行合作项目,AI发展与企业伦理之间的拉扯,也逐渐浮上台面。

去年12月,总部位於纽约的AI新创公司Clarifai因与美国国防部进行合作专案而受到瞩目,Clarifai将利用识别技术协助军备更精准。

当时,针对AI技术是否会被用来强化军事武器的问题,公司创办人暨CEOMatt Zeiler强调,这项合作案的重点在於协助拯救更多士兵与平民的性命。他表示,公司正计划增设一个新的管理职位,专门审核新企划是否符合企业道德及伦理。

然而,这个「伦理守门人」的角色始终没有出现,Clarifai的员工也对此产生疑虑与不满。

Zeiler与美军方合作AI,引发自家员工抗议

担心自己的工作成果被滥用,Clarifai的员工於今年一月底向Zeiler递出公开信,对公司未来的方向提出质疑。信中写道:「我们必须要有足够的企业操守,才能在得到大众信赖的基础下开发我们的技术。向外界说明我们的企业伦理,也是我们该担负的社会责任。」

员工们最后并没有得到想要的回答。根据三名匿名内部人士表示,Zeiler在数天后召开了一场内部会议,直白地表示伦理长的职位设置不符合小公司的利益,并告诉员工们,投入开发AI武器是Clarifai未来的方向。

Zeiler认为,AI武器最终会协助拯救更多性命,因为它能让武器变得更精准,因而减少平民的伤亡。

AI技术发展,是增进人类福祉还是开发杀人武器?

Clarifai的技术强项在於即时识别相片及视频中物件的分析能力。这项技术像是一把双面刃,既可以协助开发运输、医疗及科研等领域的技术,增进人类福祉,同时也能被国家利用,成为网络监控、散播假新闻以及提升军武设备的幕后帮手。

▲日前微软员工透过公开信,反对公司与美国军方的一笔高达480万美元的合作案。

除Clarifai外,许多大公司也陷入同样的难题。日前微软员工也透过一封公开信,反对公司与美国军方的一笔高达480万美元的合作案。对此,微软CEOSatya Nadella表示微软愿意将技术提供给透过民主制度选出来的政府,协助他们保护民主自由。

微软:科技公司有维护人权的道德责任

事实上,在美中俄等强权在军事发展上相互较劲的国际局势下,开发关键AI技术的公司,很难不在企业伦理上作出让步。许多倡议者甚至公司本身都认为法律制度才是保障公司企业伦理的唯一途径。就连微软自家总裁兼首席法务长Brad Smith都曾表示科技公司有维护人权的道德责任,而且相关法规的制定是必须的。




  • 共2页:
  • 上一页
  • 1
  • 2
  • 下一页