第三回

AI技術用於美軍備惹議 Clarifai創辦人:將拯救更多士兵和平民


▲人工智慧。(圖/CFP,下同)

軍武中心/綜合報導
AI新創公司Clarifai正與美國防部合作,將無人機視頻的辨識技術用於軍備相關。面對外界質疑AI技術不該用於軍備,Clarifai創辦人Matt Zeiler宣稱,與美軍合作旨在拯救更多士兵和平民,公司將增設新的管理職位,以確保所有項目符合道德標準。不過外媒披露,新的審查職位至今尚未出現,這也引發Clarifai內部反彈聲浪。

根據外媒報導,部分Clarifai人員擔心工作成果遭濫用,今年一月已向Zeiler遞交公開信。信中提到,Clarifai必須維持企業操守「才能在大眾的信賴下開發技術」,向外界說明企業倫理「是應該承擔的社會責任」。Zeiler則在數天後召開內部會議,並宣稱設置審核職位不符合公司利益,還直言開發AI武器就是未來的發展方向。

外媒話鋒一轉表示,越來越多的研究人員對AI技術的使用提出警告,迫使掌握相關技術的公司出面回應。除了Clarifai以外,包括Google和Microsoft等企業也正在制定企業規範,旨在確保其AI技術能符合道德標準,某些還設立審查委員會負責監督。

有關Clarifai方面,報導指出,該公司的強項在於分析即時辨識相片和影片物件的能力,這種技術能用於運輸、醫療及科研等領域,也可成為國家監控網路、散布假新聞或是提升軍備等用途;並非所有Clarifai員工都反對將AI技術用於軍備,其中支持者認為,結合AI技術的武器比起人類操作將更加準確,終可挽救更多的生命,更是減少平民傷亡和火災事故的重要工具。

報導還說,研究人員已經意識到某些公司和政府在部署AI技術上存在偏差,例如使用人臉辨識技術識別女性或膚色較深者「可能出現不準確的情況」,至於無人駕駛汽車也可能受到AI系統混淆,其他偏差可能與過去不同的安全漏洞有關。

值得一提的是,聚焦探討AI技術用於新型武器的國際會議25日在瑞士日內瓦召開,各國在會中針對設置限制的必要性及法律責任問題進行熱議。根據日媒報導,日本政府認為「人類參與武器操作不可或缺」,美國、中國、俄羅斯等國家對設置限制持保留態度,預計難以達成協定。

日媒指出,各國在限制非人道武器的《特定常規武器公約》的框架下,從2014年開始圍繞AI武器的理想方式進行討論,25日則是第4次舉行會議,各方將在29日之前針對制定國際性規則的必要性、倫理、技術管理、軍事效果等問題交換意見。


本文轉載ETtoday新聞雲:https://www.ettoday.net/news/20190326/1408228.htm
僅供學術使用,若有侵權請來信告知,將立即撤下。

問題討論:
1.試問AI技術的應用,會涉及哪些倫理議題?
2.Clarifai公司面對外界對技術開發的倫理質疑,及內部人員擔心技術外流的情況之下,假設你是創辦人Matt Zeiler你會做怎麼樣的處理?