嫩嫩的程式學習紀錄 - Jim

為何我們會想寫這篇文章?

續上篇「美國將AI納入軍用!到底人工智慧會成為人類救星還是殺人機器?(上)」關於 Google 拒絕國防部 AI 合作的原因以及人工智慧潛在風險的介紹後，本篇進一步介紹是哪間 AI 公司接手 Google 承接美國國防部的人工智慧軍武專案，以及濫用人工智慧於武器上，未來可能導致的致命結局。面對讓人不安的「自動機器」時代，我們能做的是……

拯救更多性命，還是殺死更多人？

而在 Google 結束美國國防部 Project Maven 專案後，國防部又找來了 AI 新創公司 Clarifai 接手，繼續研發無人機影片的辨識技術，為的是使之能更精準地協助軍備。

經過 Google 員工的抗議，目前外界普遍對 AI 軍用化抱持反對意見。面對外界質疑，Clarifai 創辦人 Matt Zeiler 聲稱：「與軍方合作是為了拯救更多士兵和平民！」他認為，AI 能讓武器變得更精準而減少傷亡，最終將拯救更多性命。

但這就像是一把雙面刃，能即時辨識影片中的人物，雖然可能及時拯救將死的性命，但同時也可能被國家利用，成為監控人民的手段。AI 技術究竟是增進人類福祉、還是成為殺人武器？

充滿殺人機的未來世界

人工智慧教授斯圖亞特．羅素（Stuart Russell）曾分享一段 7 分鐘的影片，警告充滿 AI 的未來世界沒有我們想像的這麼樂觀。

影片描述了一個人臉辨識、自動化無人機技術已經完全普及的世界，幾乎所有人都能使用這種科技。

片中最駭人的橋段，是一群大學生正在上課，突然之間好幾架比手掌還小的「機器屠夫」破門而入，先快速辨識人臉，下一秒槍聲此起彼落，學生一個個被擊斃，一名正和兒子視訊的母親眼睜睜看著自己的兒子被貫穿頭顱。

而後當新聞主播訪問專家：「你認為是什麼人犯下這樣的罪刑呢？」專家冷靜地說：「任何人。」

最可怕的是，這並不是什麼未來科技！這種殺人機器早就已經存在，只是還未臻精良、沒有大量生產，但其鎖定特定「敵人」的特徵：如臉部、指紋、聲音辨識等的基本原理，現已逐漸融入生活，如中國就已全面運用人像辨識技術來抓犯人。若這樣的科技繼續發展，將強大到足以毀滅大量人口。

AI 雖然可以為人類帶來許多便利，但如果人們只依賴AI人工智慧，卻不理解這個系統是如何運作，將對自身帶來極大的危害，我們所能做的，或許就是努力去了解這些「最可靠也最可怕的存在」，才不會在未來任機器宰割。