千名專家學者聯署 籲人工智慧恐導致人類滅亡

【本刊訊】國際人工智慧聯合會議(International Joint Conference on Artificial Intelligence, IJCAI)在7月25日於阿根廷首都布宜諾斯艾利斯舉行,共有超過千位科學家與企業家簽署公開信,督促聯合國禁止開發與使用自主武器(autonomous weapons),呼籲全球政府停止研發不經人類介入或選擇,即可自動攻擊的武器,避免人工智慧軍備競賽,同時也對人工智慧所帶來的威脅提出警告。

聯署信中警告,自主武器不同於核子武器,沒有那麼昂貴,原料取得也相對容易許多,因此未來將隨處可見自主武器,將被大量運用在軍事上,帶來極大的風險。信中也表示,自主武器能夠在無人控制的情況下瞄準並射擊目標,若不當使用,恐在數年內將引發世界大戰。若此技術落入黑市或恐怖組織中,後果將不堪設想。

他們認為,要是人工智慧順利發展,將會如AK-47步槍一般成為致命武器。並且,他們認為禁止人工智慧如同禁止化學與生物武器一樣重要。

2014年12月,物理學家霍金(Stephen Hawking)在接受英國媒體BBC訪問時曾表示,他相信未來的科技將會出現自我意識,並超越及取代人類,而人類受限於緩慢的生物進化過程,將無法與人工智慧匹敵。

然而,不少人認為人工智慧在戰場上可以降低戰場上人員傷亡。也有些科學家與此聯署信內容持相反意見,認為此信內容過於誇大、杞人憂天。澳洲新南威爾斯大學研究人工智慧的教授沃爾什表示,所有科技都是會帶來好處和壞處。牛津大學哲學家博斯特倫(Nick Bostrom)表示,這些學者高估了人工智慧如人腦一樣聰明的可能性,也誇大了電腦對人類的威脅。

聯署的科學家中包含霍金、航太運輸服務公司 SpaceX 執行長馬斯克(Elon Musk)等人。除科學家以外,社會學家、歷史學家、哲學家也參與連署。

沒有留言:

張貼留言