人工智能危及人類？科學家發公開信籲防其政變
2015-01-14 0411
來源：浙江在線-錢江晚報
有朝一日人工智能機器會拒絕服從人類指揮，甚至殺死或控制人類、最終統治世界嗎？包括英國理論物理學家斯蒂芬·霍金在內，數百名科學家和企業家聯合發表的一封公開信或體現了這種擔憂，公開信敦促人們警惕人工智能“脫離人類的控制”，導致災難。
目前，人工智能研究的成果已被廣泛運用，其中包括語音識別和圖像識別，以及自動駕駛的汽車。在矽谷，有估計從事人工智能業務的初創企業已超過了150家。
英、法等國媒體12日報道，這封信由非營利機構“未來生活研究所”發布。信中寫道，人工智能技術穩定發展已獲“廣泛共識”，而且未來能夠給人類帶來巨大益處。“人工智能已經爲人類生活提供便利，包括語音識別技術、圖像分析技術、無人駕駛汽車和翻譯工具”。但是，“如果沒有針對人工智能的安全防護措施，可能導致人類的未來變得黯淡，甚至讓人類滅亡”。
公開信認爲，人工智能可能導致數以百萬計人失業；長期而言，可能出現一些科幻電影中的情況，人工智能的智力水平超過人類，開始“政變”。按人工智能的發展進度，在不久的將來，機器可能以不斷加快的速度重新設計自己，超越受制于生物進化速度的人類，“最終擺脫人類的控制”。
除霍金外，在信上簽名的還有美國機器人和智能機械研究中心主任盧克·米爾豪澤、2004年諾貝爾物理學獎獲得者弗蘭克·維爾切克、美國網絡通訊軟件Skype創始人之一揚·塔利英、美國太空探索技術公司和美國特斯拉汽車公司首席執行官埃隆·馬斯克，以及一些來自美國哈佛大學、斯坦福大學等知名高校的頂尖學者和一些來自谷歌公司、微軟公司等高科技企業的工作人員。
今年早些時候，霍金就提醒，需警惕人工智能科技失控並超越人類智慧，最終破壞整個星球。太空探索技術公司和特斯拉汽車公司首席執行官馬斯克在美國麻省理工學院參加一場活動時說：“我認爲對待人工智能我們必須非常謹慎。
按照我的猜想，人工智能可能是我們面臨的最大滅絕風險。”馬斯克說，創造人工智能猶如“召喚一只惡魔”，“在一些故事中，有人擁有五星陣法和聖水……他確信自己可以控制這只惡魔，不過事實並非如此”。
