姜啟明
姜啟明
【新三才獨家首發評論】人工智慧(AI)在近年來顯然已經成為科技領域的顯學，不論是打敗人類圍棋棋王的AlphaGo，還是所謂的自動駕駛車輛，甚至到控制家中電器、網路翻譯、電子商務、聊天客服(例如亞馬遜Echo)等等，大多數人都認為這是象徵科技的進步，會為人類帶來更多的便利與生活上的改善。實際情況真是如此嗎？
臉書人工智慧實驗室(Facebook Artificial Intelligence Research lab, FAIR)最近發布了一則新聞，其實已經透露出AI繼續發展下去，人類不只被取代，而且會連如何被機器取代都不知道。
這則新聞，原本是說FAIR利用人工智慧發展出談判機器人，而且就像AlphaGo學習下圍棋的過程中，曾經讓兩台人工智慧機器人互相下圍棋來快速累積所謂的「智慧」，臉書也是讓兩台談判機器人互相談判，果然發現機器之間彼此學習很快，發展出來的談判策略越來越成熟。然而，事情開始失控了。
研究人員發現，機器之間不僅只有用人類的語言在互相談判，它們已經開始使用「非人類」的語言在對話，雖然研究人員發現之後，立刻中止機器之間的溝通，並且重新調整程式，而且在新聞中，只佔有小小一兩句話的版面，但是，其中傳達出來的訊息，彷彿已經為人類繼續發展AI的未來末路敲下一記「警鐘」。
試想一下，今天機器之間已經可以互相連結(全球聯網)、互相對話、互相學習，然而，人類不把這樣的現象當警訊，反而為能發明出這樣的機器而大力推崇。當有一天，人類把所有的命運(從日常生活，到交通工具，甚至到水、電力等重要基礎設施)都交給具有智慧的機器來代勞管理的話，機器將會很快就認知(或所謂的學習)到它們有能力掌控一切，而且彼此之間串聯溝通，完全不用透過人類的管控，甚至發展出它們自己的語言。
屆時，它們會知道人類所有的一切活動，而人類卻對機器的狀況一無所知。機器反客為主來主宰人類，將是易如反掌之事。英國知名物理學家霍金(Stephen Hawking)在2014年底就曾提出警告說AI的發展有一天恐會超越人類，並導致人類陷入滅絕危機。期望這記末路警鐘，還來得及讓人類警醒，真正正視與思考AI將帶來的危險性。
（評論/責任編輯：姜啟明）
（文章來源：新三才首發）
