【新三才編譯首發】75 歲的傑佛瑞·辛頓 (Geoffrey Hinton) 在給《紐約時報》的一份聲明中宣佈他即將從穀歌辭職，他說他現在對自己的工作感到後悔。
他發出警告，人工智慧聊天機器人的一些危險“相當可怕”。
“現在，據我所知，他們目前並不比我們聰明。但我認為他們很快就會做到這一點。”
Hinton 博士也承認他的年齡也是他決定離開這家科技巨頭的原因之一，他告訴 BBC：“我 75 歲了，是時候退休了。”
辛頓博士在神經網路和深度學習方面的開創性研究為當前的人工智慧系統（如 ChatGPT）鋪平了道路。
AI上運用的神經網路，在學習和處理資訊的方式上類似於人腦的系統。這個神經系統使 AI 能夠像人一樣從經驗中學習。這一能力被稱為深度學習。
這位元英裔加拿大認知心理學家和電腦科學專家告訴 BBC，聊天機器人可能很快就會超過人腦所掌握的資訊水準。
“現在，我們能看到， GPT-4 之類的人工智慧在它擁有的常識知識量上讓人類黯然失色，遠遠超過了人類。而在推理方面，它雖然表現的沒有那麼好，但它已經做到了可以進行簡單的推理，”他說。
“鑒於AI發展進展的速度，我們預計AI在邏輯推理方面很快就會取得很大的進步。所以我們需要擔心這一點。”
辛頓博士曾提到了有可能試圖將 AI 用於做“壞事”的“壞演員”。當被要求對此進行詳細說明時，他回答說：“這只是一種最壞的情況，如果發生將是人類的噩夢。
“你可以想像，例如，像俄羅斯總統弗拉基米爾·普京這樣的“壞演員”將AI機器人作為他的武器。”他補充說：“我得出的結論是，我們正在開發的智慧與我們人類擁有的智慧非常不同。“我們是生物系統，而AI是數位系統。最大的區別在於，對於數位系統，將有許多相同的權重集，相同的世界模型。
“每個AI可以單獨學習所有這些副本，並且可以在AI之間即刻分享他們的知識。所以就好像你有 10,000 個人，每當一個人學到一些東西時，剩下的9999個人都會自動知道。這就是這些聊天機器人比任何人類都知道的更多的原因。”
英國高級研究與發明局主席馬特柯利弗德認為辛頓博士的聲明“突顯了人工智慧能力正在加速發展的速度”。“這項技術有巨大的優勢，但世界必須在人工智慧安全和控制方面進行大量和緊急的工作，”他說。
辛頓博士加入了越來越多的專家的行列，這些專家跟他一樣，都對 AI 的發展速度和發展方向表示擔憂。
“我們需要退後一步”
今年 3 月，由從事人工智慧領域工作的數十位專業人士共同簽署了一封公開信，其中包括科技億萬富翁埃隆·馬斯克 – 公開信中呼籲暫停所有比當前版本的人工智慧聊天機器人 （ChatGPT）更先進的版本的開發工作，先著手設計出強大的安全措施並實施。
與辛頓博士一起因在AI深度學習方面的研究而獲得 2018 年圖靈獎的另一位AI“教父” 約書亞·本吉奧 (Yoshua Bengio) 也簽署了這封信。
本吉奧先生寫道，正是由於人工智慧系統的“意外加速”，“我們需要後退一步”。
但辛頓博士也表示，“在短期內”，他認為人工智慧帶來的好處多於風險，“所以我認為我們不應該完全停止開發人工智慧，”他補充道。
他還表示，在AI領域的國際競爭意味著很難暫停研發工作。“即使美國的每個人都停止開發，中國也不會停止並且有可能取得領先優勢，”他說。
辛頓博士還表示，他是科學專家，而不是政策專家，政府有責任確保人工智慧的開發“充分考慮如何阻止它變得危險”。
“負責任的做法”
辛頓博士強調，他不想批評穀歌，這家科技巨頭“非常負責任”。他說，“我其實想說一些關於穀歌的好話。如果我不為穀歌工作，他們會更可信。”
谷歌首席科學家傑夫·迪恩(Jeff Dean)在一份聲明中表示：“我們仍然致力於對人工智慧採取負責任的態度。我們不斷學習瞭解新出現的風險，同時也大膽創新。”
值得注意的是，AI 聊天機器人是現在最流行的，但它只是人工智慧的一個方面。
AI 技術還用來控制視頻流平臺演算法，決定您接下來應該觀看什麼。AI 技術還可以在招聘中用來過濾工作申請，被保險公司用來計算保費，甚至輔助人類醫生參與醫療診斷。
不過，我們現在看到的是 AGI（通用人工智慧）的興起，可以對其進行訓練以在職權範圍內做很多事情。例如，ChatGPT 只能為查詢提供文本答案，但正如我們所看到的，其中的可能性是無窮無盡的。
但 AI 加速發展的速度甚至令其創造者感到驚訝。自 2012 年辛頓博士構建了一個開創性的圖像分析神經網路以來，它發生了巨大的變化。就連谷歌老闆孫達爾·皮柴 (Sundar Pichai)在最近的一次採訪中也表示，即使是他也不完全理解他們的 AI 聊天機器人 Bard 所做的一切。
人類似乎現在正坐在一列高速列車上，而且擔心有一天這列高速列車會開始建造自己的軌道。
（編譯：BOXING）
（文章來源：新三才編譯首發）
