劍橋大學成立了一個實驗室,為的是防止機器人控制世界

劍橋大學成立了一個實驗室,為的是防止機器人控制世界

在今年的電影《機械姬》(台灣未上映, 譯名:人造意識)中,機器人艾娃被要求在圖靈測試中想辦法獲取人類的信任,讓對方幫助自己逃出去。最終,艾娃成功地逃脫了,並殺死了想要阻止自己同時也是自己的製造者。

這部電影在傳達一種聲音,如果機器人沒有學會愛,沒有學會人類的情感,它只會是一個可以不斷學習不斷模仿地冷血機器。而這樣的機器,無疑是對人類的生命存在威脅的。

雖然機器人離我們的 生活還是有些距離,不過已經有很多擔憂的聲音開始出現,擔憂機器人脫離人類控制反而控制人類,正如今年的電影《機械姬》中的結局。有這樣的擔憂的人包括霍金、馬斯克等科學大家,他們堅信機器人最終會毀滅人類。為了防止這樣的結局,科學家們開始行動了。

劍橋大學最近花1000萬英鎊成立了一個新的研究中心,研究人工智慧在發展的過程中帶給人類的機遇與挑戰,從而防止機器人在21世紀會控制世界。雖然人工智慧目前還只處在人類3、4歲的智力水平,但有研究認為,在2099年之前,人工智慧將能達到人類智力的水平,甚至是超越。重要的是,人工智慧是不斷地學習提高的。

他們會聚齊一些科學家、哲學家、社會科學家,從技術上、實用性上以及道德觀念上出發,一起來為人工智慧做風險評估。

劍橋大學的哲學系教授同時也是該研究中心的執行領導人Huw Price說,人工智慧將成為本世紀的主題之一,它是一把雙刃劍,我們在使用它來做事的同時,也會面臨一些風險。就目前來說,我們還無法分辨結果是好的,還是壞的。

人工智慧最早在1956年被提出,如今半個多世紀過去,可以說人工智慧的發展其實是很緩慢的,目前的人工智慧實際上在語言交互上便存在很大問題,更別提自主思維了。不過隨著消費機器人的普及,人工智慧的發展必然也將進入高速期。由科幻作家艾薩克·阿西莫夫提出的“機器人學三定律”中,第一二條是機器人不得傷害人類而且必須服從人類命令,最後加上去的第三條是指機器人在受到傷害時要保護自己。而誰也不知道機器人到底什麼時候會開始違背人類的命令,所以對於人工智慧的恐慌也並非毫無道理。既然無法知道,那就時刻關注著。

其實,多次在公開場合表達機器人危險論的馬斯克,同樣也投資了人工智慧公司Vicarious,理由是,為了“監測”人工智慧的發展。

 

出處:雷鋒網

 

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *

Loading