[奇諾] Google創辦人：小心AI可能反過來操縱人類

看板kino作者festa (諒)時間6年前 (2018/05/01 18:17)推噓1(1推 0噓 0→)

留言1則, 1人參與討論串1/1

抱歉，原文標題太長，只能放部分原標題是： Google創辦人警告AI的隱憂：樂觀看待但得小心AI可能反過來操縱人類 https://www.ithome.com.tw/news/122787 看到這個標題我還以為他看了奇諾之旅...... 以下是連結內文繼比爾蓋茲、霍金之後，Google創辦人暨Alphabet總裁Sergey Brin也公開表達對人工智慧（AI）威脅的疑慮，表示需要科技公司的謹慎態度。該公司每年一度的《創辦人的公開信》（Founder’s Letter）中，Brin先引述《雙城記》的「這是最好的年代，也是最壞的年代…是光明的年代，也是黑暗的年代」來描述現今時代有極佳的展望及可能性，也需要周延思慮及責任感。他指出，Google創立之初使用的Pentium II浮點運算是每秒1億次，現今的GPU約為20兆次，而Google自行研發的TPU更來到180兆次。不過比起量子運算都是不算什麼，Google正在研發的72 qubit處理器原型運算力是數百萬台傳統電腦的總和。運算快速發展原因來自摩爾定律，以及遊戲產業與Ethereum等加密貨幣推升對GPU運算力的需求。但最重要因素是十年以來機器學習的發展，它同時是更強大處理器的產物，也是促進處理器發展的動力。他也提及Google將機器學習用於各種產品上，包括Waymo、Google Home、Google Translate、Youtube、Gmail的自動回覆、提升硬體的相機和音質，或是糖尿病視網膜病變的篩檢等。AI的應用五花八門，堪稱「科技復興」（technology renaissance）。但他也指出，AI也引發疑慮，包括在各產業造成的就業問題、人類是否能掌控它、它是否會反過來操縱人類、合理性及公平性等問題。其中安全性問題小到自駕車效能如何驗證，大到AI是否發展出知覺。為此Alphabet內部也展開了關於AI安全性、倫理及業界合作計畫。這也是比爾蓋茲、特斯拉執行長Elon Musk、已故英國天文物理學家霍金之後，最新一位科技龍頭對AI表達憂慮。但Brin似乎對AI較有信心，他預期機器學習仍然持續快速發展，而Alphabet在產品發展上也會更謹慎、思考更周詳，對AI發展抱持「審慎樂觀」態度。目前Alphabet機器學習兩大研發中心Google Brain及DeepMind會參與Alphabet旗下事業如生技公司Verily、自駕車公司Waymo、智慧城市Sidewalk Labs及無人機連網基礎架構計畫 Project Wing、及Nest等AI相關計畫。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.184.3.29 ※ 文章網址: https://www.ptt.cc/bbs/kino/M.1525169840.A.968.html