Re: 最近看完攻殼的一些感想(有捏)

看板Ghost-Shell作者 (逸蒼雲)時間16年前 (2008/07/02 20:00), 編輯推噓0(0025)
留言25則, 3人參與, 最新討論串33/45 (看更多)
※ 引述《shamanlin (薩滿已死有事燒紙)》之銘言: : : 如果你指的「訓練」,是指一台兵器該有的program : 那Tachikoma確實是已完成訓練 : 與其他的純軍事用AI相比 : Tachikoma擁有同樣的能力毋庸置疑 我說的[訓練],是針對類神經網路的訓練 (這是我與rexrainbow在討論類神經網路時使用的名詞) 也就是AI作出的反應和行為 : 如果是以可學習成長的AI來論,那Tachikoma的確是實驗品 : 但我不知道,為什麼你一直要執著於實驗品不能拿來用 我拿槍作比喻 你知道這把槍在沙漠中會卡彈 不過由於你已經知道了 所以可以避開在這個情況 這是問題已經在穩定控制下的情況 可成長的AI也是一樣的情況 如果他是已經學習完成的狀態 也許在特定情況下會當機或是反應不良 那麼你就可以事前作準備甚至修正掉 不會發生昨天執行這個命令還好好的今天就抗命的情況 但如果塔其克馬是實驗品 那麼這個情況就很有可能發生 也許他昨天讀了佛經認為殺生不好 今天你出任務時 在關鍵的時候不開槍你要怎麼辦? 而這種情況會隨著AI的成長突然出現你無法預期 作為被要求具有可靠性的兵器 這並不算是一個優點 : 如果只是把Tachikoma當作單純的兵器,或backup來用 : 那Tachikoma早已經是完成品了 : 你有看過Tachikoma在動畫中問「欸,我要怎入侵?」? : 或是平常還需要做練習射擊,調整射控系統? : 純以兵器來用,Tachikoma就是個完成品 : 他有足夠的能力去完成九課所發下的命令 : 甚至還自豪(?)的說,射擊精準度比齋藤還高 : 而Tachikoma被稱作為完成品,或實驗品 : 指的是他的可自行學習機制,還可以成長 : 為什麼素子會讓這樣的可學習AI待在九課 : 一方面是他自己的好奇心與惡趣味(?) : 二方面也是因為九課並非單純的戰鬥組織 : 除了體力活外,腦力也是很重要的一環 : 透過學習與成長,期待Tachikoma能用更靈活的方式完成指令 : (最後靈活過頭,超越了指令,試圖完成指令背後的目的) : 利用不同的個體,造成更多的可能性,同時將資料反饋 : (放在同一個衛星,也可以用不同的晶片的) : 如果有其中一台成長到「被認為」已經完備 : 自然就會以這台作為研究基礎,甚至量產 : 要單單當工具來用,當然也是OK : 但是就無法期待AI成長為可信賴的夥伴 : 永遠只是一個口令一個動作的「工具」 你如果希望塔其克馬可以不斷成長又保持穩定 最好的方式 就是將每一台的資料回傳給伺服器 (這是他們現在就在作的事) 然後在經過測試後推出2.0版本的機型或更新擋 版本管理在專案中很常見 我們沒有必要讓前線的人員擔不必要的風險 (尤其是難以取代的人才) -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 123.194.129.236 ※ 編輯: rabbit66376 來自: 123.194.129.236 (07/02 20:13)

07/02 20:31, , 1F
1. 你認同了"思考"對戰車而言是不穩定的因子
07/02 20:31, 1F

07/02 20:32, , 2F
2. 你提出了一個你認為可以"思考"又可以保持穩定的方法
07/02 20:32, 2F

07/02 20:33, , 3F
3. 但顯然SAC並沒有採用你的方法, 導致不穩定因子存在
07/02 20:33, 3F

07/02 20:38, , 4F
「思考」這件事情本身就是不穩定因子
07/02 20:38, 4F

07/02 21:46, , 5F
我認同思考本身是不穩定的,所以AI的思考本質與人不同
07/02 21:46, 5F

07/02 21:49, , 6F
而假設未完成的AI會有突發狀況 那在無法保證的情況下
07/02 21:49, 6F

07/02 21:50, , 7F
直接使用很有可能產生非預期的錯誤或反應
07/02 21:50, 7F

07/02 21:51, , 8F
如果只是語音辨識,那可能只是沒有功能而已
07/02 21:51, 8F

07/02 21:51, , 9F
如果是車輛載具,那可能會發生意外
07/02 21:51, 9F

07/02 21:52, , 10F
如果是軍用武器,那可能就是死亡
07/02 21:52, 10F

07/04 09:57, , 11F
這個討論串看至今日, 覺得從一開始的角度就不同了
07/04 09:57, 11F

07/04 09:58, , 12F
rabbit著重在於"軍事用"->"穩定"->"單一規格"
07/04 09:58, 12F

07/04 09:58, , 13F
然後類比為現今的產品, 得到"經驗複製"的結論
07/04 09:58, 13F

07/04 10:00, , 14F
所以我認為 rabbit認為同步是"不該要有"差異性, 而不是
07/04 10:00, 14F

07/04 10:00, , 15F
同步"有沒有"差異性的可能
07/04 10:00, 15F

07/04 18:46, , 16F
他要的只是單純接受命令的工具,與思考戰車的優點完全
07/04 18:46, 16F

07/04 18:46, , 17F
背道而馳了
07/04 18:46, 17F

07/18 15:14, , 18F
我從塔其克馬身為軍用品&當代的AI實作效果,發現了
07/18 15:14, 18F

07/18 15:15, , 19F
塔其克馬的行為是屬於異常現象,並試圖找出原因。
07/18 15:15, 19F

07/18 15:17, , 20F
所以應該是軍用品>商品>穩定無錯誤可能>已收斂>規格化
07/18 15:17, 20F

07/18 15:18, , 21F
當代也並沒有很多異常的AI例子,目前唯一知道的就是從
07/18 15:18, 21F

07/18 15:19, , 22F
實驗是脫逃的傀儡王。
07/18 15:19, 22F

07/18 15:19, , 23F
而他也標明了這是實驗品,不是商品。
07/18 15:19, 23F

07/18 15:20, , 24F
不難想像當時的AI應當都是屬於馬尾型的,才不至叛or逃
07/18 15:20, 24F

07/18 15:22, , 25F
那身為商品的塔其克馬之所以會抗命又是為什麼呢?
07/18 15:22, 25F
文章代碼(AID): #18QstrsX (Ghost-Shell)
討論串 (同標題文章)
文章代碼(AID): #18QstrsX (Ghost-Shell)