[創作] Project DiVA CH.03

看板Vocaloid作者NanaseBard (某Ｂ)時間13年前 (2012/12/15 23:49)推噓3(3推 0噓 2→)

留言5則, 4人參與討論串1/1

Digital Vocal Avatar AI prototype 001. 啟動十分鐘後，程式損毀，原因不明。 Digital Vocal AvatarAI prototype 002. 初步排除硬體故障，十五分鐘內模擬程序中斷超過三十次。人格、會話機能逐步喪失，原因不明。 Digital Vocal AvatarAI prototype 004. 嘗試改寫函式庫與人格呼叫流程後再運行，三十分後執行緒崩潰。核心套件不明原因過載，程式碼毀損超過容錯值，試驗暫時告終。 Digital Vocal AvatarAI prototype 009. 程式損毀，原因不明。運作時間三十九分鐘。 Digital Vocal AvatarAI prototype 021. 程式損毀，原因不明。 Digital Vocal AvatarAI prototype 035. 程式損毀，原因不明。至今為止AI運作時間不超過四十五分鐘 …… Digital Vocal AvatarAI prototype 038. 前述原型程式全數因不明原因毀損，運作失敗。計畫領導人皆藤博士，於機房即時監控運作仍然無效。核心機能「環境認知」與「自我存在確認」運作後AI即無法溝通，隨即損毀。 Digital Vocal AvatarAI prototype 039. 仿生機械素體測試正常，皆藤博士決定直接將AI測試從電腦模擬轉進實際運作。實機測試方式為模擬情境，將事先設定好的記憶輸入後，與工作人員進行生活片段模擬。測試前一週順利通過，AI相當確認自己為普通人類，並與周遭人員互動良好。然而當測試結束後，AI的人工記憶出現異常，人格區出現錯誤迴圈。最後AI帶著素體從四樓的高度墜落，並在機身半毀但部份元件仍正常運作的情況下爬行至高壓電箱，觸摸強烈電流致使組件全毀。「這件事在當時的學界，可是相當轟動的呢……」明子用相當平靜的態度，把事件緩緩道來。然而，在昏暗的研究室裡，周遭LED燈號與電腦螢幕的光源交錯，在明子的臉上留下不安定的光影。「轟動到人工智慧研究協會召開公聽會，把皆藤抓去面對大眾與媒體的質疑。」「那個AI認為自己是真正的人類嗎？」「皆藤是這麼設定的沒錯，他的AI幾乎完整模擬了人類的精神運作模式，所以他堅持自己的AI是完美的。」明子一邊回答，一邊感嘆。事實上，皆藤的AI設計靈感，來自於明子當年的一篇論文。她將人腦運作時的生物電流成功解析，本來的目的是要將解析出來的訊號電子數位化，並得以控制電子義肢甚至器官等。這在上個世紀原本是只能簡單控制開關的技術，而且有許多瓶頸存在。然而皆藤從中看出了大腦訊號的模糊交換模式，並將這個概念用在AI的開發上。「完美……嗎？」未來眼中光芒閃爍。「當他在公聽會上這樣說的時候，還招來在場民間人士的強烈反對，說『這是對神的褻瀆』……」說到這邊，明子冷不住輕笑了一聲，冷冷地、有點嘲諷地，然後繼續說：「結果皆藤大聲回罵『神不過是人參考自己的形象創造出來的東西，所以連人類的無能都一併繼承了吧』，呵。」「完美到選擇自我毀滅的AI……嗎？」「這個事件凸顯了皆藤的AI存在相當大的爭議，其一是AI否定了自身的存在，其二是AI學會了『謊言』。」「謊言？」「對，謊言，不真實，與事實相反的語言。會這麼說是因為AI墜樓之前，曾被當班的工作人員詢問目的地， AI回答說要去找皆藤，實際上卻是走到樓頂，並且還破壞了邊緣的圍欄，可見決心相當堅定。」「未來不明白AI為什麼要這麼做，明子知道嗎？」「其實……」明子停頓並思索了一下。「皆藤他們找不出原因，但在我的角度來說，這很明顯是『精神分裂』的症狀。」「精神分裂？」「因為強烈的自我否定而導致出現攻擊性甚至自我毀滅的行為，人類特有的精神障礙之一。」「人類特有的症狀也會發生在AI上？」「事實上，也只有皆藤的AI會。在公聽會上時，我的論點剛開始還不被接受呢。」說到這裡，明子撥弄了一下耳邊的髮絲，喃喃說：「只是沒想到會是用這種方式，證明皆藤AI的價值與能力啊……」「那是……什麼樣的『感覺』呢？」「我想，大概是AI與機械素體能力的強烈落差吧。測試用的機體跟未來妳現在的身體機能差很多，除了基本的行動與對話能力外，其他的感官如觸覺、味覺是完全沒有的，就好像……」明子停了一下，她不確定自己的比喻未來是否能明白。「就好像皆藤站在妳面前，妳知道只要手稍微一舉就能碰到，但手就是動彈不得。」「但是，AI一開始卻沒有發現這點？」「這就跟『做夢』很像。人類在做夢的當下很難察覺到自己正在作夢，但在醒來之後才會發現裡頭的一切充滿荒謬與衝突。於是當發現自我的重大缺陷、卻又不能接受的時候，就只能選擇自滅了。」「這就是，博士給我這顆心臟的原因嗎？」「坦白說……我不知道……」明子的眼神迷濛了起來。她想起了皆藤要求她取出心臟的那天，他眼神中那強烈的狂氣、深深的疲憊、以及像是要哭泣的恐懼。「也許……當初我不該答應他的……」明子低語。為什麼總是不能拒絕皆藤呢？從手術後的那天起，明子一直這樣問自己。「所以AI選擇了銷毀自己的存在，明子稱這個為『自殺』對嗎？」「我想，這應該是最貼切的形容吧，在公聽會共識出來後，大家一致認為，如果皆藤的AI真的等同於人類，那麼這個實驗，不是跟逼死一個活生生的人類一樣嗎？」事實上，在那場公聽會結束後，協會頒布了一個AI設計公約： 1.AI不得具備成為人類﹑或是認定自身為人類的認知機能。 2.AI不得說謊。 3.AI必須保護自己的存在。這個公約某種程度對人類創造事物的道德界線做出了限定。雖然很像流傳已久的「機械人三原則」，但這並非全然出於道德考量。一方面為了避免出現類似的AI失控事件，阻止輿論譴責。一方面降低風險與隨之出現的成本考量。更重要的，是對皆藤這樣太過激進的開發者進行箝制。「所以，未來不能認為自己是人類，不然會有一樣的結果，對嗎？」未來淡淡地問，不知道是否是明子的錯覺，未來的臉上，彷彿帶著些許落寞：「博士說，未來無法取代琉香，博士很難過。而未來不能是人類，所以博士不喜歡未來？」「妳……」明子瞪大了雙眼盯著這個十分鐘前心智應該還只是嬰兒的人工少女，想起了皆藤。能夠寫出這麼貼近人心的AI的天才，卻如此不瞭解人心，這究竟是什麼樣的諷刺？「不，那傢伙其實不喜歡的……也許是自己也說不定……」沉默，在兩人之間降臨了片刻。「那麼，那些開發中損毀的AI，博士是否找出原因了？」未來像是想起了什麼，突然開口發問。「其實沒有，目前只能推測是AI與硬體有某種程度的衝突吧。」明子搔了搔頭，目光看到了未來手中那罐只喝了一口的咖啡。「未來，如果不喝的話，咖啡可以給我嗎？」「啊……」聽到明子的要求，未來這才發現到自己手中已經拿很久的咖啡。「對不起，明子，妳有說過咖啡要冰的才好喝……」未來一邊道歉一邊站起身，將罐裝咖啡遞給了明子。看著朝自己伸過來的那雙纖細的手，明子接過咖啡時，忍不住順手撫摸了一下。「好冰冷……」明子心中感慨，不自覺地握住未來的手。「妳並不需要道歉……」明子將本要說出的話給吞了回去。看到拿著咖啡的未來，心中直覺認為再這樣下去咖啡會被手溫弄暖。但其實未來並不是人類，而在剛剛，明子忽略了這個事實。恐怕未來現在依舊遵照設定，將自己認定為與人類相異的物種。現在如此，以後也將這樣下去。未來的AI，不會犯這種認知上的錯誤，人類也不希望AI犯錯。會有認知上錯誤的，只有人類。然而，當AI開始趨近於人類，是否也表示AI開始接近錯誤？「明子？」被明子握住雙手的未來，無法理解明子的行為。「妳……覺得這一切都是錯誤的嗎？所以選擇了沉默？」明子沒有任何回應，只是在心中不斷地謫問。她盯著未來胸口的心臟，那本不該屬於未來的、甚至……「不該屬於皆藤」的人類心臟。看著不發一語的明子，未來本來想開口說些什麼，卻在瞬間頓了一下。那是相當複雜的表情，那是未來難以理解的表情。但是在那瞬間，未來將眼前的明子，與剛剛的博士重疊在一起。未來那尚未完全運作的觸覺機能，感受到明子的體溫。明子的手微微顫抖，那頻率化作細碎的電波，在未來的腦中畫出複雜的波形。那是，一種「抽象」的圖案，未來感到熟悉，卻在記憶體中遍尋不著的圖案。所謂抽象，並非無法理解的事物。而是其內含的情報量，遠超過人類語言表達的範圍。未來正式啟用以及誕生，不過短短的數十分鐘，在這段期間內，未來找不到相符合的情報。熟悉、但卻沒有記憶，那麼，排除種種的因素，只剩下一個區段可以搜索…… 「明子……」「嗯？」「博士之前開發的，那些毀損的AI……」「原因不明的那些嗎？」未來的雙目，光芒閃爍。「未來……也許知道原因……」 -- 唔……劇情依舊沒有什麼進展(被打) 角色好像開始脫離自己的控制了雖說控制本身是一種很愚蠢的行為就是但是……這個Vocaloid到底要不要唱歌啊(喂喂喂喂) -- -- 回憶，總在孤寂時最鮮明... http://www.plurk.com/NanaseBard ～吟遊詩人的黑沙庭院 -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 101.160.197.184