看板 [ C_Chat ]
討論串[閒聊] 為什麼開源模型對硬體的要求可以降低
共 2 篇文章
內容預覽： 開啟 | 關閉 | 只限未讀
首頁
上一頁
1
下一頁
尾頁
#2
Re: [閒聊] 為什麼開源模型對硬體的要求可以降低
推噓3(3推 0噓 30→)留言33則，0人參與, 9分鐘前最新作者attacksoil (第三方程式)時間1小時前 (2026/08/11 08:15), 52分鐘前編輯資訊
0
0
0
內容預覽:
本宅理解是這樣:. 1. 模型越大越聰明 模型越小運行越快. 但隨著技術進步 小模型也會變聰明. 2. "量化"是指把大模型刪減為小模型 仍盡量維持模型智能的技術. 量化技術也不斷改善. 3. 這兩年有一個新技術叫MOE 他原始的意義. 其實主要是為了讓大模型運算加速 (讓大模型跟小模型一樣快).
(還有267個字)
#1
[閒聊] 為什麼開源模型對硬體的要求可以降低
推噓1(5推 4噓 23→)留言32則，0人參與, 8分鐘前最新作者cake51640 (uuuu4ni)時間1小時前 (2026/08/11 07:36), 編輯資訊
0
0
0
內容預覽:
嗨嗨. 阿肥在想. 之前開源模型. 可能都要16g 才能用. 後來開始有8g能跑的版本. 為什麼呢. 有木有掛. 分享分享. -----. Sent from JPTT on my iPhone. --. ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.9.196.66 (臺灣). ※
首頁
上一頁
1
下一頁
尾頁