[閒聊] 廉價硬體本地部屬deepseek模型
如題
最近搞的
使用中國廉價硬體
跑本地部屬deepseek模型
因為硬體比作者的還低
所以參數不好調
但終於跑起來了
https://i.imgur.com/MldewbB.jpeg


對阿
deepseek模型
使用中國廉價硬體(拓竹A1 mini)
參數很難調(指使用FDM)
作者是 @Aniraiden
https://www.bilibili.com/video/BV1Giti6aEvx/
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.235.84.151 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1788795767.A.4CE.html
→
09/07 23:43,
1小時前
, 1F
09/07 23:43, 1F
推
09/07 23:48,
1小時前
, 2F
09/07 23:48, 2F
推
09/07 23:52,
1小時前
, 3F
09/07 23:52, 3F
推
09/07 23:54,
1小時前
, 4F
09/07 23:54, 4F
推
09/08 00:21,
37分鐘前
, 5F
09/08 00:21, 5F
C_Chat 近期熱門文章
PTT動漫區 即時熱門文章
4
32
6
12