网页
资讯
视频
图片
知道
文库
贴吧
地图
采购
进入贴吧
全吧搜索
吧内搜索
搜贴
搜人
进吧
搜标签
日
一
二
三
四
五
六
签到排名:今日本吧第
个签到,
本吧因你更精彩,明天继续来努力!
本吧签到人数:0
一键签到
可签
7
级以上的吧
50
个
一键签到
本月漏签
0
次!
0
成为超级会员,赠送8张补签卡
如何使用?
点击日历上漏签日期,即可进行
补签
。
连续签到:
天 累计签到:
天
0
超级会员单次开通12个月以上,赠送连续签到卡3张
使用连续签到卡
03月17日
漏签
0
天
deepseek吧
关注:
106,879
贴子:
188,540
看贴
图片
吧主推荐
游戏
1
2
3
4
下一页
尾页
131
回复贴,共
4
页
,跳到
页
确定
<返回deepseek吧
>0< 加载中...
用4080m跑deepseek-r1-32b-q4模型实况贴
只看楼主
收藏
回复
轻尘呦
Modelv1
8
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
上次已经跑过了14b,但是4080m明显还能更强,这次来试试32b
q8肯定是跑不了了,试试q4km吧
选用模型:
DeepSeek-R1-Distill-Qwen-32B-Q4_K_M-GGUF
送TA礼物
IP属地:天津
1楼
2025-01-30 11:11
回复
轻尘呦
Modelv1
8
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
我使用LMstduio来进行混合运算,因为32b q4要求显存在20左右,4080m 12G明显是不够用的
还好我有32G内存,这样就能去跑32b了
IP属地:天津
2楼
2025-01-30 11:16
回复
收起回复
轻尘呦
Modelv1
8
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
这是github上对distill的介绍:DeepSeek-R1-Distill 模型是在开源模型的基础上进行微调的,使用了 DeepSeek-R1 生成的样本。我们对它们的配置和分词器进行了轻微的修改。
IP属地:天津
3楼
2025-01-30 11:16
回复(1)
收起回复
AsgardETO
Modelv1
8
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
我嘞个
IP属地:吉林
来自
Android客户端
4楼
2025-01-30 11:16
回复
收起回复
轻尘呦
Modelv1
8
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
LMStudio配置如下(可以参考下)
CPU:i9-13980hx
IP属地:天津
5楼
2025-01-30 11:19
回复
收起回复
轻尘呦
Modelv1
8
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
内存,显存占用情况
IP属地:天津
6楼
2025-01-30 11:21
回复
收起回复
轻尘呦
Modelv1
8
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
吃个饭,回来再更新
IP属地:天津
7楼
2025-01-30 11:22
回复
收起回复
好名字都wu
Dataseed
1
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
速度怎么样
IP属地:浙江
来自
Android客户端
8楼
2025-01-30 11:56
回复(2)
收起回复
周一的小伙伴
Tensor
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
和lz配制差不多,4070ti,32g ddr4,看看能不能强跑32b
IP属地:广东
来自
Android客户端
9楼
2025-01-30 13:14
回复(1)
收起回复
Ferrer丶Rocher
Bytelink
2
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
多少token/s
IP属地:广东
来自
iPhone客户端
10楼
2025-01-30 15:16
回复(1)
收起回复
SWing
Dataseed
1
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
13700k + 64GB内存 + 4080s win11
ollama 直接拉32b q4的模型,openWebUI 中提问
提出问题:使用java 写一个冒泡算法的程序
思考用时:19分钟58秒
完整用时:21分钟48秒
能跑起来 ,玩玩还行,但工作学习中 还是没法使用,太慢了
IP属地:山东
12楼
2025-01-30 15:51
回复(6)
收起回复
轻尘呦
Modelv1
8
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
(众所周知,过年是需要去亲戚家吃饭的,所以在外面吃饭久一点很正常((()
首先来试试写个python井字棋游戏
思考使用时间
速度:3.92tok/s
这个速度,勉强能用吧。。。
IP属地:天津
13楼
2025-01-30 16:17
回复
收起回复
轻尘呦
Modelv1
8
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
再来试试r1的强项
来个简单的数学问题:3.11和3.9谁大
速度:3.60tok/s
说实话,有点慢,改改设置试试?
IP属地:天津
14楼
2025-01-30 16:25
回复
收起回复
轻尘呦
Modelv1
8
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
ok在经过了漫长的调试后,终于找到了我目前这个配置最佳的速度
同样的”请用 python 写一个井字棋游戏“这个问题可以跑到5tok/s左右(4.83tok/s)
属于是一个勉强够用的水平了,可以参考下我这个配置
IP属地:天津
15楼
2025-01-30 17:22
回复(1)
收起回复
派派不要似好吗☁️
Logicnet
5
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
效果怎么样
IP属地:广东
来自
Android客户端
16楼
2025-01-30 17:30
回复(1)
收起回复
登录百度账号
扫二维码下载贴吧客户端
下载贴吧APP
看高清直播、视频!
贴吧热议榜
1
王楚钦全面压制林诗栋夺冠
1990290
2
HLE夺先锋赛首冠含金量如何
1782108
3
谁把JKL带到了现在的位置
1724240
4
如何评价三角洲抢东西被开盒
1522881
5
315晚会哪个爆料最让你心惊
1186848
6
TES刷新LPL最差外战纪录
892075
7
我独自升级海外热度超海贼鬼灭
839904
8
童年回忆阿衰回来看我们了
619114
9
Fami通年度游戏给了FF7重生
512094
10
有没有觉得悲情英雄套路很无脑?
416010
贴吧页面意见反馈
违规贴吧举报反馈通道
贴吧违规信息处理公示