DeepSeek V4.1 上 4×RTX 3090:视觉链路的两个坑和修复

把带视觉的多模态大模型(DeepSeek V4.1,748B)部署在一台 4 张消费级 RTX 3090 的机器上,做成能聊天、能发图的服务。过程中踩了两个"不报错、只是悄悄错"的坑:一个是视觉编码器里的线程竞态,数值偶尔会飘;另一个是发一张稍大的图直接崩出 cuBLAS status 13,小图却全部正常。两个都修掉了,一个一行代码,一个五行。最终效果:1554×1078 的大图完整跑通,25 秒出 601 个 token(31.2 tok/s),模型对图片内容的描述准确无误。

阅读更多
我的首个硬件开发

我的首个硬件开发

故事背景

人到30,岁月的痕迹就会在身上体现出来。老婆大人一直很在意她的颈纹,说很难看(我倒是没有很在意啦😅),然后刷小红书看到颈纹治疗仪,看了下价格动辄上千,有的有2 3千,而且效果怎么样也不是很清楚。然后跟我说了这个事,也让我看下原理啥的。

经过一番调查,发现红光(波长720纳米左右)对于胶原蛋白确实有一定的促进左右,现在也有医院有专门的红光治疗,但是要排队,收费也不便宜。顺便说下搜索到的信息里也提到蓝光对于治疗痔疮有一定效果。而胶原蛋白在一些文章里也提到确实对于治疗颈纹有一定的效果。但是如果想完全靠这种方式治疗颈纹也是不可能的,更多的应该靠日常的行为(少低头玩手机📵)来规避,不过作为一种辅助治疗方法每天坚持下去应该还是有少许效果的(起码对于心理上有很大的提升作用,心美了人才美😄)。

阅读更多
Your browser is out-of-date!

Update your browser to view this website correctly.&npsb;Update my browser now

×