DeepSeek V4.1 上 4×RTX 3090:视觉链路的两个坑和修复

把带视觉的多模态大模型(DeepSeek V4.1,748B)部署在一台 4 张消费级 RTX 3090 的机器上,做成能聊天、能发图的服务。过程中踩了两个"不报错、只是悄悄错"的坑:一个是视觉编码器里的线程竞态,数值偶尔会飘;另一个是发一张稍大的图直接崩出 cuBLAS status 13,小图却全部正常。两个都修掉了,一个一行代码,一个五行。最终效果:1554×1078 的大图完整跑通,25 秒出 601 个 token(31.2 tok/s),模型对图片内容的描述准确无误。

阅读更多

浏览器插件[better-deepseek]

📌 简单好用的浏览器小助手:Better DeepSeek 扩展

DeepSeek这段时间真的是太火啦。不仅仅是在国内,更是给整个 AI 市场带来了新的挑战。相信大家也都开心地用上了DeepSeek,不过我在使用的时候有一些不太趁手的地方,所以今天给大家介绍一个我最近开发的特别实用的小工具 —— Better DeepSeek浏览器扩展。它就像给你的浏览器装了个"智能小帮手",能自动帮你处理一些使用DeepSeek时的麻烦事。

🛠️ 这个工具能帮你做什么?

  1. 自动预览网页 Mermaid 图

我们在使用DeepSeek时有时会让DeepSeek给我们生成一些流程图、架构图、泳道图、思维导图等等,而默认情况下DeepSeek网页上看到的都是文字。可能有些文章会告诉你将这些代码复制到能显示Mermaid的网址就可以看到图片了。但我这个工具就会自动帮你渲染图片,再也不需要复制到其它地方查看了。给你们看看效果:

阅读更多
Your browser is out-of-date!

Update your browser to view this website correctly.&npsb;Update my browser now

×