🚀 VentoSiteProxy - 一个单二进制反代网关，替代 Nginx Proxy Manager

用 Nginx Proxy Manager（NPM）做统一入口这些年，我反复被同一批问题卡住：SSE 被 proxy_buffering 卡住、上传超过 1M 就断、长连接 60 秒被掐，每解决一个就要多写一层 override，而我想做的"按站点登录认证"它压根没这个能力。与其继续跟 nginx 默认配置打架，索性自己写了一个——VentoSiteProxy，基于 Pingora（Cloudflare 开源的代理框架）的 Rust 单二进制网关，把 账号登录、站点配置、启停管理、操作日志、热重载 做成开箱即用，后来还长出了一套零信任认证（LDAP + TOTP + passkey + 站点级 ACL）。

以下截图来自本地演示环境，站点、域名与日志均为虚构演示数据（IP 使用 RFC 5737 文档保留段），敏感信息已打码。

🖼️ 预览

把带视觉的多模态大模型（DeepSeek V4.1，748B）部署在一台 4 张消费级 RTX 3090 的机器上，做成能聊天、能发图的服务。过程中踩了两个"不报错、只是悄悄错"的坑：一个是视觉编码器里的线程竞态，数值偶尔会飘；另一个是发一张稍大的图直接崩出 cuBLAS status 13，小图却全部正常。两个都修掉了，一个一行代码，一个五行。最终效果：1554×1078 的大图完整跑通，25 秒出 601 个 token（31.2 tok/s），模型对图片内容的描述准确无误。

上一篇 《个人项目[my-jev]》 里，我用 1.5B 小模型做了一个只能看文本的决策服务。这次把基座换成 27B 大模型：不光能看文本，还能看图，复杂判断的能力强了很多——而且模型一次都没训练，直接给现成模型挂上一个现成的"决策插件"就部署成了服务。评测做了三件事：7800 道官方题、500 多道自出题，再和开源竞品 StartLux 在同一台机器上正面打了一架。

结果一句话先放这儿：不开"思考"，JEV 45.8 分，输 StartLux 的 50.6；开了"思考"，97.9 分，领先 47 分。而在一套双方都没见过的私有题上，两家基本打平。

🚀 PortRelay - macOS 端口转发图形化管理

做后端/运维的同学对这样的命令行一定不陌生：

1
2

ssh -L 3306:localhost:3306 user@server -N
kubectl port-forward svc/mysql 3306:3306

需要转发的端口一多，这些 -L 参数、port-forward 命令就成了灾难：哪条隧道还在跑、映射到本地哪个端口、密码是哪个，全靠记。我用过的方案要么太重（整套 GUI 客户端），要么只有 SSH 没有 K8s，索性自己写了一个——PortRelay，一个原生 SwiftUI 的 macOS 端口映射应用，把 SSH 和 Kubernetes 端口转发装进同一个图形界面。

🚀 ez-app - 拾光工具集，跨设备剪切板同步

这是一个憋了很久终于整理出来的项目。起因是两个日常痛点：一是我日常是 Android 手机 + Mac 双持，经常在手机上复制个验证码、链接或者一段文字，想粘贴到电脑上，来回折腾微信文件传输助手实在烦不胜烦；二是 Android 手机上竟然没有原生的"扫一扫"，临时扫个码还得打开微信——有时候就是不想用微信的扫码。于是自己动手写了一套——这就是 ez-app，一个面向 Android 与 macOS 的轻量工具集合。

它不是一个单一应用，而是一个 monorepo，里面住了三个能用的东西：Android 工具箱、Android 输入法、macOS 菜单栏应用，三端围绕两个核心能力——剪切板同步和扫码。

背景与目标

手头几台实验室服务器都是消费级显卡（RTX 3090 24G×4 / ×8），之前用 vLLM 部署 Qwen3.8-27B 时体验很一般：BF16 权重 52G，tp=8 摊到每张卡上解码速度也就几十 tok/s，长上下文 prefill 更是慢。目标是又快又准、上下文尽量大，并且不碰机器上已有的任何服务和数据（共享机器，上面有 gluster、AIGC 服务、一堆 docker 容器）。

这篇文章记录从 0 到上线的完整过程，包括驱动升级、镜像选择、参数调优、DFlash2 投机解码接入，以及后续的 sgLang-router 缓存感知负载均衡。所有内网 IP、主机名等敏感信息均已隐去，用 node1 / node2 代称。

背景：我想复刻的东西是什么

最近看到一个叫 JEV 的产品（TypeSafe 出品），它做的事很有意思：给定一段共享上下文（state）和一组问题，一次性返回所有问题的判别结果——不是生成式地一个一个写答案，而是"判断"。官方宣称比传统 LLM 工作流快 193.6×、便宜 444.6×。

它的几个可观察行为很吸引我：

• 没有首 token 等待：判别类任务不需要等自回归解码出第一个 token，单次前向就能出结果；
• 零非法选项：输出只可能是你声明的候选之一，不会"幻觉"出一个没提供的选项；
• 多问共享 state：同一上下文下的一堆问题摊薄 prefill 成本，问得越多越划算。

但 TypeSafe 没公开它的架构、参数量、训练数据，那套 RLCD 也摸不到。所以我的目标定得很实际：复刻它的可观察能力和工程效果，不复刻它没公开的内部实现。本文记录这条路的完整过程——立项、调研、基线、一路踩坑、对比 benchmark、蒸馏、写 API、上线，所有数字都可复现。

内网主机名/IP 等敏感信息一律隐去（下文用"GPU 验收机"指代），仓库代码见文末。

📌 简单好用的浏览器小助手：Better DeepSeek 扩展

DeepSeek这段时间真的是太火啦。不仅仅是在国内，更是给整个 AI 市场带来了新的挑战。相信大家也都开心地用上了DeepSeek，不过我在使用的时候有一些不太趁手的地方，所以今天给大家介绍一个我最近开发的特别实用的小工具 —— Better DeepSeek浏览器扩展。它就像给你的浏览器装了个"智能小帮手"，能自动帮你处理一些使用DeepSeek时的麻烦事。

🛠️ 这个工具能帮你做什么？

1. 自动预览网页 Mermaid 图

我们在使用DeepSeek时有时会让DeepSeek给我们生成一些流程图、架构图、泳道图、思维导图等等，而默认情况下DeepSeek网页上看到的都是文字。可能有些文章会告诉你将这些代码复制到能显示Mermaid的网址就可以看到图片了。但我这个工具就会自动帮你渲染图片，再也不需要复制到其它地方查看了。给你们看看效果：

🚀 jd-cookie-helper - 京东cookie辅助工具

🛠️ 工具简介

jd-cookie-helper 是一款基于Electron开发的京东多账号 Cookie 管理工具，专为青龙面板自动化任务玩家量身打造。告别传统浏览器反复登录、手动抓取Cookie的繁琐操作，一键实现全自动登录+Cookie提取！

🚀 iGit - 智能 Git 工作流助手

💡 项目简介

在日常开发中，Git 工作流是每个开发者必不可少的一部分。然而，标准化提交信息、执行代码检查、确保代码质量等工作往往需要耗费大量的时间和精力。iGit 正是为解决这些问题而生的智能 Git 工作流助手，它能够帮助你实现更智能、更高效的 Git 工作流程。

✨ 核心特性

• 🤖 AI 驱动的提交信息 - 自动生成符合约定式提交规范的提交信息，让你的提交历史更清晰、更专业
• 🎯 智能 Git Hooks - 提供一系列开箱即用的 Git Hooks，帮助你规范代码提交流程
• 🎈 简单易用 - 通过简单的命令行工具，轻松集成到你的项目中
• ⚙️ 高度可配置 - 提供灵活的配置选项，满足不同项目的需求

🛠️ 技术栈

• Node.js
• OpenAI API
• Git Hooks
• YAML 配置

📝 安装与使用

1. 安装依赖

1
2
3
4
5
6
7
8

# 使用 npm
npm install -D @doremijs/igit-cli

# 使用 yarn
yarn add -D @doremijs/igit-cli

# 使用 pnpm
pnpm add -D @doremijs/igit-cli