兄弟们,好久不见。今天回来,直接上硬货——三个我亲手打磨的开源项目,全部开源,全部可用,全部欢迎来喷。
项目一:OmniStudio 一句话:一个把模型下载、三引擎推理、对话/语音/生图/视频/OCR 揉进同一个窗口的本地大模型万能工作台。解决什么:本地跑模型这件事被拆得太碎了。
下载在这、llama.cpp 在那、vLLM 另开一摊,对话、TTS 、ASR 、生图还要各自配一套。我受不了这种「装完引擎才刚开始干活」的体验,所以做了一个本地优先、选完就能用的一体化桌面工作台。
核心特性: 模型市集一键搜、下、管:GGUF / safetensors 全格式,断点续传,首次引导直接拉 Qwen 就能聊 llama.cpp / vLLM / SGLang 三引擎统一管理 + 本地网关,一套接口同时给对话、Agent 、外部工具用 对话、语音、生图、视频、音乐、OCR 、翻译、知识库、共享记忆、Skills 全在一个工作台里,云端 API 也能接进来当后备 技术栈:TypeScript + Bun ,桌面端本地优先,MIT 仓库: /ai-market-guide/ 适合:想在自己机器上把本地大模型真正用起来的人,而不是只想「跑通一次 demo 」的人 一套工作台走完本地 AI 的整条链路:最左图标栏切换应用,应用内左栏选后端、填参数,右侧直接看结果 —— 所有页面共用同一套布局。 🎨 AI 生图 · 🎬 AI 视频 AI 生图 · 云端 API / 本地 MLX / ComfyUI AI 视频 · MiniMax H3 / Seedance / ComfyUI 同一页切换云端生图、Apple Silicon 本地 MLX ( mflux )与 ComfyUI 三种后端,比例 / 宽度 / 高度 / 数量随手调;出图即进历史区,可回看、下载,右侧最近生成一排缩略图随手翻。
三种后端统一为「提交任务 + 轮询」:MiniMax H3 支持首帧图生视频,时长 / 宽高比 / 分辨率 / 首帧图都在左栏,成片进历史库可直接播放、下载或删除。 🧰 提示词广场 · 🧩 小应用 提示词广场 · 内置 2,733 条可复制题库 小应用 · 一次做一件事的沙箱工具 生图 638 / 视频 2,060 / 大模型 35 条提示词,按 APP 、运营、海报、插画、IP 、艺术等分类,可搜索、可按来源筛选;「复制」拿原文,「去试试」按类型跳到生图 / 视频 / 对话并带入,「加入我的提示词」收进自己的库。
七个自包含小页面:抠图换底、证件照、马赛克、形象照、会议纪要、文案助手、笔记;卡片上标明各自需要的能力(本地抠图 / 对话模型 / 语音识别 / 生图),缺哪项点「去配置」补齐,其余照常可用。 📚 知识库 · 🧠 记忆 知识库 · 本地 RAG (混合检索 + 引用溯源) 记忆 · 全 Agent 共享的长期记忆 添加文件 / 导入目录 / 添加笔记 / 添加网页四种数据源,切片与向量化状态逐条可见;对话里挂上知识库即带 [n] 引用,同一份库还能经网关 /mcp 开放给任意 MCP 客户端。
记忆总览(总量 / 置顶 / Agent 写入 / 检索命中率 / 合并写入 / 敏感内容拦截)+ 全库列表,置顶记忆常驻系统提示;「启用记忆」与「写入需确认」两个开关决定 Agent 能不能写、要不要你放行。 📊 基准测试 一次跑完上下文长度( 1K–1M )× 并发档位 × 缓存场景(冷启 / 部分命中 / 完全命中)的矩阵:TTFT 、TPOT 、TPS 、聚合吞吐、Prefill 逐档列出,「缓存命中对比」把冷启与命中的倍数差直接算给你看(×1 附近说明服务端根本没吃到缓存),结果落库并可导出 HTML 。
🔢 JEV 类型化判定 不生成文本,只回答 被约束的问题 : noul (是/否)、 choice (在给定选项里选一个)、 score (在有序档位上打分),拿回的是概率分布与置信度 —— 分类、打标、评分这类判断因此 可比较、可设阈值、可批量 。左栏顶部切「本地运行 / 云端接入」并就地配引擎(装 laya-mlx 、下权重、启动模型都在这一页),下面是 state 与问题清单;右栏是每个问题的概率分布。
侧栏五个中英双语示例(工单分派 / 简历评分 / 内容护栏 / 检索重排 / 意图路由)一键装进左栏,也可以写一句人话交给聊天模型翻成请求体。协议与 TypeSafe 官方逐字段一致,官方 SDK 只改 TYPESAFE_BASE_URL 与 TYPESAFE_API_KEY 两行即可直连本机网关。
更多界面 模型云服务 集成 · 编码工具 语音 · 实时对话 语音合成 TTS 模型选择 · 引导向导 ✨ 功能特性 项目二:PeakCode 一句话:给 Pi Coding Agent 套上桌面壳的本地优先 AI 编程工作台,让写代码不再困在黑乎乎的终端里。解决什么:Agent 其实很强,但终端里你看不见它怎么想、中途不好拧方向、关了窗口状态就丢。
现有工具要么太云、要么太碎。 PeakCode 把「看它干活、中途转向、明天还能接上」做成第一等公民。
核心特性: 单一 Agent 内核( Pi )跑在进程内:Agent / Plan / Goal / Multi-Agent 四种模式,先出方案再动手,目标可跨轮续跑 实时流式输出 + 每轮 Git checkpoint + Diff 面板,改了什么一目了然;会话、看板、定时任务都落在本机 自带模型配置、Pi Packages 、子代理并行;桌面端和可自托管 Web 都能跑,代码不出你的机器 技术栈:TypeScript + Bun ( Windows 服务端走 Node ),桌面 / Web 双端,MIT 仓库: /ai-market-guide/ 适合:已经在用或准备用编码 Agent ,却受不了纯终端体验的开发者 项目三:KylinWork 一句话:说一句话,AI 自己规划、自己动手,把 PPT / Word / Excel / 网页交到你手上的本机办公工作台。解决什么:聊天框里的「 AI 办公」最后总把排版甩回给你。
报告是 Markdown ,表格是一坨文本,窗口一关任务就断。 KylinWork 要的是文件,不是一段对话记录。
核心特性: 本机真执行:exceljs / docx / pptxgenjs 直接出可打开的文件,命令、脚本、精确改文件都在工作目录里发生 任务后台跑,关窗口、切页面、重开应用都不中断;成果面板实时列产物,应用内预览 Word / Excel / PPT / PDF / 网页 四档权限 + 文件黑名单 + 高危命令二次确认;专家团、72 个技能包、知识库 RAG 、IM 远程指挥都能接 技术栈:Electron + Node.js (≥22.19 ),前端独立构建,MIT 仓库: /ai-market-guide/ 适合:要可交付办公文件、又希望任务跑在自己电脑上的人——调研、报表、PPT 、落地页都算 任务首页——说一句话就能开工。需求直达,常用场景一键起手, @ 引用工作区文件、 / 调用技能: 成果文件——右侧就是交付台,产出直接看。
上面的需求跑完,右侧列出全部产物并标出本轮新增, 点开即可在应用内预览:网页成果直接渲染成带图表的看板,Word / Excel / PPT / PDF 也能看,不依赖本机装没装 Office: 设置 · 模型云服务——十家服务商内置,填 Key 即用。当场发真实请求验活,还能一键拉取模型列表: 设置 · 知识库——向量召回 + 重排,切块与召回参数都可调。
库与资料在「知识库」页管理: 设置 · 专家——角色设定 + 专属技能,任务里可被委派。内置十位,存本机,不登录也能增删: 设置 · 频道——微信扫码、飞书、QQ 、企业微信接入,在 IM 里直接对话。
不需要公网地址,手机上发一句话,任务在电脑上跑: 最后说几句 九个月没白熬。这三个项目从想法到落地,踩了无数坑,也砍掉了无数「看起来很美」的功能。
现在放出来,就是想让它们被用、被骂、被改进。 Star 不 Star 无所谓,提 Issue 才是真爱。
仓库都在上面,代码说话。 —— kunpengtalk ,回归第一天