79K+ Star的PaddleOCR:不只是OCR,更是LLM时代的文档结构化引擎 | PaddleOCR
PaddleOCR 现在 79588 个 star,Dify、RAGFlow、Cherry Studio 都拿它做默认文档引擎。它能把 PDF 和图片转成 Markdown/JSON,直接喂给大模型。 但项目同时给了三条完全不同的路线。输出格式相似(都支持 Markdown/JSON),适用场景、依...
PaddleOCR 现在 79588 个 star,Dify、RAGFlow、Cherry Studio 都拿它做默认文档引擎。它能把 PDF 和图片转成 Markdown/JSON,直接喂给大模型。 但项目同时给了三条完全不同的路线。输出格式相似(都支持 Markdown/JSON),适用场景、依...
一句话说清楚它是什么 Open-LLM-VTuber 是一条固定的处理流水线:麦克风采集音频 → ASR 转文字 → 大语言模型生成回复 → TTS 合成语音 → 驱动 Live2D 角色口型同步。所有组件都可以跑在你自己的电脑上,没有任何云依赖。项目本身不包含任何模型——ASR、LLM、TTS 三...
一个直观的问题 AI agent(Claude Code、Cursor、Copilot 等)每次请求都会往上下文里塞一堆东西:工具输出的 JSON、代码文件、日志、RAG 结果。实际上 LLM 读完能用的信息可能只占 10-20%,剩下的都是重复的结构、空格、注释、空行。 你为这 80-90% 的冗...
问题:ripgrep快,但AI用起来越来越慢 单次文件搜索,ripgrep和fzf确实快,毫秒级返回。问题不在单次,在重复。 想象一个场景:你让Claude Code在代码库里“找到所有调用某函数的地方”,它先用grep搜一次,跳转到调用处,为了确认逻辑,又要搜另一个文件。一次对话中可能触发十几次查...
它解决什么问题 你同时跑三个AI代理、一个长编译任务和一个后端dev server,每个都在独立终端窗口里。切来切去看状态很烦,又不想花时间配tmux布局、记快捷键。herdr就是为这个场景造的:一个在终端里运行的agent multiplexer,让你一眼看清每个进程的状态(阻塞、工作中、完成),...
不是又一个AI Agent框架 我见过太多AI agent项目了。它们通常要求你:定义工具函数,写YAML配置文件,给每个agent设置角色prompt,再跑一个调度器。 pi-subagents 走了另一条路。安装只需要一行: `bash pi install npm:pi-subagents `...
对话记忆不是功能缺陷,是架构问题 你用ChatGPT、Claude、任何AI对话工具,都会遇到同一个事:新开一个会话,AI不认识你了。你上周说“我在用FastAPI写后端”,这周问“我上次用什么框架”,它答不上来。 这不是产品没做好。大模型本身不保存跨会话状态,每次对话是独立的HTTP请求。现有解决...
Hermes Agent 是一个自托管的自主 Agent,像守护进程一样跑在服务器上,通过终端或消息 App 访问。它带有持久记忆、技能系统和离线任务调度,运行时间越长,对环境的理解越准确。官方称它为“Sophisticated autonomous agent”。 Hermes WebUI 是官方...
大家常看到各种“从零实现Transformer”的教程,但多数停留在demo层面:玩具数据、不到百万参数、不涉及对齐。FareedKhan-dev/train-llm-from-scratch 走得更远。它在单个Notebook里手写了Transformer每一个组件(MLP、单头注意力、多头注意力...
一句话说清楚 CCX是一个Go语言写的AI API代理和协议翻译网关。它把你的应用和多个AI供应商(Claude、OpenAI、Gemini)之间的协议差异藏起来,统一成几个标准端点。同时内置了渠道管理、Key轮转、故障转移、熔断恢复这些生产环境必备的功能。 项目有2557个star,一个二进制文件...
三个控制面的空白 AI Agent 跑起来之后,你面对的不是“模型会不会胡说八道”的问题,而是三个更具体的控制缺失: 一个 Agent 有 send_email 和 query_database 两个工具,模型被诱导后能不能调用 drop_table?OAuth 和 IAM 只控制“能否连接数据库”...
语音AI代理市场,Vapi和Retell是典型代表:按分钟计费,SaaS模式,闭源。如果你的业务有合规要求——比如医疗或者金融,通话音频不能离开自己的服务器——或者通话量大到按分钟付费变得很贵,又或者你想换一个更快的STT引擎,这些闭源SaaS的灵活性就不够了。 Dograh 是一个直接对标的开源项...