开源工具 on 赛博工具站

Hermes Agent评测：一个会自我进化的AI代理方案

Fri, 10 Apr 2026 10:00:00 +0800

简介

Hermes Agent是Nous Research推出的开源AI代理，目前GitHub上有将近4.5万星。它最特别的地方不是能帮你干活，而是会自己学习——用着用着，它会创建新技能、改进旧技能、记住你的偏好，越用越顺手。

核心功能

学习循环：这是它跟其他代理最大的区别。完成复杂任务后，它会自动创建"技能"（skills）。下次遇到类似问题，直接调用。技能还会在反复使用中自我改进。

多平台接入：Telegram、Discord、Slack、WhatsApp、Signal都能连。你在手机上发消息，它在云端跑。支持语音转文字，跨平台对话也连贯。

多模型切换：不绑死某个模型。Nous Portal、OpenRouter（200多个模型）、GLM、Kimi、MiniMax、OpenAI，甚至自己的私有端点都能用。一条命令hermes model就切换，不用改代码。

记忆系统：会定期提醒自己记住重要的事。能搜索过去的对话历史，用LLM总结找相关内容。还支持Honcho方言式用户建模——简单说，它会越来越懂你。

定时任务：内置cron调度器。日报、周报、自动备份，用自然语言描述就行，不用写crontab。

子代理并行：遇到大任务能派发子代理分头干活。Python脚本也能调用工具，把多步流程压缩成一轮对话。

价格方案

方案	价格	说明
开源自用	免费	自己部署，服务器费用自理
Nous Portal	按量付费	官方托管，价格随模型不同
其他模型	各平台定价	OpenRouter、Kimi等按各家收费标准

💡 点击下方链接可查看官方文档 CPS链接：Hermes Agent官网 →

优缺点对比

优点	缺点
开源免费，代码透明	自己部署需要技术能力
会自我学习改进	学习效果取决于使用频率
支持十几种模型切换	部分高级功能文档不全
多平台消息互通	语音功能在Termux上受限
内存占用低，5美元VPS能跑	Windows原生不支持，得用WSL

适合人群

推荐给：开发者、技术爱好者、想长期用一个AI代理的人、需要自动化日常任务的人

不推荐：完全不懂命令行的用户、只想快速上手不想折腾的人

使用教程

安装：curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash
重载终端：source ~/.bashrc（zsh用户用source ~/.zshrc）
启动：输入hermes进入对话
选模型：hermes model选择你要用的LLM
（可选）启动网关：hermes gateway接入Telegram等平台

Windows用户需要先装WSL2。Android用户可以用Termux，但语音相关依赖装不了完整版。

购买建议

如果你是开发者或者喜欢折腾，这个项目值得花时间研究。它的学习循环机制确实新颖——不是简单地记住历史，而是主动创造工具来提升效率。开源免费也是加分项。

但如果你只想找个开箱即用的AI助手，可能Claude、ChatGPT的官方应用更省事。Hermes Agent的乐趣在于参与塑造它，而不是把它当黑盒用。

🎯 官方链接：Hermes Agent官网 →

OpenScreen评测：免费录制专业产品演示视频的最佳方案

Mon, 06 Apr 2026 10:00:00 +0800

简介

还在为Screen Studio每月29美元的订阅费肉疼吗？OpenScreen来了！这款开源免费的屏幕录制工具，让你轻松制作专业级产品演示视频——零成本、无水印、商用也没问题。

核心功能

智能缩放：自动或手动添加缩放效果，可调整深度、时长和位置，让演示更专业
灵活录制：支持录制特定窗口或全屏，同时捕获麦克风和系统音频
背景美化：提供壁纸、纯色、渐变或自定义背景，告别单调录制
运动模糊：平滑的平移和缩放效果，视频观感更流畅
注释标注：添加文字、箭头、图片等注释，讲解更清晰
剪辑控制：裁剪视频片段、调整各段落速度，精细化输出
多格式导出：支持不同宽高比和分辨率，适配各平台需求

价格方案

方案	价格	功能限制
完全免费	¥0	全部功能，无任何限制

💡 良心开源：MIT许可证，个人和商业用途均可，无订阅费、无水印、无套路

开源地址：GitHub →

优缺点对比

优点	缺点
完全免费，开源可商用	仍在beta阶段，可能偶有bug
功能覆盖Screen Studio核心需求	高级特效不如付费工具丰富
支持macOS/Windows/Linux三平台	系统音频捕获在部分系统有限制
自动缩放+运动模糊效果专业	需手动配置权限（macOS）
无水印，导出质量高	社区生态较新，教程较少

适合人群

推荐给：

独立开发者展示产品功能
内容创作者制作教程视频
产品经理录制功能演示
SaaS团队制作客户引导视频
预算有限的创业者/小团队

不推荐：

需要企业级支持SLA的大型团队
追求顶级特效的专业视频团队（建议用Screen Studio）
只用一次的轻度用户（在线工具更方便）

使用教程

1. 下载安装

访问 GitHub Releases 下载对应平台安装包：

macOS：下载.dmg文件，拖入Applications
Windows：下载.exe安装程序
Linux：下载.AppImage文件

2. 配置权限（macOS必做）

如果macOS阻止打开，运行以下命令：

xattr -rd com.apple.quarantine /Applications/Openscreen.app

然后在「系统设置 > 隐私与安全性」授予屏幕录制和辅助功能权限。

3. 开始录制

选择录制区域（窗口或全屏）
选择背景样式
点击录制按钮开始
录制时可添加缩放标注
录制完成后在编辑器中修剪、调速
导出为所需格式

购买建议

OpenScreen最大的"缺点"就是它不需要购买——完全免费开源！

OpenScreen评测：免费做产品演示视频的好工具

Sun, 05 Apr 2026 10:00:00 +0800

简介

做产品演示视频，以前要么用OBS自己折腾，要么花钱买Screen Studio（一个月29美元）。OpenScreen是另一个选择——完全免费、开源、没水印，商用也没问题。

核心功能

屏幕录制：全屏或指定窗口，同时录麦克风和系统声音
自动缩放：录制时自动放大鼠标区域，也可以手动调整
背景美化：自带壁纸、纯色、渐变，或者自定义背景
标注功能：加文字、箭头、图片标注
视频剪辑：裁剪、调整速度、分段变速
多格式导出：不同分辨率和画幅比例

价格方案

方案	价格	功能限制
OpenScreen	免费	全功能，无限制
Screen Studio对比	$29/月	功能更全面

OpenScreen是开源项目，GitHub上直接下载安装包，不需要注册账号，也没有订阅收费。

优缺点对比

优点	缺点
完全免费，MIT开源协议	功能比Screen Studio少
无水印，可商用	macOS需要绕过Gatekeeper
自动缩放效果好	Linux下系统音频依赖PipeWire
支持Windows/macOS/Linux	项目还在Beta阶段

适合人群

推荐给：需要做产品演示视频的开发者、小团队、内容创作者

不推荐：需要专业后期剪辑功能的用户，建议直接用Final Cut或Premiere

使用教程

macOS安装

# 绕过Gatekeeper（因为没开发者证书）
xattr -rd com.apple.quarantine /Applications/Openscreen.app

然后去系统偏好设置里授权屏幕录制和辅助功能权限。

Windows安装

直接下载exe安装包，一路下一步。

Linux安装

chmod +x Openscreen-Linux-*.AppImage
./Openscreen-Linux-*.AppImage

如果报sandbox错误，加个参数：

./Openscreen-Linux-*.AppImage --no-sandbox

使用建议

录之前想好要展示什么，一次录完效果最好。自动缩放功能省了很多后期工作量，但手动调整更精准。背景选浅色系，视频看起来更干净。

如果你只是偶尔做几个演示视频，OpenScreen够用了。天天做的话，Screen Studio确实更顺手——但那也是真金白银换来的。

官方链接：OpenScreen GitHub →

VibeVoice评测：微软开源语音AI三剑客详解

Thu, 02 Apr 2026 10:00:00 +0800

简介

VibeVoice是微软开源的前沿语音AI框架，刚上GitHub Trending就炸了——一天涨了1600多星。这东西厉害在哪？它把语音识别和语音合成这两个硬骨头啃得挺漂亮：ASR能一口气处理60分钟长音频，TTS能生成90分钟的连续语音。对于做播客转写、有声书生成、多人对话场景的玩家来说，这套组合拳值得研究。

核心功能

VibeVoice-ASR（语音识别）：单次处理最长60分钟音频，自动识别谁在什么时候说了什么，支持50+种语言，还能加载自定义热词提高专业领域准确率。已集成到Hugging Face Transformers库，import就能跑。

VibeVoice-TTS（语音合成）：最长生成90分钟连续语音，支持4个不同说话者同时登场，中英文都行。论文被ICLR 2026录用了，技术层面是认真的。

VibeVoice-Realtime（实时TTS）：0.5B参数的轻量模型，首字延迟约300毫秒，支持流式输入。适合对话机器人、实时播报这类对延迟敏感的场景。

价格方案

方案	价格	功能限制
开源版	¥0	模型全开，需自部署GPU
Playground	¥0	在线体验，有调用限制
云服务	按量计费	微软Azure（待官方支持）

💡 官方Playground和Colab笔记本都可以免费试用，建议先玩玩再决定要不要自己部署 CPS链接：VibeVoice Playground →

优缺点对比

优点	缺点
完全开源，模型权重可下载	部署需要GPU资源（ASR 7B显存要求较高）
长音频处理能力业内领先	官方云服务还没上线
多语言支持，中文效果不错	社区生态还在建设中
微软背书，持续迭代有保障	TTS代码因合规原因已下架

适合人群

推荐给：播客、访谈类内容的创作者（ASR转写确实好用）；有声书、多角色配音需求的人；做语音AI研究的学生和开发者；需要本地部署语音能力的企业。

不推荐：没有GPU资源又不想花钱租云主机的；只需要简单短语音转写的轻度用户（用免费的Whisper更省事）。

使用教程

ASR快速上手（Hugging Face方式）

from transformers import AutoModel, AutoProcessor
import torch

# 加载模型
model = AutoModel.from_pretrained("microsoft/VibeVoice-ASR", trust_remote_code=True)
processor = AutoProcessor.from_pretrained("microsoft/VibeVoice-ASR")

# 处理音频
inputs = processor(audio_path, return_tensors="pt")
outputs = model.generate(**inputs)
result = processor.decode(outputs[0])
print(result)  # 输出：谁-何时-说什么的结构化结果

Realtime TTS在线体验

打开官方Colab笔记本
运行安装单元格
输入你想转成语音的文字
选择说话者风格（现支持9种语言+11种英文风格）
点击生成，下载音频

自定义热词提升识别率

# 比如你的音频里有大量专业术语
hotwords = ["RAG", "LangChain", "Vector Database", "Embedding"]
result = model.transcribe(audio_path, hotwords=hotwords)

购买建议

做语音相关产品的，这套工具值得花时间研究。ASR的长音频能力确实能解决很多痛点——以前得把音频切成小块再拼，现在直接扔进去就行。Realtime模型的300毫秒延迟也很适合实时场景。

Onyx评测：开源AI平台让企业知识秒变智能助手

Sun, 29 Mar 2026 10:00:00 +0800

简介

Onyx是个开源的AI聊天平台，支持OpenAI、Claude、Gemini这些主流LLM。核心功能就是把企业内部知识喂给AI——上传文档、连上Slack和Confluence，然后AI就能基于这些内容回答问题。简单说就是私有版的ChatGPT，但它真的读过你公司的资料。

GitHub上热度不错，号称1000+团队在用。我测了一圈，感觉确实不是PPT产品。

核心功能

RAG检索：混合搜索加知识图谱，文档或连接器里的内容都能挖出来
自定义Agent：给AI设定角色和知识范围，造个专属客服或研究员
深度研究模式：多步搜索，适合要翻很多资料的问题
代码解释器：跑Python代码，做数据分析画图
网页搜索：接了Google PSE、Exa、Serper，能实时搜网
40+连接器：Slack、Notion、Google Drive、Confluence这些主流工具都能连
MCP协议：AI不只是聊天，还能调API干活
企业安全：SSO、权限控制、文档权限继承、凭据加密

价格方案

方案	价格	说明
社区版 (CE)	免费	MIT开源，自己部署，核心功能全有
商业版	联系销售	团队用，全部功能
企业版 (EE)	联系销售	私有部署、SSO、白标、企业SLA

社区版免费开源，自托管不花钱。商业版和企业版需要找他们销售聊，官网没公开价格。

💡 个人或小团队先试云端版，确认好用再考虑自托管 CPS链接：Onyx官网 →

优缺点对比

优点	缺点
开源免费，数据在自己手里	自托管要懂点运维
连接器多，主流工具都能接	企业版价格要谈，不够透明
RAG效果确实比ChatGPT强	文档还在完善中
支持所有主流LLM	功能多，上手有门槛
过了SOC 2 Type II和GDPR	云端版海外部署，国内访问可能慢

适合人群

推荐：

公司有大量内部文档、需要AI帮忙查
对数据安全敏感、想自托管
已经在用Slack/Notion/Confluence的团队

不推荐：

个人用户——功能太多用不上
没技术运维能力的——要么用云端版，要么找人托管
只想简单聊天的——直接用ChatGPT/Claude更省事

使用教程

先试云端版：cloud.onyx.app 注册就能用
自托管一键装：curl -fsSL https://onyx.app/install_onyx.sh | bash
填LLM的API密钥：OpenAI、Claude、Gemini都行
接知识源：选需要连的应用授权
开始用：上传文档或连上应用后就能问问题了

购买建议

如果你公司内部知识多、又想控制数据，Onyx值得花时间搭。社区版免费且功能完整，自托管成本低。

开源大模型推理优化实战：从vLLM到SGLang的技术演进

Sat, 28 Mar 2026 12:00:00 +0800

推理优化的军备竞赛

过去两年，大模型领域最激烈的竞争不只发生在模型层，更发生在推理层。

从HuggingFace Transformers的原始实现，到vLLM横空出世，再到SGLang、TensorRT-LLM等框架百花齐放，推理优化的战场硝烟弥漫。为什么？因为推理成本直接决定了大模型应用的商业模式是否成立。

一个简单的对比：同样跑Llama-3-70B，未经优化的实现可能每秒只能处理几个请求，而经过优化后可以达到数百QPS。这意味着同样的硬件成本，服务能力提升了两个数量级。

vLLM：PagedAttention的革命

vLLM的核心创新是PagedAttention，这个设计借鉴了操作系统的虚拟内存管理。

传统实现中，每个请求的KV Cache都需要预先分配一大块连续内存。问题是：你不知道请求会产生多长的序列，分配大了浪费，分配小了会OOM。更致命的是，内存碎片化严重。

PagedAttention把KV Cache切分成固定大小的块，按需分配。就像操作系统管理物理内存一样，逻辑上是连续的，物理上可以离散。这个看似简单的改动，让内存利用率从20%-40%提升到接近100%。

实际测试中，vLLM在相同硬件上能处理的并发请求量，比HuggingFace原生实现高出4-10倍。这就是"算法创新"的力量。

SGLang：RadixAttention更进一步

SGLang来自UC Berkeley和Stanford的联合团队，核心贡献是RadixAttention。

名字里的"Radix"（基数）揭示了关键思想：前缀共享。当多个请求有相同的prompt前缀时（比如system prompt），传统方法会为每个请求单独计算和存储KV Cache。RadixAttention让这些前缀只计算一次，多请求复用。

实际场景中，这带来惊人的效率提升。比如一个客服AI，每个用户的对话都以"你是一个专业的客服助手…“开头，这个前缀的KV Cache只需要计算一次。后续所有请求都能直接复用。

SGLang还在其他方面做了优化：连续批处理、CUDA Graph优化、更高效的调度策略。综合下来，在某些场景下比vLLM还快20%-50%。

TensorRT-LLM：NVIDIA的官方答案

NVIDIA作为硬件厂商，下场做推理框架有其天然优势：最懂GPU的，就是造GPU的人。

TensorRT-LLM集成了NVIDIA多年的优化经验：Kernel Fusion（算子融合）、INT4/INT8量化、FP8支持、多GPU并行。这些优化深入到GPU微架构级别，是通用框架难以触及的。

缺点也很明显：NVIDIA绑定，主要支持自家硬件；开源程度和社区活跃度不如vLLM/SGLang；使用门槛相对较高。

如果你的生产环境全是NVIDIA GPU，且对性能要求极致，TensorRT-LLM值得投入。

选型决策树

说了这么多，实际项目该怎么选？

快速原型 / 学术研究：vLLM。社区活跃，文档完善，开箱即用。遇到问题Stack Overflow上大概率能找到答案。

高并发服务 / 前缀复用场景：SGLang。多用户共享system prompt、RAG应用、多轮对话场景，RadixAttention的优势明显。

极致性能 / NVIDIA环境：TensorRT-LLM。生产环境追求每一点性能提升，有工程团队投入优化。

多硬件支持：vLLM。支持AMD、Intel、Apple Silicon等多种硬件，灵活性最高。

实际项目中，建议先从vLLM起步，验证可行性和业务价值。遇到瓶颈时，再根据具体问题考虑迁移到其他框架。

被忽视的成本：工程投入

选择框架不只是选择性能指标，更是选择工程投入。

vLLM的社区最成熟，遇到问题能快速找到解决方案。SGLang发展迅速但生态还在建设中。TensorRT-LLM学习曲线陡峭，需要团队有深厚的GPU优化背景。

一个真实的案例：某团队为了追求极致性能，从vLLM迁移到TensorRT-LLM。结果花了三个月才完成迁移，期间服务不稳定，最终性能提升只有15%。算上人力成本，得不偿失。

我的建议是：先验证业务价值，再追求性能极致。除非推理成本已经是制约业务的瓶颈，否则不要过早优化。

未来趋势

推理优化还在快速演进。

显存优化方面，FlashAttention已经到了第三代，每一代都带来显著的性能提升。量化技术从INT8发展到INT4甚至更低，精度损失在可控范围内。投机解码（Speculative Decoding）成为新热点，用小模型预测、大模型验证，能大幅提升吞吐。

另一个值得关注的趋势是：模型架构正在针对推理效率进行优化。比如Mamba、RWKV等线性复杂度架构，在长序列场景下比Transformer更有优势。

硬件层面，H100/H200相比A100不只是显存更大、算力更强，还引入了FP8等新特性。这些硬件创新反过来推动了软件优化。

写在最后

推理优化是一个不断演进的领域。今天的最优解，明年可能就被新的技术超越。

作为工程师，理解底层原理比追逐最新框架更重要。PagedAttention、RadixAttention的核心思想不会过时，这些算法创新才是解决问题的根本。

选择工具时，记住一个原则：没有银弹，只有权衡。最先进的技术不一定是最好的选择，最适合你场景的才是。

代码写得再快，最终还是要跑在真实的服务器上。理解推理优化，就是理解大模型应用的"最后一公里”。