幫 Ornith-1.0-35B 移植 MTP：從 GGUF 手術到 Hermes Agent 接入
··5855 字·12 分鐘
本文帶你用 llama.cpp 在本地端部署 Ornith-1.0-35B、接入 Hermes Agent，最後再透過移植 MTP head 進一步提升推理速度。
AI 技術
使用 Fish Speech S2-Pro 架設本地 TTS 服務
··3673 字·8 分鐘
Fish Speech S2-Pro 是 Fish Audio 的 SOTA 開源 TTS 模型。本文記錄如何將它部署到 RTX 3090（24 GB VRAM）上，並整合進 Hermes Agent，打造一個完全 local、低延遲的語音合成服務。