← 返回首頁

LLMock 是一個開源的確定性模擬大語言模型伺服器,專門用於測試人工智慧應用程式

CopilotKit🪁
CopilotKit🪁
@CopilotKit
464🔁 62
𝕏 (Twitter)🔥
AI 中文摘要Claude 生成

LLMock 是一個開源的確定性模擬大語言模型伺服器,專門用於測試人工智慧應用程式。它解決了開發者在測試時面臨的核心問題:減少真實 API 呼叫的成本,以及避免在持續整合環境中因非確定性輸出導致的測試不穩定。

實用功能 涵蓋多個面向:

  • 真實的 HTTP 伺服器,可跨所有處理程序運作
  • 支援真實服務商格式的 SSE 流式傳輸
  • 採用基於 Fixture 的路由系統,支援子字串、正規表達式和述詞匹配
  • 能進行 Tool Call 注入,用於測試 Agent 工作流程等更多功能

解決實際痛點 是這個方案的核心價值。傳統做法需要呼叫真實 API 進行每次測試,既消耗成本又因模型輸出的隨機性容易導致測試失敗。LLMock 透過提供可控、可重複的模擬環境,讓開發者能穩定地測試 AI 應用的各種場景,包括複雜的 Agent 工作流程。作為開源工具,它為社群提供了一個實用的開發基礎設施解決方案。