本地代理以将多个 LLM 集成到 Codex 工作流中
codex-universal-proxy,由 Bharat2808 开发,是一个本地桥接器,允许 Codex 环境调用非本地语言模型和 MCP 工具。它将 Codex 特定的工具格式转换为 OpenAI 兼容的函数调用,并将请求路由到提供者,如 Ollama、Google Gemini、OpenRouter 和 Cohere。该工具包括本地 LLM 支持、图像缓存、签名验证和 macOS 语音控制。它针对需要在现有 Codex 工作流程中灵活集成模型的 AI 开发者和高级用户。
你实际上可以用代理做什么任务?
代理作为一个翻译层,使得兼容MCP的客户端和基于Codex的工具能够调用替代模型后端。它将Codex工具格式如tool_search和apply_patch映射为标准函数调用风格的请求,然后将响应转换回Codex预期的结构。用例包括将提示路由到Ollama托管的本地LLM,向Gemini或OpenAI兼容的端点发送图像生成调用,以及通过共享配置模式组合多个后端。
协议翻译和响应的可靠性如何?
翻译是积极维护的,开发者更新翻译逻辑和提供者集成,这支持跨提供者的功能互操作性。翻译响应的准确性取决于目标模型和映射层的保真度;该项目是非官方和实验性的,因此对Codex工具格式的更改可能会破坏兼容性。预计在上游更改后验证工具调用,并在出现不匹配时迭代映射规则。
有哪些输入、集成和环境要求?
代理是用JavaScript/Node.js实现的,并需要一个支持MCP的环境。它处理具有内容哈希持久性的图像资产,并支持GIF、JPEG、PNG和WebP格式的缓存资产。存在语音活动检测和手动语音中断模式,推按说话功能针对macOS进行了优化。后端路由是可配置的,允许用户通过中央配置文件定义哪个提供者处理给定的函数调用。
该工具是否支持本地处理和敏感工作流的数据处理?
代理通过Ollama集成支持本地模型执行,这使得在主机上进行推理成为可能,而不是强制云路由。它还实现了本地缓存和生成资产的签名验证,因此图像可以通过内容哈希持久化和检索。需要对请求路由进行控制的用户可以将调用指向私有后端;然而,由于该项目是实验性的,操作政策和存储行为在与高度敏感数据一起使用之前应进行审计。
谁应该采用代理以及需要注意什么
代理是经验丰富的AI开发者和高级用户的实用选择,他们接受实验性工具,并准备在上游协议更改时维护映射。计划进行持续测试和配置版本控制,以快速捕捉不兼容性。当您可以分配开发人员时间以适应提供者更新并将自动检查集成到您的Codex或MCP管道中时,请使用代理。