本地Ollama跑AI Agent团队Agency Swarm Lab 的 Astra Swarm 完整部署指南【免费下载链接】agency-swarm-lab项目地址: https://gitcode.com/gh_mirrors/ag/agency-swarm-lab想用本地 Ollama 免费跑一支 AI Agent 团队Agency Swarm Lab 项目中的 Astra SwarmAstraOpenSourceSwarm 目录就是为此而生它通过 Astra Assistants 对接本地 Ollama 模型让你在零 API 费用的情况下组建一支由 LlamaAgent、CEO、Gemini 等智能体组成的协作团队。本文将带你一步步完成本地部署并教你如何自定义自己的 Agent 团队。一、Astra Swarm 是什么为什么值得本地部署 Agency Swarm Lab 是一个开源的AI Agent 团队实验室收录了多套用 Agency Swarm 框架搭建的智能体公司Agency。其中 Astra Swarm 的特别之处在于✅模型自由基于 litellm Astra Assistants可以接入任意开源或商业模型✅本地运行搭配 Ollama模型完全跑在你自己的机器上数据不出门、调用不花钱✅开箱即用内置 Gradio 图形界面无需写一行代码就能和智能体团队对话协作。在 Astra Swarm 中一个典型团队由不同角色的 Agent 组成角色文件位置默认模型职责CEOAstraOpenSourceSwarm/CEO/CEO.pyClaude 3 Haiku负责智能体之间的沟通与任务协调LlamaAgentAstraOpenSourceSwarm/LlamaAgent/LlamaAgent.pyollama/llama3.1:8b本地主力干将自带搜索工具GroqAgentAstraOpenSourceSwarm/GroqAgent/GroqAgent.pygroq/llama3-8b-8192云端高速推理可选GoogleGeminiAgentAstraOpenSourceSwarm/GoogleGeminiAgent/GoogleGeminiAgent.pygemini-1.5-pro长上下文处理可选每个 Agent 都是一个独立的 Python 文件夹内含职责说明instructions.md和工具目录tools/想扩展团队只需照着模板加一个文件夹。二、部署前准备一份清晰的组件清单 在开始之前请确认你的电脑上已具备以下 4 个组件Ollama本地大模型运行时负责跑 Llama3 模型默认端口 11434Docker用于一键拉起 Astra Assistants 服务推荐方式避免污染本地环境PoetryPython 依赖管理工具项目用它安装 requirements.txt 中的 agency-swarm、gradio、astra-assistants 三大依赖Astra DB 访问令牌Astra Assistants 需要 Astra DB托管版 Apache Cassandra存储智能体元数据官方提供免费额度注册后在控制台即可拿到ASTRA_DB_APPLICATION_TOKEN。三、最快部署步骤5 步跑通 Astra Swarm 1. 克隆仓库并安装依赖git clone https://gitcode.com/gh_mirrors/ag/agency-swarm-lab cd agency-swarm-lab/AstraOpenSourceSwarm poetry install2. 一键启动 Astra Assistantsdocker compose这是本地模型模式独有的步骤。项目内置了AstraOpenSourceSwarm/docker-compose.yaml它会把 Astra Assistants 容器跑在 8000 端口并自动指向宿主机的 Ollamadocker compose up -d 提示compose 文件中还预留了 Ollama 容器的配置含 GPU 加速选项如果你没有本地安装 Ollama取消注释那段配置即可全部容器化。3. 拉取 Llama3 本地模型首次使用 Ollama 需先下载模型curl http://localhost:11434/api/pull -d { name: llama3 }4. 配置 .env 环境变量复制备份文件并填写关键配置cp .env.bkp .env需要关注的两项OLLAMA_API_BASE_URL使用 docker compose 时设为http://ollama:11434Ollama 装在本地则设为http://localhost:11434ASTRA_DB_APPLICATION_TOKEN填入上一步获取的令牌若混用云端模型Groq、Gemini把对应 API Key 一并写入。5. 启动 Agency进入 Gradio 交互界面poetry run python agency_ollama.py命令会启动 Gradio 界面默认 7860 端口在浏览器中打开后即可向 AI Agent 团队提问。默认的本地模式只激活了 LlamaAgent见 agency_ollama.pyCEO 与 GroqAgent 以注释形式保留随时可以放开加入团队。四、团队如何协作从提问到分工 启动后你可以直接在 Gradio 界面里向团队抛问题单一 Agent 模式agency_ollama.pyLlamaAgent 独立应答它自带的tools/目录下还有 BraveSearch、WolframAlpha 两个工具可供调用多 Agent 协作模式agency.py通过Agency([ceo, [ceo, google_gemini]])这种层级写法CEO 作为中枢负责拆解和转交任务GoogleGeminiAgent 作为下属执行——这是 Agency Swarm 框架智能体公司玩法的精髓。五、自定义你的 Agent换模型与加成员 ✍️自定义只需改一行代码。以 GroqAgent 为例模型在构造函数中指定modelgroq/llama3-8b-8192换成任意 litellm 支持的模型前缀即可ollama/...、openai/...、groq/...等。新增成员则用官方 CLI 一条命令生成模板poetry run agency-swarm create-agent-template⚠️ 注意事项并非所有模型都支持函数调用function calling。对不支持的模型Astra Assistants 会尝试通过提示词引导其使用工具效果会有波动。选型时建议优先挑支持工具调用的本地模型如 Llama3.1 系列。六、常见问题速查 FAQ Q1启动后浏览器打不开界面确认运行到 7860 端口后访问http://localhost:7860若使用 Docker 运行注意映射参数-p 7860:7860。Q2Astra Assistants 报连接 Ollama 失败检查OLLAMA_API_BASE_URL与 Ollama 实际位置是否匹配容器内用http://ollama:11434本机用http://localhost:11434。Q3没有 Astra DB 令牌能跑吗不能。Astra Assistants 必须用它持久化智能体元数据好在官方有免费额度个人体验足够。Q4本地模型显存不够怎么办在 Ollama 中拉取更小参数版本如 3b、1b 规格或改用量化版本再更新LlamaAgent.py中的 model 参数即可。从克隆仓库到打开 Gradio 界面整个 Astra Swarm 本地部署只需约 5 个命令。现在你的第一支零成本 AI Agent 团队已经就位——接下来要做的就是给它起个团队、派活干了。【免费下载链接】agency-swarm-lab项目地址: https://gitcode.com/gh_mirrors/ag/agency-swarm-lab创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考