AnythingLLM 完整教程从 0 到第一个文档问答Docker 一条命令起步【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llmAnythingLLM 是一个把本地文档变成可聊天上下文的全栈应用导入 PDF、网页、视频字幕后它调用你指定的 LLM本地 Ollama 或 OpenAI 等生成带出处的回答。下面带你用 Docker 或源码两种方式把它跑起来并完成第一次文档问答。部署前先确认环境项目最低要求说明内存2 GB云主机AWS/GCP/Azure建议不低于此值磁盘10 GB实际占用随文档、向量、模型文件增长Docker 路径已安装 Docker推荐一条命令拉镜像即可源码路径Node.js ≥ 18 Yarnpackage.json中engines写的是18比部分旧文档的 14/16 要求更高另外你需要有一个可用的 LLM本地跑一个 Ollama或手上有一个 OpenAI / Gemini 之类的 API Key两者任选其一即可。向量数据库无需额外安装——AnythingLLM 默认内置 LanceDB嵌入Embedding模型默认使用内置的本地模型全程不出网也能工作。Docker 一条命令快速部署 AnythingLLM在终端执行Linux/macOSexport STORAGE_LOCATION$HOME/anythingllm \ mkdir -p $STORAGE_LOCATION \ touch $STORAGE_LOCATION/.env \ docker run -d --rm -p 3001:3001 \ --cap-add SYS_ADMIN \ -v ${STORAGE_LOCATION}:/app/server/storage \ -v ${STORAGE_LOCATION}/.env:/app/server/.env \ -e STORAGE_DIR/app/server/storage \ mintplexlabs/anythingllmWindows PowerShell 版本$env:STORAGE_LOCATION$HOME\Documents\anythingllm If(!(Test-Path $env:STORAGE_LOCATION)) {New-Item $env:STORAGE_LOCATION -ItemType Directory} If(!(Test-Path $env:STORAGE_LOCATION\.env)) {New-Item $env:STORAGE_LOCATION\.env -ItemType File} docker run -d --rm -p 3001:3001 --cap-add SYS_ADMIN -v $env:STORAGE_LOCATION:/app/server/storage -v $env:STORAGE_LOCATION\.env:/app/server/.env -e STORAGE_DIR/app/server/storage mintplexlabs/anythingllm两个细节值得注意STORAGE_LOCATION是宿主机目录容器里的文档、向量库都落在这里升级镜像不丢数据。需要写入.env的敏感项如SIG_KEY、JWT_SECRET在首次启动后会自动补全不用手动填。不想用docker run的话仓库里的 docker-compose 文件 和 Docker 使用文档 提供了等价配置可直接docker-compose up -d启动。源码方式运行 AnythingLLM 开发环境适合想改代码或不想装 Docker 的场景。克隆仓库git clone https://gitcode.com/GitHub_Trending/an/anything-llm cd anything-llm yarn setupyarn setup会依次安装server、collector、frontend三个子模块的依赖、生成.env文件并完成 Prisma 数据库初始化。完成后按提示分三个终端分别启动在仓库根目录执行yarn dev:server # 主服务监听 3001 yarn dev:collector # 文档收集器负责解析上传的文件 yarn dev:frontend # 前端界面生产环境不用 Docker 长期运行的完整流程见 BARE_METAL.md构建前端、拷贝产物到server/public、执行 Prisma 迁移然后分别以NODE_ENVproduction node index.js拉起server和collector。官方对该模式不承诺支持建议仅作参考。确认服务启动成功看 3001 端口启动后打开http://localhost:3001判断信号如下出现 AnythingLLM 登录/引导页说明后端已就绪。首次访问会让你设置管理员账号设置完成后进入工作区列表这就是完整的可用状态。浏览器一直转圈但终端无报错检查 3001 端口是否被其他进程占用——lsof -i :3001Linux/macOS或netstat -ano | findstr 3001Windows可定位占用者改SERVER_PORT后重新映射即可。如果部署在远程机器通过公网 IP 访问却提示 API 不通这是前端打包时写死了localhost的 API 地址。按 Docker 文档 说明在frontend/.env.production里把VITE_API_BASE改成http://你的可达IP:3001/api再重新构建。接入模型配置 LLM 提供商与向量库登录后进入Settings → LLM Preference这一步决定谁在回答问题云端 API选 OpenAI、Anthropic、Gemini 等填入 API Key 和模型名如gpt-4.1-nano保存即可。本地模型选 Ollama / LM Studio / LocalAI填入模型服务地址和模型名。本地路线完全免费且数据不出网是私有化的核心卖点。⚠️容器内连宿主机服务的坑如果 Ollama 跑在宿主机127.0.0.1:11434在 AnythingLLM 容器里不能填localhost而要填http://host.docker.internal:11434Linux 需给docker run加--add-hosthost.docker.internal:host-gateway或改用172.17.0.1。看到ECONNREFUSED 172.17.0.1:11434基本就是这个原因。向量数据库默认 LanceDB本地、零配置。需要更大规模或团队协作时可在 Vector DB Preference 里切换到 PGVector、Pinecone、Chroma、Qdrant、Milvus 等。嵌入模型默认用内置本地嵌入器若要换 OpenAI / Ollama 的嵌入模型注意嵌入模型一旦更换已有文档需要重新导入才能被检索到。让第一份文档变成可问答的上下文配置好模型后进入任意 Workspace没有就新建一个用左侧Add Documents导入内容支持三种方式上传文件PDF、DOCX、TXT、EPUB、XLSX、音频等直接拖入粘贴链接网页、GitBook、YouTube 视频自动提取字幕转成文本批量导入粘贴多行链接或目录链接一次导入。导入后文档会经过切块、嵌入、写入向量库的流程列表状态变为已嵌入即完成。此时向聊天框提问回答下方会出现来源引用哪份文档、哪个片段这就是 RAG 在起作用——你可以点开引用核对原文。如果回答不知道文档里有什么先确认模型配置是否保存成功、嵌入模型是否在导入后被更换过更换后需重新导入。进阶用法多用户、云部署与反向代理多用户与权限Docker 版支持多用户管理员在 User Management 里创建账号、按工作区分配权限每个用户看到的内容互相隔离。云端一键部署仓库内置 AWS CloudFormation、GCP、DigitalOcean Terraform 模板见 cloud-deployments。以 AWS 为例按模板创建 Stack 并上传配置文件即可完成部署反向代理用 Nginx 前置 HTTPS 时除常规代理配置外必须开启 WebSocket 升级聊天流式输出依赖它并关闭proxy_bufferingBARE_METAL.md 里有一份可直接套用的 Nginx 示例。嵌入 WidgetDocker 版可通过 Embed 功能把聊天框嵌进自己的网站此外还有 MCP 兼容、定时任务、AI Agent 工作流等能力可在设置中按需开启。下一步你可以做什么用 Ollama 拉一个本地模型如llama3.2把 LLM Preference 切过去体验完全离线的文档问答把团队知识库按主题拆成多个 Workspace逐个分配成员权限给服务套上 Nginx HTTPS让http://localhost:3001变成团队可访问的正式地址。【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考