anything-llm

全功能自托管AI平台

⭐ 63.3k JavaScript MIT

解决什么问题

解决用户需要私有、安全、可控的AI助手的需求。无需依赖外部云服务,即可在本地或自有服务器上实现文档问答、自动化工作流、多用户协作等场景,同时保护知识产权和数据隐私。

最适合

适合个人开发者、团队、中小企业需要本地部署AI聊天、文档检索、智能代理、定时任务自动化的场景。尤其对数据隐私有严格要求(如法律、金融、医疗领域)或需要离线运行的用户。

不适合

不适合仅需简单在线聊天、不愿意自行维护服务器或Docker环境的用户;也不适合对AI功能要求极简、无需多用户或代理功能的场景。

快速上手

bash
选项1:下载桌面客户端(推荐非技术用户)
curl -L -o anythingllm-installer https://anythingllm.com/download
安装后启动即可
选项2:使用Docker部署(服务器/高级用户)
docker pull mintplexlabs/anythingllm:latest
docker run -d -p 3001:3001 
-v ${PWD}/anythingllm:/app/server/storage 
mintplexlabs/anythingllm:latest
访问 http://localhost:3001 开始配置

项目详情

产品概述

AnythingLLM 是一体化AI应用,允许用户构建私有的全功能ChatGPT,无需妥协。支持连接本地或云端大语言模型(LLM),导入文档,数分钟内开始对话。内置AI代理、多用户支持、向量数据库和文档管道,无需额外配置。

核心特性

  • 动态模型路由:根据自定义规则自动为对话选择最优模型提供商。
  • 自动与用户管理记忆:让LLM记住工作区或用户的重要信息。
  • 定时任务:支持cron定时执行重复任务或提示,配备完整代理能力。
  • 智能工具选择:为模型启用无限工具,每次查询减少80% Token消耗。
  • 无代码AI代理构建器:通过拖拽界面创建代理流程。
  • MCP兼容:支持模型上下文协议。
  • 多模态支持:兼容闭源与开源LLM,处理图像、音频等。
  • 自定义AI代理:提供丰富接口定制代理行为。
  • 多用户实例与权限管理(仅Docker版本):细粒度控制用户访问和体验。
  • 工作区AI代理:赋予代理浏览网页等能力。
  • 可嵌入聊天组件:导出为网站挂件,与用户交互。

技术栈

基于Node.js/JavaScript,提供桌面客户端(Mac、Windows、Linux)和Docker部署方式。默认本地运行,零摩擦启动。