ODS：把个人电脑变成一台本地 AI 服务器
一分钟看懂
ODS 是一个自托管 AI 平台，目标是把 Windows、macOS 或 Linux 电脑变成可通过浏览器使用的 AI 工作站。它把本地大模型推理、聊天、语音、Agent、工作流、RAG 知识库和图像生成放进统一界面，减少用户分别安装多套工具的成本。
它更像本地 AI 服务的整合层，而不是某一个模型。实际速度和可用功能取决于电脑的 CPU、内存、显卡、所选模型以及外部服务配置。
你可以用它做什么
在本机运行和管理模型
用户可以选择适合硬件的本地模型，通过网页进行多轮对话。敏感资料可尽量留在自己的设备上，也能避免所有请求都依赖远端服务。需要更强能力时，再按项目支持接入外部模型。
建立个人知识库
把文档纳入 RAG 流程后，模型可围绕资料检索和回答。适合整理产品文档、研究笔记或内部手册，但引用是否准确仍需回看原文。
组合 Agent 和自动化工作流
平台将模型、工具和步骤串成 Agent 或工作流，用于信息处理、内容生成及重复任务。语音和图片能力使它不局限于纯文字聊天。
在局域网共享 AI 能力
运行服务的电脑可作为家庭或小团队的 AI 节点，由其他设备通过浏览器访问。管理员需要自己负责账户、网络、存储和资源隔离。
主要能力
- 本地语言模型推理和统一聊天界面。
- 语音输入输出、图像生成等多模态能力。
- Agent、工具调用和可组合工作流。
- 文档导入、检索与 RAG 问答。
- 可在主流桌面系统上自托管运行。
- 为不同硬件和模型提供统一管理入口。
适合哪些人
它适合想在一台设备上集中体验本地 AI、重视数据控制的个人开发者，也适合希望搭建内部原型的小团队。如果电脑没有足够内存或显卡，较大模型仍会很慢，云端服务可能更省心。
怎么开始使用
先查看官方硬件与安装说明，从较小模型和纯聊天功能开始。确认推理稳定后，再逐步添加知识库、语音、图片和 Agent。一次启用所有服务会增加显存、磁盘和排错难度。
若开放给局域网其他用户，应设置身份验证、防火墙和访问范围；如需公网访问，必须通过 HTTPS、反向代理或可信 VPN，并做好更新和备份。
使用前需要知道
“本地运行”不必然表示所有数据都不出设备。模型下载、联网搜索、第三方 API、语音或图像服务仍可能发送内容到外部。应逐项检查实际启用的提供商和日志位置。
本地模型也会生成错误或不安全内容。知识库问答应保留来源，自动工作流应限制工具权限，关键操作要求人工确认。模型文件体积较大，升级和索引还会持续占用磁盘与计算资源。