如何构建 私有自托管智能体

AItooling 绝不会替你注册，也绝不会索要你的密码或密钥。每个账户都由你在工具官网上自己创建，这里只保存你的勾选进度。

登录 并保存此方案，即可在账户中保留你的进度。

1. 1创建你的账户

   • 创建你的 LangChain 账户

     注册或安装后，为这个智能体新建一个项目。
   • 创建你的 Qwen 账户

     安装在你自己的服务器上。无需账户，数据留在你手中。
   • 创建你的 vLLM 账户

     安装在你自己的服务器上。无需账户，数据留在你手中。
   • 创建你的 Mem0 账户

     注册并为这个智能体单独创建一个新的数据库或索引。
   • 创建你的 LlamaIndex 账户

     注册并为这个智能体单独创建一个新的数据库或索引。
   • 创建你的 Qdrant 账户

     注册并为这个智能体单独创建一个新的数据库或索引。
   • 创建你的 Notion 账户

     注册后只连接这个智能体需要的应用，尽可能只给只读权限。
   • 创建你的 Vanna AI 账户

     注册后只连接这个智能体需要的应用，尽可能只给只读权限。
   • 创建你的 Fyxer AI 账户

     注册后只连接这个智能体需要的应用，尽可能只给只读权限。
   • 创建你的 Reclaim.ai 账户

     注册后只连接这个智能体需要的应用，尽可能只给只读权限。
   • 创建你的 Langfuse 账户

     注册并开启日志，以便查看智能体做了什么。

2. 2按此顺序构建

   • 在你自己的服务器上安装 vLLM 并加载 Qwen。
   • 设置 LangChain 并将其连接到 Qwen。
   • 编写智能体的指令：它的职责、语气，以及绝不能做的事。
   • 通过 LlamaIndex 将你的文档加载到 Qdrant。
   • 添加 Mem0，让智能体在不同对话中记住用户。
   • 逐一连接工具并测试：文档与知识库、数据库 / SQL、收件箱助手、智能日历。
   • 添加安全防护：过滤敏感数据，仅允许执行白名单中的工具操作。
   • 接入启动方式：聊天界面。
   • 启用 Langfuse，每周审查真实对话。
   • 编写一小组真实任务作为测试集，每次更改前都运行一次。

3. 3启动你的智能体

   • 获取你的智能体代码

     复制这个智能体的现成代码。它会在 AI 模型看到之前隐藏密钥和个人数据。

     打开这个智能体的代码
   • 安全保管你的密钥

     把每个密钥存放在密码管理器或托管平台的密钥设置中。切勿把密钥或密码粘贴到 AItooling 或聊天中。

   • 运行你的智能体并检查它的首批回答

     从小处开始，亲自阅读每个回答，之后再让其他人使用。