华宇记忆Huayu Memory

华宇记忆(huayu-memory)是清大华宇AI 的跨会话持久记忆服务:混合检索(全文 + 向量)、规则提炼与生命周期注入,让模型跨对话记住用户偏好与项目约定,企业内网私有化部署。

产品介绍

华宇记忆(huayu-memory)为华宇大模型与清大华宇AI 提供持久记忆能力:模型在对话中记住的偏好、决策与规范,跨会话、跨项目持续可用,无需每次重新交代。

  • 混合检索:SQLite FTS5 全文索引 + bge-m3 向量嵌入(1024 维)双重召回,按相关度排序;
  • 自动沉淀:会话结束时自动提炼对话要点(规则/决策/偏好)并入库存档;
  • 主动注入:每轮对话开始前按当前话题召回相关记忆,静默注入上下文;
  • 轻量私有化:单容器部署,CPU 即可运行(bge-m3 约 2.3 GB),模型不可用时自动降级为关键词检索;
  • 即插即用:集成于清大华宇AI,开箱即用;也提供 REST API 供自有系统接入。

工作方式

  1. 会话中:模型通过 memory_search / memory_save 工具显式查询与保存记忆;
  2. 每轮开始:自动以当前问题检索记忆库,命中内容以快照形式注入上下文;
  3. 会话结束:自动提炼整段对话,把值得记住的结论与约定写入记忆库;
  4. 下次对话:相关记忆自动带出,模型延续此前的语境与约定。

记忆按命名空间隔离:全局记忆跨项目共享,项目记忆按工作目录自动归类。

检索与存储

项目说明
检索方式FTS5 全文 + 向量相似度混合排序
嵌入模型bge-m3(1024 维,CPU 推理)
存储SQLite(WAL),单文件易备份
降级策略嵌入不可用时自动切换关键词/LIKE 检索
鉴权Authorization: Bearer <apiKey>

API

方法路径说明
GET/v1/health健康检查
GET/v1/search?q=&namespace=&limit=&threshold=混合检索
POST/v1/memories写入记忆(fingerprint 去重)
GET/v1/memories按命名空间/类型列出
GET/v1/memories/{id}查看单条
DELETE/v1/memories/{id}删除单条
POST/v1/refine规则提炼候选

部署

Docker 部署(推荐)

git clone git@github.com:LanHyperCloud/huayu-memory.git
cd huayu-memory
openssl rand -hex 24 > .key
echo "HUAYU_MEMORY_KEY=$(cat .key)" > .env
docker compose up -d
# 预热嵌入模型(首次下载 bge-m3,约 2.3 GB)
docker exec huayu-memory python -c "from app import embed; embed._load(); print(embed.state(), embed.dim())"

服务默认监听 8780 端口;数据保存在 data/ 卷(memory.db 与嵌入模型缓存)。

对接华宇大模型 / 清大华宇AI

在客户端配置中设置:

配置项说明
endpoint服务地址(生产环境指向 https://memory.lanhc.com)
apiKey与服务端 .env 中一致的 Bearer token
enabled是否启用记忆能力

内存召回数量、相似度阈值、会话提炼开关等均可按需调整;记忆服务是增强项——不可用时对话照常进行,不影响主流程。


获取