starpivot

57 Commits

3 Branches

2 Tags

237 MiB

Tree: 73eb2ef2ca

Commit Graph

Author	SHA1	Message	Date
Rodger-Wang	73eb2ef2ca	MCP 补上会话鉴权，并挂三个拾忆只读工具 ## 先修鉴权：此前公网接口完全没有身份校验 authFromRequest 只把 Authorization 塞进 context，全仓没有一处读回来，也没有任何 JWT 校验；三个用户工具（get_user_tasks / allhelp_task / cancel_user_task）的 uid 都是 mcp.WithString("uid", Required()) —— 由大模型填进来的普通参数。而 mcp 是独立进程、独立端口 7300，不经过 gateway 那套 parseToken + isInWhiteList （那只管 /api/* 和 /web/），又必须对百炼公网可达。所以这不是「内网接口没做鉴权」，是公网接口完全没有鉴权：知道 uid 就能读改任意人的数据。新增 modules/mcp/auth.go： - 从 Authorization 解 JWT 取 uid，与 gateway/core.go 同一套口径（RegisteredClaims， uid 在 ID 字段）；兼容 "Bearer xxx" 前缀（gateway 收的是裸 token，标准 MCP 客户端会加前缀）。 - 参数里的 uid 只用于比对，不一致直接拒。不静默改用会话 uid——调用方显然误以为自己能指定用户，让它失败比让它以为成功了更安全。 - 解不出会话 uid 一律拒，不回退到参数 uid，那等于这层没做。 - TokenKey 未配置时拒绝所有用户数据类工具：配置漏了导致鉴权静默失效，比工具不可用严重得多。TokenKey 必须与 gateway 同值，两边都读 GATEWAY_TOKEN_KEY。存量三个工具同步改造，uid 参数保留但改为可选（兼容百炼后台已配好的工具定义）。 9 个测试守住这条线，其中三条是核心安全断言：参数 uid 与会话不符必须拒、没有 token 必须拒而不是回退、未配 TokenKey 必须全拒。另有伪造签名、过期 token、空 uid claim 的用例。 ## 共享查询层：避免 home 与 mcp 各写一份 comm/memoryquery.go。mcp 从不 RpcCall、只裸查 MySQL，如果记忆项的过滤条件、分类白名单、排序口径两边各写一遍，改了一边另一边不报错，只会让 EMAI 答的和 App 里显示的对不上——而且没人会发现。memory 模块的 listItems 也改走这里。 ApplyMemoryQuery 里 uid 为空时拼 "1 = 0" 而不是不加条件：少一个 uid 条件就是把全库记忆项返回给调用方，而它有两个调用方，其中一个公网可达。另提供 MemoryRelativeRange 把「本周/上月/最近7天」换算成日期区间给模型用—— 模型对「今天几号」的认知来自对话上下文，很不可靠，让它自己算 start_date 经常算错（SET_clock 把「下午 3:30」填成 03:30 是同一类问题）。 ## 三个只读工具 get_memory_items / get_memory_stats / get_memory_report。只读是刻意的*：新增/修改/删除不放这里。写路径的校验、幂等（client_key）、提醒时刻重算都在 home 的 memory 模块内，在 MCP 里复制一份必然漂移。录入走端侧指令（tool_calls）、查询走 MCP，这个分工不变。 - 花销按币种分行返回，不做汇率换算；同时给「分」和「元」，模型念元不容易错，留分是以免它想自己做加减时用浮点。 - get_memory_report 只返回已生成完的：还在生成中的 summary 是空的，给出去只会让模型编一段话填空。 - 返回给模型的是精简字段，不是整行 DBMemoryItem——client_key/gen_round/extra 这些内部字段对回答问题没用，只占 token 还诱导模型去解释它们。 - date_certain=false 的项带上 date_is_inferred 标记，让模型别把推断出来的日期当成用户确认过的安排来陈述。 - 模型填错分类时忽略该筛选当作「不限分类」，而不是整次查询失败——它多半会再填错一次。 Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>	1 month ago
Rodger-Wang	0b0ac16b3c	记忆中心后端：memory 模块 + 会议待办抽取 + 周报月报按设计文档一~三期的后端部分落地。全量 go build / go vet 通过，新增 22 个测试。 memory 模块（modules/memory，由 home 装载，路径 /api/home/memory_*） 11 个接口：list / today / add / update / del / complete / upcoming / stats / getreport / confirmreport / listreports。表由 proto + gorm tag 生成（不是手写 DDL——本仓所有业务表都走 mysql.CreateTable + AutoMigrate）。protobuf 没有 DECIMAL/DATE/DATETIME/null，逐个落成：金额 int64 存分（与 pay/结算同口径，绝不用 double）、happen_date string + gorm type:date、next_remind_at int64 unix 秒（0=无）。几处刻意的选择 - 建表失败只 Errorln 不外传。lego.Run 里 Init 返回非 nil 就 Panicf，而五个服务同镜像、entrypoint 见任一 pid 退出就全杀，一次建表失败等于全站 502。 allhelp/model.go 那段用命名返回值 err，第二张表失败时会漏出去，是反例。 - client_key 服务端保证非空。它参与 (uid, client_key) 唯一索引，而 MySQL 的唯一索引不像放行 NULL 那样放行空串，留空会让同一用户的第二条记录直接插不进去。用 crypto/rand 生成：这个值是去重依据，可预测就可被抢占。 - 重复项的提醒改成「就地展开」。设计文档 v0.1 写的「remind_at 服务端算好客户端直接用」对重复项不成立——一个字段表达不了「每天」，且没人在它过去后往前推。现在 memory_upcoming 按项自己的 tz 展开成绝对时刻列表返回，不落库。单条项按自己的 tz 算而不跟着请求方走：「今天有哪些事」是视图问题可以跟着人走，「明早 8 点响」是承诺问题不能。 - 花销按币种分行统计，不做汇率换算。把 CNY 和 JPY 加成一个数是错的。 - 统计全部走 SQL，LLM 只把 stat_json 组织成一段适合朗读的话。明细截断到 20 条（重度用户一周两百条未完成，全塞进 prompt 会顶爆上下文，播报也没人听得完）。 - 查询/删除/更新一律带 uid 作条件，报告确认校验 uid 归属。 - 更新字段走白名单而不是黑名单，漏挡一个 uid/id 就是越权改别人的数据。选路走编排，不再写死服务商新增 comm.IEchomeet.ChatLLM，由 echomeet 用它的 PickLLM/GetSummarizer 实现。 memory 的报告生成与会议抽取都经它选模型。allhelp/summary.go 直接 import sys/doubao 是历史债：绕过后台编排，海外应用照样调国内豆包、后台换模型也换不掉。新模块不复制这个写法。会议纪要 → 待办抽取（第三路）挂在 AIProcess 写完 summary、状态置 Completed、出队之后，另起 goroutine。 prompt 内置代码不放 echomeet_template（1189 条模板改不齐，且输出要被程序 parse）。输入用已生成的 summary 而非转写全文。注入 <meeting_date>，服务端二次校验 due_date：解析不出或早于会议当天的一律只留 due_raw、落会议当天并置 date_certain=false。抽取失败只记日志，绝不回头改 rec.State。 - gen_round 由 memory 按 source_id 现有最大值 +1 推出，不由调用方传。 echomeet 没有地方存轮次计数器，硬编码成 1 会让第二次「重新生成」的清理条件 gen_round < 1 一条都匹配不上，旧待办从此永远留在库里。 - 会议归属日期只能用 creationtime（上传时间）——DBEchoMeetRecord 上没有「会议实际发生日期」字段，也没有客户端时区。补录历史录音会算错，是已知偏差，注释已记。周报月报 cron 建单 → Redis 队列 → N worker。锁与队列 key 都过 redissys.RKey 加应用前缀：测试机多应用共用一个 Redis，锁 key 不带前缀会让 A 应用挡住 B 应用整周不生成报告，而且安安静静什么都不报。补偿比防重更要紧：当前 compose 是单副本，多副本重复是前瞻性风险；真会发生的是 00:30 跑到一半容器重启、cron 不补跑、报告永远停在 pending。所以 memory_getreport 里做超时重新入队（同 echomeet 用 PollTranscribe 兜「转写回调丢了」的思路）。文案生成失败不算整体失败——统计是完整的，宁可少一句话不可让报告整个没有。顺带修的既有缺陷 - user 模块 cancel()（账号注销）补上 memory_item / memory_report 两张表，以及既有遗漏的 useridverify（身份证掩码 + 加盐指纹）。这个清单是硬编码的，漏了不报错，只是个人数据静静留在库里。 - errorcode.proto 新开 5201-5206 段。复用 ReqParameterError 会让客户端无法分流，「报告还没生成好」该转圈重试而不是弹错。测试 comm/memory_test.go 8 个：周日在 Go 里是 0、Dart 里是 7 的换算（错了不报错，只会让每周日的闹钟在周一响）、ISO 跨年周、闰年二月、非法时区必须回退 time.Local 而不是 UTC（否则静默偏移 8 小时）、client_key 非空且不重复。 modules/memory 14 个：一次性/每天/每周展开、锚点在一年前仍能算出未来时刻、过期项不排、灵感花销不提醒、全天项按 9:00 不落 0:00、展开结果必须升序（客户端要按 iOS 64 条上限截断，顺序错了会把明天的排掉留下一周后的）、项按自己时区算、LLM 输出容错（代码块/前后解释文字）与真失败必须报错。 Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>	1 month ago

Author

SHA1

Message

Date

Rodger-Wang

73eb2ef2ca

MCP 补上会话鉴权，并挂三个拾忆只读工具

## 先修鉴权：此前公网接口完全没有身份校验

authFromRequest 只把 Authorization 塞进 context，**全仓没有一处读回来，也没有
任何 JWT 校验**；三个用户工具（get_user_tasks / allhelp_task / cancel_user_task）
的 uid 都是 mcp.WithString("uid", Required()) —— 由大模型填进来的普通参数。

而 mcp 是独立进程、独立端口 7300，不经过 gateway 那套 parseToken + isInWhiteList
（那只管 /api/* 和 /web/*），又必须对百炼公网可达。所以这不是「内网接口没做鉴权」，
是公网接口完全没有鉴权：知道 uid 就能读改任意人的数据。

新增 modules/mcp/auth.go：
- 从 Authorization 解 JWT 取 uid，与 gateway/core.go 同一套口径（RegisteredClaims，
  uid 在 ID 字段）；兼容 "Bearer xxx" 前缀（gateway 收的是裸 token，标准 MCP
  客户端会加前缀）。
- 参数里的 uid **只用于比对**，不一致直接拒。不静默改用会话 uid——调用方显然
  误以为自己能指定用户，让它失败比让它以为成功了更安全。
- 解不出会话 uid 一律拒，**不回退到参数 uid**，那等于这层没做。
- TokenKey 未配置时拒绝所有用户数据类工具：配置漏了导致鉴权静默失效，
  比工具不可用严重得多。TokenKey 必须与 gateway 同值，两边都读 GATEWAY_TOKEN_KEY。

存量三个工具同步改造，uid 参数保留但改为可选（兼容百炼后台已配好的工具定义）。

9 个测试守住这条线，其中三条是核心安全断言：参数 uid 与会话不符必须拒、
没有 token 必须拒而不是回退、未配 TokenKey 必须全拒。另有伪造签名、过期 token、
空 uid claim 的用例。

## 共享查询层：避免 home 与 mcp 各写一份

comm/memoryquery.go。mcp 从不 RpcCall、只裸查 MySQL，如果记忆项的过滤条件、
分类白名单、排序口径两边各写一遍，改了一边另一边不报错，只会让 EMAI 答的和
App 里显示的对不上——而且没人会发现。memory 模块的 listItems 也改走这里。

ApplyMemoryQuery 里 uid 为空时拼 "1 = 0" 而不是不加条件：少一个 uid 条件就是把
全库记忆项返回给调用方，而它有两个调用方，其中一个公网可达。

另提供 MemoryRelativeRange 把「本周/上月/最近7天」换算成日期区间给模型用——
模型对「今天几号」的认知来自对话上下文，很不可靠，让它自己算 start_date 经常
算错（SET_clock 把「下午 3:30」填成 03:30 是同一类问题）。

## 三个只读工具

get_memory_items / get_memory_stats / get_memory_report。

**只读是刻意的**：新增/修改/删除不放这里。写路径的校验、幂等（client_key）、
提醒时刻重算都在 home 的 memory 模块内，在 MCP 里复制一份必然漂移。
录入走端侧指令（tool_calls）、查询走 MCP，这个分工不变。

- 花销按币种分行返回，不做汇率换算；同时给「分」和「元」，模型念元不容易错，
  留分是以免它想自己做加减时用浮点。
- get_memory_report 只返回已生成完的：还在生成中的 summary 是空的，
  给出去只会让模型编一段话填空。
- 返回给模型的是精简字段，不是整行 DBMemoryItem——client_key/gen_round/extra
  这些内部字段对回答问题没用，只占 token 还诱导模型去解释它们。
- date_certain=false 的项带上 date_is_inferred 标记，让模型别把推断出来的日期
  当成用户确认过的安排来陈述。
- 模型填错分类时忽略该筛选当作「不限分类」，而不是整次查询失败——它多半会再填错一次。

Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>

1 month ago

Rodger-Wang

0b0ac16b3c

记忆中心后端：memory 模块 + 会议待办抽取 + 周报月报

按设计文档一~三期的后端部分落地。全量 go build / go vet 通过，新增 22 个测试。

memory 模块（modules/memory，由 home 装载，路径 /api/home/memory_*）
11 个接口：list / today / add / update / del / complete / upcoming / stats /
getreport / confirmreport / listreports。

表由 proto + gorm tag 生成（不是手写 DDL——本仓所有业务表都走
mysql.CreateTable + AutoMigrate）。protobuf 没有 DECIMAL/DATE/DATETIME/null，
逐个落成：金额 int64 存分（与 pay/结算同口径，绝不用 double）、happen_date
string + gorm type:date、next_remind_at int64 unix 秒（0=无）。

几处刻意的选择
- 建表失败只 Errorln 不外传。lego.Run 里 Init 返回非 nil 就 Panicf，而五个服务
  同镜像、entrypoint 见任一 pid 退出就全杀，一次建表失败等于全站 502。
  allhelp/model.go 那段用命名返回值 err，第二张表失败时会漏出去，是反例。
- client_key 服务端保证非空。它参与 (uid, client_key) 唯一索引，而 MySQL 的唯一
  索引不像放行 NULL 那样放行空串，留空会让同一用户的第二条记录直接插不进去。
  用 crypto/rand 生成：这个值是去重依据，可预测就可被抢占。
- 重复项的提醒改成「就地展开」。设计文档 v0.1 写的「remind_at 服务端算好客户端
  直接用」对重复项不成立——一个字段表达不了「每天」，且没人在它过去后往前推。
  现在 memory_upcoming 按项自己的 tz 展开成绝对时刻列表返回，不落库。
  单条项按自己的 tz 算而不跟着请求方走：「今天有哪些事」是视图问题可以跟着人走，
  「明早 8 点响」是承诺问题不能。
- 花销按币种分行统计，不做汇率换算。把 CNY 和 JPY 加成一个数是错的。
- 统计全部走 SQL，LLM 只把 stat_json 组织成一段适合朗读的话。明细截断到 20 条
  （重度用户一周两百条未完成，全塞进 prompt 会顶爆上下文，播报也没人听得完）。
- 查询/删除/更新一律带 uid 作条件，报告确认校验 uid 归属。
- 更新字段走白名单而不是黑名单，漏挡一个 uid/id 就是越权改别人的数据。

选路走编排，不再写死服务商
新增 comm.IEchomeet.ChatLLM，由 echomeet 用它的 PickLLM/GetSummarizer 实现。
memory 的报告生成与会议抽取都经它选模型。allhelp/summary.go 直接 import
sys/doubao 是历史债：绕过后台编排，海外应用照样调国内豆包、后台换模型也换不掉。
新模块不复制这个写法。

会议纪要 → 待办抽取（第三路）
挂在 AIProcess 写完 summary、状态置 Completed、出队之后，另起 goroutine。
prompt 内置代码不放 echomeet_template（1189 条模板改不齐，且输出要被程序 parse）。
输入用已生成的 summary 而非转写全文。注入 <meeting_date>，服务端二次校验
due_date：解析不出或早于会议当天的一律只留 due_raw、落会议当天并置
date_certain=false。抽取失败只记日志，绝不回头改 rec.State。

- gen_round 由 memory 按 source_id 现有最大值 +1 推出，不由调用方传。
  echomeet 没有地方存轮次计数器，硬编码成 1 会让第二次「重新生成」的清理条件
  gen_round < 1 一条都匹配不上，旧待办从此永远留在库里。
- 会议归属日期只能用 creationtime（上传时间）——DBEchoMeetRecord 上没有「会议实际
  发生日期」字段，也没有客户端时区。补录历史录音会算错，是已知偏差，注释已记。

周报月报
cron 建单 → Redis 队列 → N worker。锁与队列 key 都过 redissys.RKey 加应用前缀：
测试机多应用共用一个 Redis，锁 key 不带前缀会让 A 应用挡住 B 应用整周不生成报告，
而且安安静静什么都不报。
补偿比防重更要紧：当前 compose 是单副本，多副本重复是前瞻性风险；真会发生的是
00:30 跑到一半容器重启、cron 不补跑、报告永远停在 pending。所以 memory_getreport
里做超时重新入队（同 echomeet 用 PollTranscribe 兜「转写回调丢了」的思路）。
文案生成失败不算整体失败——统计是完整的，宁可少一句话不可让报告整个没有。

顺带修的既有缺陷
- user 模块 cancel()（账号注销）补上 memory_item / memory_report 两张表，
  以及既有遗漏的 useridverify（身份证掩码 + 加盐指纹）。这个清单是硬编码的，
  漏了不报错，只是个人数据静静留在库里。
- errorcode.proto 新开 5201-5206 段。复用 ReqParameterError 会让客户端无法分流，
  「报告还没生成好」该转圈重试而不是弹错。

测试
comm/memory_test.go 8 个：周日在 Go 里是 0、Dart 里是 7 的换算（错了不报错，
只会让每周日的闹钟在周一响）、ISO 跨年周、闰年二月、非法时区必须回退 time.Local
而不是 UTC（否则静默偏移 8 小时）、client_key 非空且不重复。
modules/memory 14 个：一次性/每天/每周展开、锚点在一年前仍能算出未来时刻、
过期项不排、灵感花销不提醒、全天项按 9:00 不落 0:00、展开结果必须升序
（客户端要按 iOS 64 条上限截断，顺序错了会把明天的排掉留下一周后的）、
项按自己时区算、LLM 输出容错（代码块/前后解释文字）与真失败必须报错。

Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>

1 month ago

2 Commits (73eb2ef2cab41784cb13d06b50d474a75a767194)