starpivot

135 Commits

3 Branches

2 Tags

237 MiB

Tree: f9e18480bd

Commit Graph

Author	SHA1	Message	Date
Rodger-Wang	6299920145	点结束时自动关掉屏幕直播；拾忆页去掉手动新增的 + 号 1) 多媒体翻译点「结束」后，系统那条屏幕直播不再挂着主 App 对「用户从系统面板发起的广播」没有任何控制权——RPBroadcastController 只管 App 内 API 起的那种。唯一能终止它的是扩展自己调 finishBroadcastWithError。所以改成让扩展感知主 App 是否还在： - stopAll() → _teardownCallModeAudio() → stopScreenCapture() 关掉 socket （这条链原本就有） - 扩展侧：曾经连上过、又断开超过 3 秒连不回来 → 判定主 App 收工，结束广播。没连上过就断开不算——那是「先开广播、还没点开始翻译」的正常情况。宽限期不能太短，主 App 瞬断会误杀用户正在用的广播。 - 另加 1 秒心跳轮询：只靠 processSampleBuffer 里检查是不够的，视频停了或者没有任何 App 出声时 audioApp 帧可能长时间不来，那样永远发现不了主 App 已经走了，屏幕上那条红条会一直挂着。 ⚠️ finishBroadcastWithError 必须传 NSError，系统会把 localizedDescription 弹给用户，所以给的是一句正常说明而不是错误信息。 2) 拾忆页去掉右下角的 + 号内容应当由助手/会议纪要自动落进来，手动新建不是当前需要的能力。卡片点开编辑保留（TodoScopeList 里）——那是改助手记错的时间/内容用的，与「手动新建」不是一回事。 Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>	1 month ago
Rodger-Wang	a9ce8bcdef	广播扩展改走 127.0.0.1 环回 TCP，去掉 App Group 依赖上一版用 App Group + Unix domain socket 传音频，结果签不出包： - com.yimai.eaimar 的 profile 不带 App Groups capability - com.yimai.eaimar.BroadcastExtension 没有任何 profile 而 Xcode 又登录不上账号去申请（-1200）。实测原因是网络层： developer.apple.com 通（200），appleid.apple.com 与 developerservices2.apple.com 都连不上（000）——后两个正是登录与签发 profile 要走的域名。改成环回 TCP 之后不需要任何 entitlement：扩展和主 App 在同一台设备上， 127.0.0.1 天然互通，而且不触发 iOS 的「本地网络」隐私弹窗（那个只针对局域网，环回是明确豁免的）。主 App 的 entitlements 回到原样，用已有的 profile 就能签，扩展的 profile 由自动签名就地生成。已真机安装成功。代价：没有 App Group 就没有地方发布「主 App 这次监听在哪个端口」，只能约定一个固定端口（52781，两边手工同步，注释里写明了）。撞端口时主 App bind 会失败并打日志，不是静默失败。顺带补的两个 socket 选项： - SO_REUSEADDR：上次进程被杀后端口停留在 TIME_WAIT，不开的话几十秒内 bind 都会 EADDRINUSE，表现是「刚重启 App 就用不了」。 - TCP_NODELAY：音频要低延迟，攒包没有意义。 - 只绑 127.0.0.1 而不是 INADDR_ANY，否则这个端口对局域网可见。另外记两个这次踩到的构建坑： - flutter clean 会删掉 ios/Flutter/ephemeral/，其中的 swift_sdk_local 软链由 Podfile 的补丁在 pod install 时创建、flutter 不会自己重建，于是后续 xcodebuild 直接卡在 "Could not resolve package dependencies"。清理之后要补跑一次 pod install。 - 跑过 --no-codesign 之后再跑签名构建，会复用 build/ 里未签名的 framework，装机时报 objective_c.framework "invalid signature"。中间做过 no-codesign 验证的话，出正式包前要先 flutter clean。 Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>	1 month ago
Rodger-Wang	8377745992	iOS 多媒体翻译接入 ReplayKit 广播扩展，真正拿系统音频 iOS 不允许一个 App 读另一个 App 的音频，Broadcast Upload Extension 是系统留的唯一口子。链路：其他 App 播放 → 系统录屏广播 → BroadcastExtension(独立进程) 收 RPSampleBufferType.audioApp → 转 16k/mono/Int16 → App Group 容器下的 Unix domain socket → 主 App BroadcastAudioReceiver → azureAsrHelper.audioStream.saveAudioDataTo() ← 已有的 external 通路 → ASR → 翻译 → 弹幕新增： - ios/BroadcastExtension/{SampleHandler,BroadcastAudioSocket}.swift、Info.plist、 entitlements、Extension.xcconfig - azure_speech 插件的 BroadcastAudioReceiver.swift + 三个 method channel （startBroadcastAudioReceiver / stopBroadcastAudioReceiver / presentBroadcastPicker） - Runner.entitlements 加 App Group；xcodeproj 加 BroadcastExtension target 并在 Runner 里内嵌对上层复用已有的 requestScreenCapture/stopScreenCapture 接缝（Android 是 MediaProjection，iOS 是广播扩展），控制器里两端走同一条分支。几处踩过的坑，都写进了注释： - SOCK_STREAM 不保留消息边界，帧必须带 4 字节长度前缀，否则喂给 ASR 的是错位样本。 - CMSampleBufferGetAudioBufferListWithRetainedBlockBuffer 不拷贝数据，只把 mData 指向 blockBuffer 的内存；blockBuffer 出作用域即释放，交出去就是野指针。改成在 withExtendedLifetime 里 memcpy 出来。 - AudioBufferList 的 buffer 个数要按 interleaved 与否算，写死 1 会让非交错立体声整帧拿不到。 - sun_path 只有 104 字节，socket 只能放在 App Group 容器根下，不能建子目录。 - 扩展侧 connect 失败要限流重试（1s），每帧重连会把扩展 CPU 打满，而它的内存上限只有 50MB。 - SO_NOSIGPIPE：主 App 挂掉时写 socket 默认会直接杀死扩展进程。 - media 这个 ASR 模式的会话配置必须排在 audioSourceType 判断之前，且要 .mixWithOthers —— 否则我们一 setActive 就把正在播放的那个 App 掐了。 - Embed App Extensions 阶段必须插在 Thin Binary 之前。追加到最后会和 Flutter/CocoaPods 的脚本阶段构成依赖环，Xcode 报 Cycle inside Runner。 ⚠️ 尚未打通签名：需要在苹果开发者后台登记 App Group group.com.yimai.eaimar、给 com.yimai.eaimar 开 App Groups capability、并为 com.yimai.eaimar.BroadcastExtension 建 App ID。Xcode 当前还登录不上账号（-1200）。在这之前 iOS 包签不出来。代码已用 --no-codesign 验证可编译、 appex 也正确内嵌进 PlugIns/。 Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>	1 month ago

Author

SHA1

Message

Date

Rodger-Wang

6299920145

点结束时自动关掉屏幕直播；拾忆页去掉手动新增的 + 号

1) 多媒体翻译点「结束」后，系统那条屏幕直播不再挂着
   主 App 对「用户从系统面板发起的广播」没有任何控制权——RPBroadcastController
   只管 App 内 API 起的那种。唯一能终止它的是扩展自己调
   finishBroadcastWithError。所以改成让扩展感知主 App 是否还在：
   - stopAll() → _teardownCallModeAudio() → stopScreenCapture() 关掉 socket
     （这条链原本就有）
   - 扩展侧：曾经连上过、又断开超过 3 秒连不回来 → 判定主 App 收工，结束广播。
     没连上过就断开不算——那是「先开广播、还没点开始翻译」的正常情况。
     宽限期不能太短，主 App 瞬断会误杀用户正在用的广播。
   - 另加 1 秒心跳轮询：只靠 processSampleBuffer 里检查是不够的，视频停了或者
     没有任何 App 出声时 audioApp 帧可能长时间不来，那样永远发现不了主 App
     已经走了，屏幕上那条红条会一直挂着。
   ⚠️ finishBroadcastWithError 必须传 NSError，系统会把 localizedDescription
   弹给用户，所以给的是一句正常说明而不是错误信息。

2) 拾忆页去掉右下角的 + 号
   内容应当由助手/会议纪要自动落进来，手动新建不是当前需要的能力。
   卡片点开编辑保留（TodoScopeList 里）——那是改助手记错的时间/内容用的，
   与「手动新建」不是一回事。

Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>

1 month ago

Rodger-Wang

a9ce8bcdef

广播扩展改走 127.0.0.1 环回 TCP，去掉 App Group 依赖

上一版用 App Group + Unix domain socket 传音频，结果签不出包：
- com.yimai.eaimar 的 profile 不带 App Groups capability
- com.yimai.eaimar.BroadcastExtension 没有任何 profile
而 Xcode 又登录不上账号去申请（-1200）。实测原因是网络层：
developer.apple.com 通（200），appleid.apple.com 与
developerservices2.apple.com 都连不上（000）——后两个正是登录与签发 profile
要走的域名。

改成环回 TCP 之后不需要任何 entitlement：扩展和主 App 在同一台设备上，
127.0.0.1 天然互通，而且不触发 iOS 的「本地网络」隐私弹窗（那个只针对局域网，
环回是明确豁免的）。主 App 的 entitlements 回到原样，用已有的 profile 就能签，
扩展的 profile 由自动签名就地生成。已真机安装成功。

代价：没有 App Group 就没有地方发布「主 App 这次监听在哪个端口」，只能约定
一个固定端口（52781，两边手工同步，注释里写明了）。撞端口时主 App bind 会
失败并打日志，不是静默失败。

顺带补的两个 socket 选项：
- SO_REUSEADDR：上次进程被杀后端口停留在 TIME_WAIT，不开的话几十秒内 bind
  都会 EADDRINUSE，表现是「刚重启 App 就用不了」。
- TCP_NODELAY：音频要低延迟，攒包没有意义。
- 只绑 127.0.0.1 而不是 INADDR_ANY，否则这个端口对局域网可见。

另外记两个这次踩到的构建坑：
- flutter clean 会删掉 ios/Flutter/ephemeral/，其中的 swift_sdk_local 软链由
  Podfile 的补丁在 pod install 时创建、**flutter 不会自己重建**，于是后续
  xcodebuild 直接卡在 "Could not resolve package dependencies"。清理之后要
  补跑一次 pod install。
- 跑过 --no-codesign 之后再跑签名构建，会复用 build/ 里未签名的 framework，
  装机时报 objective_c.framework "invalid signature"。中间做过 no-codesign
  验证的话，出正式包前要先 flutter clean。

Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>

1 month ago

Rodger-Wang

8377745992

iOS 多媒体翻译接入 ReplayKit 广播扩展，真正拿系统音频

iOS 不允许一个 App 读另一个 App 的音频，Broadcast Upload Extension 是系统
留的唯一口子。链路：

  其他 App 播放 → 系统录屏广播 → BroadcastExtension(独立进程)
    收 RPSampleBufferType.audioApp → 转 16k/mono/Int16
    → App Group 容器下的 Unix domain socket
    → 主 App BroadcastAudioReceiver
    → azureAsrHelper.audioStream.saveAudioDataTo()   ← 已有的 external 通路
    → ASR → 翻译 → 弹幕

新增：
- ios/BroadcastExtension/{SampleHandler,BroadcastAudioSocket}.swift、Info.plist、
  entitlements、Extension.xcconfig
- azure_speech 插件的 BroadcastAudioReceiver.swift + 三个 method channel
  （startBroadcastAudioReceiver / stopBroadcastAudioReceiver / presentBroadcastPicker）
- Runner.entitlements 加 App Group；xcodeproj 加 BroadcastExtension target
  并在 Runner 里内嵌

对上层复用已有的 requestScreenCapture/stopScreenCapture 接缝（Android 是
MediaProjection，iOS 是广播扩展），控制器里两端走同一条分支。

几处踩过的坑，都写进了注释：
- SOCK_STREAM 不保留消息边界，帧必须带 4 字节长度前缀，否则喂给 ASR 的是
  错位样本。
- CMSampleBufferGetAudioBufferListWithRetainedBlockBuffer 不拷贝数据，只把
  mData 指向 blockBuffer 的内存；blockBuffer 出作用域即释放，交出去就是野指针。
  改成在 withExtendedLifetime 里 memcpy 出来。
- AudioBufferList 的 buffer 个数要按 interleaved 与否算，写死 1 会让非交错
  立体声整帧拿不到。
- sun_path 只有 104 字节，socket 只能放在 App Group 容器根下，不能建子目录。
- 扩展侧 connect 失败要限流重试（1s），每帧重连会把扩展 CPU 打满，而它的
  内存上限只有 50MB。
- SO_NOSIGPIPE：主 App 挂掉时写 socket 默认会直接杀死扩展进程。
- media 这个 ASR 模式的会话配置必须排在 audioSourceType 判断之前，且要
  .mixWithOthers —— 否则我们一 setActive 就把正在播放的那个 App 掐了。
- Embed App Extensions 阶段必须插在 Thin Binary 之前。追加到最后会和
  Flutter/CocoaPods 的脚本阶段构成依赖环，Xcode 报 Cycle inside Runner。

⚠️ 尚未打通签名：需要在苹果开发者后台登记 App Group group.com.yimai.eaimar、
给 com.yimai.eaimar 开 App Groups capability、并为
com.yimai.eaimar.BroadcastExtension 建 App ID。Xcode 当前还登录不上账号
（-1200）。在这之前 iOS 包签不出来。代码已用 --no-codesign 验证可编译、
appex 也正确内嵌进 PlugIns/。

Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>

1 month ago

3 Commits (f9e18480bd45f440c81da1258eba447ccb90a304)