Echo

说不连贯英语也能和 AI 聊:AI 每个词带释义,你每个词有 AI 帮你接

定位

Echo 是一个本地部署的英语对话练习应用,面向英语说不连贯的人。名字取自只能借别人的话说话的厄科: 从 AI 给出的词里挑着说,也是在说自己的话。

  • 托管在 OneHistory(编号、仓库、站点、文档规则照旧),但不做成宿主模块:不接 Vulcan/Aurora,独立运行。
  • 全部推理在本机完成,不依赖云端模型;首次安装依赖、引擎、模型和词典需要联网,准备完成后可离线练习。

概况

项 值
编号 2026-040
应用版本 0.3.0(见 b-Code-Echo/pyproject.toml)
角色 独立应用(不是宿主模块)
状态 开发中:对话、逐词释义、输入预测、难度、模型选择、对话历史、练词都已能用
运行环境 Windows x64,已安装系统中文输入法,Python ≥ 3.12,uv;首次编译内核需要 Visual Studio C++ Build Tools(x64)和 Windows SDK
推理 Ollama 管理私有模型与导入;对话、候选和共享 KV 选义由 Echo 原生 llama.cpp 运行时统一推理,默认 qwen3:8b
词典 ECDICT(MIT),SQLite 离线查
界面 FastAPI / Uvicorn 后端 + HTML / CSS / JavaScript 本地单页网页,无前端构建步骤

能力

能力 说明
英语对话(已有) 本地模型用简单英语流式回复,并接着提问把话题聊下去
逐词释义(已有) AI 回复里每个英文词下方标 ECDICT 的中文释义;认识的词点一下就算学会,中文收起,再点就重新带上中文
上下文选义 同一原生 llama.cpp 模型运行 A 正文、下一词候选和 B 选义;B 从 A 的真实已计算 token 边界共享 KV 分叉,在原词典中文候选中受限选择;首个可区分 token 即停止,结果逐词通过 SSE 返回并随历史保存。
浏览器英语伴读(新增) Edge/Chrome 插件给网页英文加中文释义,点击标熟、再点恢复,与 Echo 共用学习记录。可见段落的原文只预填一次 KV,最多两个选义分支在同一个原生批次中各选一个标签;先显示词典释义,再流式更新语境选义,退化用波浪下划线
YouTube 字幕伴读(新增) 上下两条字幕交替显示当前/历史,每条预留逐词中文位置;空档保持现有文字,下一条到来才换行,最后一条保留到视频结束。按英文字幕时间轴提前选义,到播放点再显示;默认提前 12 帧,可调 6/24/48 帧。标熟、点击恢复与 Echo 共用学习记录,时间轴不可用时实时处理
词典(已有) 看自己学会了哪些词、一共几个,也能把词点回「没学会」
逐词辅助造句(已有) 单次候选计算取 20 个 token,用词典过滤、去重后默认显示最多 5 个词或标点;相邻输入复用 C++ 预测 KV,相同提示直接复用排名,半截词不足时用词典补齐。Shift+W/S 选,Shift+空格或 Tab 确认,普通空格照常输入,Shift+Enter 换行、Enter 发送
中文转英文(新增) 按住 Ctrl 输入并确认中文、松开后保留原文,再按普通空格确认词边界才翻译整个中文词;离线词典提供最多 20 个完整英文候选,C++ 根据对话和输入位置上下文只做一次受限标签选择,自动替换原词;没有候选、模型弃选或出错时保留中文。等待时可继续英文编辑,修改原词或切换对话后旧结果失效
中英文输入控制 默认直接输入英文并阻止 IME 弹出;按住左右 Ctrl 时,在发送框光标位置以内嵌原生 EDIT 使用系统中文输入法组词,不另开 Echo 窗口;最后一个 Ctrl 松开时将确认文字写回,取消未确认拼音;后续普通空格才触发整词英文选择。只读发送框显示可见插入光标,支持方向键和 Shift 选区。用户已实测框内输入「你好」成功且没有额外小窗;原生焦点或内嵌失败时不启用中文,不退回独立弹窗
预测调试(已有) 发送框右侧可选候选数量 1~20、引擎并发 1 或 2,并显示实际候选数与包含输入等待的耗时,悬停查看纯请求耗时。候选按可用宽度自动分行;输入区随所选数量加宽,正文输入框每 5 个候选增加一行最低高度(1~4 行),实际换行和自动折行继续撑高,不出现文本内部滚动条。按所选数量预留候选槽位,结果不足、加载和中英文模式切换均保持高度。框内不显示操作说明,右侧不显示输入模式标识;移除其预留高度,单行和多行下难度、输入框、调试栏上下对齐。原生模式下 1 表示正文结束后选义,2 表示 A/B 交错执行;Ollama 兼容模式切换时重启引擎,设置自动保存
对话难度(已有) 输入框左边的难度模块,按欧洲语言框架(A1~C2+)、四六级、专四专八或雅思口语小分选档;AI 的用词和句长跟着变,候选词也跟着变;每段对话记住自己的难度。面板底部的滑块调回答长度:从只问一句到长篇大论
模型选择(已有) 点墨色条里的模型名换模型;本机 Ollama 里下过的模型直接链接过来用,支持 qwen 和 gemma 系
对话历史(已有) 左侧列出已完成回复的对话,普通对话第一轮说完自动起中文标题;可按标题和对话内容搜索、继续对话或删除
练词(已有) 导入 Word(.docx)单词表,按分组挑词开一段由 AI 先开口的练词对话;默认挑 8 个、最多 12 个,学习者用上的词会被点亮,每个词在每段对话中首次用上时计数一次
界面适配(已有) 支持深浅主题并记住选择,窄屏可展开对话历史侧栏

入口

入口 用途
AGENTS.md AI 读取顺序、工作边界与完成要求
project.manifest.json 项目身份、目录、命令和外部依赖
b-Office/现行约定.md 唯一的长期文档:取舍、真机实测与已知缺口

目录

目录 职责
b-Office/ 现行约定
b-Code/ 项目维护工具(合同检查)
b-Code-Echo/ Echo 对话应用及统一服务:C++ 推理内核、Python 业务与 HTTP、词典和学习库、网页界面
b-Code-Reader/ 统一网页/YouTube 伴读:extension/ 为唯一 MV3 安装入口,tests/ 为网页、连接与恢复验收
b-Code-YouTube/ YouTube 专项验收:tests/ 验证统一扩展的时间轴、提前选义和双行布局;不再含独立插件

主应用与扩展分别维护,YouTube 专项测试保留原目录;b-Code/ 仍只放仓库维护工具。统一扩展连接一台 Echo 主机及同一个 user.db,可在本机或私有网络中连接。网页伴读的 Python/原生服务测试仍在 b-Code-Echo/tests/,前端测试已移入 b-Code-Reader/tests/。

主要源码入口(均位于 b-Code-Echo/src/echo_app/):

文件 职责
server.py、static/ HTTP 接口、流式回复与网页交互
kernel/ C++ 生成与预测内核;另含独立的 Windows 输入桥和修饰键状态测试,不参与模型推理
input_bridge.py、static/composer_input.js Windows 输入桥生命周期、焦点租约及页面组词/英文后备输入
cpp_kernel.py、native_kv.py 内核 C ABI 的薄绑定及 HTTP 适配,不包含 Python 推理算法
config.py、setup.py、engine.py 配置、首次安装和私有 Ollama 实例管理
predict.py、levels.py 整词预测、模型对话模板、难度与回答长度
dictionary.py、glosses.py 离线查词、短释义与学会记录
store.py、wordlists.py、practice.py SQLite 存储、Word 单词表解析与练词规则

安装与启动

在 Windows x64 上安装 uv,使用 Python ≥ 3.12。在仓库根目录执行,首次运行先准备词典、引擎和默认模型:

uv run --project b-Code-Echo echo-setup
uv run --project b-Code-Echo echo-build-kernel
uv run --project b-Code-Echo echo-serve

升级 Echo 自带的 Ollama 引擎(不替换模型和用户数据)时,先关闭正在运行的 Echo,再执行:

uv run --project b-Code-Echo echo-upgrade

默认检查 GitHub latest release;也可以用 echo-upgrade --version 0.40.8 固定版本,或加 --check 只检查不下载。旧引擎会保留为 .echo/engine.backup-时间戳,升级失败可从备份恢复。

uv run 会准备 Python 依赖。echo-setup 优先从本机已安装的 Ollama 硬链接引擎和模型,失败则复制;没有可复用资源时,从 GitHub 下载 Ollama Windows 引擎,并由私有引擎拉取默认模型。ECDICT 会下载并转换成 SQLite 词典。无需预先安装或启动本机 Ollama 服务。

生成与预测内核由 C++ 实现,编译需安装 Visual Studio C++ Build Tools 的 x64 工具和 Windows SDK。echo-build-kernel 将 DLL 和测试程序写到数据目录的 native/<源码摘要>/,不改第三方引擎、不写仓库生成物;启动适配器时也会检查并自动构建缺失版本,编译失败则明确报错。可用 ECHO_VCVARS64 指向自定义工具链的 vcvars64.bat。HTTP、提示构造、词典过滤、学会状态、存储和页面继续使用现有实现。

以后只需运行 echo-serve。启动后自动打开浏览器,地址为 http://127.0.0.1:8040;关闭运行窗口即可退出。已在运行时再次启动,只会打开页面。需要手动打开浏览器时:

uv run --project b-Code-Echo echo-serve --no-browser

页面右上角显示引擎状态;提示引擎或模型缺失时,先运行 echo-setup。首次加载模型可能需要几十秒。

浏览器插件

先关闭旧版 Echo,再启动本次源码的 echo-serve(默认 http://127.0.0.1:8040)。在 Edge 的 edge://extensions 或 Chrome 的 chrome://extensions 打开开发者模式,选择「加载解压缩的扩展程序」,加载本仓的 b-Code-Reader/extension 文件夹。

2026-10-25 升级为统一扩展(ARCH-002),当前版本 0.6.0:此前两款独立插件的约定由此替代。已加载 b-Code-Reader/extension 的用户在扩展管理页重新加载,保留原网页设置与主机连接;停用或移除旧「Echo YouTube 字幕伴读」,再刷新网页和视频页,避免重复字幕。仅装旧 YouTube 插件的用户改为加载上述统一目录,并重新填写连接/授权;旧插件设置不自动跨扩展迁移。学习记录仍在 Echo 主机原有的 user.db。

点击工具栏的「Echo 英语伴读」,勾选「所有网页默认开启」并一次性授予网站访问权限,之后打开或刷新的普通 HTTP/HTTPS 网页就会自动伴读;当前普通网页也立即开启。也可仅勾选「仅此网站以后自动开启」,或用「开启本页伴读」临时开启。点击「关闭并还原本页」可临时恢复当前页,刷新后仍按自动设置执行;关闭全局选项保留单网站设置和当前页状态,不撤销浏览器权限。更新插件源码后,在扩展管理页重新加载插件并刷新目标网页。

  • 点击英文词收起中文并标记学会,再点恢复中文。标熟和恢复已有释义只更新相应单词,不重译整页、不重新请求模型;原本因已学会而没有中文的词,恢复时只补取它所在的原文分块。学习记录保存在同一个 Echo user.db;插件之间即时同步,Echo 主界面的修改最多约 15 秒同步到插件。链接内用 Alt+点击 切换,普通点击仍打开链接。
  • 先显示词典短释义,悬停提示是否还在选义;模型结果按词更新。正常释义无下划线,退化使用默认释义、波浪下划线及原因。已学会的词不提取中文、不创建选义任务;全已学会段落不预填模型 KV。
  • 中文释义跟随所在段落、链接的实际文字颜色,仅混入 8% 青绿色区分中英文;同页深浅背景、网页主题切换无需重新翻译。退化下划线使用释义字色;系统强制颜色模式直接继承系统文字色。原网页自身低对比度的文字仍取决于网站设计。
  • 只向本机传递可见段落的文本,按约 600 字符分块,不发送页面地址、HTML、Cookie 或表单。跳过输入框、可编辑区域、代码、iframe、已有 ruby 等;不支持浏览器内部页、扩展商店、PDF 阅读器和封闭 Shadow DOM。网页框架重新渲染、特殊排版和极长连续单词仍有兼容限制。
  • 网页伴读跳过 YouTube 播放器及字幕插件区域;视频字幕由同一扩展内的字幕功能负责,页面介绍和评论仍可使用网页伴读。
  • 原生并发设置沿用 Echo 的 1/2:网页模式分别为单分支或双分支批处理。模型仍为一份、统一 KV 池仍为 4096 token;网页原文共享前缀允许看块内后文。网页和对话按段互斥使用输入/正文槽,长块可能让对话短暂排队。不是整页全量高并发,也不是多步思考树搜索。
  • 扩展默认连接本机 8040,也可在弹窗「Echo 主机连接」填写地址和密钥,连接另一台 Echo。网页文本和释义不写入对话历史;连接远程主机时,待译文本会传给你配置的主机,主机关闭或断网后无法选义。

页面闲置后恢复(WEB-007)

已完成的网页释义保留在页面,YouTube 继续使用最多 64 条的近期结果缓存。返回标签页、浏览器恢复页面或网络恢复时自动重连,仅读取学习状态、继续未处理内容,并重试中断或传输失败的段落/字幕;完整 SSE 必须收到 done,不能把意外结束当作翻译成功。通常不必关闭再开启伴读。每个失败任务自动重试最多三次、间隔至少三秒;返回页面或网络恢复可再次尝试。手动关闭后不会自行重启。

网页/字幕 KV 只在一条请求内部使用,完成或取消后释放,不长期为每个页面保留。当前不把原生 KV 写入磁盘或 Windows 分页文件;中断时按原段落重建 KV,完成结果不重复计算。浏览器彻底丢弃/重新加载页面、连接主机改变时重新处理;学习状态反转优先复用已算释义,只有原本跳过的出现位置才补取所在分块。扩展升级后已打开的旧内容脚本需要刷新页面。

多设备共用一台 Echo(NET-001)

只在负责推理的电脑安装模型、词典和 Echo,学习记录继续使用它原有的 user.db。先退出旧服务,再在主机运行:

uv run --project b-Code-Echo echo-serve --share

共享模式监听 0.0.0.0:8040,首次启动在数据目录生成并保存随机访问密钥,后续启动复用;不会把密钥打印到日志或写入仓库。默认位置可在主机查看:

Get-Content "$env:USERPROFILE\.echo\extension-key.txt"

若设置了 ECHO_DATA_DIR,请从该目录读取密钥;也可用 ECHO_SHARE_KEY 指定至少 32 位的密钥。删除密钥文件后重启可生成新密钥,其他设备需重新填写。

其他电脑只需加载统一扩展,无需安装 Echo 或模型。在弹窗展开「Echo 主机连接」,填入主机地址(例如 http://192.168.1.20:8040,替换为主机实际 IP)及访问密钥,点击「保存并连接」并授权访问该主机。地址和密钥保存在当前浏览器的插件本地存储,不自动跨设备同步;主机地址变化时需更新。已有活动页面会重启伴读、清理旧缓存;连接失败时检查配置后重新开启或刷新页面。

设备需能访问同一局域网或私有网络,主机保持开机且 Echo 运行;防火墙需允许相应网络上的入站端口。HTTP 模式适用于可信局域网/私有网络,浏览文本和密钥会经过该网络;不做公网端口映射,异地使用可通过已有 VPN/私有网络连接。本轮不安装 VPN、不修改防火墙,也不向公网部署服务。

远程访问只开放状态、逐词选义和标熟接口,需 Authorization: Bearer 密钥;对话管理、模型设置和本机输入法仍只供主机本地页面使用。Ollama 与 C++ KV 服务仍监听本机,不需要开放 11540/11541。各设备共用一份学习记录,插件修改在自身立即更新,其他插件/设备最多约 15 秒读取同步;没有多账号分库。无需上架商店即可加载和使用。

YouTube 字幕伴读

与网页伴读合并为 b-Code-Reader/extension,名称为「Echo 英语伴读」(0.6.0),只安装这一个扩展。Echo 启动后,在普通 YouTube 或 Shorts 视频页使用,插件默认启用。弹窗按当前页面只显示一段:视频页显示字幕开关、当前字幕和「重新读取字幕」,其他网页显示本页伴读;提前帧数和主机连接收在「设置」里。更新后重新加载插件并刷新视频页。

  • 页面/视频的上下文会存到磁盘(KV-001): 同一网页或同一视频的段落/字幕按顺序累积成选义上下文,每次只预填新增的那一句;切到别的页面、视频或开始对话前,主机把这段上下文的 KV 存到数据目录下的 reader-kv/(本机为 F:choData eader-kv),翻译空闲 2 秒后也会写一次。回到原页面时直接读回 KV 接着翻译,不用重新预填。实测约 1800 token 的上下文:读回 128ms,重新预填 1878ms(部分层在 GPU 上的测试进程);每份文件约 250MB,默认最多 16GB / 128 份(约 60 个长视频或页面),按最近使用淘汰(ECHO_KV_SESSION_BYTES、ECHO_KV_SESSION_FILES 可调)。上下文超过 2048 token 时丢掉较早的段落到 1024 以内。更新后需要重启 Echo,让内核重新编译。

  • 译好的字幕会存下来(YT-009): 每条字幕完成选义后按视频保存在扩展存储里,关闭或切走页面前立即写入;再次打开同一视频直接显示已存的中文,不再重新请求模型,只翻译还没完成的字幕。最多保留最近 60 个视频。

  • 切换视频后字幕翻译偶尔失效(YT-010): 原因是 YouTube 在地址栏切到新视频之前就取完了新视频的字幕轨,插件按当时的旧地址把它丢掉,之后自己补取又因缺少播放令牌拿到空内容,只能停在「等待字幕」。0.6.0 起按字幕轨自身的视频编号保存最近取到的轨道,地址切换后立即交给新视频;补取失败的字幕也不再三次后放弃,而是退避重试。

  • 只有英文、提示「未知伴读操作」(YT-008): 0.5.2 已让字幕的翻译端口和读取/修改学习状态使用网页伴读同一套后台协议,兼容升级时仍运行的旧网页后台。更新后重新加载扩展并刷新一次视频页,替换页面里先前加载的旧字幕脚本;不需要重置学习记录或模型。翻译连接错误会持续显示,不再被时间轴加载完成清掉。

  • 升级后完全没有 Echo 字幕(YT-007): 重新加载扩展后,在视频页打开统一扩展弹窗,勾选「字幕伴读」并点击「重新读取字幕」。弹窗会补齐已打开页面缺失的字幕脚本,无需重新载入视频。页面世界的字幕桥也会检查补装;权限受限或注入失败会显示具体错误。弹窗每秒更新字幕状态,避免加载完成后仍显示「正在等待」。

  • 上下两个固定字幕位置交替更新:先下方显示当前字幕、上方留空;下一条更新上方、下方成为历史;再下一条更新下方、上方成为历史。每条字幕内部仍预留逐词中文位置,长字幕可折行,译文回填/标熟不改变排版。历史字幕的迟到释义仍回填原位置;中文过长省略,悬停可看完整内容。

  • 优先获取完整英文字幕时间轴,按视频帧回调/播放时间提前处理即将显示的字幕;提前翻译,不提前显示英文。默认提前 12 帧,帧率尚未获取时按 30fps(约 400ms 媒体时间)估算,可调 6/24/48 帧;这不是译文一定按时完成的保证。页面最多保留三个近期任务,优先当前字幕及尚未完成的历史字幕,余量预取随后两条;缓存最多 64 条结果,避免整片字幕一次占用模型。

  • 共用 /api/reader/gloss、C++ 共享 KV 受限选义及同一个 user.db。每条字幕分别预填原文,条内最多双分支选义;不声称整部视频共用一个 KV 前缀。点击单词标熟、再点恢复;中文为空仍保留位置。正常无下划线,选义退化使用默认释义和波浪下划线。

  • 播放器元数据的字幕链接有时缺少新播放令牌,插件也会观察播放器自身字幕请求的响应副本,或读取浏览器原生字幕轨道。时间轴不可用时弹窗标为「实时字幕 · 当前无法提前读取」;可先开启视频的英文字幕再重试。直播、自动字幕滚动、地区/登录限制和网站变化仍可能影响获取,无法凭已显示字幕推算未来字幕。

  • 字幕结束后的空档保持现有两条文字和位置,直到下一条真正开始才交替替换;预取不提前换行,最后一条保持到视频播放结束。实时模式中原生字幕文字消失也继续保留已显示内容。首条字幕前不显示未来文字,广告、播放结束或关闭插件时恢复原生显示,不重写其文本。拖动进度、跳过不相邻字幕、切换视频/字幕轨道会清空历史,取消不再需要的任务并拦截旧结果;时间轴模式跳到空档时显示该时刻之前最近的一条。字幕开关与网页开关独立,连接设置共用;标熟即时在两种模式间广播,主界面及其他设备最多约 15 秒同步。

  • 时间轴数据留在页面内;只把近期英文字幕文本传到所配置的 Echo 主机,不传视频 URL、Cookie、播放令牌,不保存视频字幕历史。YouTube 网站本身仍需要联网。

配置与本地数据

可在启动前设置环境变量,定义见 b-Code-Echo/src/echo_app/config.py:

环境变量 默认值 用途
ECHO_DATA_DIR %USERPROFILE%\.echo 引擎、模型、词典及用户数据的根目录
ECHO_WEB_PORT 8040 网页及插件接口端口,监听地址见 ECHO_WEB_HOST
ECHO_WEB_HOST 127.0.0.1 网页监听地址;共享建议使用 --share 改为 0.0.0.0,以保留主机的 loopback 管理入口
ECHO_SHARE_KEY 自动生成 非本机监听时的插件密钥,32~256 位 ASCII 非空白字符;未设置时从数据目录 extension-key.txt 读取或生成
ECHO_ENGINE_PORT 11540 私有 Ollama 端口,与本机默认的 11434 分开
ECHO_MODEL qwen3:8b 安装及未保存模型选择时的默认模型;页面保存的选择优先
ECHO_KV_ADAPTER_URL http://127.0.0.1:11541 原生统一推理及 A/B KV 分叉服务地址;设为空会退回 Ollama HTTP 兼容模式
ECHO_KV_ADAPTER_TIMEOUT 30 原生适配器请求超时(秒)
ECHO_KV_GPU_LAYERS 99 原生运行时卸载到 GPU 的层数;默认尽可能全量卸载

安装和启动应使用同一组配置。数据保存在仓库之外:

数据目录下的路径 内容
engine/、engine.backup-*、models/、engine.log Ollama 程序、升级备份、模型和引擎日志
native/<源码摘要>/ Echo 自有 C++ 内核的编译结果;源码更新后使用新的目录
dict/ecdict.db ECDICT 离线词典
user.db 对话历史、学会的词、导入的单词表、练词次数、模型选择和调试配置
extension-key.txt 首次共享时生成的访问密钥,所有连接这台主机的插件使用同一份

主题、回答长度和新对话沿用的难度保存在浏览器本地;每段对话的难度另存于 user.db。备份学习记录时,应在退出 Echo 后保留 user.db。

验证与限制

插件验证入口为 manifest 的 testReaderUI(纯 Node 偏移/分块)、testReaderBrowser(需 Playwright 与已安装 Edge,以临时配置运行真实扩展、模拟 HTTP 边界、不修改用户词库)、testReaderLive(真实扩展→本机服务→C++,只读验收)和 testReaderNative(真实模型的 1/2 分支选义与释放)。浏览器测试的 Node 环境需能 require('playwright'),已有包可通过 NODE_PATH 提供;运行时无需安装 Node。Live / Native 需 Echo 已启动并保持空闲,二者与其他 GPU 验收不要同时运行。隔离 Edge 验证覆盖流式选义、已标熟隐藏与点击反转、UTF-16/跨标签单词、动态段落、可编辑区域排除、关闭还原,以及全局/单网站自动开启、权限拒绝/撤销边界、实际字色和主题切换。用户已确认日常 Edge 中出现「Echo 英语伴读」;这不代替新版设置的日常浏览器验收,也未验证任意网站兼容性或 Chrome 的实际加载。

拆分后网页前端测试位于 b-Code-Reader/tests/。testYouTubeUI 检查 JSON3/滚动字幕/VTT、播放空档和提前调度;testYouTubeBrowser 在隔离 Edge 同时加载两个真实插件,模拟 YouTube 页面/媒体时钟/本机 HTTP,检查 MAIN 字幕桥、提前处理但不早显示、上下字幕交替及历史迟到回填、同文字幕轮换、回填/标熟不跳动、跳转清空历史、取消旧视频任务、实时降级和设置。testYouTubeLive 使用相同页面与真实 Echo/C++ 验证“岸/银行”,只读学习记录、不执行标熟写入;需服务空闲。模拟站点验证不等于任意真实 YouTube 视频兼容,实站获取情况见现行约定。

testConnectionBrowser 在临时 Edge 加载统一扩展,通过真实 HTTP 测试服务验证地址/密钥设置、授权拒绝、认证 SSE、共用标熟记录和页面不能修改连接;不连接用户服务或数据库。testYouTubeUpgradeBrowser 使用无字幕静态脚本的旧版网页扩展 manifest 与仅接受网页消息/端口的旧后台协议边界,验证弹窗在既有视频页补注入两种脚本世界并运行完整字幕验收。testYouTubeUpgradeLive 在同一升级场景下连接真实 Echo/C++、只读学习状态,验证字幕中文回填。testRecoveryBrowser 另验证端口断开、截断流、离线恢复、完成注释不重算及关闭取消。Python test_web_access.py 验证远程认证及接口隔离,test_debug.DebugApiTests 另用临时真实 SQLite 验证两个远程客户端及主机共用学习库。此验证不代替两台实机之间的路由、防火墙与 VPN 验收。

2026-10-24 的 55 项 Python 回归中,一项直接执行 14 组 C++ 内核测试、输入修饰键和真实隐藏子控件定位及 EDIT/IMM 测试,另检查真实输入 DLL 在无焦点租约时的启动/关闭及旧句柄;业务测试继续覆盖候选设置、缓存、完整义项、正常/退化、已标熟跳过及输入桥的来源/句柄/错误返回。该次复验为 54/55 通过,14 组 C++ 推理测试通过,原生输入测试程序异常退出,原因待定位,详见现行约定。NET-001 新增网络认证测试;本轮 44 项相关 Python 检查与三个扩展浏览器检查通过,未重跑包含上述原生崩溃项的完整/GPU 套件。页面资源地址随内容变化,普通刷新即可更新。运行 manifest 声明的完整测试:

uv run --project b-Code-Echo python -m unittest discover -s b-Code-Echo/tests

manifest 的 build 构建 C++ 内核,testKernel 单独执行无需 GPU 的原生测试(echo-build-kernel --test);package 尚未配置。合同检查只验证仓库结构与文档链接,不能替代应用功能验证:

powershell -NoProfile -ExecutionPolicy Bypass -File .\b-Code\Test-ProjectContract.ps1 -Instantiation

manifest 的 testSuggestUI 使用 Node.js 虚拟时钟检查候选的 25ms 等待、仅最新输入、单请求在途及失败恢复;Node.js 仅用于此项开发验证。testSuggestPerformance 在正在运行的 Echo 上分开测量首次请求、半词连续输入、逐词输入和 12 轮历史下的输入/回删,不写用户历史、标熟或设置;运行时应保持服务空闲。testNative 另检查真实 GPU 的预测缓存命中、与完整预填的分布差异以及正式 A 接管。

testInputUI 执行实际页面输入控制及快捷键代码,检查 Shift+空格选词和普通空格、松开 Ctrl 不翻译、普通空格确认完整中文词(可跨多次 Ctrl 输入)、快速空格等待原生回填、翻译回填及失效、只读光标导航、Shift 选区、Unicode 边界与长按保护、内嵌原生中文控件的焦点交接、选区回填、重复/旧响应、最终回填及取消。Windows 输入桥只在严格同源及原生焦点握手成功后接管 Ctrl;英文编辑始终阻止浏览器 IME,中文交给自有 EDIT 的独立 IMM 上下文。Ctrl 在此框专用于中文,复制/粘贴可用右键菜单或 Shift+Insert。2026-10-24 用户已在前台浏览器实测直接在发送框内输入「你好」成功,没有额外小窗;隐藏子控件测试通过实际位置/尺寸、非弹窗样式及 IMM 打开/回读。多输入法、多屏 DPI 及跨窗口取消仍需扩充,不能把用户回报写成自动化键盘验收。

功能变更需在浏览器里验证对话、释义、候选词、模型切换、历史恢复及 Word 导入练词;已有真机结果见现行约定。

  • 中文转英文是词典候选内的整词/短语选择,适合中文词,不是任意中文句子的自由翻译。输出判别预算为 1;提示预填仍可分批执行,不能理解为整条请求只调用一次 GPU。最多 32 个中文字符,词典候选缺失或不合适时保留原文;仅支持当前原生内核路径。
  • 输入预测目前只支持 qwen、gemma 2/3 和 gemma4 的对话模板,其他模型族不能在页面选用。
  • 中文释义来自离线词典。多义词由同一模型根据目标词及左侧语境选择;语境不足或执行失败时显示带下划线的默认释义。原生并发 2 时边生成边回填,并发 1 时在正文结束后选义。已保存的释义恢复时不重新推理。
  • Word 导入只支持 .docx,每段一个词或表格一行一个词;旧 .doc 需先在 Word 中另存为 .docx。
  • 普通对话标题只自动生成一次,目前不能手动改名。
  • 当前 Ollama 的 top_logprobs 上限为 20;词典只能判断是否有对应词条,不能证明 token 已到词尾,因此可能漏掉多 token 的词,也可能把有独立词义的片段当成词。半词的词典补齐只按词频排序。
  • 私有 Ollama HTTP 不暴露正在生成的序列句柄,所以 Echo 启动时卸载 Ollama 当前模型,并由 echo-kv-adapter 独占加载当前 GGUF 与 bundled libllama.dll。A 正文、候选和 B 选义在同一个模型与上下文运行;B 从 A 的实际 KV 前缀分叉。未启用适配器时状态明确显示不支持精确共享。
  • 无本机 Ollama 时的全新引擎下载路径尚未经过真机验证;性能和显存需求以现行约定记录的机器为参考。

原生 GPU 验收需要已启动的 Echo,且当前没有正在进行的对话;不修改用户对话、标熟或设置:

uv run --project b-Code-Echo python b-Code-Echo/tests/native_acceptance.py --cycles 1000

它要求运行时报告 kernel: cpp,验证左侧语境的有限语义样例、1000 次历史位置分叉/追加/释放,以及短 B 和分块预填 B 的固定种子正文隔离。成功选义在 C++ 内立即回收 B,取消及失败仍由调用方保证释放。样例通过不能代表任意文本都能选对;最新耗时与限制见现行约定。

正文采样、候选的全词表排名、B 的候选 trie 和 KV 生命周期都在 C++ 内核中执行,不再把 logits 返回 Python;B 每 64 token 让出锁。测量正文和释义的实际完成时间,可运行 manifest 的 testPerformance:

uv run --project b-Code-Echo python b-Code-Echo/tests/native_performance.py --repeats 3

此命令读取当前模型和标熟词,在临时数据库中运行真实生成与共享 KV 选义,不写入用户历史或设置;运行前需等当前回复结束。输出首 token、输出间隔、正文结束、选义完成时间和退化数。生成长度会变化,性能数字不作为自动通过阈值。

探索方向:评分模型与浅层 ToT(TOT-001,未实现)

新内核已有共享 KV 前缀、历史位置分叉、受限标签选择和分支回收,可作为思维树(Tree of Thoughts,ToT)的部分基础。当前分支用于选义,网页双分支用于单步批处理;尚未实现多条思路的自由续写、搜索树、剪枝、回溯或优胜分支接管正文。

计划先验证有界的浅层搜索:从同一上下文生成 3 个短方案,按明确标准评分,保留 1~2 个继续展开一轮,再选最终输出。只生成多个答案并选一次属于候选重排;反复展开与筛选才形成树搜索。Echo 可先探索整句表达的自然度、意思保持和难度匹配,逐词输入是否适用由端到端延迟决定。

TypeSafe AI 的 Jev 是评分器的参考方案:官方文档提供 Choice、Score 和 Noul 等类型化判断,返回结构化结果与概率,部分结果包含置信度,不生成自由文本。截至 2026-10-24 查到的是需要 API 的服务,尚未确认官方开放模型权重,不能按可本地部署的开源模型介绍;本项目尚未接入,也未增加该依赖或发起模型调用。若采用云端评分,会增加联网、文本外传和调用费用,与当前完全本地推理的约定不同,需另行明确授权;保持离线运行则应选择可本地部署的评分器。

不同权重的生成模型与评分模型通常不能共享 KV;新内核的前缀复用主要节省生成模型内部各分支的重复预填,评分器仍有独立计算和资源成本。结构化输出及高置信度不保证语义正确,完整答案评分能力也不等于未完成思路的价值评估能力。

TOT-001 当前验收为文档核对及严格合同检查,仅确认上述边界已记录。未来实现需对照单次生成与同预算候选重排,验证独立样例上的质量、耗时、峰值资源、评分失误,以及取消、超时和剪枝后的句柄回收;未完成这些验证前不宣称已有 ToT 或质量提升。

技术报告草稿(REPORT-001)

英文短报告 Echo: Composing Second-Language Replies by Steering a Conversation Model Word by Word 以人机交互(cs.HC 主类、cs.CL 交叉)为重点:学习者逐词选择对话模型对自己回合的续写预测(「学习者即解码器」),配合候选释义、中文就地转英文、标熟隐藏与退化标记;共享 KV 与受限标签选择作为实现支撑。核心评测(EVAL-001)以「预测用户下一次输入」为重心:对照人机交互延迟阈值(0.1 s 即时感、平均击键间隔 239 ms),同机同模型比较 Echo 一次前向+共享 KV、同一次前向经 API、以及经 API 的提示词工程(问模型用户最可能输入的 5 个词);后者每键 364 ms、从不在击键间隔内返回。释义上屏、选义与中文转英文(API 更快,如实报告)作为次要对比保留。不再介绍难度分级。另含历史工程测量、相关工作、待验证假设与用户研究计划。报告是成果稿件,不替代唯一长期文档「现行约定」。作者为 Yuxuan Chen(Ningbo University of Technology),尚未提交 arXiv;未新增实验或宣称学习效果、通用语义准确率、完整 ToT。

安装 TeX Live(pdfLaTeX,含 CJK 宏包;与 arXiv 编译方式一致)后,从仓库根目录运行 manifest 的 reportBuild(构建脚本)。PDF 与独立 TeX 源码 ZIP 生成于 b-Office/technical-report/output/pdf/,中间文件位于 tmp/pdfs/,两者均不入库;发布前需逐页渲染检查。历史测量不因文稿构建而重跑,最新 54/55 应用回归及原生输入崩溃限制已明确写入报告。

开发与发布

尚未定。不走宿主模块的 dev 管线与发布表。

要点

  • 输入预测只做一次模型请求,从前 20 个 token 里筛词;候选显示上限可选 1~20,默认 5,实际数量可能更少。
  • 引擎默认单并发,调试选项可切到 2;页面最多一个预测请求在途,连续输入只保留最新待预测内容。并发切换会等待现有生成结束,完成后自动恢复预测。
  • 预测用户输入靠续写 user 回合;原生模式的 AI 回复使用同族 assistant 模板并关闭思考,原生服务不可用时明确报错,避免悄悄加载第二份大模型。

保留内容

logo与作者

  • 作者:pinavia
  • logo

学习许可与权利保留

  • 本项目允许个人、学校和研究者进行非商业性的学习、研究和引用。
  • 未经著作权人书面许可,不得将项目内容用于商业开发、产品制造、商业服务、商业宣传、投标交付、毕业设计成品交付或再授权。
  • 不得删除作者、来源、版本历史和第三方许可证声明,不得将本项目或其衍生成果宣称为与作者无关的原创项目。
  • 软件源码适用 PolyForm Noncommercial 1.0.0;机械模型、PCB、原理图、图片、文档、Unity 工程和其他非软件资料适用 CC BY-NC-ND 4.0。
  • SE、SW、STEP/STP 及其他三维模型仅允许个人或学校进行非商业学习、评审和研究;未经著作权人书面许可,不得用于加工、打样、制造、销售、量产、投标、产品交付、商业宣传、改作或再授权。
  • 第三方组件、模板、元件库、外购件模型和工具仍受其原始许可证约束;本声明不扩大作者对第三方内容的权利。

商业使用、产品化、公司内部长期使用、转让或排他性授权需另行取得著作权人的书面许可。

← 返回项目库 GitHub 仓库 ↗