关于

现居澳大利亚墨尔本。

算法

  • 基于公开数据的推送推荐管线:双塔召回配 faiss 索引,粗排加 LightGBM 精排,增益模型,以及决定发不发、何时发、发什么文案的投放策略。
  • 离策略评估(IPS、DR)先在 Open Bandit 数据集上对照已知答案检验;在完整活动数据上,按登记的曝光重采样区间没有估计器通过,因此项目不报告依赖它的结果。事后按 10 分钟时间块重采样,两者的区间都包含已知值,登记的判定不变。
  • 在 KuaiRand 随机曝光上拟合的模拟器;每个结果按证据等级标注(A 真实数据,B 经检验的估计器,C 仅在模拟器中成立)。在 Duolingo 随机化的通知日志上,该项目的模板 bandit 比均匀选择使每条通知两小时内的完成率高 0.00174(0.00126 到 0.00221)(A 级,依赖于日志中的模板选择是均匀的)。
  • 比较方案在模拟之前预注册,结果原样报告,包括一个与预期方向相反的预注册排序结果。
  • 对 Open Bandit 基准的预注册复核:命题、统计量和判定规则在两个确认性活动的任何结果算出之前提交,一个活动用来开发,两个活动用于判定。
  • 在两个确认性活动上,公开的先验与 BTS 日志实际展示的分布不一致(距离 0.53,噪声底 0.11 到 0.14);合并的 IPS 估计是在线点击率的 0.974(按 10 分钟时间块,区间 0.915 到 1.036):没有显示出偏低,最多 8.5% 的偏低也排除不了。
  • 事后分析,三个活动都是如此:按 10 分钟时间块重采样时,这个比值的标准差是按行或按曝光重采样时的 1.31 到 1.47 倍。
  • 用 Go 实现的 BM25 检索,在 Bleve 的索引上按 Lucene 的公式打分:在六个 BEIR 测试集上,nDCG@10 和 Recall@100 与 Pyserini 公布的 BM25 数字四位小数全部一致,结果文件可以按已提交的校验和逐字节复现。
  • 稠密检索用 ONNX Runtime 上的 BGE-base-en-v1.5 加精确搜索:在六个 BEIR 测试集上,nDCG@10 与 Pyserini 的相差不超过 0.0006,除 TREC-COVID 外不超过 0.0004。把 SciFact 和 ArguAna 每篇文档的向量与 Pyserini 的逐一比较,查出 28 篇余弦低于 0.9999,每一篇都含有 Unicode 格式字符:Pyserini 的分词器会删掉它们,Go 的分词库没有删。

项目:push-lab、ope-checks、retrieval-lab。

服务端系统

  • 用 Go 写的推荐服务系统:召回、特征、排序和重排在同一个 HTTP 接口后面,用户编码器和排序模型通过 ONNX Runtime 运行。
  • 物品向量分片后放在 gRPC 副本上:一个副本失败时查询立刻转到下一个,第一个慢时再发给第二个,每次查询最多一次对冲。每个分片各丢一个副本时,每个响应都与副本全部正常时相同;副本不应答的那种情况,在对冲预算之内成立;它的调用连续五次到分片期限都没应答后,只要同分片另一个副本按时应答,它就被摘除,每秒只再试一次。
  • 模型包在服务期间替换:每个副本先备好新版本,切换是原子的;版本号是包内文件的摘要,网关和每个副本都校验。
  • 事件经 Kafka 进入幂等的消费程序;用户历史和结果缓存放在 Valkey;Valkey 不可用时网关用请求自带的物品应答,一秒内至少有 100 次调用结束、其中至少一半失败时,熔断器让网关不再等 Valkey。
  • 部署在 kind 上:副本用 StatefulSet,网关带 HPA,命名空间执行 Pod Security restricted,NetworkPolicy 是否生效由 CI 检查。每秒 100 个请求下,网关滚动重启、副本滚动重启和一次换包期间,没有一个响应失败或降级;单节点,各阶段的时间预算为 100 ms。
  • 按实验名和用户 ID 的哈希把用户分到 A/B 实验组,并写曝光日志;速率和在途请求数超限时立刻回 503;OpenTelemetry 追踪从网关的接口经每个阶段一直到副本上的搜索。
  • 六个特征上的逻辑回归排序模型,模型包带着黄金特征,网关加载时重算核对。在 680 个留出用户上,它的 recall@10 是 0.091,召回顺序是 0.026,在 MMR 之前测得;它给向量分的权重是负的。
  • 每秒 400 个请求下的 CPU 剖析显示,副本 54% 的 CPU 花在精确搜索的内积上。改用 AVX2 并固定加法顺序后,内积的速度是原来的 4.2 到 5.4 倍,每秒 400 个请求时的 p99 从 6.90–7.79 ms 降到 4.27–4.64 ms;这个速率下网关每个请求的 CPU 时间在这台机器上分辨不了。

项目:recserve。

后端系统

  • 用 Go 写的限价订单簿撮合引擎:价格优先、时间优先,提供 REST 和 WebSocket 接口;每个交易对一个有界队列,队列满时下单和撤单直接返回 503。
  • 持久化靠预写命令日志,由后台 goroutine 每 10 ms fsync 一次;崩溃测试在压测中途杀掉引擎进程。
  • 价位用红黑树,经基准测试与跳表、有序切片比较后选定(1 万个价位时 250 ns 对 405 ns)。
  • 开环压测按计划时间发请求,服务端卡顿的时间会计入延迟;只有每笔成交都按序、恰好一次送达客户端,这次运行才算数,用序号和 64 位哈希和核对。
  • CPU 剖析把优化的重点从订单簿移开:JSON 键检查从 5.79 µs、79 次内存分配降到 0.51 µs、零分配。

项目:matching-engine。

早期项目

技术栈

Go、Python、TypeScript。gRPC、Kafka、Valkey、ONNX Runtime、Kubernetes、Prometheus、OpenTelemetry。React、FastAPI、Electron。SQLite、SQLCipher 4 格式、DuckDB、Parquet。Web Crypto、Argon2id。LightGBM、faiss、NumPy、Bleve。GitHub Actions。本站:Astro,以及手写的 WebGL2 和 GLSL。

我的方向

我的方向是算法工程和服务端系统,其次是后端开发。算法方面做推荐模型和离策略评估:比较方案在出结果之前登记,结果原样报告,包括一个方向与预期相反的排序结果,和一个在确认性活动上没有显示出来的基准偏低;也做检索,BM25、用精确搜索的稠密检索和融合各自对照已公布的数字验收。服务端方面做了一个推荐服务系统,在持续请求下经过了滚动重启和换包的检验。站上的每个数字都能追溯到项目仓库。