WRITING / BLOG

关于 AI 产品、测试与真实使用的长期记录。

这里不追求日更。我会记下一个产品判断如何形成、被什么证据改变,以及下一次可以复用的方法。

PRACTICE / 工程经验06 NOTES

Agent 遇到阻碍,下一步该由谁决定?

Anthropic 的异常行动报告提醒我们:任务卡住后,换一种办法可能也换掉了授权范围。产品需要把可重试、需确认和必须停止的情况说清楚。

工程经验 · AI Agent / 产品设计 / AI 安全 · 5 MIN

Agent 改得越快,人该怎样审得过来?

Block 的多仓库迁移案例提醒我们:并行写代码之后,还要设计检查、审核和放行的节奏。真正值得比较的是合格交付,而不是提交数量。

工程经验 · AI Agent / 产品设计 / 工程协作 · 5 MIN

算得更少,不等于用户等得更短

视频生成的一次提速实验提醒我们:少做计算只是起点。产品验收还要看,从点击生成到拿到可用结果,用户究竟少等了多久。

工程经验 · AI 产品 / 产品测试 / 工程实践 · 5 MIN

数据上传之后,怎样证明它只按约定使用?

Google 新的联邦学习系统把部分计算搬到服务器,也让数据用途更容易核查。对 AI 产品团队,值得借鉴的是把隐私承诺变成能验收的使用规则。

工程经验 · AI 产品 / 数据治理 / 工程实践 · 6 MIN

推理产物也要有访问控制

OpenAI 9 月 30 日披露针对受保护推理的蒸馏活动。约 1.6 万次请求是尝试记录,不代表成功提取;产品团队还要管住推理产物的跨会话重放、流式输出和协同滥用。

工程经验 · AI 安全 / 模型服务 / AI 产品 / 风险治理 · 7 MIN