设计评审与可用性度量
设计评审与可用性度量
设计好不好,不能靠"我觉得"。设计的价值靠证据说话:专家评审、可用性测试、量化指标与实验,是设计决策的四种证据来源。本文是通用方法论深讲,面向有经验的产品经理、设计师与候选人;AI 产品的设计评审检查表与「对话式 UI 的可用性测试要点」见产品设计与原型总览,AI 输出质量的评测见 AI 输出质量评测——两页与本页互补,合起来才是完整的"怎么证明设计行不行"。
为什么评估
设计是假设,需要证据
任何设计方案都隐含一组假设:"用户能看懂这个入口""这样写用户更信任""缩短一步能提高转化"。这些假设在没有证据之前都是猜测。评估要做的事就是把每个关键假设变成可检验的问题,再用最便宜的方法回答它:
| 设计假设示例 | 对应的可检验问题 | 最便宜的检验方法 |
|---|---|---|
| 用户能找到这个入口 | 新用户 60 秒内能否完成任务? | 可用性测试(5 人) |
| 这个文案用户更信任 | 两组文案的信任度评分有无差异? | 问卷或 A/B 测试 |
| 缩短流程能提高完成率 | 改造前后的任务成功率差多少? | 埋点对比 |
| 生成中的动画能降低焦虑 | 等待期间用户的放弃率是否下降? | 埋点 + 录屏观察 |
评估的成本应当与决策的风险匹配:风险越高、越难回头的决策,越要花力气评估。改一个按钮颜色不值得跑完整可用性测试,但"是否上线自动执行能力"值得。
形成性评估 vs 总结性评估
| 维度 | 形成性评估(formative) | 总结性评估(summative) |
|---|---|---|
| 时机 | 开发过程中,反复进行 | 上线前或上线后,定期进行 |
| 目的 | 发现问题、理解原因、指导改进 | 判断是否达标、对比方案、监测趋势 |
| 回答的问题 | "哪里不行、为什么不行?" | "行还是不行?好到什么程度?" |
| 典型方法 | 启发式评估、认知走查、小样本可用性测试 | 基准测试、问卷(SUS 等)、埋点指标、A/B 测试 |
| 样本量 | 少(5~8 人即可) | 多(需要统计意义) |
| 产出 | 问题清单 + 修改建议 | 分数、指标、显著性结论 |
| 忌讳 | 追求统计显著性 | 用个案讲故事 |
两者不是二选一:形成性评估告诉你往哪改,总结性评估告诉你改完有没有效。成熟团队通常是"小步迭代 + 形成性测试"为主,到里程碑再用总结性评估验收。
评估方法谱系总览
| 方法族 | 代表方法 | 回答什么问题 | 成本 | 证据强度 |
|---|---|---|---|---|
| 专家方法 | 启发式评估、认知走查、设计评审 | 界面是否违反已知原则、新手能否完成任务 | 低(半天 ~ 数天) | 中(发现问题强,验证问题弱) |
| 用户测试 | 可用性测试、出声思维 | 真实用户能否完成任务、卡在哪 | 中 | 高(定性发现 + 初步定量) |
| 量化度量 | 行为指标、SUS/SEQ、HEART | 好用程度是多少分、趋势如何 | 低 ~ 中(依赖埋点) | 高(统计可靠) |
| 实验 | A/B 测试、灰度发布 | 改动是否真的带来提升 | 高 | 极高(因果证据) |
谱系的逻辑:从专家到实验,成本递增、证据强度递增。专业做法不是一律上最贵的,而是先问"这个决策的证据缺口有多大",再选最便宜且够用的方法。四种方法也可以串成一条证据链:专家评审发现问题 → 可用性测试确认问题真实存在 → 量化指标度量严重程度 → A/B 测试验证修复方案有效。
专家评估方法
专家方法的核心是不打扰用户、靠专业判断找问题。速度快、成本低,适合在开发早期反复跑,但它发现的是"疑似问题",必须与用户验证配合。
启发式评估(heuristic evaluation)
由 Jakob Nielsen 与 Rolf Molich 于 1990 年提出:请评估者对照一组可用性原则(启发式)逐屏检查界面,记录违反原则的地方。1994 年 Nielsen 定稿的十条启发式是行业事实标准:
| # | 启发式 | 界面反例 | 界面正例 |
|---|---|---|---|
| 1 | 系统状态可见:系统应在合理时间内反馈当前状态 | 点"发送"后页面毫无变化,用户以为没点上 | 发送即回显消息 + "正在生成"光标,流式输出 |
| 2 | 系统与现实匹配:用语符合用户习惯,不说系统行话 | 报错"HTTP 500 内部错误",用户不知道怎么办 | "网络出问题了,内容未发送",附"重试"按钮 |
| 3 | 用户控制与自由:提供明确的"退出"与"撤销" | 误删对话没有恢复入口,只能认栽 | 删除后 5 秒内显示"撤销",允许恢复 |
| 4 | 一致性与标准:同一事物全站同词同形,遵循平台惯例 | "重新生成"有时在底部、有时在右上角 | "重新生成"位置、文案、图标全局统一 |
| 5 | 错误预防:在错误发生前就阻止它 | 允许提交空表单,再弹窗报错 | 提交按钮在必填项为空时置灰并说明 |
| 6 | 识别而非回忆:选项可见,不靠用户记忆 | 设置项用纯文字下拉,用户记不住选项内容 | 用带预览的卡片/图标,选项内容一目了然 |
| 7 | 灵活高效:为熟练用户提供加速路径 | 高级用户每次都要点 5 步才能完成常用操作 | 快捷键、最近使用列表、批量操作 |
| 8 | 美观与极简:界面只保留必要信息 | 首屏堆满 12 个入口和两屏说明文字 | 只留 3 个示例问题 + 一句能力说明 |
| 9 | 帮助用户识别、诊断并恢复错误:错误信息用白话说明原因和出路 | "操作失败,请重试",不给原因 | "知识库中没有匹配内容,请换个问法或转人工" |
| 10 | 帮助与文档:提供可搜索、面向任务的帮助 | 帮助文档只有功能罗列,搜不到"怎么改订阅" | 帮助中心按任务组织,提供"常见问题"入口 |
评估流程
- 选评估者:3~5 名。不是越多越好——Nielsen 的研究显示,第 5 名之后的评估者发现的新问题急剧减少;1 名评估者的覆盖率通常只有 30% 左右,5 名约可覆盖 75%~85%
- 独立评估:评估者各自对照十条启发式逐屏检查,互不讨论(讨论会互相污染、收敛到同几个人人都看得到的问题,丢掉各自的独特发现);每发现一个问题记录:位置、违反哪条启发式、场景、建议
- 严重度分级:每个问题独立打 0~4 分(见下表)
- 汇总评审:评估者碰头合并问题清单、去重、统一严重度,产出带优先级的修复清单
严重度分级(Nielsen 0~4 制,综合"出现频率 × 影响程度 × 是否一次学会"判断):
| 级别 | 含义 | 处理建议 |
|---|---|---|
| 0 | 不是可用性问题 | 记录,不处理 |
| 1 | 表面问题(cosmetic):不修复也行 | 有余力再修 |
| 2 | 次要问题(minor):低优先级 | 排期修复 |
| 3 | 主要问题(major):影响多数用户完成任务 | 高优先级,发布前必须处理 |
| 4 | 灾难问题(catastrophe):用户无法完成任务 | 阻断发布,立即修复 |
局限
- 专家 ≠ 用户:专家发现的是"可能的问题",是否真实存在、影响多大,必须由用户测试确认
- 发现 ≠ 验证:启发式评估回答"违反原则了吗",回答不了"用户真的失败了吗""改完有效吗"
- 依赖评估者水平:资深可用性工程师的发现数量与质量远高于新手,跨专业评估(如让工程师评)漏检率高
- 对 AI 产品不完全适用:十条启发式诞生于 GUI 时代,对对话式界面、生成式输出的新问题(如幻觉、不确定性表达、过长输出)覆盖不足,需要配合本文「AI 产品评估的特别议题」一节补充
认知走查(cognitive walkthrough)
认知走查不检查"界面是否漂亮",而是从新手的视角模拟完成任务的心智过程。做法:选定一个代表性任务,把它分解成一系列动作序列,然后对每一步追问四个问题:
| # | 四个问题 | 不通过时的典型原因 |
|---|---|---|
| 1 | 用户会尝试做这件事吗(知道目标/知道该做什么)? | 任务目标本身不明确,或入口措辞与用户心智不符 |
| 2 | 用户能看到执行动作的控件吗? | 控件被隐藏、无视觉区分、埋在深层菜单 |
| 3 | 用户会把动作与期望的结果联系起来吗? | 按钮文案含糊("处理"?)、图标无意义 |
| 4 | 执行后用户能感知到进展吗? | 无反馈、反馈延迟、反馈与操作无对应 |
任一步答"否",就记一个走查问题并说明卡在哪一步、为什么。走查者以"原型界面 + 用户画像 + 任务定义"为输入,一个人半天就能走完一个核心任务,比启发式评估更适合:
- 首次使用类场景:新用户引导、注册流程、第一次对话
- 无教学的自助界面:用户没有说明书、没有客服可问
- 与启发式评估搭配:启发式擅长找"违反原则",走查擅长找"新手具体在哪一步卡住",两者发现的重复率低
局限:走查者是"假装用户",对用户知识背景的假设可能不准;它假设用户按理性目标行动,对探索式、情绪化行为解释力弱。
设计评审(design critique)与设计走查(design review)
这两件事经常被混为一谈,其实目标不同:
| 维度 | 设计评审(critique) | 设计走查(review) |
|---|---|---|
| 目标 | 帮设计师把方案改得更好(形成性) | 对照标准验收设计是否合格(总结性) |
| 对象 | 进行中的方案,允许不完整 | 接近定稿的方案 |
| 输出 | 改进建议,不是结论 | 通过/不通过 + 整改清单 |
| 气氛 | 协作、试错 | 正式、有裁决 |
| 例子 | 每周设计例会看线框 | 发布前的「AI 交互设计评审检查表」逐项打勾(见总览) |
给反馈的结构:描述 → 影响 → 建议
评审里最有杀伤力的反馈是"我不喜欢""感觉不对"——没有信息量,还让人防御。专业的反馈格式是三步:
- 描述:只说你看到的事实,不带评判。"这个按钮用了灰色,和旁边的主按钮区分度低"
- 影响:说这个事实对用户的影响。"用户可能注意不到这是可点击的,错过主路径"
- 建议:给一个具体的改进方向。"建议提高对比度,或改用主色描边"
配套纪律:反馈针对设计,不针对设计师;一次聚焦一个点,不攒一堆再倒出来;不确定对方意图时先提问("这个入口的目标用户是谁?"),而不是先下结论。
评审会节奏
- 会前:设计者提前 24 小时发出材料与本次要回答的问题清单,与会者先看材料;评审会不是读稿会
- 会上:设计者 5 分钟讲背景与目标 → 按问题清单逐项过 → 每项 3~5 分钟给反馈 → 记录员当场记下决策与待办
- 会后:24 小时内发出决策记录;下次评审先过上次的待办
- 规模:5~8 人为上限,人多了每个人都说得少、责任分散
决策记录(ADR 思想)
评审最大的浪费是"同一个问题被讨论两次":上周否决的方案这周又提上来,因为没人记得为什么否决。解决方法是给设计决策写记录,借鉴架构决策记录(ADR)的格式:背景 → 决策 → 理由 → 备选方案(及为何不选) → owner 与日期。不要求长篇,几行即可:
背景:对话式问答的"重新生成"放底部(2026-08-01) 决策:放输入框右侧,不放回答尾部 理由:用户反馈"回答太长时翻到尾部才看到按钮";热区分析显示底部点击率低 备选:回答尾部(已试,2026-07 版)——用户需滚动,放弃 owner:@design-xx
有了决策记录,"为什么这么设计"就不用靠记忆,改动时也能先翻旧账,避免反复横跳。这也是总览「每次设计走查都留决策记录」的落地方式。
可用性测试(usability testing)
目标与时机
可用性测试是让真实用户在受控条件下完成任务,观察其行为与困难。它同时产出两类证据:定性(卡点、困惑、用户原话)与轻量定量(任务完成率、时间、错误)。适合在以下时机做:
- 新功能交互定型前后(验证核心任务流)
- 重大改版前后(对比新旧方案的完成率)
- 发布后抽查(验证真实使用与假设一致)
- 争议决策时("用户到底能不能找到?"——测一下,别吵)
形式对比
| 维度 | 选择 | 特点 |
|---|---|---|
| 主持 | 主持式(moderated) | 有专人引导与追问,能挖到"为什么卡住";成本高、节奏慢 |
| 非主持式(unmoderated) | 用户自行按脚本完成,录屏回收;量大、成本低,但卡点原因只能猜 | |
| 场地 | 现场(in-person) | 可观察表情、可切换任务、适合高保真原型与机密项目 |
| 远程(remote) | 招募范围大、无需场地;注意网络与设备差异引入的噪声 | |
| 任务 | 任务式(task-based) | 给具体任务测完成度;发现真实能力缺口 |
| 自由探索(free exploration) | 不做任务只观察"用户自己会玩成什么样";适合新概念、开放产品 |
组合建议:早期用「现场 + 主持 + 任务式」,挖深度;成熟期用「远程 + 非主持」,跑批量。任务式与自由探索可以混用——先让用户自由玩 3 分钟,再进入任务环节。
出声思维(think-aloud)
出声思维是可用性测试的默认要求:请用户边做边说,把脑子里想的讲出来。原理(Ericsson & Simon 的 Protocol Analysis):出声让研究者获得认知过程的第一手数据,而不是事后的回忆重构——事后访谈里用户会"合理化"自己的行为("我当时知道要这么点"),出声数据里则能听到真实的犹豫与猜测。
引导技巧:
- 开场说明:"我们测的是产品不是您,您觉得哪里奇怪,正是我们想知道的东西"
- 别打断:用户安静操作时忍住不插话;一插话就污染了行为数据
- 统一追问语:用户卡住或操作奇怪时,问"你现在在想什么?"或"你现在想做什么?",而不是"你为什么不点那个按钮?"
- 用户说"这里应该点 X"但犹豫时,让他继续:"你可以照你想的点"
注意出声思维的边界:出声会轻微降低任务速度(双重任务效应),所以计时数据与出声测试混用时解释要谨慎;用户不说话时可用"接下来你想做什么?"温和推动,不要替用户解释。
样本量:5 个用户为什么够(以及什么时候不够)
Nielsen 与 Landauer(1993)给出了可用性测试问题发现率的数学模型:设某设计共有 N 个可用性问题、单个用户发现任一问题的平均概率为 λ(实测典型值约 0.31),则 n 名用户能发现的问题数约为:
1 | |
代入 λ = 0.31 可得:1 人约发现 31%,3 人约 67%,5 人约 85%,10 人约 97%。直觉解释:用户越用越熟练、发现的重复问题越多,每人带来的"新问题"越来越少——收益递减曲线在 5 人之后变得很平,性价比大幅下降。
「5 用户」的三条常见误读
- "5 个用户够"只针对"发现问题":它是最小发现率模型,不是统计检验。要报告"完成率提高了 10%"这类数字,需要按统计功效估算样本量(见下节),动辄几十上百人
- 对低频问题不适用:模型假设问题出现概率均匀;只在特殊路径(报错、边角场景)出现的问题,需要更多用户或定向招募才能碰到
- 对高度不一致的设计不适用:λ 越低(每个用户发现的问题越少),同样的 5 人覆盖率越低;先做启发式评估把明显问题修掉,再上可用性测试,比直接测更划算
实操法则:核心任务用 5~8 人做 2~3 轮(每轮修完问题再来一轮),比一次性找 20 人更有信息量;定量基准测试另算样本量。这也与用户研究的访谈样本量建议一致。
任务设计
- 具体目标,而非"随便看看":❌"请随便逛一下这个页面";✅"请把文档分享给同事并设置只读权限"
- 场景化:给任务一个故事与动机,让用户进入角色:"你刚入职,HR 发来一个文档链接,你需要确认自己能不能编辑"
- 避免引导性措辞:❌"点击右上角的分享按钮"(把答案告诉用户了);✅"请把这份文档分享出去"
- 从真实场景来:任务来自埋点里最高频的路径与客服投诉,而不是设计师想象的路径
- 数量:一场测试 60~90 分钟,任务 5~8 个为宜;每个任务前念任务卡,完成后问一个"刚才哪里让你卡住了?"
被试招募与筛选
- 代表性比数量重要:被试应来自目标用户群体(年龄、岗位、产品熟练度、设备),而不是办公室同事与朋友——"内部人测试"发现的问题严重偏少
- 筛分问卷:用 3~5 个问题筛掉不合格者(如要求"过去一年用过同类产品""从未在本公司工作")
- 新手 vs 老手:首次使用的用户测"学得会吗",高频老手测"用得顺吗"——不同阶段的问题不同,先明确这次测谁
- 伦理与合规:告知录音、签知情同意、报酬照付、数据匿名;AI 产品测试注意不要让被试误以为在跟真人聊天(见「实验伦理」)
数据采集与分析
采集(测试中):
- 录屏 + 语音:屏幕与表情都要录;AI 产品建议同时录"输入了什么、模型返回了什么"的时间线
- 行为指标:任务是否完成、完成时间、错误次数、求助次数、路径偏离
- 主观表达:出声数据、卡点时的原话、测试后问卷(SUS/SEQ,见下节)
分析(测试后):
- 按任务逐人回放,标注关键事件(卡点、错误、成功路径)
- 汇总成问题清单:每条含证据(用户原话/录像时间点)、严重度(借用 0~4 分级)、出现人数
- 去重合并:同一根因的问题合并("找不到分享按钮"与"以为分享在设置里"可能是同一个 IA 问题)
- 排序输出:按严重度 × 出现人数排序,附修改建议,交付开发
测试脚本与主持技巧
- 脚本三件套:开场白(目的、保密、可随时退出)→ 任务卡(逐任务)→ 收尾访谈(总体感受、最困惑处、SUS 问卷)
- 不教:用户卡住时,先等 10 秒;仍卡住就问"你现在想做什么",不要上手演示——一演示,这个任务的数据就废了
- 不评判:用户操作"奇怪"时不说"很多人都会用",不纠正、不解释、不引导
- 观察:重点记录"行为 + 原话",克制自己的解释冲动;把解释留到分析阶段
量化度量指标
定性测试告诉你"哪里有问题",量化指标告诉你"问题多大、是否在变好"。两套结合,才构成完整证据。
行为指标
| 指标 | 定义 | 怎么用 |
|---|---|---|
| 任务成功率 | 无需帮助完成任务的用户占比 | 核心健康度;基准测试的主指标 |
| 任务时间 | 完成任务所需时长 | 效率;注意与成功率的权衡(快而错 vs 慢而对) |
| 错误率 | 任务中出错次数 / 出错用户占比 | 定位具体卡点 |
| 操作路径效率 | 实际步数 vs 最优步数(或点击次数偏离度) | 衡量流程设计冗余 |
- 基准(baseline):上线前先测当前版本数据,作为后续对比的锚点;没有基线,"新版本更好"就没有参照
- 目标设定:指标要配目标(如"成功率 ≥ 90%"),目标来自业务目标反推或行业参考,而不是拍脑袋;同时警惕把指标当 KPI 后产生的「指标游戏」(见「常见误区」)
- 采集方式:基准测试(受控条件下人工采集)适合上线前;埋点(生产环境自动采集)适合上线后;两者口径必须一致才能对比
满意度问卷
SUS(System Usability Scale,Brooke 1996)
SUS 是行业最常用的整体可用性问卷:10 题、5 点李克特(1=非常不同意,5=非常同意),奇数题正向、偶数题反向,交替排列防止用户惯性作答。典型题项(偶数题已反向表述):
1 2 3 4 5 6 7 8 9 10 | |
计分公式:奇数题得分 = 该题分值 − 1;偶数题得分 = 5 − 该题分值;10 题得分求和后再 × 2.5,得到 0~100 的 SUS 总分。
1 | |
解读:SUS 分数不是百分比,是 0~100 的综合分。行业基准(Jeff Sauro 汇总的大量研究):
| SUS 分数 | 评级(约) | 含义 |
|---|---|---|
| ≥ 80.3 | A | 卓越,用户推荐度高 |
| 68 ~ 80 | B ~ C+ | 尚可;68 分是行业均值 |
| 50 ~ 68 | C ~ D | 低于平均,需要改进 |
| < 50 | F | 不可接受 |
「50 分及格」是常见误读
很多人把 SUS 当成百分制考试,认为 50 分是及格线——这是错的。SUS 是相对量表,68 分(行业均值)才是"达到平均水平"的参照线;低于 68 就低于大多数产品。比较两个版本时,看分数差是否超过约 5~10 分(统计上可感知的差异幅度),而不是纠结单次分数。
使用要点:SUS 测的是整体感知,不是诊断工具——分数低要知道"哪里低",必须配合任务级数据;样本建议 ≥ 12 人再报告均值(小样本方差大)。
SEQ 与 UMUX
- SEQ(Single Ease Question):任务结束后问一题"这个任务对你来说难度如何?",1(非常难)~7(非常容易)。任务级指标,和 SUS(整体级)互补;在可用性测试里逐任务采集,能定位"哪个任务最难"
- UMUX(Usability Metric for User Experience):4 题的轻量版 SUS(2 题可用性 + 2 题体验),7 点量表,与 SUS 高度相关;当问卷篇幅受限、或需要反复追踪时用
NASA-TLX
NASA-TLX 测任务负荷:脑力需求、体力需求、时间压力、绩效、努力、受挫感 6 个维度,加权合成 0~100 分。适用场景:操作员/客服工作台、长流程任务、高压力场景——"任务完成了,但累得要死"时,成功率和 SUS 都看不出问题,TLX 能。日常消费级产品的表单、浏览场景用它偏重,SEQ 就够。
CSAT / NPS 的适用边界
- CSAT(客户满意度):单题"你对本次体验满意吗",1~5 分;适合交易后即时测量,反馈快
- NPS(净推荐值):"你有多大可能向朋友推荐?"0~10,减去贬损者占比;衡量忠诚与口碑,样本要大、低频收集
边界提醒:两者都是态度指标,不是行为指标——用户说满意不等于用得好(可用性测试里经常有"完成了但很生气"的反例);NPS 在样本 < 100 时噪声极大,不宜拿来做设计决策;它们回答"用户喜不喜欢",回答不了"哪里不好用、怎么改"。设计团队可以把 NPS 当北极星的组成部分,但不能拿它当设计迭代的输入。
产品级度量框架:HEART vs PULSE
Kerry Rodden 等(Google,2010)提出 HEART 框架,专门解决"产品指标与用户体验脱节"的问题:
| 维度 | 回答的问题 | 指标示例(信号 → 指标) |
|---|---|---|
| H Happiness 愉悦度 | 用户态度如何 | 满意度问卷、SUS、NPS |
| E Engagement 参与度 | 用户用得深不深 | 人均会话数、消息数、停留时长、周使用天数 |
| A Adoption 采纳 | 新用户用不用新功能 | 新功能首次使用率、注册后 7 日内激活率 |
| R Retention 留存 | 用户回不回来 | 次日/7 日/30 日留存率、流失率 |
| T Task Success 任务成功 | 任务达成的效率与效果 | 成功率、任务时间、错误率、搜索命中率 |
每个维度按"目标(Goal)→ 信号(Signal)→ 指标(Metric)"展开:先写目标(如"新用户快速学会提问"),再列可观察的信号(如"首个问题在 30 秒内发出"),最后才是可统计的指标。先有目标和信号,才有指标——直接抄指标列表是常见错误。
对比:PULSE(Page views 页面浏览、Uptime 可用性、Latency 延迟、Seven-day active users 7 日活跃、Earnings 收入)是业务/技术指标,问题在于:它们滞后(页面浏览下跌时已经发生了)、受设计与体验之外的因素驱动(投放、价格)、不能指导设计决策("页面浏览量降了"然后呢?)。HEART 的价值是把用户体验本身变成可追踪的产品指标。实际运营中两者并用:PULSE 管业务健康,HEART 管体验健康。
北极星指标与设计度量
北极星指标是"产品核心价值是否达成"的唯一关键指标(如网盘产品的"每周活跃文件数")。设计度量与它的关系:北极星回答"业务方向对不对",设计度量回答"体验层面哪块拖了后腿"——北极星下跌时,靠 HEART 类框架分解定位是参与度问题、任务成功问题还是留存问题,再下钻到具体流程的行为指标。设计团队应维护一张"北极星 → HEART 维度 → 行为指标"的指标树(见「设计度量体系的搭建」),保证每个设计改动都能回答"它服务哪个上层指标"。
情绪曲线
对长流程(如开通企业账号、AI 生成长报告),可以按阶段自报情绪:让用户在流程的每个关键节点后打分(1~7 分),连成曲线。用处:定位情绪低谷——流程总时长相同,但情绪低谷在"上传资料"还是"最后确认",改进方向完全不同。注意自报数据有记忆偏差,阶段间隔短一些、尽量当场采集。
实验方法:A/B 测试
问卷与埋点只能证明"相关",A/B 测试是获得因果证据的黄金标准:把用户随机分到两个版本,只有改动不同,观察指标差异。
设计一个干净的实验
| 要素 | 要求 | 常见错误 |
|---|---|---|
| 单一变量 | 一次只改一个变量(文案?颜色?流程?) | 同时改了三个东西,赢了不知道赢在哪个 |
| 随机分组 | 用户随机进对照组/实验组 | 按注册时间分(污染:时间本身影响行为) |
| 样本量 | 先估算,再开跑 | 样本不够就下结论 |
| 显著性与置信区间 | 报告 p 值/置信区间,不只报均值 | 只报"提升 5%"不讲不确定性 |
| 预注册 | 跑之前定好主指标与分析计划 | 跑完再挑"显著的那个指标" |
样本量估算公式(两组比例型指标对比,α = 0.05、功效 80%)近似:
1 | |
其中 p 为对照组基准转化率,p1 − p2 为想检测的最小提升。例:基准 10%,想检测 10%→11%(提升 1 个百分点)的变化,需要每组约 16 × 0.1 × 0.9 / 0.01² = 14400 人——想检测的差异越小,需要的样本越大。检测"提升 20%"(10%→12%)则只需约 3600 人/组。开跑前先算这笔账,能避免"跑了两周没结论"。
常见陷阱
- 多重比较:同时看 10 个指标,纯随机也会有 40% 概率出现至少一个"显著"(0.95¹⁰ ≈ 0.6 全不显著的逆事件)——指标看越多,假阳性越严重;主指标预注册,其余指标标注"探索性"
- 偷看数据:每天都在跑中途数据,看到"显著"就提前收——多次偷看会显著抬高假阳性率;提前终止需要专门的序贯方法
- 低基数追显著:新功能日活只有几百人,硬跑两周出不了结论,还延误上线节奏
- 忽略长期:短期指标涨(如点击率),长期指标跌(如留存)——A/B 只测窗口内,长期效果要另配追踪
适用与不适用
| 适合 A/B 的场景 | 不适合的场景 |
|---|---|
| 高频行为(按钮文案、表单、首屏布局) | 低频行为(年度续费、企业采购)——样本永远不够 |
| 有明确主指标(转化率、完成率) | 长期品牌效果(信任、心智)——测不到 |
| 已有稳定用户量 | 全新产品/全新用户——没有基线,先做形成性测试 |
| 风险低的改动 | 高风险改动(不可逆、涉及安全)——应走灰度 + 人工监控而非全量 A/B |
灰度发布与实验平台
- 灰度发布(渐进式上线):1% → 10% → 50% → 100% 逐步放量,任何一级指标异常就回滚;灰度与 A/B 常结合:灰度是"控制风险地放量",A/B 是"放量时做因果对比"
- 实验平台:企业级平台(如内部自建、开源平台)提供分流、埋点、显著性计算与防偷看机制;小团队至少要有:稳定分流 key、实验标识写入埋点、统一的显著性计算脚本——没有工具的 A/B 很容易做成"伪实验"
实验伦理
- 知情同意:用户应知道自己的行为可能被用于实验;至少要在隐私政策里明确"我们会进行产品实验"
- 最小伤害:不拿用户做高风险实验(如把支付按钮藏起来、对弱势群体测试有害内容);不确定 AI 输出质量时,实验组要有人工兜底
- 透明的边界:灰度中发现问题应立即回滚并补偿受影响用户;涉及内容安全/隐私的实验需要合规评审
- 与「AI 产品开发生命周期」的审批与审计思想一致:实验本身也是产品决策,要留痕、可追溯
设计度量体系的搭建
从问题到指标:指标树
指标体系的正确起点不是"有哪些现成指标",而是业务问题。自顶向下建树:
1 2 3 4 5 6 7 8 9 10 | |
原则:每个上层指标都能下钻到可行动的下层指标(指标下跌 → 能定位到流程 → 能对应到设计改动);每个下层指标都要挂到上层(没有上层的指标是虚荣指标)。
定性 × 定量的三角互证
单一证据类型会被系统性偏差污染:问卷里的"满意"可能只是不好意思;埋点里的"用时短"可能因为用户直接放弃。三角互证的逻辑:
| 证据 | 回答 | 典型偏差 |
|---|---|---|
| 定性(可用性测试、访谈) | 为什么、怎么用 | 样本小、主观 |
| 定量行为(埋点) | 多少人、多少量 | 无原因、口径漂移 |
| 态度(问卷) | 用户怎么想 | 表达 ≠ 行为 |
互证法:定性发现生成假设 → 埋点验证规模 → 问卷补充态度 → 结论交叉确认。例:访谈发现"用户不知道能追问"(定性)→ 埋点发现"首问后 24 小时内追问率仅 12%"(定量)→ 追问率低与满意度低相关(问卷)→ 三重证据一致,才值得立项改引导。
度量报告的结构
度量结果要能推动决策,标准结构(每次度量都按这个模板写):
1 2 3 4 5 | |
报告忌讳:只贴图表不给结论(读者无法行动);只有结论不给证据(无法核验);不写口径与样本量(不同版本的数据无法比较)。
常见误区
- 虚荣指标(vanity metrics):累计注册数、页面总浏览量——只涨不跌、不可行动;换成"每周活跃、完成率、留存"才有决策价值
- 指标游戏(metric gaming):指标一旦挂钩 KPI 就会被优化指标本身而非用户价值(客服响应时间被刷成"点一下就算响应");对策:指标多元化、定期审计、指标与价值挂钩
- 忽略长期:短期指标全绿、长期信任与留存悄悄下滑;给长周期指标(留存、NPS、回访)设固定复查节奏
- 指标无主:每个指标没有 owner 和复查频率,三个月后口径已变,历史对比全部失效
- 以指标代替理解:指标告诉你"什么变了",不告诉你"为什么"——指标下跌后不做定性研究就改版,等于蒙眼开车
AI 产品评估的特别议题
输出质量评测与设计评测的分工
AI 产品的"行不行"由两条证据链共同回答,别混在一起:
| 设计评测(本页) | 输出质量评测(AI 输出质量评测) | |
|---|---|---|
| 对象 | 界面、交互、流程、体验 | 模型输出的正确性、忠实度、安全性等 |
| 回答 | 用户用起来顺不顺、信不信、回不回来 | 答得对不对、全不全、有没有幻觉 |
| 方法 | 启发式、可用性测试、SUS/HEART、A/B | 评测集、线上指标、LLM-as-Judge、红队 |
| 典型结论 | "转人工入口太难找" | "医疗类回答事实错误率 3%" |
分工原则:设计评测把"模型输出质量"当给定输入(测的是界面是否把输出呈现好),输出质量评测把"界面"当给定输入(测的是模型本身)。但两者必须对话:设计测试里发现的"用户因错误答案流失",要反馈给评测体系补评测用例;评测里发现的"模型常答非所问",要反馈给设计补兜底界面。
AI 产品可用性测试的挑战
- 输出不可复现:同一任务两次测试,模型回答可能不同——测试脚本要定义"可接受结果范围"而非唯一答案;判定"任务成功"时,给用户和观察者都配"期望要点清单"(与评测集的标注思路一致,见 AI 输出质量评测)
- 模型能力漂移:提示词、模型版本更新后,上次测试的结论可能失效——测试结论要标注模型版本与日期;重大模型升级后,核心任务至少重跑一轮冒烟测试
- 结果方差大:任务成败很大程度上取决于模型发挥,5 个用户的完成率可能因"这次抽到的回答质量"大幅波动——AI 任务的测试结论更依赖"卡点定性发现",对"完成率数字"要更谨慎
- 测试的其实是"人机协作":用户的任务结果 = 模型能力 × 界面引导 × 用户操作;测出来"完成率低",要先分解是模型答得差、还是界面没引导好——可对照"错误注入"思路(总览)人为控制模型输出,分别测界面
人机协作效率的度量
AI 产品的核心承诺是"人机协作比人单独干更快更好"。度量这个承诺需要对比基线:
| 指标 | 定义 | 说明 |
|---|---|---|
| 人-AI 总时长 | 用户完成任务从开始到结束的总时间(含阅读 AI 输出、修改、确认) | 对比纯人工完成任务的时间,才是真实的效率提升;只看"生成耗时"会高估 |
| 产出质量对比 | AI 辅助 vs 纯人工的产出评分(盲评) | 快而差不算赢 |
| 纠错负担 | 用户修改/重写 AI 输出的次数与篇幅 | 修改越多,协作效率越低 |
| 放弃率 | 会话中途放弃的比例 | 与转人工率配合看 |
典型陷阱:只测"生成 1000 字耗时 3 秒"就宣布"效率提升 100 倍"——用户还要读、还要改、还要核对。度量人机协作效率,永远以"用户交付整个任务"为单位,不是以"模型输出"为单位。
不确定性表达与信任的度量
AI 产品里,信任是设计的核心资产,而信任来自"不确定性是否被诚实表达"(见总览的文案契约)。信任的度量分两层:
- 态度层(信任问卷):可用性测试后追加 3~5 题信任问卷("你相信这个 AI 给出的答案是可靠的吗?""出错后你愿意再给它一次机会吗?"),1~7 分;或直接引用 NPS 的推荐意愿
- 行为层(代理指标):行为比问卷更诚实——采纳率(建议被采用的比例)、重试率(出错后是重试还是放弃)、转人工率(信任崩塌的信号)、反馈率(愿意花时间纠正 = 还愿意给它机会)
两者结合才能完整判断:问卷说"信任"但重试率极高,说明用户嘴上信任、行为上不敢;问卷低但采纳率高,可能只是"没别的选择"。设计上的不确定性表达(置信度提示、引用来源、"我不确定"的明示)做了之后,用这两层指标前后对比,就能量化"诚实表达到底值多少信任"。
来源说明
以下来源均于 2026-08-24 整理,以官方最新页面为准;页面可能随时更新。
经典论文与著作
- Jakob Nielsen & Rolf Molich, "Heuristic evaluation of user interfaces"(CHI '90);Jakob Nielsen, "10 Usability Heuristics for User Interface Design"(1994, nngroup.com)——十条启发式与严重度分级
- Nielsen & Landauer, "A mathematical model of the finding of usability problems"(CHI 1993)——5 用户发现约 85% 问题的数学模型
- John Brooke, "SUS: A 'quick and dirty' usability scale"(1996)——SUS 问卷与计分
- K. Anders Ericsson & Herbert A. Simon, Protocol Analysis: Verbal Reports as Data(1984)——出声思维的理论基础
- Bill Albert & Tom Tullis, Measuring the User Experience(Morgan Kaufmann)——可用性度量方法论与基准测试
- Jeff Sauro & James R. Lewis, Quantifying the User Experience——SUS 68 分行业均值、评级与样本量估算
行业文章与框架
- Kerry Rodden 等, "Defining and measuring user experience with HEART"(Google Design, 2010)——HEART 框架
- Nielsen Norman Group(nngroup.com):usability testing、moderated vs unmoderated testing、A/B testing 系列文章
- NASA Task Load Index(TLX)官方说明(humansystems.arc.nasa.gov)——负荷测量
标准与站内相关页
- ISO 9241-11(可用性的定义:有效性、效率、满意度;按需查阅)
- 产品设计与原型总览(AI 产品设计评审检查表、对话式 UI 可用性测试要点、错误注入与压力测试)
- AI 输出质量评测(评测集、线上指标、LLM-as-Judge,与设计评测分工)
- 用户研究(访谈与样本量,与可用性测试被试招募互补)
- 交互设计基础(心智模型、反馈与导航,启发式评估的具体落点)
- AI 产品开发生命周期(CC/CD)(灰度发布、审批与审计,实验伦理的落地)
发现错误?想一起完善? 在 GitHub 上编辑此页!
本页面贡献者:AI-PM Wiki Team
本页面的全部内容在 CC BY-SA 4.0 和 SATA 协议之条款下提供,附加条款亦可能应用