非功能性需求设计:可解释性、鲁棒性、隐私合规
3.2 非功能性需求设计:可解释性、鲁棒性、隐私合规
核心认知:
功能性需求决定AI产品能否工作,非功能性需求决定产品能否活下去——
可解释性是产品的“透明骨骼”,鲁棒性是“免疫系统”,隐私合规是“法律基因”。
一、可解释性设计:从黑箱到白盒
价值公式与灾难成本
信任损失 = 解释缺失度 × 决策重要性
- 医疗诊断解释缺失 → 误诊诉讼(平均赔偿$200万)
- 金融拒贷无依据 → 用户流失率+40%
三级解释性框架:
层级 | 实现方式 |