AI指标体系
流畅度
| 指标维度 | 指标定义 |
|---|---|
| 响应时间 | 简单任务≤1s;复杂任务≤3s 核心功能的平均响应时间;复杂任务平均响应时间 |
| 操作流畅度 | 最大丢帧耗时≤34ms 操作功能,界面过渡动画流畅度 |
| 资源占用 | 不大于内存阈值 AI运行时内存占用,避免过度消耗导致发热,续航下降明显 |
功能可靠性
| 指标维度 | 指标定义 |
|---|---|
| 任务完成率 | 简单任务≥98%;复杂任务≥90% 基础功能成功率占比;复杂功能成功率占比 |
| 结果准确性 | 语音和文本生成≥95%;图像类别识别≥90% 语音类的指标准确率达标;文本生成无语法错误;图像识别/分类准确达标; |
| 稳定性 | ANR<1,无5类故障 Monkey20台机器连续高频度使用,奔溃率,异常率指标 |
交互自然性
| 指标维度 | 指标定义 |
|---|---|
| 语义理解准确度 | ≥90% 模糊指令理解,多轮对话中上下文关联准确 |
| 视觉交互一致性 | 一致性≥90% 范式化交互场景,核心视觉元素一致性 |
| 反馈自然度 | 用户主观评分≥4分 A回复符合人类对话,无机槭感;语音合成音色自然度; |
隐私和合规
| 指标维度 | 指标定义 |
|---|---|
| 数据采集合规性 | 合规性100% 仅采集必要数据,用户授权;敏感信息,自动脱敏 |
| 数据存储安全性 | 无泄漏 本地数据加密存储,云端数据传输加密强度;数据泄露风险事件发生率为0 |
| 权限管控精准度 | 精准100% AI功能调用敏感权限时,用户实时授权;异常权限调用拦截率100% |
过度干扰和主动打扰
| 指标维度 | 指标定义 |
|---|---|
| 场景不适配行为检测 | 不适配场景≤5%;敏感场景≤1次/周 不当时间触发;敏感场合干扰; |
| 用户控制权 | AI主动行为关闭率100%;控制AI行为的调研≥80% 用户是否可以关闭AI主动行为;推送是否明确告知理由,是否有个性化设置项 |
| 打扰频次 | ≤3-5次/天,7-10次属须;误唤醒率≤1-2次/天; 单位时间内AI交互次数,非用户主动发起的AI行为占比;高峰时段打扰占比; |
生态兼容
| 指标维度 | 指标定义 |
|---|---|
| 跨设备联动 | 智能互动场景≥3 跨设备同步(如闺蜜机)时数据完整性≥99% |
| 应用适配范围 | 本地应用≥95%;三方主流应用≥90% 与手机自带应用联动;支持主流第三方应用调用等 |