信任应用 AI我们的方法
只在真正有价值的地方使用 AI。
我们把应用人工智能(AI)融入运营系统,也在自己的工程工作中使用 AI 工具。以下是我们在这两种情况下都遵循的原则。
Redpine01 — 原则我们如何使用 AI
只在真正有价值的地方使用 AI
只有当 AI 比规则、表单或更简单的系统更能解决真实问题时,我们才使用它。我们从不为技术而技术。
最终决定由人做出
重要的结果,例如报告、分类,或任何会影响到人的内容,都要由人审核并批准后才放行。
结果经过验证
我们把 AI 设计成带有检查环节的流程,而不是一条单一的指令:
- 提取:模型从文档、文本或音频中提取结构化信息。
- 分类:按照您的运营标准整理信息。
- 验证:规则和自动检查剔除错误和缺乏依据的表述。
- 审批:由人确认结果,之后才投入使用。
可解释,起辅助作用
我们优先选择这样的用途:建议的依据可以核查,AI 用来辅助对工作负责的人,而不是取代他们的判断。
您的数据始终属于您
未经明确同意,客户数据不会用于训练模型。模型只接收每项任务所需的数据;敏感信息会尽可能最小化或移除。
透明
如果我们交付的系统使用了 AI,我们会说明用在哪里、怎么用,让您的团队清楚哪些结果由模型生成或辅助生成。
我们自身工作中的 AI
我们的工程师使用 AI 工具编写、审查和测试代码。每一项改动上线前都由工程师审查,关于客户数据的规则同样适用。
本页说明我们的方法,并会随着实践的演进而修订。