每个模型都有观察位置¶
AI 从被选择的数据中学习,为被设定的目标优化,并在所有者规则内运行。即使没有直接审查,它也会继承历史偏差和看不见的排除。中立不能靠新闻稿宣布。
自信回答不等于真相¶
即使证据不足或互相矛盾,语言模型也能听起来很有说服力。决定越重要,把流畅文字误当知识就越危险。系统必须显示来源、不确定性和替代方案。
通过分歧实现独立¶
更可靠的架构使用由不同开发者、数据和专业领域构成的多个系统。它们的任务不是强制一致,而是发现结论依赖的隐藏假设或利益。
人类继续承担责任¶
道德与法律责任不能交给算法。具名人员选择目标、评估伤害并签署决定。即使复杂机器完成计算,受影响者仍应获得解释和申诉。