为什么需要平衡委员会¶
现代决定可能同时影响法律、经济、生态、安全和数百万人。任何官员、专家或算法都看不到全貌。委员会是一套程序,让不同分析视角在权力作出不可逆决定之前相遇。
两个回路:人类与机器¶
人设定目标、理解价值并承担责任;AI 快速比较证据、方案和矛盾。二者互补但不混同:机器不获得统治者的道德地位,人也不能用“算法决定”来掩盖自己的选择。
多个独立系统¶
单一企业或国家 AI 不是中立法官。委员会应使用由不同机构、架构和数据开发的系统,分别分析事实、法律、经济、生态、安全和少数群体权利,并公开分歧。
公开证据与受保护的私人生活¶
在安全允许范围内,证据和分析方法尽可能公开。个人与敏感数据应分离、最小化并在受保护环境中核查。保密不能掩盖决定目的、负责人和申诉途径。
决定如何形成¶
每项重大问题都应说明目标、选项、受影响权利、预期利益、风险和期限。AI 提供分析与分歧,人类进行公开审议。涉及生命、权利、武器或重大公共资源时,禁止任何一方单独决定。
异议与申诉¶
持不同意见的人或 AI 将理由留在记录中。受影响者获得清楚的申诉渠道。另一组人员和独立系统进行复审,新证据可以暂停或改变决定。
责任与审计¶
具名人员和机构继续承担责任。独立审计核查证据、利益冲突、模型、变更日志以及是否符合原定目标。AI 不直接接触武器、账户、发布系统或人员管理。
自愿试点¶
在进入公共权力之前,模型先用于可逆任务,如分配小额资助、复核研究结论或比较城市方案。参与自愿,利益与伤害标准预先公布,负面结果也要公开。
第一阶段的限制¶
MATERRA 目前不建立治理机构,也不宣称已有完整技术架构。第一阶段收集要求、比较威胁模型、起草协议并邀请批评。进入实践需要单独法律授权和独立公共监督。