Зачем нужен Совет Равновесия¶
Современное решение может одновременно затрагивать право, экономику, экологию, безопасность и миллионы людей. Ни один чиновник, эксперт или алгоритм не видит всю картину. Совет задуман как процедура, которая заставляет разные контуры анализа встретиться до того, как власть применит необратимое решение.
Два контура: люди и машины¶
Люди задают цели, понимают ценности и несут ответственность. ИИ быстро сопоставляет данные, сценарии и противоречия. Эти способности дополняют друг друга, но не сливаются: машина не получает морального статуса правителя, а человек не может прикрыть личный выбор словами «так решил алгоритм».
Несколько независимых систем¶
Один корпоративный или государственный ИИ не является нейтральным судьёй. В Совет входят системы, созданные разными организациями, на разных архитектурах и наборах данных. Они специализируются на фактах, праве, экономике, экологии, безопасности и правах меньшинств и обязаны показывать расхождения.
Открытые данные и защищённая частная жизнь¶
Доказательства и методика анализа публикуются настолько широко, насколько позволяет безопасность. Персональные и чувствительные данные отделяются, минимизируются и проверяются в защищённом контуре. Ссылка на секретность не может скрывать саму цель решения, ответственного человека и порядок апелляции.
Как принимается решение¶
Каждый значимый вопрос получает формулировку цели, варианты, затронутые права, ожидаемую пользу, риск и срок действия. ИИ представляет анализ и несогласия; люди проводят публичное рассмотрение. Единоличное решение запрещено там, где затрагиваются жизнь, права, оружие или крупные общественные ресурсы.
Особое мнение и апелляция¶
Несогласный человек или ИИ оставляет аргументированное мнение в протоколе. Затронутые люди получают понятный канал обжалования. Апелляцию рассматривает другой состав и независимые системы, а новое доказательство может остановить или изменить действие решения.
Ответственность и аудит¶
За решение отвечают названные люди и учреждения. Независимый аудит проверяет данные, конфликты интересов, модели, журналы изменений и соответствие заявленной цели. ИИ не получает прямого доступа к оружию, счетам, публикации или управлению людьми.
Добровольные испытания¶
До применения в публичной власти модель испытывается на обратимых задачах: распределении небольших грантов, проверке исследовательских выводов или анализе городских сценариев. Участие добровольно, критерии пользы и вреда известны заранее, отрицательные результаты публикуются.
Ограничения первого этапа¶
MATERRA пока не создаёт действующий орган управления и не утверждает готовую техническую архитектуру. Первый этап собирает требования, сравнивает модели угроз, готовит протоколы и приглашает к критике. Переход к практике потребует отдельного правового мандата и независимого общественного контроля.