Модель всегда откуда-то смотрит¶
ИИ обучается на выбранных данных, оптимизируется под заданную цель и работает внутри правил владельца. Даже без прямой цензуры он наследует исторические перекосы и невидимые исключения. Нейтральность нельзя объявить в пресс-релизе.
Уверенный ответ не равен истине¶
Языковая модель умеет звучать убедительно даже там, где данных мало или они противоречат друг другу. Чем выше ставка решения, тем опаснее принимать гладкий текст за знание. Система обязана показывать источники, неопределённость и альтернативы.
Независимость через несогласие¶
Более надёжная архитектура использует несколько систем с разными создателями, данными и специализацией. Их задача — не прийти к обязательному единству, а обнаружить, где вывод зависит от скрытой предпосылки или чьего-то интереса.
Человек остаётся ответственным¶
Нельзя передать алгоритму моральную и юридическую ответственность. Названные люди выбирают цель, оценивают вред и подписывают решение. Затронутый человек получает объяснение и апелляцию, даже если расчёт выполнила сложная машина.