Теорема Мика Эшби об этическом регуляторе [1] основана на теореме о хорошем регуляторе [2], которая неоднозначна, поскольку умение регулировать не означает быть хорошим этически. "Теорема этического регулятора утверждает, что следующие девять требований необходимы и достаточны для того, чтобы кибернетический регулятор был одновременно эффективным и этичным:
- Цель выражается как однозначно расставленные по приоритетам цели.
- Правда о прошлом и настоящем.
- Разнообразие возможных действий.
- Предсказуемость будущих эффектов действий.
- Интеллект, чтобы выбрать лучшие действия.
- Влияние на регулируемую систему.
- Этика выражается в правилах с четко определенным приоритетом.
- Целостность всех подсистем.
- Прозрачность этичного поведения.
Из этих реквизитов только первые шесть необходимы для того, чтобы регулирующий орган был эффективным. Три необходимых условия - этика, честность и прозрачность - не обязательны, если система только должна быть эффективной. Это приводит к Закону неизбежной этической несоответствия , который гласит: «Если вы не укажете, что вам нужна безопасная этическая система, то вы получите небезопасную неэтичную систему». Причина в том, что, если этическая адекватность не является требованием, дизайн системы будет стремиться оптимизировать эффективность и, следовательно, максимально игнорировать необязательные этические аспекты, целостность и прозрачность, что неизбежно приводит к этически неадекватным и уязвимым проектам и последующему внедрению. к манипуляции.
Эффективность регулятора
Теорема этического регулятора показывает, что эффективность кибернетического регулятора зависит от семи требований. Эффективность регулятора R может быть выражена как функция:
Эффективность R = Цель R x Истина R x (Разнообразие R - Этика R ) x Предсказуемость R x Интеллект R x Влияние R
Если две системы, A и B, конкурируют за контроль над третьей системой, C, и эффективность A «выше эффективности B , то A с большей вероятностью, чем B, получит контроль над C».
Функция эффективности отражает то, как разнообразие действий, доступных этическому регулирующему органу, сокращается всеми действиями, которые считаются неэтичными, что ставит этический регулирующий орган в невыгодное положение при конкуренции с неэтичным конкурентом.
См. Также [ править ]
Ссылки [ править ]
- ^ М. Эшби, «Этические регуляторы и суперэтические системы» . Системы , 2020; 8 (4): 53.
- ^ RC Conant и WR Ashby, « Каждый хороший регулятор системы должен быть моделью этой системы », Int. J. Systems Sci. , 1970, том 1 , № 2, с. 89–97