Современные технологии уже позволяют разрабатывать автономные системы, например, дронов или роботов. В случае разработки полностью автономных военных и правоохранительных систем нейронка может взять на себя важную роль в контроле за силовыми структурами, что создаст риск использования таких технологий в диктаторских целях.

Общество должно начать доверять системе

Вопрос о том, может ли система стать диктатором в буквальном смысле, связан с политической структурой и возможностями ИИ в управлении. Нейронка может быть использована людьми как инструмент для управления или усиления диктаторской власти. В этом случае он не будет диктатором сам по себе, а станет действовать под контролем человека, но его действия могут быть максимально скрытыми и манипулятивными.

В теории, если в будущем будет создан полностью автономный ИИ, который способен сам принимать решения по управлению государством, такая программа может взять на себя роль, аналогичную диктатору. Однако для этого потребуются огромные изменения в общественных структурах, законодательстве и технологии, а также принятие обществом идеи о том, что машина может управлять государством.

Важно понимать, что диктаторская власть всегда сопряжена с ответственностью за принятые решения. ИИ, будучи алгоритмом, не имеет моральных ориентиров или способности к эмпатии, а его решения могут быть предсказуемыми или логичными с точки зрения данных, но совершенно неподходящими с точки зрения человеческих ценностей. Это ставит под сомнение возможность нейронки быть ответственным за управление государством в условиях непредсказуемых социальных изменений.

Люди, скорее всего, не будут готовы подчиняться машине без учета ее действий и решений. Для того чтобы ИИ стал диктатором, нужно, чтобы общество полностью доверяло системе, а это маловероятно, учитывая текущую недоверчивость к технологиям, особенно в контексте социальных и политических решений.

Даже если он сможет получить власть, существует необходимость в создании механизмов контроля, чтобы избежать злоупотреблений. Это вопрос не только технический, но и этический. Без достаточных систем защиты и надзора ИИ может стать угрозой для общества, но это, скорее, приведет к катастрофическим последствиям, чем к стабильному диктаторскому правлению.

Киберугрозы и манипуляции

В будущем ИИ может использоваться для манипуляции массовым сознанием, создания информационных войн или управления поведением людей.

Например, его можно использовать для манипуляций с новостями, создания фальшивых событий и фальсификации общественного мнения. Это, скорее всего, приведет  к  концентрации власти в руках тех, кто контролирует систему, что создает условия для диктаторских практик, где нейросеть действует как инструмент в руках человека.

Если ИИ будет использоваться для всеобъемлющего мониторинга, он может собирать данные о гражданах, анализировать их поведение и влиять на поведение общества с помощью алгоритмов, что может быть использовано для диктаторского контроля.

В долгосрочной перспективе возможны различные сценарии. Например, глобальная цифровая диктатура. Идея глобального правительства, управляемого ИИ, который будет контролировать все аспекты жизни, может стать реальностью, если государства или корпорации станут использовать технологию для централизации власти.

В гипотетическом будущем, когда ИИ станет настолько мощным и автономным, что сможет контролировать все аспекты жизни — от политических до судебных решений, — мы можем столкнуться с ситуацией, в которой такой алгоритм будет восприниматься как автократ, хотя и не в традиционном понимании этого термина.

Вывод

Хотя в данный момент ИИ не имеет физической власти и не способен быть диктатором в традиционном смысле этого слова, в будущем, при определенных условиях, ИИ может сыграть роль важного инструмента для концентрации власти в руках тех, кто им управляет. В некоторых сценариях ИИ может стать посредником диктаторской власти, но не будет узурпатором в классическом понимании этого термина, поскольку он не обладает сознанием, намерениями или моральной ответственностью.

Таким образом, более вероятным является использование ИИ как инструмента для усиления диктаторской власти, а не в качестве автономного диктатора.