ИИ может изменить демократию? Угрозы для власти и прав человека

Искусственный интеллект уже влияет на то, какую информацию мы получаем, какие решения принимаются с помощью алгоритмов и насколько легко отличить правду от подделки. По мнению футуролога Юваля Ноя Харари, в будущем эти изменения могут затронуть основы демократии. Youth.kz рассказывает, какие риски для власти, правды и прав человека автор книги Nexus видит в развитии ИИ.

ИИ может разрушить общественный диалог

Для демократии важно, чтобы люди могли обсуждать разные позиции, проверять факты и спорить друг с другом. Харари считает, что искусственный интеллект способен серьезно изменить этот процесс.

Современные алгоритмы уже умеют создавать убедительные тексты, изображения и видео. В будущем ИИ сможет самостоятельно вести огромное количество разговоров с людьми, подстраиваясь под их интересы и эмоции.

Проблема в масштабе. Один человек физически не способен вести тысячи дискуссий одновременно, а алгоритм может создавать миллионы сообщений. Он также способен менять аргументы для каждого конкретного человека, подбирая слова, которые с большей вероятностью заставят его поверить или изменить мнение.

В результате публичное пространство может заполниться не реальными участниками дискуссии, а автоматическими собеседниками. Человеку будет все сложнее понимать, с кем именно он разговаривает и насколько информация перед ним достоверна.

Правда может потеряться среди убедительной лжи

Харари обращает внимание еще на одну проблему: ИИ не обязательно должен заставить человека поверить в конкретную ложь. Иногда достаточно сделать так, чтобы человек перестал доверять вообще любой информации.

Если фотографии, видео, документы и голоса можно убедительно подделать за несколько секунд, возникает ситуация, в которой доказательства начинают терять значение.

Это особенно опасно для политики. Например, появление поддельного видео с кандидатом или чиновником может повлиять на общественное мнение еще до того, как специалисты успеют доказать его подлинность.

Но проблема может быть еще глубже. Если общество привыкает к тому, что любое видео или заявление потенциально является фейком, настоящие доказательства тоже можно объявлять подделкой.

Так возникает ситуация, когда у людей больше нет общей картины происходящего. Каждый может выбрать собственную версию реальности и отвергать неудобные факты как результат работы ИИ.

Алгоритмы могут стать «черным ящиком» власти

Еще одна угроза связана с тем, что ИИ способен участвовать в принятии решений, которые напрямую затрагивают права человека.

Алгоритмы уже применяются в разных сферах – от банковских решений и подбора сотрудников до государственных услуг. По мере развития технологий их роль может увеличиваться.

При этом человек не всегда способен понять, почему система пришла к конкретному выводу. Алгоритм может учитывать огромное количество факторов и находить связи, которые невозможно объяснить простым набором правил.

Для бизнеса это может быть проблемой, но для государства все намного серьезнее.

Если алгоритм помогает решить, кому предоставить услугу, кого проверить или какое решение принять в отношении человека, гражданин должен иметь возможность понять основания такого решения и оспорить его.

Иначе возникает опасная ситуация: решение есть, а ответственного за него человека найти невозможно.

ИИ может усилить власть авторитарных режимов

Харари также предупреждает о возможном изменении баланса между демократиями и диктатурами.

Исторически авторитарным государствам было сложно обрабатывать огромные объемы информации. Централизованная система могла собирать сведения, но чиновники не успевали их анализировать.

ИИ способен изменить эту ситуацию.

Если государство получает возможность автоматически анализировать сообщения, перемещения, финансовые операции, биометрические данные и поведение миллионов людей, масштаб контроля становится совершенно другим.

Такие технологии могут использоваться для поиска преступников и повышения безопасности. Но те же инструменты могут превратиться в систему массового наблюдения, если отсутствуют независимый контроль и ограничения.

В демократической системе государство должно быть подотчетно гражданам. Если же государство знает о гражданах почти все, а граждане не понимают, как принимаются решения внутри власти, баланс постепенно меняется в пользу государства.

Тотальная слежка может стать технически проще

Развитие ИИ делает массовое наблюдение дешевле и эффективнее.

Камеры, распознавание лиц, биометрические системы и анализ цифрового поведения могут работать одновременно, сопоставляя данные о человеке из разных источников.

Опасность здесь не только в том, что кто-то может узнать, где находится человек. Система способна постепенно составлять подробный профиль его поведения: с кем он общается, что читает, какие места посещает и какие темы его интересуют.

Если такие данные оказываются в руках государства или крупных корпораций, человек может потерять значительную часть личного пространства.

Поэтому Харари говорит о необходимости сохранить право человека на пространство, свободное от постоянного наблюдения.

ИИ способен изменить систему власти

Один из наиболее тревожных сценариев Харари связан не с тем, что ИИ будет полностью подчиняться правительству, а с обратной ситуацией.

Если государственные лидеры начнут слишком сильно зависеть от алгоритмов, они могут постепенно потерять возможность самостоятельно оценивать происходящее.

Представим систему, которая собирает для руководителя всю информацию о стране, анализирует ее и предлагает решения. Если человек видит только то, что ему показывает алгоритм, он уже не контролирует информационный поток полностью.

В таком случае ИИ может влиять на власть не напрямую, а через управление информацией, на основании которой власть принимает решения.

Получается своеобразный «алгоритмический переворот»: формально человек остается руководителем, но его решения все больше зависят от системы, которую он не способен полностью понять.

Мир может разделиться на цифровые блоки

Харари прогнозирует и другие масштабные последствия.

По мере развития искусственного интеллекта разные государства могут создавать собственные цифровые экосистемы. У них будут отличаться технологии, правила обработки данных и отношение к свободе информации.

В результате интернет может постепенно перестать быть единым глобальным пространством.

Мир рискует разделиться на несколько крупных цифровых зон, каждая со своими технологиями и правилами. Это может повлиять не только на экономику и политику, но и на то, как люди получают знания и воспринимают окружающий мир.

ИИ может усилить экономическое неравенство

Еще один риск – изменение рынка труда.

Автоматизация постепенно затрагивает не только физический труд. ИИ способен выполнять задачи, которые раньше считались исключительно интеллектуальными: писать тексты, анализировать документы, создавать изображения, программировать и работать с клиентами.

Особенно уязвимыми могут оказаться страны, экономика которых зависит от относительно дешевой рабочей силы. Если производство начнет возвращаться в богатые страны благодаря автоматизации, миллионы работников в развивающихся государствах могут потерять конкурентное преимущество.

Это способно увеличить разрыв между государствами, которые контролируют передовые технологии, и теми, кто становится их пользователем.

Самая большая проблема – кто контролирует ИИ

При всех этих сценариях Харари не утверждает, что развитие искусственного интеллекта автоматически приведет к краху демократии.

Опасность, по его мнению, заключается в другом: человечество может передать алгоритмам слишком много власти раньше, чем создаст правила, которые позволят эту власть контролировать.

Для демократии недостаточно просто иметь выборы и законы. Необходимо, чтобы общество могло проверять решения власти, исправлять ошибки и понимать, откуда появилась информация.

ИИ может помочь человеку делать это быстрее. Но он же может стать инструментом, который усложнит поиск правды, усилит наблюдение и позволит концентрировать власть в руках небольшого числа государств и компаний.

Поэтому главный вопрос, который ставит Харари, заключается не только в том, насколько умным станет искусственный интеллект. Важнее другое – кто будет контролировать его, какие решения ему позволят принимать и смогут ли люди сказать ему «нет».

Прогнозы Харари имеют под собой почву. Искусственный интеллект уже активно применяется в политике. Ранее Youth.kz рассказывал, какую роль нейросети играют в правительствах других стран.