Почему ИИ может вредить безопасности личных данных: объяснил эксперт
Вячеслав ЛегконогихИскусственный интеллект помогает искать информацию, подбирать товары, распознавать лица, фильтровать спам и даже принимать решения о выдаче кредитов. Однако вместе с новыми возможностями появляются и новые вызовы, связанные с цифровыми правами человека. Youth.kz рассказывает, в чем может состоять угроза для пользователей.
Персональные данные стали главным ресурсом эпохи ИИ
Сегодня к цифровым правам относятся право на защиту персональных данных, право на безопасность в интернете, право знать, кто и зачем собирает информацию о пользователе, а также право обжаловать неправомерное использование этих данных. Развитие искусственного интеллекта напрямую влияет на каждое из этих направлений.
Для работы современных систем искусственного интеллекта необходимы огромные массивы данных. Чем больше информации получает алгоритм, тем точнее становятся его прогнозы и рекомендации.
Каждый день пользователи оставляют цифровой след: совершают покупки, публикуют фотографии, используют банковские приложения, геолокационные сервисы и социальные сети. Эти данные могут использоваться для обучения нейросетей и создания персонализированных сервисов.
С одной стороны, это делает технологии более удобными. Пользователь получает рекомендации фильмов, товаров или маршрутов, соответствующие его интересам. С другой стороны, возникает вопрос о том, насколько человек контролирует собственную информацию.
Многие пользователи соглашаются на обработку данных автоматически, не читая пользовательские соглашения. В результате человек может даже не подозревать, какой объем информации о нем собирается и как именно используется.
«Закон РК «Об искусственном интеллекте», вступивший в силу в январе 2026 года, прямо относит системы ИИ к объектам информатизации. При любом взаимодействии с такой системой происходит обмен данными, в том числе персональными. Таким образом, ИИ оказывает прямое и существенное влияние на сбор персональных данных: закон одновременно допускает такую обработку и устанавливает жесткие условия ее законности», − заявил в разговоре с Youth.kz юрист и эксперт по цифровым правам Елжан Кабышев.
Безопасность в интернете выходит на новый уровень
Искусственный интеллект способен значительно повысить уровень цифровой безопасности. Алгоритмы уже помогают выявлять мошеннические операции в банковской сфере, обнаруживать вредоносное программное обеспечение и предотвращать кибератаки.
Многие системы безопасности анализируют миллионы событий в режиме реального времени и способны быстрее человека выявлять подозрительную активность. Благодаря этому снижается риск утечки данных и финансовых потерь.
Однако существует и обратная сторона. Те же технологии активно используют злоумышленники. Искусственный интеллект позволяет создавать более убедительные фишинговые письма, поддельные сайты и так называемые дипфейки − реалистичные изображения, видео и аудиозаписи, способные вводить людей в заблуждение.
В результате борьба за безопасность в интернете превращается в своеобразную гонку технологий, где искусственный интеллект используется как для защиты пользователей, так и для совершения новых видов цифровых преступлений.
«Решение данной дилеммы лежит не в сфере ограничения технологии, а в сфере повышения устойчивости пользователя к манипуляциям. Чтобы повысить безопасность пользователей в интернете, необходимы три взаимодополняющих элемента. Первый − цифровая грамотность. Каждый пользователь должен понимать, что любое видеоизображение, фотография или письмо в сети может быть сгенерировано или обработано с применением технологии дипфейков. Обещания «нигерийского принца» сегодня воспроизводятся значительно правдоподобнее − с живым видеообращением и голосовым клоном. Второй − критическое мышление. Привычка верифицировать источник информации, прежде чем совершать какие-либо действия, − особенно финансового характера. И третий − системная осведомленность об угрозах. Постоянное получение информации о типовых схемах мошенничества с применением ИИ, поскольку арсенал этих схем постоянно обновляется», − сказал Кабышев.
Кто собирает данные и для каких целей
Одним из ключевых цифровых прав является право пользователя знать, кто именно собирает его данные и зачем это происходит.
На практике этот вопрос становится все более сложным. Современные цифровые экосистемы включают десятки различных сервисов, рекламных платформ и аналитических систем, которые обмениваются информацией между собой. Пользователь может взаимодействовать с одним приложением, но его данные при этом могут обрабатываться сразу несколькими организациями.
Дополнительную сложность создают алгоритмы искусственного интеллекта, работа которых зачастую остается непрозрачной. Человек видит результат − например, рекламное предложение или рекомендацию, − но не всегда понимает, почему система приняла именно такое решение.
Поэтому во многих странах мира усиливаются требования к прозрачности цифровых платформ. Компании все чаще обязаны объяснять принципы обработки данных и предоставлять пользователям больше возможностей для контроля над собственной информацией.
«Базовый инструмент прозрачности уже предусмотрен действующим законодательством − это право пользователя на информацию. Подпункт 5 пункта 1 статьи 16 Закона об ИИ предоставляет пользователю право запрашивать сведения о данных, на основании которых системой ИИ было принято решение в объеме, предусмотренном пользовательским соглашением, с учетом требований законодательства о персональных данных и режима коммерческой тайны. Прозрачность достигается реальной информированностью пользователя о том, что происходит с его данными на каждом этапе их жизненного цикла», − продолжает Кабышев.
Право на жалобу становится особенно важным
Еще одно важное цифровое право − возможность защитить свои интересы в случае неправомерного использования данных.
Ошибки алгоритмов могут иметь вполне реальные последствия. Например, автоматизированная система способна ошибочно пометить пользователя как подозрительного клиента, заблокировать доступ к сервису или сформировать некорректный рейтинг.
«Право на защиту персональных данных и приватности испытывает на себе прямое и многоуровневое воздействие со стороны систем ИИ. Системы ИИ не просто получают и обрабатывают данные, они создают новые векторы угроз, о которых пользователи зачастую не подозревают. Одним из наиболее серьезных является угроза так называемого «инвертирования модели»: данные, на которых обучалась модель ИИ, теоретически могут быть частично восстановлены злоумышленником через направленные запросы − промпты. Указанное означает, что персональные данные, переданные в систему ИИ сегодня, могут стать уязвимостью завтра», − напоминает Кабышев.
Если решения принимаются исключительно машиной, человеку может быть сложно понять причины произошедшего и добиться пересмотра ситуации. Именно поэтому такую высокую роль занимает сохранение человеческого контроля над ключевыми решениями, затрагивающими права и интересы граждан.
Многие государства уже разрабатывают механизмы, позволяющие пользователям обжаловать решения, принятые с участием искусственного интеллекта, а также требовать исправления или удаления некорректных данных.
