Кто ответит за ошибки ИИ: новые правила для бизнеса в Казахстане

Казахстанский бизнес постепенно переходит к использованию искусственного интеллекта. Однако вместе с технологиями появились и новые юридические вопросы: кто отвечает, если алгоритм ошибся, какие данные можно использовать и как защитить пользователей. Youth.kz рассказывает, какие обязанности появились у компаний и кто может отвечать за ошибки алгоритмов.

Новые правила работы с ИИ изучили специалисты юридической фирмы AEQUITAS в разборе для PRG Zanger.  По мнению юристов, ИИ теперь нельзя рассматривать только как удобный инструмент. Для бизнеса это еще и ответственность за то, как работает технология и к каким последствиям она может привести.

Кто отвечает за ошибку ИИ

Одна из главных проблем нового регулирования – ответственность.

Закон определяет несколько участников: владельца системы ИИ, собственника и пользователя. Но, как отмечают эксперты, пока не до конца понятно, какую роль и ответственность несут разработчики и компании, которые помогают внедрять такие решения.

Например, если искусственный интеллект неправильно оценил данные клиента или выдал ошибочный результат, возникает вопрос: кто должен отвечать – компания, которая использовала систему, или те, кто ее создал.

Юристы считают, что в таких случаях придется разбираться отдельно: смотреть, кто работал с системой, какие данные использовались и были ли соблюдены требования безопасности.

Бизнесу придется контролировать свои ИИ-системы

Новые правила требуют от компаний внимательнее относиться к технологиям, которые они используют.

Организациям рекомендуют:

• знать, какие ИИ-системы работают внутри компании;
• проверять, какие данные они используют;
• оценивать возможные последствия ошибок;
• обеспечивать безопасность;
• объяснять пользователям, как работает ИИ.

Особое внимание уделяется системам с высоким уровнем риска. Например, если алгоритм может повлиять на важные решения, требования к нему будут строже.

Пользователь должен понимать, когда с ним общается ИИ

Отдельный блок связан с прозрачностью.

Если человек общается с чат-ботом или другим сервисом на основе ИИ, компания должна сообщить ему об этом. Пользователь также должен понимать, как используются его данные и какие у него есть возможности защитить свои права.

Кроме того, созданный искусственным интеллектом контент должен иметь специальную отметку, чтобы люди могли отличить его от материалов, созданных человеком.

Какие способы использования ИИ запрещены

Закон также вводит ограничения.

Нельзя использовать искусственный интеллект для манипуляции людьми, незаконного сбора персональных данных, дискриминации или других действий, которые могут причинить вред.

Как отмечают юристы, такие правила соответствуют общемировому подходу: государства стараются не запрещать технологии, а ограничить самые опасные варианты их применения.

Что советуют компаниям

Специалисты рекомендуют бизнесу заранее подготовиться к новым требованиям.

Компании должны проверить, где именно они используют ИИ, создать понятные правила работы с такими системами и пересмотреть договоры с поставщиками технологий.

Также важно сохранять информацию о работе алгоритмов. Это поможет понять причины ошибки и защитить компанию, если возникнет спор.

По мнению экспертов, новые правила могут стать не только дополнительным требованием для бизнеса, но и способом сделать использование ИИ безопаснее и понятнее.

Главный вопрос теперь не в том, использовать ли искусственный интеллект, а в том, как делать это правильно.