С 1 августа 2024 года вступил в силу амбициозный и далеко идущий Закон ЕС об искусственном интеллекте (AI Act). Этот landmark legislation, как его называют в Брюсселе, стремится установить единые правила для развития и использования ИИ на территории Европейского Союза, ставя во главу угла безопасность и этику. Но что же это значит на практике для компаний, разработчиков и пользователей ИИ?
Цель Закона
Основная цель AI Act — защита граждан ЕС от потенциальных рисков, связанных с использованием систем искусственного интеллекта, при одновременном стимулировании инноваций в этой сфере. Закон устанавливает четкие рамки, определяющие, какие типы ИИ-систем считаются неприемлемо рискованными и должны быть запрещены, какие подлежат обязательной сертификации, а какие — добровольному мониторингу.
Ключевые положения Закона ЕС об ИИ
Закон устанавливает список запрещенных практик ИИ, считающихся неприемлемо рискованными и нарушающими основные права человека. К ним относятся:
Системы распознавания лиц в реальном времени в общественных местах: За исключением строго определенных случаев, связанных с правоохранительной деятельностью (например, поиск пропавших детей или предотвращение террористических угроз).
Системы категоризации граждан на основе социально-экономического статуса или личных характеристик: Использование ИИ для профилирования людей таким образом, чтобы это создавало дискриминацию.
Системы, манипулирующие поведением людей с использованием техник подсознательного воздействия: ИИ, который используется для обмана и эксплуатации уязвимостей.
Социальный скоринг: Использование ИИ для оценки надежности граждан на основе их социального поведения.
Высокорисковые системы ИИ: Закон определяет перечень высокорисковых систем ИИ, которые должны соответствовать строгим требованиям, прежде чем они будут допущены к использованию на территории ЕС. Эти системы охватывают широкий спектр областей, включая:
Критическую инфраструктуру: ИИ, управляющий энергетическими сетями, транспортными системами и другими жизненно важными объектами.
Образование: ИИ, используемый для оценки успеваемости учащихся или для автоматизированного отбора кандидатов на образовательные программы.
Занятость: ИИ, используемый для автоматизированного отбора кандидатов на работу или для мониторинга эффективности сотрудников.
Финансовые услуги: ИИ, используемый для кредитного скоринга или для вынесения решений по страховым случаям.
Правоохранительная деятельность: ИИ, используемый для прогнозирования преступности или для автоматизированного анализа доказательств.
Для высокорисковых систем ИИ установлены следующие требования:
* Оценка рисков и их минимизация: Компании должны систематически оценивать риски, связанные с использованием их ИИ-систем, и принимать меры для их минимизации.
* Высокое качество данных: Данные, используемые для обучения и работы ИИ-систем, должны быть качественными, полными и релевантными.
* Прозрачность и объяснимость: Компании должны обеспечивать прозрачность в отношении работы их ИИ-систем и предоставлять пользователям возможность понять, как принимаются решения.
* Человеческий контроль: Операторы высокорисковых систем ИИ должны иметь возможность вмешиваться в работу системы и исправлять ошибки.
* Строгий контроль и сертификация: Высокорисковые системы ИИ должны проходить строгий контроль и сертификацию перед выходом на рынок.Системы ИИ с ограниченным риском: Для систем ИИ с ограниченным риском устанавливаются менее строгие требования. В основном это касается прозрачности. Разработчики должны предоставлять пользователям информацию о том, что они взаимодействуют с ИИ. Например, чат-боты должны четко указывать, что они являются ИИ, а не человеком.
Системы ИИ с минимальным риском: Большинство систем ИИ попадают в эту категорию и подлежат свободному развитию и использованию. Это относится к большинству приложений, таких как спам-фильтры или видеоигры.
Последствия нарушения Закона
Нарушение положений AI Act влечет за собой серьезные штрафы. Максимальный штраф может достигать 6% от глобального годового оборота компании или 30 миллионов евро (в зависимости от того, что больше).
Дополнительные аспекты и влияние Закона ЕС об ИИ
Закон ЕС об ИИ не только устанавливает правила игры для компаний, разрабатывающих и использующих ИИ, но и оказывает значительное влияние на научные исследования и инновации в этой области. Закон стимулирует разработчиков к созданию более безопасных, надежных и этичных ИИ-систем. При этом он предоставляет возможности для развития новых технологий и приложений, которые соответствуют высоким стандартам, установленным в ЕС.
Особое внимание в Законе уделяется защите персональных данных. Использование ИИ для обработки персональных данных должно соответствовать Общему регламенту по защите данных (GDPR). Это означает, что компании должны получать согласие пользователей на обработку их данных, обеспечивать прозрачность в отношении того, как используются данные, и предоставлять пользователям возможность контролировать свои данные.
Влияние Закона ЕС об ИИ выходит за пределы Европейского Союза. Многие страны уже сейчас рассматривают AI Act в качестве образца для разработки собственного законодательства в области ИИ. Это может привести к формированию глобальных стандартов в области регулирования ИИ, что облегчит компаниям, работающим в этой сфере, ведение бизнеса по всему миру.
Закон ЕС об ИИ является важным шагом на пути к ответственному и этичному развитию ИИ. Он создает основу для того, чтобы ИИ приносил пользу обществу, не нарушая прав человека и основные свободы. Компаниям, разработчикам и пользователям ИИ необходимо принять участие в формировании будущего ИИ, работая вместе для обеспечения безопасного и устойчивого развития этой технологии.
