Первый закон об искусственном интеллекте на подходе: использование распознавания лиц без необходимости будет под запретом
О регулировании систем на основе искусственного интеллекта в мире говорят давно, но первый глобальный законодательный акт готовится принять ЕС. В генеральном директорате Европейской Комиссии по коммуникационным сетям, контенту и технологиям (DG CONNECT) рассказали о том, что именно собираются утвердить в ЕС.
По словам юриста DG Connect Габриэле Мадзини, европейский закон об искусственном интеллекте (Artificial Intelligence Act) будет первой правовой в мире базой, регулирующей AI. Работа над будущим законопроектом началась еще в 2018 году и состояла в разработке общих для ЕС правил, регулирующих разработку и использование искусственного интеллекта. Цель правил – достижение правовой определенности, стимулирование инвестиций и инноваций в области ИИ, а также укрепление доверия общества к системам ИИ, которые должны использоваться с соблюдением основных прав и европейских ценностей.
Для разработки предложений по закону были привлечены эксперты в данной области, которые консультировали Еврокомиссию по данному вопросу. В результате, в 2020 году была издана так называемая «Белая книга», разосланная заинтересованным сторонам и получившая 1200 комментариев. На данный момент сформированы окончательные предложения по закону, которые переданы в Европейский парламент и Совет, где обсуждение законопроекта продолжится.
Мадзини упомянула о том, что у них возникли некоторые сложности при определении самого понятия «Искусственный интеллект» (AI), поскольку, по данным отчета Объединенного исследовательского центра Комиссии, существует около 50 определений AI. Пришлось искать общий подход, в результате чего было принято решение остановится на определении, обозначенном Организацией экономического сотрудничества и развития (Organisation for Economic Co-operation and Development, OECD), поскольку большинство стран ЕС являются ее членами. В будущем законе определение прописано в ст. 3 и Приложении №1, где сказано, что искусственный интеллект – набор механизмов для разработки программного обеспечения, включающих в себя машинное обучение, экспертные и логические системы, а также байесовский или статистический подходы. Таким образом, программный продукт, который отвечает всем этим признакам, будет считаться искусственным интеллектом, говорит Мадзини.
В документе прописаны три категории использования AI, суть которых заключается в том, что чем выше риск использования, чем строже правила.
Первая категория обозначает случаи запрещенного использование AI и подразделяется на четыре подкатегории. Сюда входит манипулирование поведением человека или использование его уязвимых мест. Это может быть использование его возраста, физических или умственных недостатков. Также AI нельзя использовать при социальном кредитовании и удаленной идентификации в публичных местах правоохранительными органами – имеется ввиду использование таких систем, как распознавание лиц в видеонаблюдении. В последнем случае в качестве исключения разрешается применять технологию идентификации для обеспечения безопасности при борьбе с серьезными преступлениями. Но такое использование имеет временные рамки и должно ограничиваться определенным сценарием.
Под использованием с высоким риском понимается использование AI в качестве элемента безопасности продукта, на который распространяется законодательство о гармонизации единого рынка. В этом случае такой продукт должен быть проверен третьей стороной. Рискованным будет считаться и использование конкретно перечисленных систем, разворачиваемых в отдельных отраслях. Третья категория означает системы с прозрачным риском.