ИИ: Правовое регулирование предпринимательства

Респондент:

Юлия Синицына
... Открыть профиль специалиста

Развитие технологий искусственного интеллекта (ИИ) стремительно меняет бизнес, затрагивая все сферы, и в особенности финансы, здравоохранение, транспорт, промышленность и госуправление. Однако активное внедрение ИИ требует не только технологической адаптации, но и соблюдения правовых норм. В России формируется комплексное регулирование ИИ, охватывающее вопросы защиты данных, интеллектуальной собственности, ответственности за ошибки алгоритмов и правоприменения.

 На данный момент в РФ разработано и утверждено 136 национальных стандартов в сфере ИИ. Развитие ИИ поддерживается также через введение экспериментальных правовых режимов (ЭПР). Например, к текущему моменту в России в сфере ИИ по направлениям беспилотного транспорта и здравоохранения установлено 14 ЭПР.

В данной статье рассмотрим ключевые нормативные акты, регулирующие применение ИИ в различных отраслях бизнеса.

Общие правовые акты, регулирующие ИИ в России

• Кодекс этики  в сфере ИИ. Кодекс был принят на I Международном форуме «Этика искусственного интеллекта: начало доверия» в 2021 году, к концу 2024 года к нему присоединилась 851 организация.
• Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» вместе с Национальной стратегией развития искусственного интеллекта на период до 2030 года.

Документ определяет цели и задачи развития ИИ в России, включая поддержку исследований, развитие законодательства и внедрение технологий в экономику.

• Федеральный закон от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве»

Обеспечивает правовую основу для экспериментального правового режима (песочницы) для инновационных технологий, включая ИИ.

ИИ-алгоритмы часто работают с персональными данными, что требует соблюдения требований:

• Федерального закона от 27.07.2006 № 152-ФЗ «О персональных данных»
  Определяет правила обработки персональных данных, включая необходимость получения согласия и защиты информации.

Респондент:

Юлия Синицына
... Открыть профиль специалиста

Так одной из наиболее серьезных преград для организаций внедряющих ИИ, особенно финтеха является недостаток данных и сложности, связанные с их получением для обучения моделей ИИ. Для успешного применения ИИ требуются большие объемы данных высокого качества.

Получение необходимых данных также может быть сложным процессом, так как данные могут быть разрозненными, неполными, противоречивыми или недостаточно структурированными, что усложняет их сбор и интеграцию для формирования датасетов.

 При передаче, хранении и обработке «чувствительных» данных, организации должны обеспечить их максимальную безопасность.

ИИ в различных отраслях бизнеса

Финансовый сектор

В финансовой сфере ИИ используется для автоматического принятия решений, оценки кредитоспособности и выявления мошенничества.

Развитие и внедрение ИИ в финансовом секторе России является одним из наиболее актуальных и перспективных направлений. Применение ИИ открывает огромный потенциал для повышения эффективности, точности и безопасности финансовых операций, а также для разработки новых продуктов и услуг. Например, ИИ используется для автоматического принятия решений, оценки кредитоспособности и выявления мошенничества.

• Федеральный закон от 07.08.2001 № 115-ФЗ «О противодействии легализации доходов». Хотя в законе нет прямого упоминания об использовании искусственного интеллекта (ИИ). Однако закон обязывает организации, осуществляющие операции с денежными средствами или иным имуществом, принимать меры по выявлению и предотвращению подозрительных операций. В рамках выполнения этих требований, финансовые учреждения могут использовать современные технологии, включая ИИ, для мониторинга транзакций и выявления подозрительных операций. Таким образом, хотя закон не содержит прямых указаний на применение ИИ, его использование становится частью практики исполнения установленных требований.

• Федеральный закон от 26.07.2006 N 135-ФЗ  “О защите конкуренции”

В тексте 135-ФЗ «О защите конкуренции» прямых упоминаний об искусственном интеллекте (ИИ) нет. Однако в декабре 2024 года Правительство Российской Федерации инициировало создание государственной информационной системы (ГИС) для предупреждения, выявления и пресечения ограничивающих конкуренцию соглашений (законопроект № 801033-8 на 11.02.2024 находится на этапе принятия в первом чтении. Система будет основана на использовании технологий ИИ и риск-ориентированного подхода для автоматического анализа данных о проведенных торгах и выявления признаков нарушений.

Здравоохранение

ИИ помогает диагностировать заболевания, разрабатывать лекарства и управлять медицинскими данными, помогать принимать решения.

Федеральный закон от 21.11.2011 N 323-ФЗ (ред. от 28.12.2024) “Об основах охраны здоровья граждан в Российской Федерации” Регулирует использование цифровых технологий в здравоохранении, включая медицинские ИИ-системы.

ИИ помогает врачам выявлять заболевания на ранних стадиях и повышает точность диагностики.

Паспорт «Стратегии цифровой  трансформации здравоохранения РФ до 2030».  Предполагает создание цифровых двойников медицинских организаций.

В конце 2024 Минздрав утвердил Кодекс этики применения искусственного интеллекта (ИИ) в сфере здравоохранения. А с 1 января 2025 года в силу вступили 7 ГОСТов и 2 предварительных стандарта для применения ИИ в сфере здравоохранения, а именно:

• ГОСТ Р 71738-2024 «Системы искусственного интеллекта в лучевой диагностике»
• ГОСТ Р 71671-2024 «Системы поддержки принятия врачебных решений (СППВР) с применением искусственного интеллекта»
• ГОСТ Р 71657-2024 «Тех­но­логии ис­кусс­твен­но­го ин­тел­лек­та в об­ра­зова­нии. Фун­кцио­наль­ная под­сис­те­ма соз­да­ния науч­ных пуб­ли­каций»
• ГОСТ Р 71672-2024 «Системы прогнозной аналитики на основе искусственного интеллекта в клинической медицине»
• ГОСТ Р 71674-2024 «Системы искусственного интеллекта в клинической медицине»
• ГОСТ Р 71675-2024 «Системы дистанционного мониторинга на основе искусственного интеллекта в здравоохранении»
• ГОСТ Р 71737-2024 «Системы искусственного интеллекта в здравоохранении. Применение менеджмента риска к медицинским изделиям»
• предварительный нацстандарт ПНСТ 962-2024 “Системы маршрутизации и оптимизации потоков пациентов на основе искусственного интеллекта. Основные положения”

Транспорт и беспилотные технологии

ИИ широко применяется в беспилотных автомобилях, авиации и логистике.

• Распоряжение правительства РФ № 3744-р от 21.12.2021 Стратегические направления в области цифровой  трансформации транспортной отрасли в РФ до 2030 года.
• Стратегия развития инновационной деятельности в области дорожного хозяйства на период 2021 – 2025 годов.
• Распоряжение Правительства РФ от 25 марта 2020 г. № 724-р об утверждении «Концепции обеспечения безопасности дорожного движения с участием беспилотных транспортных средств на автомобильных дорогах общего пользования.»

Согласно Стратегии, Росавтодор планирует цифровизацию дорожной отрасли, в том числе внесение изменений в профильное законодательство с целью установления понятий и требований в отношении цифровой инфраструктуры для беспилотных транспортных средств.

Также разработаны ряд ГОСТов и стандартов, например:

•   ПНСТ 824-2023 «Интеллектуальные транспортные системы»

 В этой отрасли законодательство также не стоит на месте, так в марте 2025 года Минтранс РФ планирует представить проект федерального закона о беспилотном движении.

Промышленность и автоматизация

ИИ применяется для предсказательного анализа, автоматизации производственных процессов и повышения эффективности оборудования. В частности активно развивается направление цифровых двойников.

• Дорожная карта развития «сквозной» цифровой технологии «Новые производственные технологии» Минцифры. В документе дается описание Цифровых двойников и некоторых жизненных циклов. Данная технология
  отнесена к сквозной цифровой технологии “Новые производственные технологии”
• ГОСТ Р 57700.37-2021 «Компьютерные модели и моделирование. Цифровые двойники изделий» Распространяется в отношении продукции машиностроения. Однако, документ может стать базовым для разработки стандартов в отношении цифровых  двойников других отраслей.
• ГОСТ Р 24668-2022 Информационные технологии. Искусственный интеллект. Структура управления процессами аналитики больших данных, Федеральное агентство по техническому регулированию и метрологии
• ПНСТ 909-2024 «Требование к цифровым информационным моделям объектов непроизводственного назначения.Часть 1. Жилые здания». Вступил в силу с 01.02 2024 Минстрой России утвердил стандарт цифровых двойников жилых зданий (будет действовать до 2027) вводит единые правила по разработке ЦД жилых зданий по всей стране, ускоряя формирование их экосистемы с возможностью использовать информацию от любого застройщика. Дополнительным преимуществом является потенциал автоматизации формирования и использования двойников.

С 1 января 2025 г. введены в действие следующие национальные стандарты, закрепленные за техническим комитетом по стандартизации № 164 “Искусственный интеллект” (ТК 164):

• ГОСТ Р ИСО/МЭК 20547-3-2024 “Информационные технологии. Эталонная архитектура больших данных. Часть 3. Эталонная архитектура”;
• ГОСТ Р ИСО/МЭК 24029-2-2024 “Искусственный интеллект. Оценка робастности нейронных сетей. Часть 2. Методология использования формальных методов”;
• ГОСТ Р 71476-2024 (ИСО/МЭК 22989:2022) “Искусственный интеллект. Концепции и терминология искусственного интеллекта”.Также вводятся стандарты, закрепленные за техническим комитетом по стандартизации № 053 “Основные нормы и правила по обеспечению единства измерений” (ТК 053):
• ГОСТ Р 8.933-2024 “Государственная система обеспечения единства измерений. Нормы точности измерений и приемочные значения в области использования атомной энергии. Порядок назначения и применения”;
• ГОСТ Р ИСО 25178-70-2024 “Геометрические характеристики изделий. Текстура поверхности. Пространственный метод. Часть 70. Материальные меры”;
• ГОСТ Р ИСО 25178-701-2024 “Геометрические характеристики изделий. Текстура поверхности. Пространственный метод. Часть 701. Калибровка и эталонные меры для контактных (щуповых) приборов”;
• ГОСТ Р ИСО 10360-10-2024 “Геометрические характеристики изделий. Приемочные и перепроверочные испытания координатно-измерительных систем (КИС). Часть 10. Лазерные трекеры”.

Однако, несмотря на развитие законодательства, остаются нерешённые вопросы:

1. Кто несет  ответственность за ущерб от решений, принятых алгоритмами (ИИ)?
2. Прозрачности алгоритмов –  логики работы ИИ?
3. Этические вопросы (дискриминация и предвзятость ИИ)?
4. Защита данных?

Бизнесу важно следить за изменениями законодательства, учитывать юридические риски и выстраивать процессы в соответствии с требованиями законодательства и нормами этики.

Сельское хозяйство

ИИ активно применяется в агротехнологиях, например, для автоматизированного мониторинга полей, прогнозирования урожайности, управления техникой и контроля за состоянием животных, распознавания сорняков, для построения  прогнозных моделей, с помощью которых возможно предсказывать нашествие вредителей, наступление болезней у растений.

• Федеральный закон от 29.12.2006 № 264-ФЗ “О развитии сельского хозяйства”. Закон определяет основные направления господдержки сельского хозяйства, включая цифровизацию.
• В целях реализации Стратегии развития информационного общества в Российской Федерации на 2017 – 2030 годы утверждена программа “Цифровая экономика Российской Федерации”. Согласно Стратегии к 2030 г. каждое пятое предприятие в стране должно перейти на искусственный интеллект.
  

В рамках реализации данной Стратегии планируется внедрение следующих технологий:

– цифровые двойники;

– моделирование и прогнозирование;

– интернет вещей;

– искусственный интеллект, включая машинное обучение, компьютерное зрение;

– спутниковые системы связи и позиционирования;

– беспилотные летательные аппараты;

– беспилотная сельскохозяйственная техника и робототехника;

– сенсоры и маяки со спутниковым каналом передачи данных;

– обработка больших данных (Big Data).

Основными направлениями трансформации сельского хозяйства в рамках реализации программы “Цифровизация сельского хозяйства” являются такие инструменты, как “Умная ферма”, “Умное поле”, “Умное стадо”, “Умная теплица”, “Умная переработка”, “Умный агроофис” и “Умный склад”

• Госпрограмма “Цифровое сельское хозяйство” (утверждена в рамках “Цифровой экономики РФ”) запущена с 2019 года, цель которого — цифровая трансформация (ЦТ) отрасли «посредством внедрения цифровых технологий и платформенных решений для обеспечения технологического прорыва в АПК. В рамках этой программы развивается применение ИИ для прогнозирования урожайности и автоматизации сельхозтехники, роста производительности труда и снижения затрат производства. В 2023 г., Министерство сельского хозяйства совместно с Центром цифровой трансформации в сфере АПК запустил динамический рейтинг цифровой трансформации АПК в регионах. Например, оцениваются такие показатели цифровой зрелости сельского хозяйства, как:

–  Доля с/х товаропроизводителей с цифровым профилем;

–  Доля с/х животных с цифровым профилем;

–  Доля с/х машин с цифровым профилем;

–  Доля с/х угодий с цифровым профилем и др;

• Долгосрочная стратегия развития зернового комплекса Российской Федерации до 2035 г., где одной из главных задач является совершенствование сельскохозяйственной техники, а также внедрение беспилотных сельскохозяйственных машин.
• ПРИКАЗ Минсельхоза от 25.02.2020 года N 84 О создании национальной платформы “Цифровое сельское хозяйство”
• ГОСТ Р 59920-2021. Системы искусственного интеллекта. Системы искусственного интеллекта в сельском хозяйстве. Требования к обеспечению характеристик эксплуатационной безопасности систем автоматизированного управления движением сельскохозяйственной техники.

За последние годы было создано несколько ведомственных цифровых систем, которые используются в АПК для отчетности, что стимулирует процесс цифровизации отрасли:

• ФГИС «Зерно» должна обеспечивать прослеживаемость зерна и продуктов его переработки, содержит информацию об операциях с ним;
• ФГИС «Аргус-Фито» предназначена для автоматизации процессов оформления и учета фитосанитарных документов;
• ФГИС «Сатурн» создана для учета партий пестицидов и агрохимикатов при их обращении;
• ФГИС «Семеноводство» позволяет обеспечить прослеживаемость оборота семян сельскохозяйственных растений, а также учет семян при их производстве, хранении, транспортировке и реализации.

 На данный момент, ИИ в сельском хозяйстве регулируется общими законами о цифровизации и безопасности. Пока нет отдельных законов, но агробизнес все активнее использует Big Data,  применяет  беспилотные летательные аппараты на территории хозяйств и ИИ для точного земледелия.

Креативные индустрии

ИИ широко применяется в медиа, дизайне, архитектуре, разработке игр, маркетинге и искусстве. Ключевые вопросы регулирования связаны с авторским правом на созданный ИИ-контент и этикой.

Гражданский кодекс РФ (часть IV) – Авторское право

• Вопрос авторства при использовании ИИ до конца не урегулирован. Согласно действующим нормам, автором произведения может быть только человек, а не ИИ.

Федеральный закон “О государственной поддержке кинематографии Российской Федерации” от 22.08.1996 N 126-ФЗ 

• Учитывает цифровые технологии в киноиндустрии, но не регулирует применение ИИ напрямую.

Федеральный закон от 27.07.2006 № 149-ФЗ “Об информации, информационных технологиях и о защите информации“

• Регулирует работу цифровых платформ, включая ИИ-системы, создающие или распространяющие контент.

Концепция развития креативных индустрий в РФ до 2030 года

• Определяет приоритеты цифровой трансформации индустрии, включая развитие ИИ-технологий в кино, музыке и медиа.
• Стимулирует развитие ИИ в креативных индустриях, включая автоматизированное создание контента и deepfake-технологии.

 ИИ в креативных индустриях пока регулируется общими нормами авторского права и цифровых технологий. Вопросы прав на ИИ-контент, ответственность за deepfake и этика пока до конца не урегулированы.