Международный студенческий научный вестникrae.ru

Международный студенческий научный вестник

ISSN 2409-529X

ПРЕДОТВРАЩЕНИЕ ЗЛОУПОТРЕБЛЕНИЙ ПРИ ИСПОЛЬЗОВАНИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ПРАВОВОЙ СФЕРЕ

1Студент
2Иркутский национальный исследовательский технический университет

Введение. Стремительное развитие технологий искусственного интеллекта (далее — ИИ) является одной из ключевых тенденций современного общества. В последние годы наблюдается активное внедрение ИИ в различные сферы общественной жизни, включая правовую сферу. Использование искусственного интеллекта позволяет автоматизировать юридические процессы, ускорять анализ судебной практики и повышать эффективность принятия решений. Однако наряду с положительными аспектами возникает ряд серьезных рисков [1, с. 26].

Злоупотребления при использовании ИИ могут выражаться в неправомерной обработке персональных данных, манипулировании информацией, создании синтетических аудио- и видеоматериалов, использовании непрозрачных алгоритмических выводов и принятии решений, способных нарушать права граждан. Требования к обработке персональных данных закреплены Федеральным законом от 27.07.2006 № 152-ФЗ [2], а общие основы правового режима информации и информационных технологий - Федеральным законом от 27.07.2006 № 149-ФЗ [3]. Однако применение этих общих норм к сложным автономным и генеративным системам не снимает вопросов о распределении ответственности, проверяемости результатов работы алгоритма и эффективных способах защиты нарушенного права.

Актуальность исследования обусловлена необходимостью обеспечить баланс между развитием технологий и защитой прав человека. Для правовой сферы этот баланс особенно важен, поскольку ошибочный или недобросовестно сформированный результат работы ИИ способен повлиять на юридически значимое решение, оценку доказательств или положение конкретного лица.

Цель исследования. Целью исследования является выявление основных правовых рисков злоупотребления технологиями искусственного интеллекта в юридической деятельности и определение направления совершенствования механизмов их предупреждения в Российской Федерации.

Материал и методы исследования. Материалами исследования послужили Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных», Федеральный закон от 27.07.2006 № 149-ФЗ «Об информации, информационных технологиях и о защите информации», Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» [4], а также Федеральный закон от 24.04.2020 № 123-ФЗ, установивший специальное регулирование московского эксперимента в сфере искусственного интеллекта [5]. Теоретическую основу составили современные научные публикации по вопросам правового регулирования ИИ, юридической ответственности и цифровых доказательств. Применялись формально-юридический метод, анализ и систематизация нормативных правовых актов, анализ научных позиций и обобщение выявленных проблем.

Результаты исследования и их обсуждение. Действующее российское регулирование уже содержит базовое нормативное определение искусственного интеллекта. Оно закреплено в Национальной стратегии развития искусственного интеллекта, утвержденной Указом Президента РФ № 490 [4], а специальный Федеральный закон № 123-ФЗ использует сходный подход [5]. Поэтому проблема состоит не в полном отсутствии определения ИИ, а в отсутствии единого комплексного правового режима его применения. Исследователи указывают, что остаются нерешенными вопросы юридической ответственности, пределов применения технологий, единых принципов их использования и иных элементов системного регулирования [1, с. 23].

Одной из центральных проблем является юридическая ответственность за вред, причиненный с использованием ИИ. В цифровом пространстве установление ответственного лица осложняется особенностями технологической среды и необходимостью определить юридически значимую связь между действиями конкретного субъекта и наступившими последствиями [6, с. 436-438]. В случае использования ИИ к числу потенциально ответственных субъектов могут относиться разработчик системы, организация, которая ее внедрила и определила условия эксплуатации, оператор, а также пользователь, применивший результат работы алгоритма. Универсальное возложение ответственности только на одного из них не учитывает различий в степени контроля над системой.

Показателен пример, при котором алгоритм ошибочно классифицирует лицо как причастное к правонарушению на основании анализа цифровых следов, после чего результат используется при принятии юридически значимого решения. В такой ситуации необходимо установить, была ли ошибка связана с качеством модели, некорректными исходными данными, нарушением правил эксплуатации или некритичным использованием автоматизированного вывода должностным лицом. Сам по себе результат работы ИИ не должен исключать человеческую оценку и возможность оспаривания решения.

Отдельную угрозу для судебной и иной правоприменительной деятельности создают дипфейки. Синтетические аудио-, фото- и видеоматериалы могут использоваться для фальсификации доказательств и способны снижать доверие к цифровым носителям информации. В юридической литературе подчеркивается необходимость специальных механизмов проверки таких материалов и противодействия их использованию в доказательственном процессе [7, с. 8-9]. Следовательно, развитие ИИ требует не только общих запретов на фальсификацию, но и процессуальных процедур проверки происхождения, целостности и подлинности цифрового материала.

Значимым направлением предотвращения злоупотреблений остается защита персональных данных. Системы ИИ могут обрабатывать большие массивы информации, а качество их вывода напрямую зависит от состава и корректности исходных данных. Поэтому использование ИИ в правовой сфере должно сопровождаться соблюдением принципов законности обработки, ограничения цели, достаточности данных и их безопасности, предусмотренных законодательством о персональных данных [2]. Одновременно организация, применяющая ИИ, должна обеспечивать документирование ключевых этапов обработки и возможность последующей проверки оснований принятого решения.

Существующие нормативные акты демонстрируют постепенное развитие российского подхода к регулированию ИИ. Национальная стратегия определяет основные ориентиры развития технологии [4], а Федеральный закон № 123-ФЗ использовался как модель специального экспериментального регулирования [5]. Вместе с тем экспериментальный и отраслевой характер отдельных механизмов не заменяет общих правил для ситуаций, когда применение ИИ способно непосредственно затронуть права граждан.

Предупреждение злоупотреблений целесообразно строить на сочетании нескольких правовых механизмов. Во-первых, для систем повышенного риска в правовой сфере необходимы требования к обязательному человеческому контролю, фиксации действий системы и возможности объяснить основания юридически значимого решения. Во-вторых, следует нормативно разграничивать ответственность разработчика, оператора и пользователя с учетом того, кто контролировал данные, настройку, внедрение и конкретное применение системы. В-третьих, должны быть предусмотрены доступные процедуры оспаривания автоматизированных решений и получения человеком понятной информации о роли ИИ в их принятии.

Особого внимания требует принцип подотчетности. В научной литературе отмечается необходимость связывать применение ИИ с ответственностью человека или организации, выступающих его актором, поскольку действующий механизм права ориентирован прежде всего на поведение правосубъектного лица [8, с. 82-83]. Практическое значение этого подхода состоит в недопустимости ситуации, когда ссылка на автономность алгоритма используется для фактического ухода от ответственности. Именно субъект, обладающий реальной возможностью выбирать систему, определять цели ее использования и контролировать последствия, должен нести соразмерную юридическую ответственность.

Наконец, государственный контроль должен быть ориентирован не на запрет технологий как таковых, а на управление рисками их применения. Для этого необходимы требования к внутреннему аудиту высокорисковых систем, защите данных, регистрации существенных инцидентов и проверке соблюдения установленных правил. В судебной сфере особое значение приобретает развитие экспертных методик выявления синтетических материалов и сохранение возможности полноценной проверки цифрового доказательства сторонами процесса.

Выводы. Проведенный анализ показывает, что российское право уже содержит отдельные элементы регулирования искусственного интеллекта, включая нормативное определение технологии, стратегические ориентиры и специальные экспериментальные механизмы. Вместе с тем регулирование остается фрагментарным в вопросах ответственности, прозрачности алгоритмических решений, проверки цифровых доказательств и процедурной защиты лица, затронутого результатом работы ИИ.

Предотвращение злоупотреблений требует комплексного человеко-ориентированного подхода. Его основными элементами должны стать обязательный человеческий контроль в юридически значимых ситуациях, распределение ответственности между участниками жизненного цикла системы, прозрачность и фиксируемость алгоритмических процессов, защита персональных данных, специальные процедуры проверки дипфейков и эффективное право на оспаривание автоматизированного решения. Такой подход позволяет сочетать развитие цифровых технологий с приоритетом прав и законных интересов граждан.


Конфликт интересов
Авторы заявляют об отсутствии конфликта интересов.

Финансирование
Авторы заявляют об отсутствии внешнего финансирования.

Библиографическая ссылка

Бачуринский Д.А., Гусева И.А. ПРЕДОТВРАЩЕНИЕ ЗЛОУПОТРЕБЛЕНИЙ ПРИ ИСПОЛЬЗОВАНИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ПРАВОВОЙ СФЕРЕ // Международный студенческий научный вестник. 2026. № 5.;
URL: https://eduherald.ru/article/view?id=22234 (дата обращения: 17.11.2026).
DOI: https://doi.org/10.17513/msnv.22234