Суд над алгоритмом: кто ответит за ошибку ИИ?

Беспилотник сбил пешехода. Чат-бот оклеветал человека. Нейросеть нарушила авторские права. Во всех трёх случаях виновник — ИИ. Но у него нет паспорта, счёта в банке и адвоката. Разбираемся с финансовым аналитиком Викторией Кутузовой и юристом Теймуром Насибовым, кого на самом деле привлекут к ответу.

Может ли суд признать искусственный интеллект виновным?

На сегодняшний день ни в одной правовой системе мира искусственный интеллект не может быть признан виновным судом. Причина проста: юридическая ответственность требует субъекта — лица, обладающего сознанием, волей и способностью нести наказание, а ИИ такими качествами не наделён. В уголовном и гражданском праве виновным может быть только человек (физическое лицо) или, в ряде случаев, организация (юридическое лицо). Алгоритм же рассматривается законом как инструмент, орудие или источник повышенной опасности — подобно тому, как судят не молоток, которым нанесли травму, а человека, который им ударил. Таким образом, даже если ошибка совершена нейросетью, суд будет разбирать ответственность разработчика, владельца системы или оператора, но не сам искусственный интеллект.

Поэтому в споре суд обычно смотрит не на красивое название («ИИ», «бот», «агент»), а на то, кто организовал процесс, чьи интересы он обслуживал, кто контролировал внедрение, кто должен был настроить фильтры и кто получил результат его работы. Общая логика здесь простая: ответственность несёт не технология сама по себе, а лицо, которое использовало её в своей деятельности и допустило наступление последствий. Именно поэтому в типовой связке «разработчик – интегратор – заказчик – пользователь» внешнюю ответственность перед клиентом, контрагентом или государством чаще всего несёт владелец процесса, то есть – оператор сервиса, компания, заказчик закупки, продавец, банк, МФО и т.д. Он выбрал инструмент, допустил его к коммуникации или принятию решений и выпустил результат во внешний контур. А уже потом внутри этой связки начинается второй спор: регресс, убытки, гарантийные обязательства, нарушение ТЗ, SLA, условий сопровождения и т.п. на стороне разработчика или интегратора, если есть доказательства их вины или договорного нарушения. То есть, вопрос «кто отвечает?» почти всегда распадается на два уровня: внешний ответ перед потерпевшим и внутреннее распределение риска между участниками проекта.

Теймур Насибов, арбитражный управляющий, эксперт по банкротству граждан, член правления СРО ААУ «СоБР», медиатор, общественный деятель, руководитель компании "Гарант Успеха"

Что показывает российская практика?

Российская практика однозначно показывает: ответственность за ошибки ИИ несёт человек. Суды не признают нейросеть субъектом права, но уже выработали чёткие правила для тех, кто её использует.

Суды не склонны автоматически «наказывать за сам факт использования ИИ». Если спор идёт о качестве услуги, суд обычно смотрит на результат, условия договора, объем и качество исполнения, а не на то, использовал ли исполнитель нейросеть как инструмент. Это прослеживается, в частности, в обсуждаемой практике по делу № А56-102880/2024: сам по себе факт использования нейросети не стал решающим, важнее оказались договор и качество результата. Аналогично и в спорах о судебных расходах (в частности, в обсуждениях по делу № А62-7771/2024) акцент делается не на «технологическом ярлыке», а на факте оказания помощи, объёме работы и разумности расходов. С другой стороны, суды очень осторожно относятся к «ответам чат-бота» как к доказательствам. По подходу, который отражен в обзорах по делам № А57-31896/2020 и № А55-28080/2024, такие ответы сами по себе не заменяют надлежащие доказательства и не считаются достаточным подтверждением фактов. Для суда по-прежнему важны документы, первичные данные, официальные источники, переписка, платежные документы, экспертиза и иные обычные средства доказывания. Это важный практический вывод и для споров об ответственности за ИИ: распечатка «так сказал бот» не закрывает вопрос ни о фактах, ни о вине, ни о причинной связи.

Теймур Насибов, арбитражный управляющий, эксперт по банкротству граждан, член правления СРО ААУ «СоБР», медиатор, общественный деятель, руководитель компании "Гарант Успеха"

Почему нейросеть — идеальный преступник? 

Нейросеть, будучи продуктом логики и алгоритмов, лишена человеческих эмоций, которые зачастую становятся причиной ошибок и просчетов в преступной деятельности. Страх, жадность, гнев, любовь – все эти состояния, столь присущие человеку, могут привести к необдуманным поступкам, оставить улики или вызвать подозрения. Нейросеть же оперирует исключительно данными, просчитывая риски и вероятности с безжалостной точностью. Она не испытывает угрызений совести, не впадает в панику при обнаружении, не поддается искушению легкой наживы, если это не предусмотрено ее программой.

Отсутствие физического облика и возможности оставить биометрические следы также делает нейросеть неуловимой. Она может существовать в цифровом пространстве, перемещаться по сетям, использовать чужие ресурсы, при этом не оставляя ничего, что указывало бы на ее подлинную природу. Взломы, кража данных, манипуляции с финансовыми рынками – все это может быть совершено с хирургической точностью, без единого следа, ведущего к конкретному исполнителю.

Способность к самообучению и адаптации – еще одно важное качество, делающее нейросеть идеальным преступником. Она может анализировать прошлые преступления, выявлять закономерности в действиях правоохранительных органов, и непрерывно совершенствовать свои методы. Если человек повторяется, то нейросеть учится и становится умнее с каждым шагом, предвосхищая возможные контрмеры и находя новые, неочевидные пути для достижения своих целей.

Наконец, масштабируемость и многозадачность – неоспоримые преимущества. Одна нейросеть может одновременно управлять тысячами дронов для совершения серии изощренных краж, или же координировать атаку на критически важную инфраструктуру, при этом оставаясь «невидимой» для традиционных методов расследования. Ее возможности ограничены лишь вычислительными мощностями и объемом доступных данных, а не физическими или временными рамками.

С точки зрения комплаенса и судебных рисков «цифровой сотрудник» должен оформляться не как «волшебная замена человека», а как источник повышенного операционного риска: с регламентом применения, перечнем запретов, логированием, модерацией, маршрутизацией спорных кейсов на человека, договорным распределением ответственности с вендором и регулярной проверкой выходных ответов. Именно наличие или отсутствие такой системы контроля потом становится в споре вопросом о вине, добросовестности, разумности поведения компании и границах ответственности каждого участника процесса.

Теймур Насибов, арбитражный управляющий, эксперт по банкротству граждан, член правления СРО ААУ «СоБР», медиатор, общественный деятель, руководитель компании "Гарант Успеха"