Кто несёт ответственность, если ИИ-агент допускает ошибку?

Ночью ИИ-агент отвечает на двадцать запросов клиентов, бронирует встречи и составляет коммерческие предложения. В понедельник утром выясняется: один запрос был неправильно отнесён, а предложение отправлено с неверной ценой. Для многих представителей среднего бизнеса в этот момент главный вопрос носит не технический, а юридический характер: кто несёт ущерб — поставщик автоматизации или само предприятие?

Кто в принципе несёт ответственность, если ИИ-агент допускает ошибку?

Использование ИИ само по себе ничего не меняет в договорно-правовых принципах: ответственность несёт тот, кто нарушил договорное или законное обязательство, независимо от того, вызвал ли конкретную ошибку человек или ИИ-система. Это подтверждает и оценка отраслевого портала Legal Tribune Online относительно ответственности при использовании ИИ. Для МСП это на практике означает: тот, кто эксплуатирует и управляет ИИ-агентом, изначально несёт ответственность перед собственными клиентами, независимо от того, кроется ли причина в собственном процессе или в используемом программном обеспечении. Лишь на втором этапе встаёт вопрос, может ли и в каком объёме предприятие переложить ущерб на поставщика автоматизации или программного обеспечения во внутренних отношениях, и именно это регулирует договор с этим поставщиком.

Договор оказания услуг или договор подряда: почему квалификация определяет ответственность

То, квалифицируется ли проект автоматизации как договор подряда или как договор оказания услуг, во многом определяет, насколько строгой будет ответственность. По договору подряда поставщик обязан обеспечить определённый результат, свободный от недостатков: если ИИ-агент из-за ошибки конфигурации или обучения постоянно выдаёт неверные результаты, это считается недостатком, за который независимо от вины можно потребовать устранения, снижения цены или возмещения ущерба. По договору оказания услуг поставщик, напротив, обязан лишь к добросовестным усилиям, а не к определённому результату, и ответственность здесь, как правило, предполагает доказуемую вину. Во многих проектах автоматизации это разграничение в договоре чётко не проведено, хотя именно эта квалификация оказывается решающей в случае спора.

Что на практике действительно дают оговорки об исключении ответственности

Исключение ответственности за ошибки ИИ имеет юридическую силу лишь тогда, когда оно отражает техническую реальность и остаётся понятным для обеих сторон договора, как отмечает юридическая фирма Herfurtner в своей оценке исключения ответственности за ИИ. Полное исключение ответственности в общих условиях сделок (АГБ), кроме того, как правило, недействительно, если речь идёт о грубой неосторожности, умысле или нарушении существенных договорных обязанностей. На практике поэтому оправдывает себя ограничение ответственности вместо полного исключения: максимальная сумма ответственности на каждый случай ущерба, исключение косвенных последующих убытков, таких как упущенная выгода, и градация по степени вины. Представителю среднего бизнеса, подписывающему договор автоматизации, стоит убедиться, что именно эти три пункта конкретно прописаны, а не полагаться на общую формулировку.

Почему модель эскалации на практике снижает остроту вопроса ответственности

ИИ-агент, который при неопределённости автоматически передаёт решение человеку вместо того, чтобы принимать его самостоятельно, заметно снижает риск ответственности, поскольку последнее решение доказуемо остаётся за человеком. Именно по этому принципу мы в NordFlux создаём ИИ-агентов для клиентов: пограничные случаи, например необычно высокие суммы счетов или противоречивые данные клиентов, не пропускаются автоматически, а поступают на утверждение человеку. Это не юридическая формальность, а реальная добросовестность на практике: полный протокол того, кто, когда и какое решение принял или утвердил, в случае спора часто становится решающим доказательством того, что предприятие серьёзно отнеслось к своим обязанностям по контролю. Тем, кто планирует автоматизацию, следует с самого начала определить эти пороги эскалации в рамках собственной консультации по ИИ, а не только тогда, когда произойдёт первая ошибка.

Что станет важным в связи с новой ответственностью за продукцию с конца 2026 года

С реформированной Директивой ЕС об ответственности за продукцию программное обеспечение и системы ИИ впервые прямо признаются продуктами в смысле права ответственности, как поясняет юридическая фирма Bird & Bird в своей оценке новой директивы. Государства-члены должны имплементировать директиву в национальное право до 9 декабря 2026 года; для продуктов, выпущенных на рынок после этой даты, будет действовать также перенос бремени доказывания для сложных систем ИИ: теперь не пострадавший должен доказывать наличие дефекта, а поставщик — его отсутствие. Параллельно с этим со 2 августа 2026 года вступают в силу полные требования EU AI Act для систем высокого риска, со штрафами до 35 миллионов евро или 7 процентов мирового годового оборота. Для большинства случаев автоматизации в среднем бизнесе это, как мы показали в нашей статье про EU AI Act для МСП, не является главным препятствием, но всё же служит дополнительным поводом проверить договоры с партнёрами по автоматизации уже сейчас, а не только в 2027 году.

Данная оценка не заменяет юридическую консультацию в конкретном случае. Для составления конкретного договора, в частности оговорок об ответственности и порогов эскалации, рекомендуется привлечь специализированного адвоката по ИТ-праву для анализа соответствующего договора.

Автор: Симон Гловик, опубликовано 9 июля 2026 г.

Часто задаваемые вопросы

Несёт ли моя компания ответственность за ошибки ИИ-агента, даже если ошибка допущена поставщиком программного обеспечения?

Перед собственным клиентом изначально отвечает предприятие, которое использует и управляет ИИ-агентом. Может ли впоследствии и в каком объёме ущерб быть предъявлен поставщику автоматизации или программного обеспечения, регулирует договор, заключённый с этим поставщиком, в частности согласованные в нём оговорки об ответственности.

Чем отличаются договор подряда и договор оказания услуг в проекте автоматизации?

По договору подряда поставщик обязан обеспечить конкретный результат без недостатков и отвечает за недостатки независимо от вины. По договору оказания услуг он обязан лишь к добросовестным усилиям, ответственность здесь, как правило, предполагает доказуемую вину.

Могу ли я полностью исключить ответственность за ошибки ИИ в своих общих условиях сделок (АГБ)?

Нет, полное исключение ответственности в АГБ, как правило, недействительно, если затрагиваются грубая неосторожность, умысел или существенные договорные обязанности. Более распространённым и юридически надёжным решением является ограничение ответственности с максимальной суммой вместо полного исключения.

Предписана ли законом модель эскалации с участием человека (human-in-the-loop)?

Для большинства случаев автоматизации в среднем бизнесе это не является прямой законодательной обязанностью, однако служит эффективным доказательством добросовестности. Документированная модель эскалации показывает в случае спора, что критические решения принимались человеком.

Изменяет ли EU AI Act договорную ответственность за ИИ-агентов?

EU AI Act регулирует прежде всего надзорно-правовые обязанности в зависимости от класса риска, а не саму гражданско-правовую ответственность. Большинство случаев автоматизации в среднем бизнесе относятся к низкому классу риска, как указано в нашей статье про EU AI Act для МСП.