Искусственный интеллект может сократить время на исследование, резюмировать документы, переводить переписку и за считаные секунды создавать полезный первый черновик. Он также может выдумать источник, не заметить решающее исключение, раскрыть конфиденциальную информацию или превратить неуверенный вывод в уверенную рекомендацию.
Поэтому для профессиональных консультантов вопрос заключается не в том, должен ли человек быть «в контуре». Полезный вопрос состоит в том, где должен вмешаться квалифицированный специалист, что именно он должен проверить и обладает ли он полномочиями отклонить результат работы системы.
Это различие важно в юридической, налоговой, инвестиционной, иммиграционной, корпоративной и резидентской практике. Клиенты не покупают гладко написанный абзац. Они полагаются на консультацию, которая точна применительно к их фактам, актуальна на соответствующую дату и предоставлена лицом или фирмой, несущими ответственность за результат.
Это руководство объясняет, как консультационный бизнес может использовать ИИ, не путая автоматизацию с профессиональным суждением. Оно отражает действующую в ЕС нормативную рамку по состоянию на 4 октября 2026 года и включает регуляторный контекст, специфичный для Венгрии. Это руководство по корпоративному управлению, а не юридическая консультация по конкретному внедрению.
Основной принцип: ИИ может помогать, но не должен определять окончательный вывод
Разумный рабочий процесс разделяет три функции:
- Поддержка производства: ИИ помогает организовывать, переводить, резюмировать или форматировать информацию.
- Поддержка анализа: ИИ выявляет возможные вопросы, сравнивает материалы или предлагает предварительный ответ.
- Профессиональное решение: уполномоченное лицо определяет, что означают факты, какие правила применяются и что должен делать клиент.
Чем ближе задача смещается к третьей категории, тем более строгой должна становиться человеческая проверка. Исправление орфографии и оценка права на проживание не должны проходить через одинаковые механизмы контроля.
Человеческая проверка имеет смысл только тогда, когда проверяющий:
- обладает экспертизой, достаточной для выявления ошибки;
- видит релевантные исходные материалы, а не только ответ, сгенерированный ИИ;
- понимает ограничения инструмента и цель, для которой он был одобрен;
- имеет достаточно времени для проведения реальной проверки; и
- может изменить, отклонить или остановить результат без давления следовать ему.
Человек, который просто нажимает «одобрить», не является эффективным механизмом контроля.
Не каждое использование ИИ является «высокорисковым» по Закону ЕС об ИИ
Закон ЕС об ИИ использует структуру, основанную на рисках и ролях. Юридическая классификация зависит от предполагаемого назначения системы, контекста, в котором она используется, и от того, действует ли организация как поставщик, пользователь, импортер или иной регулируемый субъект. Он не относит каждое использование генеративного ИИ в консультационном офисе к высокорисковым.
Например, использование инструмента общего назначения для улучшения формулировок внутреннего черновика обычно вызывает иные вопросы, чем внедрение системы для оценки права лица на получение статуса, кредитоспособности или перспектив трудоустройства. Второй вариант использования может затрагивать права или доступ к важным услугам и поэтому требует гораздо более тщательного анализа классификации.
Это различие особенно важно в иммиграционной практике. Приложение III к Закону об ИИ охватывает определенные системы, используемые компетентными государственными органами или от их имени в сфере миграции, убежища и управления пограничным контролем, включая некоторые системы, применяемые для оценки индивидуального риска или содействия в принятии решений по визам, убежищу и видам на жительство. Это не означает автоматически, что обычный инструмент консультанта для подготовки документов или управления документами является высокорисковой системой. Его фактическое предполагаемое назначение и использование все равно должны быть оценены.
Текущий график также требует внимательности. После поправок AI Omnibus 2026 года большая часть Закона об ИИ применяется с 2 августа 2026 года, включая определенные требования к прозрачности. Правила для высокорисковых случаев использования из Приложения III планируется применять с 2 декабря 2027 года, а правила для высокорисковых систем, встроенных в регулируемую продукцию, — с 2 августа 2028 года. Запрещенные практики и обязательства по ИИ-грамотности начали применяться раньше. Европейская комиссия ведет актуальный график внедрения Закона об ИИ.
Отсрочка применения конкретного высокорискового правила не означает разрешение игнорировать действующее право. GDPR, профессиональные правила, законодательство о защите прав потребителей, антидискриминационное право, договорные обязанности и отраслевое регулирование уже могут регулировать ту же деятельность.
Где человеческая проверка должна быть обязательной
1. До того, как конфиденциальные или персональные данные попадут в инструмент
Первая точка проверки возникает до отправки запроса.
Консультационные досье могут содержать паспорта, адреса, семейную информацию, финансовые записи, данные о здоровье, налоговые сведения, документы о судимостях, коммерческие тайны и привилегированные сообщения. Сотрудники не должны вставлять такие материалы в неутвержденный публичный инструмент только потому, что это удобно.
До использования системы организация должна установить:
- какие данные будет получать инструмент;
- правовое основание и цель обработки персональных данных;
- можно ли удалить, замаскировать или псевдонимизировать данные;
- сохраняет ли поставщик запросы или использует их для обучения модели;
- где данные хранятся и куда передаются;
- какие субобработчики могут получить к ним доступ;
- как долго остаются доступными входные данные, результаты и журналы;
- требуются ли соглашение об обработке данных и гарантии при передаче данных; и
- потребует ли использование, вероятно, оценки воздействия на защиту данных.
Принципы GDPR — ограничение целей, минимизация данных, точность, безопасность и подотчетность — остаются актуальными независимо от того, создан результат младшим сотрудником, правиловым движком или большой языковой моделью. Организация, использующая инструмент, не может передать свои обязанности контролера, просто приняв настройки поставщика по умолчанию.
2. Когда факты извлекаются из документов клиента
ИИ может помогать извлекать имена, даты, доли владения и суммы сделок. Человек должен проверить каждый факт, который может изменить право на получение статуса, налоговый режим, инвестиционную пригодность, срок подачи или решение по соблюдению требований.
Такая проверка должна сопоставлять результат с исходным документом. Она также должна различать:
- факты, прямо указанные в документе;
- расчеты, произведенные на основе этих фактов;
- предположения, сделанные из-за отсутствия информации; и
- выводы, предложенные моделью.
Если эти категории смешиваются, правдоподобное предположение может незаметно превратиться в «факт» в клиентском досье.
3. Когда исследуются закон, регулирование или официальные разъяснения
Юридическое резюме, сгенерированное ИИ, — это направление для исследования, а не авторитетный источник. Проверяющий должен открыть первоисточник, подтвердить его подлинность, проверить дату вступления в силу и прочитать связанные положения, исключения и переходные правила.
В трансграничной работе проверяющий также должен подтвердить юрисдикцию и иерархию источника. Регламент ЕС, директива, национальный закон, административные разъяснения и коммерческий блог не имеют одинакового юридического статуса. Правило, применимое к государственным органам, может не применяться таким же образом к частному консультанту. Будущую дату вступления в силу не следует представлять как действующее право.
Надежная исследовательская запись должна указывать URL источника или цитирование, дату доступа, соответствующее положение и лицо, которое это проверило.
4. Когда результат рекомендует образ действий
Рекомендации — это та сфера, где контекст имеет наибольшее значение. Модель может дать в целом разумный ответ, но упустить фактор, специфичный для клиента, такой как гражданство, история проживания, семейное положение, источник средств, толерантность к риску, существующая структура или срок.
Поэтому квалифицированное человеческое одобрение должно требоваться до того, как результат, подготовленный с помощью ИИ, станет:
- юридической, налоговой или регулируемой инвестиционной консультацией;
- оценкой иммиграционного статуса или права на проживание;
- рекомендацией по пригодности или риску;
- выводом по KYC, источнику средств или санкциям;
- решением принять, отклонить или эскалировать клиента;
- существенной подачей, декларацией или заявлением; или
- обращенным к клиенту заявлением о правах, расходах, сроках или вероятном результате.
Для инвестиционных услуг это не просто вопрос качественной подготовки текста. В заявлении ESMA об ИИ и инвестиционных услугах говорится, что фирмы, использующие ИИ, по-прежнему подпадают под требования MiFID II, включая организационные обязанности, правила поведения и обязанность действовать в наилучших интересах клиента. В нем также подчеркиваются предвзятость, непрозрачность принятия решений, чрезмерная зависимость, конфиденциальность и безопасность как существенные риски.
5. До того, как клиент получит результат или начнет на него полагаться
Финальный проверяющий должен проверить четыре вещи:
Точность: верны ли факты, расчеты и источники?
Полнота: ясно ли указаны решающие исключения, риски и недостающие документы?
Коммуникация: отделяет ли текст подтвержденные выводы от предположений, оценок и нерешенных вопросов?
Полномочия: уполномочен ли проверяющий и обладает ли он квалификацией для одобрения такого типа работы?
При проверке также следует учитывать, нужно ли сообщать клиенту об использовании ИИ. Ответ зависит от конкретного случая использования и применимых правил. С 2 августа 2026 года статья 50 Закона об ИИ устанавливает обязанности по прозрачности для определенных систем и контента, включая прямое взаимодействие с некоторыми системами ИИ и определенный контент, созданный или измененный с помощью ИИ. Отраслевые и профессиональные правила могут требовать дополнительной прозрачности. Общее предупреждение «использовался ИИ» не исправляет неточную или недостаточно проверенную консультацию.
Соразмерная матрица проверки
| Задача с использованием ИИ | Основной риск | Минимальный человеческий контроль |
|---|---|---|
| Грамматика, форматирование и стиль | Изменение смысла при редактировании | Автор сверяет финальную версию с утвержденным текстом |
| Перевод | Искажение юридического или технического смысла | Свободно владеющий языком проверяющий проверяет терминологию, имена, числа и операционные положения |
| Резюме встречи или документа | Упущение или вымышленная деталь | Проверяющий сравнивает резюме с записью или исходным документом |
| Поиск источников | Ложная, устаревшая или нерелевантная ссылка | Профильный специалист открывает и проверяет каждый существенный первичный источник |
| Расчеты и сравнения | Неверные предположения, единицы измерения или формула | Проверяющий воспроизводит существенные расчеты и фиксирует предположения |
| Черновик коммуникации с клиентом | Преувеличение, отсутствие оговорок | Ответственный консультант утверждает точность, тон и объем до отправки |
| Оценка права, пригодности или риска | Существенное влияние на клиента | Квалифицированное лицо, принимающее решение, проводит независимую оценку и документирует основания |
| Поддержка KYC, AML или санкционного контроля | Предвзятость, ложное совпадение или упущенный риск | Обученный специалист по комплаенсу проверяет доказательства и контролирует эскалацию или отказ |
| Окончательная консультация или заявление | Юридический, финансовый или процедурный вред | Уполномоченный специалист утверждает все досье и может отклонить результат ИИ |
Матрица должна быть адаптирована к фактической деятельности фирмы. Один и тот же инструмент может относиться к разным уровням риска в зависимости от задачи, данных и последствий.
Практический чек-лист управления ИИ для консультационных фирм
Определите сценарий использования
- Зафиксируйте, что система должна делать и чего она делать не должна.
- Определите, кто предоставляет систему, а кто ее внедряет.
- Установите, может ли использование подпадать под запрещенную категорию, категорию прозрачности или высокорисковую категорию по Закону об ИИ.
- Сопоставьте другие применимые правила, включая GDPR и отраслевые обязательства.
Утвердите данные
- Классифицируйте информацию, которая может вводиться.
- Запретите неутвержденное использование чувствительных, привилегированных или конфиденциальных материалов.
- Применяйте минимизацию, маскирование и контроль доступа.
- Проверьте условия поставщика в отношении хранения, обучения, безопасности, субобработчиков и международной передачи.
- Проведите DPIA, если достигнут порог GDPR.
Спроектируйте человеческий контроль
- Назначьте роль, ответственную за каждый этап проверки.
- Предоставьте проверяющему доступ к исходным фактам и авторитетным источникам.
- Установите триггеры эскалации для случаев неопределенности, конфликта, отсутствия доказательств и решений с высоким воздействием.
- Предоставьте проверяющему полномочия игнорировать, переопределять или останавливать инструмент.
- Не допускайте, чтобы одно и то же лицо создавало и утверждало результат с высоким воздействием там, где разделение функций соразмерно.
Сделайте работу отслеживаемой
- Фиксируйте используемый инструмент и утвержденную версию.
- Сохраняйте существенные входные данные, предположения, источники и значимые результаты там, где это законно и необходимо.
- Фиксируйте, кто проверял работу, что именно было проверено и когда.
- Поддерживайте контроль версий, чтобы окончательную консультацию можно было отличить от машинного черновика.
Тестируйте и контролируйте
- Проверяйте систему на репрезентативных сценариях до начала использования.
- Ищите систематические ошибки в разных языках, национальностях и группах клиентов.
- Отслеживайте исправления, инциденты, жалобы и почти случившиеся ошибки.
- Переоценивайте рабочий процесс при изменении модели, условий поставщика, закона или предполагаемого использования.
- Приостанавливайте использование, если система действует вне утвержденного назначения или создает неприемлемый риск.
Обучайте людей
Статья 4 измененного Закона об ИИ требует от поставщиков и пользователей принимать меры, поддерживающие ИИ-грамотность сотрудников и других лиц, которые действуют или используют ИИ от их имени. Обучение должно соответствовать роли человека и контексту системы. Секретарь, использующий инструмент транскрипции, сотрудник комплаенса, проверяющий сигналы риска, и консультант, готовящий юридический анализ, не нуждаются в одинаковом обучении.
Как минимум пользователи должны понимать галлюцинации, предвзятость автоматизации, конфиденциальность, минимизацию данных, проверку источников, эскалацию и пределы утвержденного сценария использования.
Что правила ЕС означают для венгерского консультационного бизнеса
Закон об ИИ применяется напрямую по всему ЕС, тогда как национальные органы осуществляют важные элементы надзора и координации. По данным Национального управления Венгрии по защите данных и свободе информации, Закон LXXV 2025 года и Постановление правительства 344/2025 создали внутреннюю рамку: Венгерский совет по искусственному интеллекту может выпускать руководящие разъяснения и заключения по внедрению; министр национальной экономики выполняет функции назначенного органа рыночного надзора и единой контактной точки; а Национальный орган по аккредитации является нотифицирующим органом. NAIH остается центральным органом там, где задействована обработка персональных данных. Орган суммирует эту структуру на своей странице законодательства ЕС в цифровой сфере.
Для венгерской фирмы практический вывод состоит в том, что «соблюдение требований ИИ» — это не одна подача в один орган. Одно внедрение может одновременно затрагивать классификацию по Закону об ИИ, подотчетность по GDPR, профессиональный или финансовый надзор, защиту прав потребителей, кибербезопасность и договорный риск.
Краткий FAQ
Может ли консультант использовать ChatGPT или другой инструмент ИИ общего назначения для работы с клиентами?
Потенциально да, но только в рамках утвержденного сценария использования и с контролями, соответствующими данным и последствиям. Конфиденциальные или персональные данные не следует вводить, пока организация не оценит правовое основание, условия поставщика, безопасность, хранение и механизмы передачи. Существенные результаты по-прежнему требуют квалифицированной проверки.
Делает ли человеческая проверка автоматически соответствующим требованиям решение, принятое с помощью ИИ?
Нет. Проверка должна быть эффективной, а не формальной. Проверяющему нужны компетентность, доступ к доказательствам, достаточное время и полномочия изменить или отклонить результат. Также должны соблюдаться и другие требования — такие как наличие законного основания по GDPR или отраслевые обязанности по оценке пригодности.
Должен ли каждый документ, подготовленный с помощью ИИ, маркироваться как созданный ИИ?
Ни одно универсальное правило не требует маркировки каждого документа, подготовленного с помощью ИИ. Статья 50 Закона об ИИ применяется к определенным взаимодействиям и видам контента, созданного или измененного ИИ, и содержит условия и исключения. Профессиональные, потребительские и договорные обязанности могут требовать дополнительного раскрытия. Необходимо оценивать конкретный сценарий использования, а не покрывать все универсальной оговоркой.
Кто несет ответственность, если рекомендация, сгенерированная ИИ, неверна?
Ответственность зависит от фактов, юридических ролей сторон, применимых профессиональных и отраслевых правил, обязанностей по защите данных, договоров и характера ущерба. Приобретение сервиса ИИ само по себе не передает обязанности консультанта перед клиентами. Самое безопасное операционное предположение состоит в том, что фирма должна быть способна объяснить и защитить консультацию, которую она утвердила.
Стандарт, к которому стоит стремиться
Лучшее управление ИИ не заставляет человека повторять каждую механическую задачу. Оно размещает человеческое суждение в тех точках, где на кону стоят конфиденциальность, доказательства, права, деньги или профессиональная ответственность.
При таком использовании ИИ может повысить скорость и последовательность, не становясь невидимым лицом, принимающим решения. Консультант остается ответственным за основную работу: понять клиента, проверить доказательства, применить правильное правило, объяснить неопределенность и отвечать за вывод.
Юридическая и регуляторная информация актуальна по состоянию на 4 октября 2026 года и предоставляется только в общих информационных целях. Организациям следует получать консультации по своим конкретным системам, данным и регулируемым видам деятельности.