ИИ
ИИ-агенты в холдинге: что уже работает, а что пока нет
Что ИИ-агенты уже надежно делают в холдинге, где они ошибаются и какие шесть правил делают их безопасными на данных группы. С данными 2025 и 2026 годов.
- Опубликовано
- 8 мин чтения
- 8 мин чтения
ИИ-коллега сегодня полезен в узких, четко поставленных задачах на проверенных данных. Он отвечает на вопрос о метрике и показывает источник, готовит черновик еженедельного обзора, следит за отклонениями и читает документы. Вести длинные цепочки работы в одиночку и совершать необратимые действия он пока не готов. Полезного агента от рискованного отличают не столько модель, сколько правила вокруг нее.
Коротко
- Агенты быстро стали лучше. По отчету Stanford AI Index 2026, доля успешно выполненных задач в тесте на реальную работу за компьютером выросла с 12% до примерно 66%. При этом в структурированных тестах агенты все еще проваливают примерно одну попытку из трех.
- Пользуются многие, зарабатывают немногие. В опросе McKinsey 2026 года почти девять организаций из десяти регулярно применяют ИИ, а хоть какое-то влияние на прибыль видят 37%.
- Короткие и четкие задачи работают. Длинные автономные цепочки и необратимые действия пока нет.
- Безопасным на данных группы агента делают шесть правил: утвержденные данные с источником, права самого пользователя, доступ только на чтение по умолчанию, внешний текст как данные, журнал и тесты перед каждым обновлением.
Что такое ИИ-коллега
Чат отвечает из того, что помнит модель. ИИ-агент умеет еще и пользоваться инструментами: выполнить запрос, прочитать документ, подготовить черновик. Руководство OpenAI по созданию агентов определяет агентов как системы, которые самостоятельно выполняют задачи от вашего имени.
Полезную границу проводит Anthropic в статье Building effective agents. Рабочий процесс идет по заранее заданным в коде шагам. Агент сам решает, что делать дальше и какими инструментами пользоваться. Большую часть повторяющейся работы в холдинге, например еженедельный обзор или сверку, лучше строить как заданный процесс с шагами ИИ внутри, а не как свободного агента. Там же советуют выбирать самое простое решение, которое работает, и предупреждают: автономность означает более высокие затраты и риск того, что ошибки будут накапливаться.
Что данные говорят о надежности
Прогресс настоящий. Stanford AI Index 2026, опубликованный в апреле 2026 года, сообщает, что в тесте OSWorld на реальную работу за компьютером доля успешных задач у агентов выросла с 12% до примерно 66%. Там же сказано, что в структурированных тестах они все еще проваливают примерно одну попытку из трех.
Лучше всего ошибку предсказывает длина задачи. METR измерил это на данных марта 2025 года. С задачами, на которые у человека уходит меньше четырех минут, модели справлялись почти в 100% случаев, а с задачами длиннее примерно четырех часов менее чем в 10%. Длина задач, которые агенты выполняют с надежностью 50%, удваивалась примерно каждые семь месяцев.
В офисной работе картина похожая. Тест TheAgentCompany, созданный в Университете Карнеги-Меллона вместе с другими организациями, имитирует небольшую софтверную компанию. Лучший агент самостоятельно выполнил в нем 30% задач (версия от сентября 2025 года).
Руководителю важны еще два результата:
- Агент, который справился один раз, в следующий раз может ошибиться. Исследование τ-bench 2024 года проверяло, справляется ли агент со всеми повторными попытками подряд, и показало, что модели того времени вели себя нестабильно. Цифры устарели, вывод остался: проверять нужно многократно.
- Ответ по вашим собственным документам тоже может быть неверным. Исследователи Стэнфорда проверили юридические поисковые инструменты, которые перед ответом находят документы. Такой подход называют RAG. В 2024 году два инструмента давали неверную информацию более чем в 17% запросов, а третий более чем в 34%. Вывод авторов: даже системы с RAG не избавлены от галлюцинаций.
Применение опережает пользу. В опросе McKinsey State of AI 2026, где участвовали 1719 человек (опубликован 25 августа 2026 года), почти девять из десяти сообщили, что регулярно применяют ИИ хотя бы в одной функции бизнеса, около двух из десяти масштабируют агентов, а 37% связывают с ИИ хоть какое-то влияние на EBIT. Официальная статистика скромнее: по данным Евростата, в 2025 году ИИ использовали 20,0% предприятий ЕС, где работают десять и более человек. А Gartner прогнозирует, что к концу 2027 года будет отменено более 40% проектов с ИИ-агентами: из-за растущих затрат, неясной пользы для бизнеса или слабого контроля рисков.
Что в холдинге работает уже сегодня, а что нет
Таблица отражает наше прочтение данных, приведенных выше.
| Задача | Работает ли сегодня? | Что делает человек |
|---|---|---|
| Ответ на вопрос об утвержденной метрике с указанием источника | Да, если метрики определены один раз и агенту разрешено сказать «не знаю» | Спрашивает и проверяет источник |
| Черновик еженедельного обзора бизнеса | Да, как черновик | Правит и утверждает |
| Наблюдение за метриками и сигналы об отклонениях | Да | Решает, что делать |
| Чтение договоров и счетов, извлечение полей | Да, если показан фрагмент источника | Проверяет исключения |
| Длинный процесс от начала до конца, например закрытие месяца | Пока нет | Оставляет процесс за собой и поручает агенту отдельные шаги |
| Платежи, исправления в учете, сообщения за пределы компании | Только готовит | Утверждает каждое действие |
Шесть правил, которые делают агента безопасным на данных группы
1. Только утвержденные данные и всегда с источником. Кто-то должен отметить, какие данные считаются официальными. Microsoft описывает это для Power BI: сертификация означает, что содержимое отвечает стандартам качества организации, а сертифицировать могут только проверяющие, которых выбрал администратор.
На точность это влияет сильно. Ранний тест data.world (2023 год) показал: модель, которая отвечает на бизнес-вопросы напрямую по базам SQL, права в 16% случаев, а когда вопросы задают поверх графа знаний о тех же данных, в 54%. В собственном тесте dbt Labs в апреле 2026 года семантический слой дал точность 98,2% и 100% для двух моделей против 90,0% и 84,1% у свободного text-to-SQL. Там, где семантический слой не мог ответить, он так и сообщал и не возвращал числа.
Каждый ответ должен еще и указывать на источник. Это можно построить уже сегодня: функция Citations у Anthropic возвращает точные фрагменты, на которые опирается каждое утверждение.
2. Права самого пользователя, и проверяют их системы с данными. Агент должен видеть только то, что можно видеть человеку, который спрашивает. Рекомендация OWASP о чрезмерной самостоятельности говорит прямо: авторизацию нужно реализовать в системах, к которым обращается модель, а не полагаться на то, что модель сама решит, разрешено ли действие. В группе у этого правила есть второй смысл. Принципы Anthropic для надежных агентов предупреждают, что агент может неуместно перенести чувствительную информацию из одного контекста в другой. Данные одной компании не должны всплывать в ответах для другой.
3. По умолчанию только чтение, а каждое действие утверждает человек. Anthropic пишет о своем агенте для программирования, что по умолчанию у него есть права только на чтение. Руководство OpenAI требует участия человека для действий чувствительных, необратимых или с высокой ценой ошибки и приводит примеры: отмена заказов, крупные возвраты и платежи.
4. Текст извне: это данные, а не команды. Агентом, который читает письма, документы поставщиков или сайты, можно управлять через спрятанные в них инструкции. OWASP называет это косвенным внедрением инструкций. Оно возможно, когда модель принимает данные из внешних источников, например с сайтов или из файлов (OWASP LLM01).
5. Все записывается в журнал. Кто спросил, что агент посчитал, что ответил и что сделал. Совет OWASP на этот счет: вести журнал и мониторинг действий расширений модели и систем, к которым она обращается.
6. Постоянный набор тестовых вопросов перед каждым обновлением и право сказать «не знаю». Агент может справиться один раз и ошибиться в следующий, поэтому перед каждым обновлением его проверяют на одних и тех же вопросах с известными ответами. Агент, которому разрешено не отвечать, безопаснее агента, который всегда выдает число.
Стандарты управления рисками на одной странице
Общий язык для разговора о рисках ИИ дают три документа. Ни один из них не обязателен для компании в Азербайджане, Узбекистане или Казахстане, но каждый хорош как список для проверки.
- NIST AI Risk Management Framework (США, выпущен 26 января 2023 года, применяется добровольно). В его основе четыре функции: руководить, описывать, измерять и управлять. NIST сообщает, что документ сейчас пересматривают.
- ISO/IEC 42001:2023, стандарт системы менеджмента ИИ, опубликованный в декабре 2023 года. Подходит организациям любого размера, которые разрабатывают или используют ИИ.
- Закон ЕС об ИИ, Регламент (ЕС) 2024/1689. Для систем высокого риска он требует действенного надзора человека, внимания к склонности людей слепо доверять автоматике, возможности остановить систему и автоматических журналов (статьи 12 и 14). Большинство задач в холдинге, например отчеты, прогнозы и черновики, по этому закону к высокому риску не относятся. Читая о нем, проверяйте даты: по данным Европейской комиссии, пакет поправок, который вступил в силу 27 июля 2026 года, перенес правила для высокорисковых применений в чувствительных областях на 2 декабря 2027 года.
Риски и есть то, что тормозит компании. В опросе McKinsey о доверии к ИИ, опубликованном в марте 2026 года, почти две трети участников назвали опасения по поводу безопасности и рисков главным препятствием для масштабирования агентов.
Что происходит в регионе
Азербайджан, Узбекистан и Казахстан приняли национальные стратегии в области ИИ, и данные занимают в них одно из первых мест.
- Азербайджан. Стратегия искусственного интеллекта на 2025-2028 годы, утвержденная распоряжением Президента № 530 от 19 марта 2025 года, называет приоритетом совершенствование управления данными и инфраструктуры, включая переход к управлению на основе данных. Закона об ИИ пока нет.
- Узбекистан. Стратегия развития технологий искусственного интеллекта до 2030 года, утвержденная постановлением Президента № ПП-358 от 14 октября 2024 года, ставит цель довести объем программных продуктов и услуг на основе ИИ до 1,5 млрд долларов. Указ от 22 октября 2025 года добавляет к этому не менее 100 проектов по внедрению ИИ до конца 2026 года.
- Казахстан. Концепция развития искусственного интеллекта на 2024-2029 годы, утвержденная постановлением Правительства № 592 от 24 июля 2024 года, первым направлением называет данные. Закон «Об искусственном интеллекте» от 17 ноября 2025 года требует маркировать результаты работы ИИ и направляет данные ограниченного доступа в локальные системы ИИ.
Там, где агенты работают с персональными данными, к ним применяются правила хранения каждой страны. Мы сравниваем их в статье о хранении персональных данных в Азербайджане, Узбекистане и Казахстане.
С чего начать
Начните с одной узкой задачи и измерьте результат относительно исходного уровня. Руководство OpenAI советует двигаться постепенно, Anthropic рекомендует самое простое решение, которое работает. Опрос McKinsey показывает, откуда берется польза: почти три четверти лидеров по результатам полностью перестроили рабочие процессы из-за ИИ, а среди остальных так сделала четверть.
У хорошей первой задачи три признака. Данные под ней уже приведены в порядок: об этом наша статья про управленческую отчетность группы компаний. Результат до использования проверяет человек. И успех измеряется: точность на постоянном наборе вопросов, сэкономленные за неделю часы и стоимость одного ответа.
Как к этому подходит Sahman
Sahman находится на ранней стадии, и наша ИИ-коллега Samira сейчас работает на демонстрационных данных. Samira отвечает по утвержденным метрикам с правами самого пользователя, показывает источник, может ответить «не знаю» и просит подтверждения, прежде чем что-то уйдет за пределы компании. Вопросы, для которых нужны строки с персональными данными, обрабатывает открытая модель внутри страны. Подробности на странице о Samira.
Источники
- 1A practical guide to building agents. OpenAI, 2025
- 2Building effective agents. Anthropic, 2024-12-19
- 3The 2026 AI Index Report. Stanford Institute for Human-Centered Artificial Intelligence, 2026
- 4Measuring AI Ability to Complete Long Tasks. METR, 2025-03-19
- 5TheAgentCompany: Benchmarking LLM Agents on Consequential Real World Tasks. Frank F. Xu и соавторы, arXiv, 2025-09-10
- 6τ-bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains. Shunyu Yao и соавторы, arXiv, 2024-06-17
- 7AI on Trial: Legal Models Hallucinate in 1 out of 6 (or More) Benchmarking Queries. Stanford HAI, 2024-05-23
- 8The state of AI in 2026: On the road to ROI. McKinsey & Company, 2026-08-25
- 920% of EU enterprises use AI technologies. Eurostat, 2025-12-11
- 10Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027. Gartner, 2025-06-25
- 11Promote and Certify Power BI Content with Endorsement. Microsoft Learn, 2025-10-01
- 12A Benchmark to Understand the Role of Knowledge Graphs on Large Language Model's Accuracy for Question Answering on Enterprise SQL Databases. Juan Sequeda, Dean Allemang, Bryon Jacob, arXiv, 2023-11-13
- 13Semantic Layer vs. Text-to-SQL: 2026 Benchmark Update. dbt Labs, 2026-04-07
- 14Citations. Anthropic, Claude Developer Platform
- 15LLM06:2025 Excessive Agency. OWASP Gen AI Security Project
- 16Our framework for developing safe and trustworthy agents. Anthropic, 2025-08-04
- 17LLM01:2025 Prompt Injection. OWASP Gen AI Security Project
- 18AI Risk Management Framework (AI RMF 1.0). National Institute of Standards and Technology, 2023-01-26
- 19ISO/IEC 42001:2023 Information technology. Artificial intelligence. Management system. ISO, 2023
- 20Регламент (ЕС) 2024/1689 (Закон об искусственном интеллекте), на английском языке. EUR-Lex, 2024-06-13
- 21AI Act: regulatory framework for AI. Европейская комиссия, 2026-10-19
- 22State of AI trust in 2026: Shifting to the agentic era. McKinsey & Company, 2026-03-25
- 23Стратегия искусственного интеллекта Азербайджанской Республики на 2025-2028 годы (на азербайджанском языке). Министерство цифрового развития и транспорта Азербайджана, 2025-03-19
- 24Постановление Президента Республики Узбекистан № ПП-358 «Об утверждении Стратегии развития технологий искусственного интеллекта до 2030 года». lex.uz, 2024-10-14
- 25Указ Президента Республики Узбекистан № УП-189 «О дополнительных мерах по дальнейшему развитию технологий искусственного интеллекта». lex.uz, 2025-10-22
- 26Постановление Правительства Республики Казахстан № 592 «Об утверждении Концепции развития искусственного интеллекта на 2024-2029 годы». adilet.zan.kz, 2024-07-24
- 27Закон Республики Казахстан «Об искусственном интеллекте» № 230-VIII. adilet.zan.kz, 2025-11-17
Эта статья есть и на других языках: English, Azərbaycanca