«Для бизнеса это качественно новый уровень ответственности». Какие риски скрываются в ИИ, который уже выходит на работу

Еще несколько лет назад искусственный интеллект (ИИ) ассоциировался прежде всего с генерацией текстов, изображений и работой чат-ботов. Компании спорили, может ли нейросеть написать коммерческое предложение, подготовить маркетинговый текст или помочь аналитикам обработать данные. Сегодня центр внимания уверенно смещается в другую сторону. ИИ начинает не просто отвечать на запросы, а выполнять конкретные рабочие задачи.

Переход от выполнения отдельных поручений к самостоятельной работе выглядит почти незаметным. Пользователь привычно открывает браузер, пишет запрос вроде «найди пять поставщиков оборудования», «сравни цены конкурентов» или «подготовь черновик письма клиенту». Но дальше происходит то, чего еще недавно не было. Вместо выдачи списка ссылок система самостоятельно переходит по сайтам, собирает информацию, сравнивает данные и формирует готовый результат.

Сегодня связка «ИИ‑агент + браузер» начинает превращаться из инструмента поиска информации в инструмент выполнения работы: системы способны сами переходить по сайтам, заполнять формы и собирать данные. Для бизнеса это одно из наиболее существенных технологических изменений последних лет.

От помощника к исполнителю

Большинство компаний и сотрудников уже привыкли к существованию ИИ-помощников. Они помогают писать тексты, анализировать документы, создавать презентации и эффективнее искать информацию. Но постановка задач и ответственность за действия по-прежнему остаются за человеком.

Современные агентские системы работают иначе. Если обычный чат-бот похож на консультанта, который подсказывает решение, то агент действует скорее как сотрудник, которому можно поручить конкретную задачу. Он способен открыть сайт, найти нужный раздел, собрать информацию из нескольких источников, заполнить форму, скачать документ и подготовить результат, то есть автоматизировать именно те шаги, на которые сегодня уходят часы ручной работы офисных сотрудников.

На первый взгляд разница может показаться незначительной. Однако именно она определяет новый этап развития искусственного интеллекта. Большая часть рабочего времени офисных сотрудников до сих пор уходит не на принятие решений, а на рутинные действия: поиск информации, перенос данных между системами, заполнение форм, подготовку отчетов, мониторинг сайтов и перепроверку сведений. Но сегодня эти задачи становятся главной целью новых ИИ-инструментов.

По данным международных исследований, значительная часть рабочего времени специалистов интеллектуального труда уходит на поиск, обработку и согласование информации, а не на создание новой ценности. Поэтому компании по всему миру внимательно следят за развитием агентских систем. Причем речь идет уже не о повышении производительности на несколько процентов. В отдельных процессах, где доля ручной рутины особенно велика (документооборот, ввод данных, мониторинг), эффект от внедрения агентных систем может оказаться кратным.

Почему бизнесу интересно работать с ИИ

Рассмотрим простой пример. Сегодня сотрудник отдела продаж может потратить несколько часов на поиск потенциальных клиентов, изучение сайтов компаний, проверку контактной информации и подготовку первичного обращения. В агентской модели значительную часть этой работы можно делегировать ИИ, высвобождая время специалистов под более ценные задачи – переговоры, работу с возражениями и закрытие сделок. Аналогичная ситуация возникает в закупках, маркетинге, анализе рынка, подборе персонала, юридической подготовке документов и десятках других функций, где значительная часть работы – это «найти, собрать и проверить» информацию. В таких процессах агентные системы дают максимальный эффект: сокращают операционные издержки и ускоряют циклы принятия решений. Особенно интересной эта технология выглядит для малого и среднего бизнеса. Многие белорусские компании не имеют больших ИТ-бюджетов, но уже активно используют CRM, онлайн-банкинг, маркетплейсы, облачные документы и внешние цифровые сервисы. В такой среде ИИ-агент может быстро обеспечить эффект автоматизации, но одновременно получает доступ к тем точкам, где сосредоточены данные, клиенты и финансовые ресурсы компании.

Крупные компании годами инвестировали в автоматизацию процессов и разработку собственных ИТ-решений. Для небольших организаций такие проекты часто были слишком дорогими. Агентские системы потенциально позволяют получить часть эффекта автоматизации без многомиллионных вложений и длительных проектов внедрения. Именно поэтому вокруг новых браузеров и ИИ-агентов сейчас наблюдается повышенный интерес. Но вместе с новой эффективностью приходит и новый риск.

Что меняется в вопросах безопасности в работе с нейросетями

До недавнего времени главной проблемой ИИ считались ошибки в ответах – так называемые галлюцинации. Нейросеть могла придумать несуществующий факт, сослаться на вымышленный источник или сделать неправильный вывод. Это создавало неудобства, но редко приводило к серьезным последствиям. 

Агентские системы меняют характер риска: когда ИИ получает возможность совершать действия в реальных системах, цена ошибки возрастает и может выражаться уже в потерях данных, некорректных финансовых операциях или нарушениях требований комплаенса. Если сотрудник вошел в корпоративную почту, CRM-систему, интернет-банк или облачное хранилище документов, агент начинает работать в той же среде и с теми же правами доступа. Это означает, что проблема перестает быть исключительно информационной. Теперь речь идет уже о конкретных действиях.

Сегодня ошибка может привести не только к неверному ответу, но и к отправке данных не тому адресату, загрузке конфиденциального файла, публикации служебной информации или выполнению нежелательной операции. Для бизнеса это качественно новый уровень ответственности, требующий пересмотра политик доступа, внутренних процедур контроля и, нередко, подходов к страхованию и управлению операционными рисками.

Не только помощник, но и риск: почему ИИ-агентам нужны ограничения

Любая технология проходит одинаковый цикл. Сначала компании видят новые возможности. Потом появляются первые успешные кейсы. Затем начинают проявляться ограничения и риски. С агентским ИИ сегодня происходит примерно то же самое: бизнес уже видит реальные примеры кратного роста эффективности и параллельно начинает выстраивать системный подход к управлению новыми рисками. 

Одна из наиболее обсуждаемых угроз сейчас связана с так называемыми скрытыми инструкциями. В отличие от человека ИИ-агент может воспринимать определенные элементы сайта или документа как команды к действию. И исследователи уже находили сценарии, при которых специальные конструкции внутри веб-страниц могли влиять на поведение ИИ-систем и заставлять их отклоняться от первоначальной задачи.

Впрочем, такие примеры пока выглядят скорее экспериментальными. Но они показывают принципиальную проблему: агент может оказаться под воздействием не только своего владельца, но и внешней среды. Для бизнеса важно учитывать этот риск сейчас, пока практики защиты только формируются, потому что поле потенциальных атак – сайты, письма, документы – уже существует.

Для компаний это означает необходимость относиться к таким инструментам примерно так же, как к новым сотрудникам: нельзя просто предоставить полный доступ ко всем системам и рассчитывать, что дальше все будет работать само. Неконтролируемый доступ ИИ‑агента – это риск прямых финансовых потерь, утечек данных и нарушений требований регуляторов.

Что стоит делать бизнесу уже сейчас

Самая распространенная ошибка при появлении новой технологии – выбирать между двумя крайностями:

• первая – полный запрет;

• вторая – бесконтрольное использование.

Практика показывает, что обе стратегии работают плохо. Если компания полностью запрещает новые инструменты, сотрудники часто начинают использовать их неофициально. В белорусских реалиях это вполне вероятный сценарий: многие цифровые решения внедряются снизу – через отдел продаж, маркетинг, бухгалтерию или конкретного менеджера, которому нужно быстрее закрыть конкретную задачу. Это особенно опасно: теневое использование ИИ означает работу с данными и процессами вне контроля и без защитных настроек.

Если ограничений нет вообще, то организация теряет контроль над данными и рабочими процессами. Поэтому более реалистичным выглядит постепенный подход.

На первых этапах ИИ-агент получает доступ только к открытой информации и помогает анализировать данные. Затем ему можно поручать подготовку проектов документов или отчетов. Следующий этап – выполнение действий только после подтверждения человеком. Полностью автономный режим имеет смысл использовать лишь там, где последствия ошибки минимальны и существуют механизмы контроля. 

В результате перед бизнесом возникает новая управленческая задача: так же четко, как для сотрудников, определить уровни полномочий и ответственность для ИИ‑агентов. От того, насколько продуманно будут заданы эти границы, зависит баланс между экономическим эффектом – экономией времени и денег – и рисками ошибок, утечек и нарушений.

Когда ИИ становится частью организационной структуры

В ближайшие годы главный вопрос автоматизации будет звучать иначе: не «использует ли компания искусственный интеллект», а «какие решения с финансовыми, юридическими и репутационными последствиями она готова ему доверить». Разница между этими вопросами принципиальная. 

Если первый касается технологий, то второй – управления рисками, распределения ответственности и организации работы. Это уже вопрос для собственников и руководителей, а не только для ИТ‑специалистов. Именно поэтому нынешняя волна агентских систем выглядит важнее многих предыдущих ИИ-новинок. Она меняет не только инструменты, которыми пользуются сотрудники, но и саму логику распределения работы внутри компании.

Для белорусского бизнеса этот вопрос уже сложно назвать отдаленной технологической перспективой. Даже небольшая компания сегодня буквально «живет» в браузере: через него проходят почта, документы, банк, CRM, реклама, работа с поставщиками и клиентами. Это фактически операционная среда, в которой совершаются сделки и происходят ключевые коммуникации. Поэтому, когда привычный браузер постепенно превращается в исполнителя задач, бизнес получает не только новый инструмент эффективности, но и новую зону ответственности: это уже не просто интерфейс, а активный участник процессов, чьими правами доступа и последствиями действий нужно управлять так же внимательно, как и работой людей.

И чем быстрее компании начнут учитывать этот фактор при организации процессов и управлении доступами, тем больше преимуществ смогут извлечь из следующего этапа развития искусственного интеллекта.