ИИ без ответа

Консультант по коммуникациям Александр Сычев — о развитии ИИ, его плюсах и минусах в управлении компанией

С 1 сентября в России вступает в силу первый федеральный закон о поддержке развития технологий искусственного интеллекта. Документ принят Государственной думой 8 июля, одобрен Советом Федерации 17 июля и подписан президентом 26 июля. Государство формирует правила развития ИИ, однако для бизнеса сегодня не менее важен другой вопрос: как меняется управление компанией, когда искусственный интеллект становится частью повседневных бизнес-процессов. Вместе с новыми возможностями ИИ выявляет старые проблемы — от качества коммуникации до распределения ответственности.

ИИ не закрывает слабые места в управлении, а усиливает их. Если руководитель не умеет четко ставить задачи, объяснять цели и контролировать результат, внедрение новых инструментов может только усложнить ситуацию. Сегодня компании часто используют внутренние решения на базе больших языковых моделей в роли помощника или коуча, с которым сотрудники могут обсуждать идеи и проводить мозговые штурмы.

Проблема особенно заметна в крупных организациях: чем больше уровней управления проходит информация, тем выше риск потерять исходные идеи. Когда в рабочий диалог между руководителем и командой включается ИИ, появляется риск искажения смысла. Например, менеджер может передать сотрудникам сводку, созданную нейросетью на основе исходных данных, но без собственного анализа контекста. В результате сотрудник получает «красивый» отчет, однако не понимает, какие допущения сделала модель, и может принять неверное решение.

Использование ИИ добавляет в эту цепочку еще одно звено. Документ может выглядеть убедительно, содержать правильные формулировки и привычные термины вроде «инноваций», «стандартизации», «методологии» и KPI, но при этом оставаться содержательно пустым.

Более того, ИИ способен оказаться сразу с двух сторон рабочего диалога. Один сотрудник с его помощью готовит документ, другой, получив его, загружает в нейросеть и просит сформулировать основные выводы. В результате общение в формате «человек – человек» превращается в цепочку «человек – ИИ – ИИ – человек» или «ИИ – человек – человек – ИИ»: одна модель формирует сообщение, другая его интерпретирует.

Еще одна проблема — недостаточная подготовка управленцев. Это напрямую влияет на качество коммуникации: руководитель сам не всегда понимает ограничения инструмента и не может объяснить их команде.

В компаниях ИИ внедряется повсеместно, потому что бизнес понимает: если этого не делать, можно проиграть. Поэтому вопрос уже не в том, использовать нейросеь или нет, а в том, как выстроить новую модель взаимодействия людей друг с другом и с технологией, которая никуда не исчезнет. В итоге возникает парадокс: ИИ ускоряет выполнение задач, но не гарантирует более эффективного управления.

Кроме того, с появлением ИИ возникает важный вопрос: кто отвечает за ошибку? Разработчик, который некорректно обучил модель? Менеджер, задавший неверный запрос? Или исполнитель, который не перепроверил результат? Например, при внедрении системы «Ассистент руководителя» на базе ИИ в одной из крупных IT-компаний менеджеры среднего звена долго не доверяли автоматизированным выжимкам из документов. Они дублировали работу, вручную проверяя данные. В итоге инструмент вместо повышения эффективности создал дополнительную нагрузку.

На сегодняшний день компании еще не перераспределили ответственность, и вряд ли это произойдет в ближайшее время: отвечать за принятое решение по-прежнему должен человек. Особенно это важно в отраслях, где любая неточность может быть фатальна — например, в медицине или атомной промышленности. На уровне топ-менеджмента ответственность за ИИ-решения формально есть, но реально она часто не закреплена процессами и документами.

Например, в одной из компаний тестировали, как ИИ может помочь в принятии бизнес-решений. Нейросеть анализировала договор, сопутствующую информацию и необходимый контекст, однако внутренние бизнес-заказчики не согласовали предложенное ИИ решение. В отдельных местах модель выдала неточные заключения, из-за которых весь результат пришлось перепроверять. В итоге использование инструмента потеряло основной смысл: вместо экономии времени сотрудники были вынуждены тратить его на дополнительную проверку.

Когда ИИ-агент воспринимается как «сотрудник», возникает риск переложить на него ответственность за ошибки, хотя отвечать за результат по-прежнему должен менеджер, который поставил задачу и решил использовать полученное решение. Похожий эксперимент провели в другой компании. Для задачи, важной на уровне топ-менеджмента, решили проверить, можно ли с помощью ИИ сократить срок выполнения с запланированных шести месяцев до двух недель.

Срок действительно удалось сократить, но из-за отдельных недочетов внутренние заказчики не смогли использовать полученный результат. Это одна из частых проблем внедрения ИИ: он может быстро выполнить основную часть работы, однако оставшиеся недоработки — в точности, безопасности, работе с персональными данными или внутренних процессах — способны обесценить достигнутую экономию времени.

В управленческих системах полномочия распределяются по трем уровням в зависимости от самостоятельности сотрудника. ИИ может работать по той же логике: самостоятельно выполнять одни задачи, действовать в заданных пределах и лишь готовить решения по наиболее значимым вопросам, оставляя их утверждение заинтересованным лицам.

Сегодня ИИ многие воспринимают как своего рода стажера, который может быстро выполнить работу, но результат необходимо перепроверить. Так будет до тех пор, пока точность таких решений не выйдет на стабильно высокий уровень или человек не исчезнет из критически важных процессов, а компания не возьмет на себя ответственность за работу ИИ.

Похожие изменения мы уже проходили. В перспективе такая система сможет самостоятельно, без участия команды разработки, писать код, затем проверять его и развертывать. Но какой путь необходимо пройти до момента, когда человек сможет полностью выйти из такого процесса, пока непонятно.

Автор — основатель ST Education, сооснователь Presium Education, приглашенный преподаватель Московской школы управления «Сколково», консультант по стратегическим и управленческим коммуникациям

Позиция редакции может не совпадать с мнением автора