Почему для управления ИИ нужно больше, чем просто благие намерения

Управление ИИ объединяет инновации и защиту заинтересованных сторон. Узнайте от специалистов компании DST Global, почему надежные структуры, а не просто намерения, необходимы для ответственного ИИ в 2025 году.

Гонка за внедрение технологий ИИ создала значительный разрыв между намерением и реализацией, особенно в управлении. Согласно последним данным IAPP и отчету Credo AI за 2025 год, хотя 77% организаций работают над управлением ИИ, только у части из них есть зрелые структуры. Этот разрыв между амбициозными целями и практическим управлением имеет реальные последствия, как мы видели в течение 2024-2025 годов с громкими провалами и утечками данных.

Последние десять лет я работал с организациями, внедряющими решения на основе ИИ, и эта картина до боли знакома: энтузиазм в отношении возможностей ИИ опережает готовность устанавливать надежные ограничения.

В этой статье рассматривается, почему благих намерений недостаточно, как проявляются неудачи в управлении ИИ в сегодняшнем ландшафте, и предлагается практическая дорожная карта для структур управления, которые защищают заинтересованные стороны, одновременно способствуя инновациям. Независимо от того, являетесь ли вы техническим директором, инженером ИИ или специалистом по соблюдению требований, эти идеи помогут преодолеть критический разрыв между стремлениями к ИИ и ответственной реализацией.

Растущий разрыв между намерением и реализацией управления ИИ

«Мы серьезно относимся к управлению ИИ» — это утверждение я постоянно слышу от лидеров технологий. Однако факты свидетельствуют о тревожной реальности. Отчет Zogby Analytics за 2025 год показал, что, хотя 96% организаций уже используют ИИ для бизнес-операций, только 5% внедрили какую-либо структуру управления ИИ. Этот ошеломляющий разрыв — не просто статистическое любопытство; он представляет собой реальный организационный риск.

Почему этот разрыв сохраняется?

- Страх замедления инноваций: команды беспокоятся, что управление будет подавлять креативность или задерживать запуски. В действительности, хорошо продуманные ограждения ускоряют безопасное развертывание и сокращают дорогостоящие доработки.

- Неясная структура собственности: управление часто распределяется между ИТ, юридическими службами и службами по обработке данных, что приводит к инертности.

- Отсутствие практических моделей: во многих организациях есть принципы высокого уровня, но им сложно воплотить их в повседневные процессы, особенно в разнообразных системах ИИ.

Цена провала управления: реальные последствия

Последствия неадекватного управления ИИ больше не являются теоретическими. В период с 2024 по 2025 год мы стали свидетелями нескольких громких провалов, которые продемонстрировали, как благие намерения без надежных структур управления могут привести к значительному вреду.

Иск Paramount о нарушении конфиденциальности (2025)

В начале 2025 года Paramount столкнулась с коллективным иском на 5 миллионов долларов за то, что якобы делилась данными о просмотрах пользователей с третьими лицами без их согласия. Основная причина? Невидимые потоки данных не попадают ни в один обзор управления, несмотря на заявленную компанией приверженность конфиденциальности.

Изменение утечки данных в сфере здравоохранения (2024)

Нарушение в Change Healthcare раскрыло миллионы записей пациентов и остановило платежные системы по всей стране. Расследования выявили отсутствие надзора за сторонними интеграциями и недостаточный контроль доступа к данным, сбои, которые надежное управление могло бы предотвратить.

Предвзятые алгоритмы оценки кредитоспособности (2024)

У крупного поставщика кредитного скоринга были обнаружены алгоритмы, которые систематически ставили в невыгодное положение определенные демографические группы. Компания вложила значительные средства в ИИ, но пренебрегла внедрением контроля для обеспечения справедливости или смягчения предвзятости.

Эти случаи показывают не провал технологий, а провал управления. В каждом случае организации отдавали приоритет внедрению технологий, а не созданию надежных структур управления. В то время как технологии развивались быстро, управление отставало, создавая уязвимости, которые в конечном итоге проявлялись в юридических, финансовых и этических проблемах.

Помимо соответствия: почему нормативно-правовой базы недостаточно

Нормативно-правовая база для ИИ существенно изменилась в 2024 и 2025 годах, и в мире появились различные подходы. Закон ЕС об ИИ официально вступил в силу в августе 2024 года, а его реализация была отложена с начала 2025 года. Его подход, основанный на оценке риска, классифицирует системы ИИ на основе их потенциального вреда, при этом приложения с высоким уровнем риска сталкиваются со строгими требованиями к прозрачности, человеческому надзору и документации.

Тем временем в Соединенных Штатах ландшафт регулирования резко изменился со сменой администрации. В январе 2025 года президент Трамп подписал указ 14179 «Устранение барьеров для американского лидерства в области искусственного интеллекта», который отменил ключевые федеральные политики надзора за ИИ, принятые предыдущей администрацией. Этот подход к дерегулированию делает акцент на отраслевых инновациях, а не на государственном надзоре.

Эти контрастные подходы подчеркивают критический вопрос: достаточно ли соблюдения нормативных требований для эффективного управления ИИ? Моя работа с организациями в обеих юрисдикциях показывает, что ответ — решительное нет.

Подходы, ориентированные только на соблюдение требований, имеют ряд ограничений:

- Они устанавливают минимальные стандарты, а не оптимальные практики

- Они часто отстают от технологических разработок

- Они могут не учитывать специфические для организации риски и варианты использования.

- Они сосредоточены на избежании штрафов, а не на создании ценности

Более надежный подход сочетает в себе соблюдение нормативных требований с принципами управления, которые могут адаптироваться к развивающимся технологиям и вариантам использования. Организации, которые приняли этот двойной подход, демонстрируют значительные преимущества в управлении рисками, скорости инноваций и доверии заинтересованных сторон.

Рассмотрим случай многонационального финансового учреждения, с которым я работал в начале 2025 года. Несмотря на то, что они работали в 17 юрисдикциях с разными правилами ИИ, они разработали единую структуру управления, основанную на таких основных принципах, как справедливость, прозрачность и подотчетность. Этот подход, основанный на принципах, позволил им поддерживать единые стандарты в разных регионах, одновременно адаптируя конкретные элементы управления к местным нормативным требованиям. Результатом стало более эффективное управление соответствием и большая уверенность в развертывании решений ИИ по всему миру.

Эффективное управление ИИ выходит за рамки соблюдения нормативных требований; оно закладывает основу для ответственных инноваций, которые укрепляют доверие клиентов, сотрудников и общества.

Создание эффективной структуры управления ИИ

Создание надежной структуры управления ИИ требует большего, чем создание еще одного комитета. Это требует продуманного дизайна, который уравновешивает надзор с операционной эффективностью.

В январе 2025 года Международная организация по стандартизации (ISO) и Международная электротехническая комиссия (IEC) выпустили ISO/IEC 42001 — первый международный стандарт, специально ориентированный на системы управления ИИ. Этот знаменательный стандарт предоставляет организациям комплексную основу для разработки, внедрения и поддержания эффективного управления ИИ.

На основе этого стандарта и моей работы с организациями, внедряющими структуры управления, ниже приведены ключевые компоненты эффективного управления ИИ:

Спонсорство и лидерство со стороны руководства

Управление начинается сверху. Согласно отчету McKinsey «Состояние ИИ 2025» , компании с управлением ИИ под руководством генерального директора значительно чаще сообщают о положительной финансовой отдаче от инвестиций в ИИ. Спонсорство руководства посылает четкий сигнал о том, что управление является стратегическим приоритетом, а не второстепенной задачей.

Это лидерство проявляется конкретными способами:

- Распределение ресурсов для управленческой деятельности

- Регулярный обзор ключевых показателей риска и эффективности управления

- Моделирование принятия ответственных решений по внедрению ИИ

Кросс-функциональное представление

Эффективное управление ИИ требует разнообразных точек зрения. Модель структуры комитета управления включает:

- Эксперты по правовым вопросам и соблюдению нормативных требований для рассмотрения нормативных требований

- Специалисты по этике оценят соответствие ценностям и общественное воздействие

- Специалисты по безопасности для оценки и снижения технических рисков

- Руководители бизнеса должны обеспечить соответствие управления стратегическим целям

- Технические эксперты, понимающие возможности и ограничения модели

Такой кросс-функциональный подход гарантирует, что управленческие решения учитывают различные точки зрения и опыт, что приводит к более надежным результатам.

Модели зрелости и системы оценки

Вместо того, чтобы рассматривать управление как бинарное состояние (присутствует или отсутствует), ведущие организации используют модели зрелости для руководства прогрессивным развитием. Типичная модель зрелости управления ИИ включает пять стадий:

- Начальный/Ситуативный: Реактивный подход с минимальными формальными процессами

- Развитие: основные процессы управления установлены, но применяются непоследовательно

- Определено: стандартизированные процессы с четкими ролями и обязанностями.

- Управляемый: Количественное измерение эффективности управления

- Оптимизировано: постоянное совершенствование на основе показателей производительности

Оценивая текущую зрелость и намечая путь к более высоким уровням, организации могут внедрять управление поэтапно, не пытаясь проводить комплексную реформу сразу.

Адаптировано к организационному контексту

Хотя рамки и стандарты обеспечивают ценную структуру, эффективное управление должно быть адаптировано к конкретному контексту вашей организации, включая:

- Отраслевые риски и требования

- Организационная культура и процессы принятия решений

- Зрелость ИИ и портфель вариантов использования

- Ограничения ресурсов и конкурирующие приоритеты

Поставщик медицинских услуг среднего размера, которого я консультировал, разработал оптимизированный процесс управления, специально ориентированный на защиту данных пациентов и поддержку клинических решений для двух приложений ИИ с самым высоким уровнем риска.

Создание эффективного управления не связано с созданием бюрократии; это создание правильных структур для обеспечения ответственных инноваций. При продуманном проектировании управление ускоряет развертывание ИИ, повышая уверенность в результатах и сокращая необходимость в доработке.

Этические рамки и механизмы контроля

Переход от абстрактных принципов к практической реализации — вот где многие усилия по управлению ИИ терпят неудачу. Ключевым моментом является перевод этических рамок в конкретные механизмы контроля, которые направляют ежедневные решения и операции.

Внедрение этики ИИ

Ведущие организации реализуют этические принципы через структурированные процессы, которые влияют на весь жизненный цикл ИИ. Ключевые подходы включают:

- Оценки этического воздействия: эти структурированные оценки, аналогичные оценкам воздействия на конфиденциальность, помогают выявлять и решать этические проблемы перед развертыванием. Обычно они изучают потенциальное воздействие на различные заинтересованные стороны, уделяя особое внимание уязвимым группам и пограничным случаям.

- Проектирование с учетом ценностей: этот подход включает этические соображения в сам процесс проектирования технологий, а не рассматривает этику как отдельную проверку соответствия. Рассматривая такие ценности, как справедливость, подотчетность и прозрачность с самого начала, команды создают более надежные системы с меньшим количеством этических слепых пятен.

- Советы по этике: Для высокорисковых приложений ИИ специальные советы по этике предоставляют экспертную оценку этических последствий. Эти советы часто включают внешних экспертов для включения различных точек зрения и оспаривания организационных предположений.

Требования к человеческому участию

Человеческий надзор остается критически важным для ответственного развертывания ИИ. Эффективные структуры управления определяют, когда и как люди должны быть вовлечены в системы ИИ, особенно для принятия важных решений.

Практическая структура «человек-в-контуре» учитывает:

- Влияние решений: решения с более высоким уровнем влияния требуют большего человеческого участия.

- Уверенность в модели: прогнозы с более низкой уверенностью требуют проверки человеком

- Крайние случаи: необычные сценарии, выходящие за рамки обычных моделей, привлекают внимание человека.

- Механизмы обратной связи: четкие протоколы, позволяющие людям корректировать или отменять решения ИИ.

Одна организация финансовых услуг, с которой я работал, внедрила многоуровневый подход к кредитным решениям. Их система ИИ автономно одобряла заявки с высокими оценками достоверности и четкими индикаторами одобрения. Заявки со средней достоверностью или смешанными индикаторами направлялись рецензентам-людям с рекомендациями ИИ. Наконец, необычные или высокорисковые заявки проходили полную человеческую проверку, а ИИ предоставлял только вспомогательный анализ. Этот подход сбалансировал эффективность с соответствующим человеческим надзором.

Постоянный мониторинг и обратная связь

Статическое управление быстро устаревает по мере развития систем ИИ и их операционной среды. Эффективное управление включает механизмы постоянного мониторинга и улучшения:

- Панели управления производительностью, отслеживающие ключевые показатели, такие как точность, справедливость и отзывы пользователей.

- Автоматические оповещения о необычных моделях или потенциальном дрейфе

- Регулярные обзоры поведения модели и результатов решений

- Четкие каналы для выражения обеспокоенности или жалоб заинтересованных сторон

Эти механизмы гарантируют, что управление будет реагировать на меняющиеся обстоятельства и возникающие риски.

Структуры подотчетности

Для эффективного управления необходима четкая подотчетность. Это включает в себя:

- Определенные роли и обязанности по разработке, развертыванию и мониторингу ИИ

- Требования к документации, создающие контрольный след для решений

- Протоколы реагирования на инциденты для решения проблем по мере их возникновения

- Последствия обхода требований управления

Без подотчетности даже хорошо продуманные структуры управления могут превратиться в показное соответствие, а не в содержательное управление рисками.

Организации, которые преуспевают в этичном внедрении ИИ, не рассматривают этику как отдельную проблему от технического развития. Вместо этого они интегрируют этические соображения на протяжении всего жизненного цикла ИИ, подкрепленные конкретными процессами, инструментами и механизмами подотчетности.

Практические шаги по внедрению: от теории к практике

Переход от теории управления к эффективной реализации требует прагматичного подхода, признающего организационные реалии. Вот практические шаги по внедрению управления ИИ на основе успешных моделей, которые я наблюдал:

Начните с малого и сосредоточьтесь

Вместо того, чтобы пытаться реализовать комплексное управление всеми инициативами ИИ одновременно, начните с целенаправленной пилотной программы. Выберите конкретный вариант использования ИИ с умеренным риском и стратегической важностью, достаточно высокими ставками, чтобы иметь значение, но не настолько критичными, чтобы неудача стала катастрофической.

Такой подход позволяет:

- Тестирование процессов управления в контролируемой среде

- Демонстрируйте ценность скептически настроенным заинтересованным сторонам

- Уточнение подходов перед более широким внедрением

- Развивайте внутреннюю экспертизу и чемпионов

Например, розничная организация, которую я консультировал, начала с управления для своего ИИ-рекомендателя продуктов, важной, но не критически важной для миссии системы. Это позволило им решить проблемы управления, прежде чем браться за более чувствительные приложения, такие как обнаружение мошенничества или оценка эффективности работы сотрудников.

Создавайте кросс-функциональные команды с четкими ролями

Эффективное управление требует сотрудничества между дисциплинами, но без четких ролей и обязанностей кросс-функциональные команды могут превратиться в неэффективные говорильни, а не органы принятия решений.

Определите конкретные роли, такие как:

- Председатель правления: контролирует процесс управления и содействует принятию решений.

- Владелец риска: отвечает за выявление и оценку потенциального вреда.

- Связь по вопросам соответствия: обеспечивает соответствие нормативным требованиям

- Технический рецензент: оценивает техническую реализацию и контроль.

- Сторонник бизнес-ценностей: представляет бизнес-цели и потребности пользователей.

Уточните, какие решения требуют консенсуса, а какие могут быть приняты отдельными лицами, исполняющими роли. Этот баланс предотвращает как аналитический паралич, так и односторонние решения по важным вопросам.

Используйте визуальные фреймворки и инструменты

Визуальные инструменты могут значительно улучшить реализацию управления, делая абстрактные концепции конкретными и доступными. Ключевые визуальные фреймворки включают:

- Тепловые карты оценки рисков ИИ: эти визуализации отображают потенциальные риски ИИ на основе вероятности и воздействия с цветовой кодировкой для обозначения серьезности. Они помогают расставить приоритеты внимания руководства по наиболее существенным проблемам.

- Панели показателей зрелости управления: визуальные представления показателей зрелости управления по различным измерениям помогают организациям отслеживать прогресс и выявлять области для улучшения.

- Расширенные облачные инструменты: такие платформы, как Amazon Bedrock Guardrails, SageMaker Clarify и FmEval, поддерживают обнаружение предвзятости, проверки безопасности и объяснимость. Автоматизированные конвейеры CI/CD и мониторинг (например, CloudWatch) гарантируют, что управление встроено в развертывание.

Эти визуальные инструменты не только улучшают понимание, но и облегчают общение между техническими и нетехническими заинтересованными сторонами, что является важнейшим фактором успеха при внедрении управления.

Примите прогрессивную зрелость

Внедряйте управление поэтапно, постепенно увеличивая сложность по мере того, как ваша организация наращивает возможности и комфорт. Поэтапный подход может выглядеть следующим образом:

- Основа: создание базового перечня систем ИИ и структуры оценки рисков.

- Стандартизация: разработка последовательных процессов управления и документации.

- Интеграция: внедрение управления в рабочие процессы разработки и процессы принятия решений.

- Измерение: Внедрение показателей для отслеживания эффективности управления.

- Оптимизация: постоянное совершенствование на основе данных о производительности и отзывов.

Этот прогрессивный подход не позволяет идеальному стать врагом хорошего. Вместо того, чтобы откладывать управление до тех пор, пока не будет внедрена всеобъемлющая система (что случается редко), вы можете начать получать выгоды немедленно, одновременно продвигаясь к более сложным подходам.

Практический пример от специалистов DST Global: внедрение управления финансовыми услугами

В начале 2025 года среднее по размеру финансовое учреждение внедрило систему управления на основе искусственного интеллекта, используя этот прогрессивный подход. Они начали с пилотного проекта по модели прогнозирования оттока клиентов, которая была достаточно важна, чтобы оправдать внимание руководства, но не принимала непосредственного участия в принятии решений о кредитовании.

Последовательность их реализации:

- Создан простой комитет по управлению с представителями науки о данных, соответствия требованиям, клиентского опыта и информационной безопасности.

- Разработан базовый шаблон оценки рисков специально для систем искусственного интеллекта, ориентированных на клиентов.

- Установлены ежемесячные обзоры эффективности модели с учетом показателей справедливости

- Внедрили механизм обратной связи с клиентами для выявления потенциальных проблем

- Постепенное расширение управления на дополнительные варианты использования ИИ с использованием уроков, полученных в ходе пилотного проекта

В течение шести месяцев они создали процессы управления, охватывающие 80% их портфеля ИИ, с явным снижением рисков и повышением доверия заинтересованных сторон. Начав с малого и сосредоточившись на практической реализации, а не на идеальном дизайне, они достигли значимого прогресса там, где предыдущие инициативы управления застопорились на этапе планирования.

Главный урок: Идеальное управление, реализованное когда-нибудь, гораздо менее ценно, чем хорошее управление, реализованное сегодня. Начните там, где вы находитесь, используйте то, что у вас есть, и постепенно наращивайте возможности.

Заключение

Разрыв между намерениями управления ИИ и реальными результатами — это больше, чем проблема соответствия, это императив бизнеса. Как показывают недавние неудачи, стоимость недостаточного управления можно измерить судебными исками, потерей доверия и операционным хаосом. Но решение заключается не в замедлении инноваций, а в создании структур управления, которые обеспечивают ответственное масштабируемое развертывание.

Начните с малого, создайте кросс-функциональные команды, используйте визуальные и автоматизированные инструменты и прогрессируйте итеративно. Организации, которые освоят и «почему», и «как» управления ИИ, не только избегут вреда — они возглавят следующую волну устойчивых инноваций ИИ.