Пересечение искусственного интеллекта и управления IT-контрактами

Команда VK Cloud перевела расшифровку подкаста Harvard Business Review HBR IdeaCast. В нем Сундар Пичай, генеральный директор Google и его родительской компании Alphabet, рассказывает о генеративном ИИ и других вопросах, касающихся искусственного интеллекта и развития крупных ИТ-компаний в будущем. Сделали краткую выжимку из этого подкаста и делимся с вами.

Роль генеративного ИИ в работе людей

Сегодня все вокруг говорят о генеративном ИИ. Но как воспринимать на рабочем месте возможности GenAI, которые есть уже сейчас и, может быть, появятся в ближайшем будущем?

Проще всего представлять ИИ своим помощником. Программисты часто занимаются парным программированием. Мы выяснили, что два программиста вместе работают лучше, чем каждый по отдельности. Теперь представьте, что ИИ — ваш второй программист, финансовый аналитик или еще какой-то специалист. Вот направление развития, и это развитие мы как раз и наблюдаем.

Именно это происходит в программировании. Но и наши клиенты, например, Deutsche Bank, сейчас используют генеративный ИИ как помощника финансовых аналитиков. Представьте себе рентгенологов, изучающих рентгеновские снимки, и ИИ, который им помогает: рассортировывает для них данные в пайплайне, выдвигает предположения, если они что-то пропустили, и т. п.

Мультимодальные ИИ

Мы все создаем современные модели генеративного ИИ. Модель и рабочее решение, которые мы уже запустили и используем для своих продуктов, называется PaLM 2. Модель нового поколения, над которой мы работаем в нашем новом подразделении Google DeepMind, называется Gemini. Сегодня у нас есть модели, которые создают тексты, модели, которые создают изображения, и так далее. Но следующее поколение моделей будет мультимодальным. Они обучаются на разных модальностях: тексте, изображениях, аудио, может быть еще видео, и поэтому могут выдавать результаты в каждой модальности.

Что это означает? Например, вы говорите: напиши мне сочинение на эту тему. Модель не только напишет сочинение, но еще добавит к нему картинки, — она все это сможет генерировать. Или, допустим, вы хотите испечь пирог и спрашиваете рецепт. Она не просто выдаст вам текст, но и покажет картинки. И нам в Gemini нравится именно сама идея мультимодальности.

Использование моделями инструментов — еще одно направление развития, над которым мы все работаем. Человек все время использует разные инструменты. Вы берете калькулятор, печатаете в текстовом редакторе. Если вам нужно что-то узнать, вы это загуглите. И мы учим эти модели понимать, что в мире есть инструменты, которые можно использовать, если пользователю нужна помощь.

Интересный опыт использования генеративных ИИ

Мы в компании создали Lambda, виртуального собеседника на базе этих больших языковых моделей. Я с ним разговаривал. Мы придумывали для него разных персонажей. Например, можно было попросить его вести себя как планета Плутон и подолгу с ним беседовать. Отличный инструмент обучения. Фактически мы с сыном довольно много с ним разговаривали. От него можно было узнать много интересного о солнечной системе, задавать ему вопросы, но в какой-то момент во время беседы с Плутоном я вдруг почувствовал себя очень-очень одиноко. Диалог постепенно окрасился в мрачные тона. Это был первый опыт, который меня встревожил и показал мне, что в принципе возможно, как ИИ может влиять на человека.

Кстати, в этом есть смысл: вполне может быть, что модель пытается думать как Плутон. Плутон находится в холодном дальнем уголке вселенной. Так что неудивительно, что он начал перенимать некоторые свойства этого персонажа. Это был мой первый опыт, но не единственный.

Многие из нас стремятся встроить в решения системы безопасности: прежде чем сделать модель общедоступной, мы добавляем в решение определенный уровень ответственности. Это одна из причин, по которой Google придерживается достаточно консервативного подхода, учитывая масштаб наших решений для пользователей.

Осторожность в создании искусственного интеллекта

Кажется, что Google более консервативен, чем некоторые компании, которые ринулись создавать ИИ-ботов, как их правильно ни назови, с довольно большой скоростью. Я имею в виду, что все это произошло буквально в считанные месяцы. Как же находить компромисс между потребностью оставаться на рынке, выпускать продукты, необходимостью создавать инновации и той осторожностью, о которой шла речь выше?

Мы знаем, что в этой сфере не обойтись без компромиссов и противоречий, так что мы создаем определенные рамки внутри компании. При этом мы хотим делать инновации. Можно открыть миру удивительные возможности, и мы хотим смело разрабатывать инновационные технологии. Смело, но правильно. Мы готовы нести ответственность за то, что мы делаем. В нашем подходе объединяются смелость, ответственность и понимание установленных рамок. Именно так мы относимся к тому, что делаем.

Мы не стремимся всегда быть первыми. Мы стремимся делать все правильно. Мы работаем с интересом и ускоряемся, чтобы продвигаться вперед, но сбавляем обороты, чтобы добавить «подушку безопасности». Мы ведь предоставляем сторонним пользователям ранний доступ к продуктам, чтобы они могли протестировать решение и дать нам обратную связь.

Все это важно. Именно это надо встраивать в компанию, чтобы аккуратно обойти острые углы и в то же время их сглаживать. У нас недавно прошла крупнейшая конференция разработчиков, где мы рассказывали о работе над искусственным интеллектом, которой мы занимаемся. Мы хотим сделать ИИ помощником для всех, кто пользуется нашими продуктами. Мы уже включили генеративный ИИ в 25 наших продуктов, в том числе Gmail, Google Docs, интернет-поиск, YouTube и так далее. Повторюсь: мы хотим действовать смело и ответственно одновременно.

Что такое «подушка безопасности» в создании искусственного интеллекта

Тут позвольте привести несколько примеров. Один пример — адверсариальное тестирование. Мы создаем модель и тут же пытаемся сломать ее, понимаете? У нас есть рабочие группы специалистов по безопасности, есть так называемые красные команды, основная задача которых — ломать эти модели всеми возможными способами. После разработки модели попадают к этим командам, которые проводят их испытания. Потом мы начинаем новую итерацию, в ходе которой модели становятся гораздо лучше. Вот один пример.

Другой пример: мы как раз сейчас добавляем в модели водяные знаки и метаданные. Возьмем изображения, созданные искусственным интеллектом. Я думаю, показать, что эти изображения созданы генеративным ИИ, — это ответственный подход к работе.

С помощью водяных знаков другие системы смогут определять, что эти изображения созданы генеративным ИИ, а метаданные помогут выяснить, когда, кем было создано это изображение и т. п. Так что сейчас мы разрабатываем такие технологии и проводим исследования, чтобы подготовить эти функции к моменту, когда мы выпустим наши решения. Вот что можно сделать в плане безопасности и ответственности.

Как компаниям подходить к обучению и адаптации нетехнического персонала в рамках стратегии перехода на генеративный ИИ

Каждой компании важно найти возможные сценарии использования ИИ и внедрять их в свои рабочие процессы. Один интересный момент, связанный с этими моделями, — это то, что мы называем доработкой. Базовые модели можно доработать для своей компании, исходя из данных, которые у вас имеются. И тогда они начнут отлично работать в вашем контексте. Так что нужно задуматься об их развертывании в конкретном контексте.

Это не так уж сложно. Например, мы встраиваем их в инструменты для повышения производительности, скажем, Google Docs, Google Slides или Google Sheets; другие компании делают то же самое. Представьте, что ваши сотрудники привыкли использовать ИИ в качестве помощника. Чтобы сотрудники адаптировались к переменам в компании, важно изменить менталитет.

Я бы начал с этого. Это важно для любой организации, начиная с высшего руководства. Надо продумать, какие области можно трансформировать, внедрив генеративный ИИ. Лично мне было очень интересно.

На прошлой неделе мы анонсировали инновации в компании Wendy: они используют генеративный ИИ для приема заказов в автокафе. Клиенты озвучивают заказ, не выходя из машины, и система эти заказы принимает. Модель знает, что люди могут говорить совершенно по-разному. Они используют систему на базе ИИ, чтобы повысить эффективность своего рабочего процесса. Компания применяет генеративный ИИ, это нравится ее клиентам, и сотрудники адаптируются к новой системе. В использовании искусственного интеллекта нет предела совершенству. Движение в этом направлении уже началось.

Как применить ИИ в своей компании

Сегодня ведь многие компании пользуются услугами облачных провайдеров. И я думаю, для начала надо обратиться к поставщику облачных сервисов. Люди слишком много думают о том, как начать. Буквально, речь о том, чтобы внедрить в организации четыре-пять пилотных идей. Руководство компании ставит перед сотрудниками задачу: найти, где можно применить генеративный ИИ, а затем запускает в работу несколько пилотных предложений. Так организация начинает об этом думать. Это примерно как новая мышечная память, которую надо развить. И эти перемены сопровождаются трансформацией корпоративной культуры. Просто надо поставить задачу перед командами и руководителями и получить от них несколько пилотных идей.

При всех преимуществах применение ИИ связано и с различными рисками. Рассмотрим некоторые из них.

Неверный подбор модели и настроек. В некоторых случаях ИИ может выдавать неточный или ошибочный результат. Например, если сама модель подобрана без учета задач и специфики компании, при настройке выбраны неподходящие значения, не учтены SLA и другие особенности.

Зависимость от данных. Точность результатов, которые выдает ИИ, во многом обусловлена качеством и полнотой обучающих данных и тех, что поступают в систему. Например, можно получить неудовлетворительный результат, если в компании мало информации об активах, их характеристиках и состоянии или же в систему поступают неочищенные и нестандартизированные данные.

Технологические сложности. ИИ — это инструмент, который не заменяет человека, а помогает ему. Чтобы инструмент приносил пользу, его нужно настроить, контролировать и использовать информацию для дальнейших решений. Также для работы с ИИ сотрудникам потребуются специальные компетенции, которым нужно обучаться дополнительно.

Чтобы не столкнуться с типовыми рисками, лучше внедрять такие автоматизированные инфраструктурные решения, где уже содержатся встроенные функции ИИ и есть практика настройки бизнес-кейсов под различные задачи. Дополнительным преимуществом будет, если разработчик ПО имеет собственный центр компетенций в вопросах искусственного интеллекта.

В этом случае использование ИИ и машинного обучения в управлении ИТ-активами не только повысит операционную эффективность, но и поможет добиться стратегической гармонизации управления инфраструктурой с целями компании, способствуя общей конкурентоспособности и росту бизнеса.