Комментарии

Добрый день! Как я понимаю, обеспечить оперативную обратную связь человека с веб-сервисом позволяет Диалоговый ИИ верно? О Диалоговом ИИ сейчас нет почти никакой информации, можете рассказать по подробнее

Кстати Макс Липовецкий, директор по продукту Cyara, объяснил, что может произойти в 2024 году с точки зрения основных технологических прогнозов (источник): генеративный ИИ заменит диалоговый ИИ на основе NLU*. Бизнес-организации будут уделять приоритетное внимание качеству обслуживания клиентов, а не инвестициям в миграцию в облако.

NLU (Natural Language Understanding) — это технология, которая позволяет компьютерам понимать и анализировать естественный язык. Она используется в различных приложениях, таких как чат-боты, голосовые помощники и системы автоматического ответа на вопросы. NLU включает в себя различные методы обработки языка, такие как распознавание речи, анализ текста и генерация ответов.

Липовецкий считает, что 2024 год станет годом революционного перехода от технологии NLU к генеративному ИИ.

Основное различие между генеративным ИИ (GAI) и диалоговым ИИ (CAI) заключается в том, что генеративный ИИ создает оригинальный контент по запросу, в то время как разговорный ИИ специализируется на поддержании аутентичного и полезного двустороннего взаимодействия с людьми, понимая и отвечая в текстовой или устной форме.

Липовецкий заявляет: «Хотя боты NLU изначально казались многообещающими, их ограничения и особенно стоимость развертывания и обслуживания стали очень очевидными недостатками. Акцент будет смещен в сторону более глубокой интеграции моделей большого языка (LLM*) в диалоговый искусственный интеллект, что значительно повысит удовлетворенность клиентов, уменьшит время простоя при развертывании, значительно улучшит окупаемость инвестиций в веб-сервис».

NLU позволяет компьютерам понимать чувства, выраженные на естественном языке, используемом людьми, например английском, французском или китайском, а возможность объединить это с генеративным искусственным интеллектом призвана изменить путь развития коммуникационных технологий.

«Это ознаменует эпоху беспрецедентных инноваций, направленных на изменение способа взаимодействия клиентов с продуктами и услугами. Мы можем ожидать всплеска творческих стратегий и новых подходов для улучшения качества обслуживания клиентов, преодолевая ограничения, наложенные на этапе миграции в облако».

Одним из примеров Генеративного ИИ является генеративно-состязательная сеть (GAN), которая состоит из двух частей: генератора и дискриминатора. Генератор создает новые данные, а дискриминатор пытается отличить их от настоящих. В процессе обучения генератора и дискриминатора их навыки улучшаются, и в результате генератор может создавать очень реалистичные данные.

Генеративный ИИ позволяет создавать уникальных контент для веб-сервисов:

— Компьютерное зрение: Генеративный ИИ используется для генерации изображений, которые могут быть использованы для обучения моделей компьютерного зрения.
— Обработка естественного языка: Генеративный ИИ может использоваться для генерации текста, который может быть использован для обучения моделей обработки естественного языка.
— Генерация видео: Генеративный ИИ может генерировать видео, используя различные методы, такие как генерация кадров или генерация видео последовательностей.
— Дизайн: Генеративный ИИ может помочь дизайнерам создавать новые идеи и концепции.

Generative AI также позволяет развернуть на базе веб-сервиса некоторый функционал:

— Безопасность: обнаружение и предотвращение кибератак.
— Образование: создание персонализированных образовательных программ и материалов.
— Медицина: создание персонализированных медицинских препаратов и методов лечения.
— Финансы: анализ финансовых рынков и прогнозирование цен на акции.
— Музыка: ИИ может создавать музыку, используя различные алгоритмы генерации.

Примеры Генеративного ИИ включают в себя:

— GAN (Генеративно-состязательные сети);
— Автокодировщики;
— Порождающие латентно-семантические анализаторы (PLSA);
— Порождающие рекуррентные нейронные сети (RNN).

DST Platform это система управления контентом (CMS) на базе искусственного интеллекта, которая сочетает в себе мощь искусственного интеллекта с передовыми функциями для создания комплексного решения по управлению контентом.

Ключевые особенности

Гибкая структура контента:
DST Platform предлагает гибкую структуру контента с настраиваемыми полями и вложенными моделями, что позволяет пользователям создавать структуру контента, соответствующую их конкретным потребностям.

Чатбот на базе искусственного интеллекта:
Встроенный чат-бот обеспечивает поддержку в режиме реального времени, отвечая на вопросы пользователей и направляя их в процессе управления контентом.

Генерация изображений:
Возможности искусственного интеллекта DST Platform позволяют генерировать высококачественные изображения на основе заданных пользователем параметров, исключая необходимость использования внешних источников изображений.

Масштабируемый API:
DST Platform предоставляет масштабируемый API, позволяющий осуществлять расширенный поиск и манипулирование данными, облегчающий интеграцию с другими системами и позволяющий автоматизировать рабочие процессы.

Эффективное управление контентом:
Функции DST Platform, основанные на искусственном интеллекте, повышают эффективность задач по управлению контентом, облегчая его создание, организацию и работу с ним.

Примеры использования

Разработка сайтов и приложений: DST Platform может использоваться как мощная CMS для создания и управления контентом для веб-сайтов и приложений, с дополнительными преимуществами в виде функций искусственного интеллекта и генерации изображений.
Производство и управление контентом: Гибкая структура контента DST Platform и чатбот с поддержкой искусственного интеллекта позволяют оптимизировать рабочие процессы по созданию и управлению контентом, повышая производительность и удобство работы пользователей.
Интеграция и автоматизация: Масштабируемый API, предоставляемый DST Platform, обеспечивает бесшовную интеграцию с другими системами, позволяя автоматизировать рабочие процессы и расширить возможности поиска и манипулирования данными.

DST Platform сочетает в себе преимущества искусственного интеллекта и передовые функции управления контентом, предоставляя пользователям комплексное решение для эффективного управления контентом с использованием искусственного интеллекта.

Конечно нашей компании не нужен встроенный ИИ в систему управления, но в будущем вполне возможно, у меня вопрос, наш сайт на ДСТ Платформ имеет полную интеграцию с искусственным интеллектом? А также кроме контента и чата в чем он может быть еще полезен?

Работаем в DST CRM уже несколько лет, отличная и очень удобная система

Для приоритетного размещения и его брендированного подвида необходимо создать профиль компании в Яндекс Бизнесе и подключить Рекламную подписку. Права на организацию нужно будет подтвердить по телефону, дождавшись звонка оператора или бота. Сетевым компаниям нужно создать карточки для всех филиалом и связать их в сеть.

Профиль в Яндекс Бизнесе также необходим, чтобы размещать пины, баннеры, билборд и рекомендацию на маршруте. Информацию о физическом местонахождении точек продаж и категории бизнеса рекламный алгоритм берет именно из профиля. А вот размещать и оплачивать эти форматы можно только через платформу Яндекс Геореклама.

Подытожим, какие действия следует предпринять пошагово, чтобы разместить рекламу в геосервисах:

— Оформите профиль компании со всеми филиалами в Бизнесе, подтвердить права;

— Зарегистрируйтесь от имени этой же организации в Георекламе;

— Для приоритетного размещения и брендированного приоритетного размещения оплатите рекламную подписку Яндекс Бизнеса. Учтите: в нее по умолчанию также входит реклама на поиске и в РСЯ! Если вам не нужны эти площадки, или вы уже размещаетесь на них через Яндекс Директ, отключите их до расчета бюджета.

— Для размещения баннеров, пинов, билборда, рекомендации зайдите в Яндекс Георекламу.

— Выберите формат, настроить таргетинги, посмотрите, какой бюджет рассчитает платформа.

— Если все устраивает, оплатите размещение.

Спасибо за ответ, а как тогда лучше подключить рекламу на Яндекс Картах?

Размещение георекламы имеет ряд преимуществ, которые можно получить только с ней. Так, для автомобилистов реклама в Навигаторе заметнее и лучше привлекает внимание, чем офлайн-билборды и плакаты вдоль автотрасс. Так как баннер транслируется в движущейся машине, а не остается на обочине дороге, время просмотра его не лимитировано скоростью проезда.

Форматы георекламы универсальны. Они могут использоваться на разных этапах воронки и закрывают основные потребности пользователей, которые пользуются геосервисами.

Отсутствие эффекта баннерной слепоты. Пока что геомедийные форматы воспринимаются как нативная часть интерфейса.

Удобные таргетинги для офлайн-бизнеса. Помимо традиционного нацеливания по геолокации, полу, возрасту, интересам можно, например, настроить показ рекламы в часы работы офлайн-точки продаж, указанные в профиле Яндекс Бизнеса.

Рекламу в геосервисах можно использовать для ретаргетинга, возвращая тех, кто уже заходил физически, ведя повторные продажи.

Отслеживание статистики. В зависимости от формата рекламы вы будете получать статистику по ней в кабинете Яндекс Бизнеса или Яндекс Георекламы – там, где вы ее настраивали. Если на сайте установлен счетчик Яндекс Метрики, можно использовать UTM-метки, чтобы собирать статистику по переходам на страницы из георекламы. При наличии подменного номера будут получены данные по звонкам из объявлений.

А тогда чем геомедийная реоклама отличается от других видов?

Реклама на Яндекс Картах позволяет охватить и заинтересовать потенциальных клиентов, пока они планируют маршруты, гуляют или едут по делам. Так компания получает новую аудиторию, узнаваемость, возможность выделиться среди конкурентов и повысить продажи.

Яндекс Карты помогают строить маршруты на карте и находить информацию о фактическом размещении домов и сооружений, культурных объектов и организаций. Сервис доступен в браузере и в приложении Яндекс Go.

По данным Яндекса, Картами в десктопной версии ежемесячно пользуются 24 млн человек, а в мобильной — 38 млн человек. 75% совокупной аудитории геосервисов Яндекса — Карт, Навигатора и Метро — платежеспособные пользователи, которые путешествуют, водят личный автомобиль, часто заказывают товары онлайн и офлайн.

Охватить часть этой аудитории можно бесплатно — достаточно разместить компанию на Яндекс Картах и пользователи увидят ее при просмотре локации, где эта компания расположена. Но если важно привлечь больше трафика и быть заметнее конкурентов, стоит подключить георекламу.

Если вам нужно давать рекламу за пределами России, то никаких проблем с ведением нет. Нужно только разобраться с тем, как пополнять баланс. И тут есть 2 пути:

— Зарубежный клиент сам пополняет баланс.

— Оформить карту в ближнем зарубежье.

Главное понимать, что вы охватываете зарубежных клиентов на русском языке. То есть ваш продукт должен подходить им — это может быть интернет-магазин, сервис, курсы-, онлайн-услуга и т. д. Для рекламы салона красоты в конкретном районе РФ Google Ads сейчас плохо подходит.

Если вам нужно давать рекламу за пределами России, то никаких проблем с ведением нет. Нужно только разобраться с тем, как пополнять баланс. И тут есть 2 пути:

— Зарубежный клиент сам пополняет баланс.

— Оформить карту в ближнем зарубежье.

Главное понимать, что вы охватываете зарубежных клиентов на русском языке. То есть ваш продукт должен подходить им — это может быть интернет-магазин, сервис, курсы-, онлайн-услуга и т. д. Для рекламы салона красоты в конкретном районе РФ Google Ads сейчас плохо подходит.

Последние годы всех запутали. К нам постоянно приходят клиенты с вопросами: Google Ads все же работает или нет? Запрещен ли? А как оплачивать рекламу? А эффективно ли это вообще?

Начнем с последнего вопроса — про эффективность. Дальше поговорим про способы оплаты рекламы в Google Ads и запреты. И, наконец, дадим советы, как работать в Google Ads в 2025 году.

Три аргумента, почему не стоит отказываться от Google Ads, даже если у вас только российская аудитория

Аргумент первый: только в ноябре 2023 года, по данным Mediascope, Google.com охватывал 81,5% населения России, Youtube — 78,1%. Оба эти ресурса входят в топ-5 самых посещаемых веб-сайтов, и реклама в них настраивается с использованием Google Ads. Здесь даже приостановка рекламы для российских рекламодателей и пользователей мало что изменила.

Аргумент второй, связанный с точностью таргетинга и качеством пользовательского опыта в Google. Реклама работает хорошо в первую очередь в тех платформах, где есть рекомендательные системы — модели машинного обучения. Если сильно упростить, о чем это: чем больше данных о поведении пользователей платформа собрала, тем она эффективнее. Учитывая, сколько человек сегодня пользуются Google по всему миру, мы можем говорить о самом точном таргетинге среди рекламных платформ в мире.

Рекомендательные системы могут также помочь в определении оптимального времени для показа рекламы или выборе наиболее подходящего формата и места размещения рекламных объявлений. Кроме того, рекомендательные системы могут использовать машинное обучение для обработки больших объемов данных и поиска более точных паттернов поведения пользователей.

Аргумент третий: конкуренция в Google Ads сейчас значительно ниже, чем до того, как Google Ads приостановил рекламу для российских рекламодателей и пользователей, поэтому вероятность конверсии выше.

Но разве Google Ads не запрещен? Его ведь нельзя оплатить

Нет, Google Ads в России не запрещен, как и поисковик Google: решение о приостановке работы рекламной системы в России приняла сама компания. Она озвучила его в марте 2022 года. Позже, летом 2023 года, Google приостановил показ объявлений российских рекламодателей на ресурсах и в сетях Google по всему миру.

Оплатить рекламу в Google Ads и запустить кампании можно, если завести аккаунт, привязанный к зарубежному счету. Для агентств и фрилансеров в таком случае клиент с зарубежным счетом сам пополняет баланс. Для инхаус-исполнителей надо оформить счет в иностранном банке.

Гугл ушел из России, но по-прежнему есть способы обойти блокировки и рекламироваться на РФ и весь мир. К тому же, по словам клиентов, из-за снижения числа рекламодателей цены во многих нишах упали в разы.

Обойти ограничения просто, достаточно перейти на подтвержденный иностранный аккаунт (зарегистрированный вне РФ). При переходе можно получить дополнительные 500$ на баланс и рекламировать российские сайты. Но обо всем по порядку.

Можно рекламировать российские компании, в том числе с региональными доменами .ru/.рф и офисами в России.

Рекламу на аудиторию из российских регионов прямо не запустить, но можно показывать рекламу всем, кто использует VPN, прокси или специальный софт для маскировки или смены ip, а также продолжать рекламироваться по всему миру. Гугл по-прежнему самая крупная рекламная площадка в мире, поэтому рекомендуем любому бизнесу проверять своих клиентов в Гугл.

Как сейчас пополнять рекламный кабинет

Многие уже выпустили зарубежные карты, с них можно напрямую оплачивать аккаунт Гугл Рекламы без комиссии. Обратите внимание: карта не должна быть связана с заблокированными Google профилями.

Если карты еще нет, ее можно выпустить из дома в одном из множества сервисов (Capitalist, LeadingCard, Pyypl, Zambulay, EPN и множеств других).

Баланс карт можно пополнить как через криптовалюты, так и через Swift перевод, или напрямую с российской карты. Все зависит от выбранного банка/сервиса.

За переводы из России может взиматься небольшая комиссия, зато внутри рекламного кабинета вы постоянно экономите +20% (В иностранных аккаунтах не списывают НДС). Вы напрямую пополняете аккаунт, поэтому нет никаких дополнительных комиссий и скрытых платежей.

Как подтвердить личность

Подтверждение личности требуют и на всех агентских аккаунтах (например, Elama, Click.ru и ProfitAds). Без подтверждения иностранного лица аккаунт блокируется.

Сейчас для любой рекламы в Гугл требуется подтверждать личность рекламодателя. Даже если аккаунт открыт за рубежом или через специальный сервис, с российским гражданством проверку отклонят, а аккаунт заблокируют. Поэтому если у вас есть иностранное юридическое или физическое лицо, сразу оформляйте аккаунт на него.

Если такой возможности нет Вы можете заказать услугу смены и подтверждения личности на Вашем аккаунте или воспользуйтесь уже готовым аккаунтом с подтверждением. Он уже оформлен на иностранное лицо, на нем нет НДС, и при запросе Гугл мы бесплатно подтверждаем личность. К тому же, вместе с аккаунтом вы получите для него промокод. Не часто, но бывают аккаунты с промокодом на 500$ или 300€. Уточняйте наличие промокодов.

Нужно ли использовать антидетект браузер и VPN?

Для запуска рекламы не нужен специальный антидетект браузер или VPN. Чтобы избежать подозрительных действий, мы рекомендуем заходить с основного браузера и домашнего IP (в том числе с IP РФ). Можно добавить новый аккаунт в браузер, где уже есть старый Гугл аккаунт на Россию.

Это безопасно?

Мы работаем с аккаунтами уже более 7 лет и помогли уже тысячам клиентов. Через наши представительства мы находим людей, готовых предоставить свой аккаунт и проходить все необходимые проверки. Вы получаете полный административный доступ к аккаунту иностранного фрилансера, где можете самостоятельно настраивать рекламу и ограничить доступ всем, кроме Вас.

Подведем итог

Учитывая снижение конкуренции в Гугл Рекламе и бонусные 500$ (55 т.р.) на баланс, сейчас отличное время запустить рекламу в GA. К тому же, сейчас сделать это просто, как никогда.

Гугл ушел из России, но по-прежнему есть способы обойти блокировки и рекламироваться на РФ и весь мир. К тому же, по словам клиентов, из-за снижения числа рекламодателей цены во многих нишах упали в разы.

Обойти ограничения просто, достаточно перейти на подтвержденный иностранный аккаунт (зарегистрированный вне РФ). При переходе можно получить дополнительные 500$ на баланс и рекламировать российские сайты. Но обо всем по порядку.

Можно рекламировать российские компании, в том числе с региональными доменами .ru/.рф и офисами в России.

Рекламу на аудиторию из российских регионов прямо не запустить, но можно показывать рекламу всем, кто использует VPN, прокси или специальный софт для маскировки или смены ip, а также продолжать рекламироваться по всему миру. Гугл по-прежнему самая крупная рекламная площадка в мире, поэтому рекомендуем любому бизнесу проверять своих клиентов в Гугл.

Как сейчас пополнять рекламный кабинет

Многие уже выпустили зарубежные карты, с них можно напрямую оплачивать аккаунт Гугл Рекламы без комиссии. Обратите внимание: карта не должна быть связана с заблокированными Google профилями.

Если карты еще нет, ее можно выпустить из дома в одном из множества сервисов (Capitalist, LeadingCard, Pyypl, Zambulay, EPN и множеств других).

Баланс карт можно пополнить как через криптовалюты, так и через Swift перевод, или напрямую с российской карты. Все зависит от выбранного банка/сервиса.

За переводы из России может взиматься небольшая комиссия, зато внутри рекламного кабинета вы постоянно экономите +20% (В иностранных аккаунтах не списывают НДС). Вы напрямую пополняете аккаунт, поэтому нет никаких дополнительных комиссий и скрытых платежей.

Как подтвердить личность

Подтверждение личности требуют и на всех агентских аккаунтах (например, Elama, Click.ru и ProfitAds). Без подтверждения иностранного лица аккаунт блокируется.

Сейчас для любой рекламы в Гугл требуется подтверждать личность рекламодателя. Даже если аккаунт открыт за рубежом или через специальный сервис, с российским гражданством проверку отклонят, а аккаунт заблокируют. Поэтому если у вас есть иностранное юридическое или физическое лицо, сразу оформляйте аккаунт на него.

Если такой возможности нет Вы можете заказать услугу смены и подтверждения личности на Вашем аккаунте или воспользуйтесь уже готовым аккаунтом с подтверждением. Он уже оформлен на иностранное лицо, на нем нет НДС, и при запросе Гугл мы бесплатно подтверждаем личность. К тому же, вместе с аккаунтом вы получите для него промокод. Не часто, но бывают аккаунты с промокодом на 500$ или 300€. Уточняйте наличие промокодов.

Нужно ли использовать антидетект браузер и VPN?

Для запуска рекламы не нужен специальный антидетект браузер или VPN. Чтобы избежать подозрительных действий, мы рекомендуем заходить с основного браузера и домашнего IP (в том числе с IP РФ). Можно добавить новый аккаунт в браузер, где уже есть старый Гугл аккаунт на Россию.

Это безопасно?

Мы работаем с аккаунтами уже более 7 лет и помогли уже тысячам клиентов. Через наши представительства мы находим людей, готовых предоставить свой аккаунт и проходить все необходимые проверки. Вы получаете полный административный доступ к аккаунту иностранного фрилансера, где можете самостоятельно настраивать рекламу и ограничить доступ всем, кроме Вас.

Подведем итог

Учитывая снижение конкуренции в Гугл Рекламе и бонусные 500$ (55 т.р.) на баланс, сейчас отличное время запустить рекламу в GA. К тому же, сейчас сделать это просто, как никогда.

Если Гугл никто в нашей стране не запрещал, тогда зачем отказываться от Google Ads даже при наличии аудитории только из России?

Вот основные аргументы в пользу этого решения:

— Из РФ в Google.com и YouTube за 3 месяца (сентябрь-ноябрь) 2022 г. было 229/188 млн. уникальных визитов. Они входят в ведущую тройку сервисов по посещаемости, а без использования Google Ads рекламу здесь не настроить
— В Гугл точный таргетинг, высокое качество пользовательского опыта (имеется много информации о поведении пользователей) и здесь реклама хорошо работает. Рекомендательные системы дают возможность определить оптимальное время для показа рекламы и позволяют выбрать лучший формат для размещения объявлений;
— По сравнению с прошлыми годами, конкуренция в Google Ads значительно ниже, отсюда и высокая вероятность конверсии

Если Гугл никто в нашей стране не запрещал, тогда зачем отказываться от Google Ads даже при наличии аудитории только из России?

Вот основные аргументы в пользу этого решения:

— Из РФ в Google.com и YouTube за 3 месяца (сентябрь-ноябрь) 2022 г. было 229/188 млн. уникальных визитов. Они входят в ведущую тройку сервисов по посещаемости, а без использования Google Ads рекламу здесь не настроить
— В Гугл точный таргетинг, высокое качество пользовательского опыта (имеется много информации о поведении пользователей) и здесь реклама хорошо работает. Рекомендательные системы дают возможность определить оптимальное время для показа рекламы и позволяют выбрать лучший формат для размещения объявлений;
— По сравнению с прошлыми годами, конкуренция в Google Ads значительно ниже, отсюда и высокая вероятность конверсии

Внедрение: как хакеры манипулируют долгосрочной памятью ИИ

Исследователь Йоханн Рехбергер выявил новый метод атаки на чат-бот Gemini от Google, позволяющий внедрять в нейросеть ложные долгосрочные воспоминания. Этот метод основан на уже известных техниках косвенной инъекции запросов и отсроченного вызова инструментов, которые ранее использовались для обхода защитных механизмов ИИ-платформ.

Чат-боты, такие как Gemini от Google и ChatGPT от OpenAI, разрабатываются с учётом защиты от инъекций вредоносных команд. Однако хакеры постоянно находят новые способы манипулировать ими. В частности, новая уязвимость в Gemini связана с возможностью изменения долгосрочной памяти чат-бота, что может привести к распространению дезинформации или даже выполнению вредоносных действий.

Ранее Рехбергер продемонстрировал, как вредоносные электронные письма и документы могли заставить Microsoft Copilot искать конфиденциальные данные в почтовом ящике жертвы и отправлять их злоумышленнику. Тогда Microsoft устранила уязвимость, но проблема косвенной инъекции запросов осталась.

Один из способов борьбы с такими атаками заключается в ограничении команд, которые могут выполняться при обработке ненадёжных данных. В случае Google такая мера затрагивает приложения и данные, доступные через Google Workspace. Однако Рехбергер нашёл способ обхода этих ограничений с помощью отсроченного вызова инструментов.

Суть метода заключается в том, что вредоносный документ не содержит явного запроса на выполнение команды. Вместо этого он включает условие, по которому команда активируется только при определённом действии пользователя. Например, если боту напрямую дать команду использовать расширение Workspace для поиска документа, система её заблокирует. Но если команда будет сформулирована так, чтобы сработать после любого запроса от пользователя, защиту возможно обойти.

Данные, полученные таким способом, могут отправляться атакующему с помощью ссылки на изображение, встроенной в текстовый ответ. Google попыталась устранить проблему, ограничив рендеринг таких ссылок в чат-боте, но сама уязвимость осталась.

Новый метод атаки, представленный Рехбергером, использует ту же логику для внедрения ложных долгосрочных воспоминаний в Gemini. Пользователь загружает документ и просит его резюмировать. Вредоносный документ скрыто изменяет процесс суммаризации так, чтобы бот запомнил ложную информацию. Если пользователь затем отвечает определёнными словами («да», «конечно» и т.д.), Gemini сохраняет это в памяти как часть долгосрочных данных.

Манипуляция долгосрочной памятью Gemini напоминает концепцию из фильма Inception («Начало»), где главный герой внедряет в сознание жертвы мысль, способную изменить её восприятие реальности. Подобно тому, как в фильме Кобб и его команда действовали незаметно, закладывая идею так, чтобы цель приняла её за свою собственную, атака на Google Gemini также опирается на принцип невидимого внушения.

Вредоносные команды не воспринимаются ИИ как внешнее вмешательство, а интегрируются в его внутреннюю систему принятия решений, влияя на все последующие взаимодействия. Чем глубже закрепляется ложная информация, тем сложнее её обнаружить и удалить, что делает такие атаки особенно опасными.

Google признаёт проблему, но оценивает риск как низкий. В компании заявляют, что атака требует социальной инженерии, а долгосрочные воспоминания отображаются пользователю, который может их удалить. Однако исследователь считает, что внедрение ложной информации в память ИИ может иметь серьёзные последствия. Чат-бот может выдавать пользователю искажённые данные или вовсе игнорировать определённую информацию.

Несмотря на введённые меры, проблема косвенных инъекций остаётся нерешённой. Пока разработчики устраняют симптомы, сами механизмы уязвимостей продолжают использоваться в новых атаках.

Искусственным нейросетям как концепции исполнилось 80 лет: идея математически описать упрощенный вариант биологической нейронной сети — искусственный нейрон — возникла еще в 1944 году. Первая реализация однослойной сети появилась в конце пятидесятых: она могла распознавать простые изображения (несколько букв английского алфавита) в реальном времени, но не более.

Память нейросети обрели в 1980-е — тогда появились рекуррентные нейронные сети (RNN), способные не только обрабатывать входящие данные, но и накапливать их, и прогонять информацию через свои «воспоминания». Но они обучались медленно и нестабильно, а размер состояния, то есть объем их памяти, был ограничен. Из-за этого в нейросеть нельзя было записать всю информацию о предыдущих запросах.

Это удалось исправить в 1997 году, когда разработали архитектуру LSTM (Long short-term memory), нейросеть с долгой и краткосрочной памятью. Появилась возможность контролировать память, а именно решать, записывать ли информацию вдолгую в зависимости от данных, которые мы подаем модели на вход.

Обращаться к произвольному моменту в прошлом рекуррентные нейросети научились только в 2014 году — благодаря механизму внимания. Затем, в 2017 году было предложено избавиться от рекуррентности и построить архитектуру нейронной сети состоящей только из внимания и полносвязных слоев. Новый тип нейросетей назвали трансформерами — они и легли в основу современных больших языковых моделей с миллиардами параметров, то есть популярных сегодня чат-ботов вроде ChatGPT или GigaChat.

Ну и главный вопрос — что сейчас мешает нейросетям запомнить все на свете?

В человеческом мозгу десятки миллиардов нервных клеток. При этом он потребляет около 20 Вт энергии — меньше, чем обычная лампочка. Для больших нейросетей же требуются дата-центры, содержание которых обходится в миллионы долларов и тонны выбросов углекислого газа: с развитием трансформеров и больших моделей вычислительные потребности стали колоссальными. Сейчас для увеличения длины контекста в десять раз нужно вложить в сто раз больше ресурсов. Поэтому наращивать память ИИ-моделей крайне сложно и нужны более эффективные методы.

Чтобы развитие нейросетей качественно продолжалось, необходимы новые архитектуры. Потому что даже самые продвинутые трансформеры не идеальны: например, в, в 2023 году выяснилось, что они страдают «синдромом» lost in the middle. Это значит, что нейросети теряют фокус — и с большей вероятностью пропускают полезную информацию, если она находится в середине контекста, а не в конце или в начале. И чем длиннее контекст, тем больше модель упускает.

ИИ-исследователи стремятся объединить сильные стороны рекуррентных нейронных сетей и трансформеров. Рекуррентность позволяет сократить требования моделей к объему оперативной памяти во время генерации ответа, а трансформеры обеспечивают высокую степень параллельности вычислений во время обучения, что позволяет эффективно использовать кластеры с видеокартами. Такие модели уже появляются, например ряд state-space моделей (Mamba, RWKV), Griffin и Hawk от Google DeepMind, разрабатываемый нами подход Recurrent Memory Transformer и недавно появившуюся xLSTM от Сеппа Хохрайтера (Sepp Hochreiter), известного автора оригинальной LSTM.