Azure OpenAI в Flow (Premium)

Если у вас уже есть собственный ресурс Azure OpenAI, переходить на AI Builder для использования в Power Automate не нужно. Microsoft предоставляет для этого отдельный коннектор, который напрямую связывает ваши потоки с вашим развёртыванием Azure OpenAI, включая завершения чата, эмбеддинги и опциональное подключение собственных данных через Azure AI Search. Однако коннектор относится к классу Premium, что имеет последствия как для лицензии Power Automate, так и для текущих расходов на Azure.

В этой статье рассказывается, что умеет коннектор Azure OpenAI в Power Automate, какие предварительные условия нужно выполнить перед первым потоком, как обязательная лицензия Premium работает на практике и почему счёт за Azure выставляется отдельно от лицензии Power Automate. Статья основана на официальной справке по коннектору и документации Microsoft по лицензированию.

Что умеет коннектор Azure OpenAI в Power Automate

Этот коннектор Azure OpenAI является собственной разработкой Microsoft и, согласно справке коннектора, в Power Automate и Power Apps классифицируется как Premium, в Copilot Studio также как Premium, а в Logic Apps как Standard. Он доступен практически во всех регионах Power Automate, за исключением US Government (GCC), US Government (GCC High), China Cloud, управляемого 21Vianet, и US Department of Defense (DoD).

Согласно документации, коннектор предлагает четыре действия:

• Создаёт завершение для сообщения чата: классическое завершение чата для развёрнутой модели с такими параметрами, как temperature, top-p, max tokens, presence penalty и frequency penalty.
• Получить эмбеддинг: векторное представление одного входного текста, например для поиска по сходству или классификации.
• Получить несколько эмбеддингов: та же функция для массива входных текстов за один вызов.
• Использование расширений для создания завершения для сообщений чата: завершение чата с расширениями, позволяющими подключать собственные данные из Azure AI Search в качестве контекста, так называемый сценарий «On Your Data».

На практике это означает, что поток может отправлять входящий текст, например из формы или письма, напрямую в ваше собственное развёртывание Azure OpenAI и обрабатывать ответ на следующем шаге, без обходного пути через стороннего коннектора.

Предварительные условия перед запуском первого потока

Прежде чем коннектор можно будет использовать, согласно справке коннектора должно быть готово несколько вещей:

• Активная подписка Azure.
• Доступ к самому Azure OpenAI; сервис требует регистрации и доступен только для утверждённых корпоративных клиентов и партнёров.
• Созданный ресурс Azure OpenAI в поддерживаемом регионе с поддерживаемой моделью, для которого на ресурсе как минимум необходима роль Cognitive Services Contributor.
• Опционально, для сценариев On Your Data: ресурс Azure AI Search с соответствующим образом подготовленными данными.

Вся эта подготовительная работа выполняется полностью на портале Azure и пока не имеет отношения к самому Power Automate. Только когда ресурс готов, в потоке можно настроить подключение к нему.

Настройка подключения: ключ API или Managed Identity

Согласно справке коннектора, коннектор Azure OpenAI поддерживает три типа аутентификации:

• Ключ API: вы указываете имя ресурса Azure OpenAI и ключ API, а также опционально URL конечной точки и ключ для Azure AI Search. Это подключение можно использовать во всех регионах и передавать другим пользователям.
• Managed Identity: вход через управляемое удостоверение (managed identity), согласно документации в настоящее время доступно только для Logic Apps, также можно передавать.
• Standard (устаревший): старый тип подключения без явного типа аутентификации, сохранён только по соображениям совместимости и не передаётся другим пользователям; при совместном использовании каждому человеку нужно создать собственное подключение.

Для новых потоков ключ API обычно является наиболее практичным вариантом, так как он работает во всех регионах и может передаваться как подключение внутри команды, без необходимости для каждого коллеги создавать собственное.

Обязательная лицензия Premium: кому в команде что нужно

Поскольку коннектор классифицирован как Premium, действует обычное лицензирование Power Automate для Premium-коннекторов. Согласно типам лицензий Power Automate, права на использование Premium-коннекторов включены в пользовательскую лицензию Power Automate Premium, в лицензию Power Automate Process и в лицензию Power Automate Hosted Process. Бесплатная лицензия Power Automate, напротив, покрывает только стандартные коннекторы, поэтому поток с коннектором Azure OpenAI на ней не заработает.

То, как это работает на практике, зависит от типа потока, согласно часто задаваемым вопросам о лицензировании Power Automate:

• Автоматизированные и запланированные потоки выполняются в контексте лицензии владельца, независимо от того, кто запускает поток или какие подключения в нём используются. Если такой поток использует коннектор Azure OpenAI, лицензия Premium нужна только владельцу.
• Мгновенные потоки, то есть потоки, запускаемые кнопкой или вручную, выполняются в контексте запускающего их человека. Если поток содержит коннектор Azure OpenAI, каждому человеку, запускающему его вручную, нужна собственная лицензия Premium.
• Вместо лицензирования каждого отдельного человека поток можно вместо этого оснастить лицензией Process. Тогда он работает независимо от того, есть ли у отдельных пользователей лицензия Premium, что особенно выгодно для потоков, которые запускают многие участники команды.

Для команды, которая хочет использовать коннектор Azure OpenAI в общем, запускаемом вручную потоке, это означает на практике следующее: либо каждый участвующий человек получает лицензию Premium, либо сам поток оснащается лицензией Process. Так вы сохраняете контроль над тем, кто действительно может использовать коннектор, вместо того чтобы разбираться с вопросом лицензирования только после первой ошибки в потоке.

Расходы на Azure добавляются к лицензии Power Automate

Лицензия Premium покрывает только доступ к коннектору внутри Power Automate. Фактическое использование языковой модели происходит через ваш ресурс Azure OpenAI и оплачивается отдельно через вашу подписку Azure, по мере фактического потребления для соответствующего развёртывания модели. Эти расходы возникают независимо от того, поступает ли вызов из Power Automate, из Logic App или из собственного приложения, поскольку оплата рассчитывается на уровне ресурса Azure, а не на уровне коннектора.

Для планирования особенно важны два пункта из справки коннектора:

• Доступ к самому Azure OpenAI нужно запрашивать, и он не предоставляется автоматически с каждой подпиской Azure; это стоит спланировать заранее, до того как от этого начнёт зависеть срок проекта.
• Пороговое ограничение составляет 1000 вызовов API на подключение за 60 секунд. Для потоков с большим объёмом, например при массовой обработке документов, стоит рассмотреть несколько подключений или объединение запросов в пакеты, чтобы не достичь этого предела.

Тот, кто с самого начала раздельно рассчитывает оба блока затрат (лицензию Power Automate Premium и потребление Azure OpenAI), избегает неприятных сюрпризов в первом счёте Azure после запуска в продуктив.

Известные ограничения

В справке коннектора указаны три ограничения, которые стоит знать перед созданием потока:

• В качестве источника данных для функции On Your Data поддерживается только Azure AI Search; другие векторные базы данных через этот коннектор подключить нельзя.
• Коннектор не поддерживает вызов функций (Function Calling).
• Изображения в содержимом сообщений не поддерживаются, коннектор рассчитан только на текстовое взаимодействие.

Тому, кому обязательно нужен один из этих сценариев, например вызов функций для получения структурированных ответов, придётся использовать пользовательский коннектор к REST API Azure OpenAI.

В NordFlux мы выстраиваем интеграции с Azure OpenAI в рамках консультирования по Power Automate таким образом, чтобы расходы на лицензии и Azure были прозрачны с самого начала, а не становились видны только после первого рабочего потока.

Часто задаваемые вопросы

Обязательно ли мне нужна лицензия Premium для коннектора Azure OpenAI?

Да. Коннектор классифицирован как Premium, поэтому действует обычное лицензирование Power Automate для Premium-коннекторов. Бесплатная лицензия покрывает только стандартные коннекторы и недостаточна для коннектора Azure OpenAI.

Достаточно ли одной лицензии Premium для всего потока?

Это зависит от типа потока. Для автоматизированных или запланированных потоков достаточно лицензии Premium владельца. А вот для мгновенных потоков, запускаемых вручную, каждому запускающему человеку нужна собственная лицензия Premium, если только поток не оснащён вместо этого лицензией Process.

Оплачивает ли лицензия Power Automate Premium также использование Azure OpenAI?

Нет. Лицензия Premium оплачивает только доступ к коннектору в Power Automate. Фактическое использование модели происходит через ваш ресурс Azure OpenAI и оплачивается отдельно, по фактическому потреблению, через подписку Azure.

Могу ли я использовать собственные корпоративные данные в качестве контекста с этим коннектором?

Да, с помощью действия расширений для завершений чата можно подключить собственные данные, однако, согласно справке коннектора, только через подключённый ресурс Azure AI Search в качестве источника данных. Другие векторные базы данных коннектор в настоящее время не поддерживает.

Что происходит, когда поток достигает порогового ограничения?

Пороговое ограничение составляет 1000 вызовов API на подключение в течение 60 секунд. При превышении подключение блокирует дальнейшие вызовы до истечения этого временного окна. При большом объёме полезно объединять запросы в пакеты или создавать несколько подключений для разных потоков.