Wybór modelu LLM dla funkcjonalności AI w WEBCON  

Facebooktwitterpinterestlinkedinmail
Dotyczy wersji 2026 R2 i powyżej, autor: Lily Adamowicz 

  

Dokumentacja powiązana 

Szczegółowy opis funkcjonalności wymienionych w niniejszym artykule oraz ich konfiguracji można znaleźć w następujących sekcjach Pomocy WEBCON: 

 

Wprowadzenie 

Funkcjonalności oparte na sztucznej inteligencji wspierają użytkowników nie tylko w prostych zadaniach, takich jak podsumowanie treści czy tłumaczenie tekstu, ale również w bardziej złożonych scenariuszach: analizie danych, pracy z dokumentami, obsłudze użytkowników w Portalu czy automatyzacji działań wykonywanych w procesach biznesowych. Nie każde z tych zadań wymaga jednak takiego samego modelu LLM. 

W WEBCON możliwe jest wybranie modelu AI wykorzystywanego przez konkretne funkcjonalności. Dzięki temu administrator lub projektant aplikacji może zdecydować, czy dana funkcja ma korzystać z modelu domyślnego, czy z konkretnego modelu, np. Gemini Flash Lite, Gemini Flash albo Gemini Pro (lub analogiczne od innych dostawców). Pozwala to lepiej dopasować konfigurację do charakteru zadania, oczekiwanej jakości odpowiedzi, szybkości działania oraz kosztu użycia modelu. 

 

UWAGA: Lista dostępnych modeli LLM dotyczy AI Proxy Online. W przypadku AI Proxy Self-hosted należy samodzielnie dodać i skonfigurować modele, które mają być używane w systemie. 

 

Gdzie można wybrać model AI?

Model AI dla funkcjonalności używanych w całym systemie można wskazać w Konfiguracji systemu, w zakładce Parametry globalne. Dotyczy to modelu wykorzystywanego przez AI Concierge oraz używanego do tłumaczeń procesów i aplikacji. 

Rys. 1. Wybór modelu dla AI Concierge oraz tłumaczeń 

 

Dla innych funkcjonalności model wybierany jest bezpośrednio w ich konfiguracji. Przykładem są Agenci AI, dla których pole Model AI znajduje się w konfiguracji danego Agenta AI. 

Rys. 2. Wybór modelu AI dla Agenta AI 

 

Podobnie dla akcji AI Wykonaj transkrypcję nagrania, model AI używany do transkrypcji nagrania audio można wskazać w konfiguracji akcji. 

Rys. 3. Wybór modelu AI dla akcji Wykonaj transkrypcję nagrania 

 

Lista modeli dostępnych w danym miejscu jest pobierana z AI Proxy. Oznacza to, że użytkownik konfigurujący funkcję widzi tylko te modele, które są obsługiwane w danym kontekście. 

 

Jak dobrać model AI?

Wybór modelu AI warto uzależnić od charakteru zadania, liczby wywołań oraz oczekiwanej jakości wyniku. W prostych, powtarzalnych scenariuszach dobrym wyborem będzie model domyślny, czyli Gemini Flash Lite. Przy standardowych zastosowaniach biznesowych warto wybrać Gemini Flash, który zapewnia dobry kompromis między szybkością działania, jakością odpowiedzi i kosztem. Gemini Pro sprawdzi się natomiast w zadaniach bardziej złożonych, wymagających dokładniejszej analizy, dłuższego kontekstu lub większej precyzji. 

Model domyślny, czyli Gemini Flash Lite, sprawdzi się przy szybkim uruchamianiu funkcjonalności AI, testach i prostych scenariuszach, które nie wymagają dodatkowej optymalizacji. Konkretny model warto wskazać wtedy, gdy funkcjonalność jest intensywnie używana albo ma jasno określony charakter, np. obsługa AI Concierge, tłumaczenie aplikacji, transkrypcja nagrań lub analiza danych przez Agenta AI. 

INFO: Lista dostępnych modeli nie ogranicza się do modeli Gemini. Obejmuje również analogiczne modele udostępniane przez innych dostawców. 

 

Model  Kiedy warto go wybrać  Przykładowe zastosowania 
Model domyślny/ Gemini Flash Lite  Proste, powtarzalne zadania, duża liczba krótkich interakcji, optymalizacja szybkości i kosztu  Pierwsze uruchomienie funkcjonalności AI, testy konfiguracji, podstawowe pytania użytkowników, krótkie podsumowania, robocze tłumaczenia, klasyfikacja zgłoszeń, krótkie notatki głosowe 
Gemini Flash  Standardowe scenariusze biznesowe, w których ważny jest balans między jakością a wydajnością  AI Concierge jako asystent procesowy, typowe tłumaczenia aplikacji, podsumowania spraw, standardowe transkrypcje 
Gemini Pro  Złożone zadania wymagające większej precyzji, analizy kontekstu lub danych z wielu źródeł  Dłuższe opisy i instrukcje, analiza dokumentów, złożeni Agenci AI, trudniejsze lub dłuższe nagrania 

 

Najprostszym podejściem jest rozpoczęcie od modelu domyślnego albo Gemini Flash, a następnie dopasowanie konfiguracji na podstawie rzeczywistych wyników. Jeżeli funkcja jest wywoływana bardzo często, a odpowiedzi są krótkie i powtarzalne, warto przetestować Gemini Flash Lite. Jeżeli natomiast jakość odpowiedzi jest ważniejsza niż szybkość lub koszt, należy rozważyć Gemini Pro. 

 

Przykład 1: AI Concierge w Portalu 

AI Concierge może pomagać użytkownikom w nawigacji, odpowiadać na pytania dotyczące aplikacji oraz wspierać pracę z formularzem. 

Przykładowa konfiguracja: 

  • AI Concierge jako ogólny asystent procesowy, wspierający w pracy z aplikacją i kontekstem formularza: Gemini Flash (wybór zalecany), 
  • AI Concierge dla prostych, powtarzalnych pytań użytkowników: Gemini Flash Lite. 

 

Przykład 2: tłumaczenia procesów i aplikacji 

W przypadku tłumaczeń wybór modelu zależy od długości tekstów, ich przeznaczenia oraz wymaganej precyzji terminologicznej.  

Przykładowa konfiguracja: 

  • duża liczba prostych i powtarzalnych tłumaczeń roboczych: Gemini Flash Lite, 
  • proste atrybuty, nazwy pól i krótkie komunikaty: Gemini Flash, 
  • dłuższe opisy, instrukcje i komunikaty wymagające wysokiej precyzji, aplikacje wielojęzyczne: Gemini Pro. 

 

Przykład 3: Agenci AI 

Agenci AI mogą realizować zarówno proste zadania pomocnicze, jak i bardziej złożone scenariusze związane z analizą danych procesowych. Wybór modelu LLM powinien zależeć od zakresu odpowiedzialności danego Agenta AI. 

Przykładowa konfiguracja: 

  • Agent AI klasyfikuje zgłoszenia, przygotowuje krótkie podsumowania, wskazuje brakujące informacje, wynik jest krótki i przewidywalny: Gemini Flash Lite, 
  • Agent AI analizuje formularz, przygotowuje dłuższe podsumowania i propozycje odpowiedzi: Gemini Flash, 
  • Agent AI analizuje dokumenty i dane z wielu pól formularza, porównuje informacje z kilku źródeł, wykonuje zadania wymagające bardziej zaawansowanego rozumowania (np. wspiera analizę wniosku zakupowego, porównuje uzasadnienie biznesowe, budżet, historię wcześniejszych zamówień i załączone dokumenty): Gemini Pro. 

 

Przykład 4: transkrypcja nagrań audio 

W akcji AI Wykonaj transkrypcję nagrania model warto dobrać do długości nagrania, jakości dźwięku oraz znaczenia transkrypcji dla dalszej obsługi procesu.  

Przykładowa konfiguracja: 

  • krótkie i wyraźne notatki głosowe: Gemini Flash Lite, 
  • standardowe nagrania wykorzystywane w procesie: Gemini Flash, 
  • dłuższe lub bardziej złożone nagrania, szczególnie istotne z perspektywy procesu: Gemini Pro. 

 

Podsumowanie

Możliwość wyboru modelu LLM dla poszczególnych funkcjonalności AI pozwala lepiej dopasować działanie systemu do potrzeb organizacji. Zamiast korzystać z jednego modelu dla wszystkich scenariuszy, można dobrać model do konkretnego zadania: szybszy i bardziej ekonomiczny dla prostych operacji, zbalansowany dla codziennej pracy oraz bardziej zaawansowany dla złożonych analiz. 

Dzięki temu funkcjonalności AI w WEBCON mogą być konfigurowane nie tylko pod kątem dostępności, ale również jakości, wydajności i przewidywalności działania w konkretnych procesach biznesowych.