Case Study
Jak MyLead osiągnął 65% automatyzacji obsługi klienta zasilanej przez AI dzięki Softwise.AI
Softwise.AI stworzyło dostosowane do potrzeb rozwiązanie oparte na GPT-4, które umożliwiło wykorzystanie danych historycznych i analiz do zbudowania zaawansowanej automatyzacji dla zespołu obsługi klienta w MyLead.
KLIENT
MyLead
ROK
2024
SEKTORY
Marketing afiliacyjny - obsługa klienta i operacje
REZULTATY
Hybrydowy system klasyfikacji (metody statystyczne + GPT-4), Faza discovery i analiza danych historycznych, Wdrożenie produkcyjne, Optymalizacja jakości i niezawodności po uruchomieniu

The problem
MyLead prowadzi globalną sieć marketingu afiliacyjnego, która łączy tysiące kampanii z wydawcami na całym świecie. Zespół obsługi klienta codziennie decyduje, czy dany wydawca powinien zostać dopuszczony do danej kampanii - zestawiając wymagania kampanii ze strategią marketingową wydawcy oraz uwzględniając język, grupę odbiorców i wymogi brand safety. To praca na dużych wolumenach, w której błędna decyzja niesie realne ryzyko - umieszczenie kampanii produktu dla dzieci na stronie dla dorosłych to błąd, który uderza zarówno w relację z reklamodawcą, jak i w markę.

Presja miała charakter strukturalny: duże dzienne wolumeny, wrażliwe decyzje wymagające uważnej oceny, sezonowe skoki ruchu, przychody tracone z każdą minutą oczekiwania wydawcy w kolejce i zespół, którego wdrożenie zajmowało tygodnie. W pełni ręczna obsługa ograniczała tempo, w jakim sieć mogła rosnąć.
Zadaniem Softwise.AI było szybko i konkretnie ustalić, jaką część tej pracy można odpowiedzialnie zautomatyzować - a następnie zbudować rozwiązanie.
{Kluczowe wyzwania}
Dlaczego ręczna akceptacja zgłoszeń nie nadążała za globalną siecią afiliacyjną?
Faza discovery ujawniła splot powiązanych ze sobą wyzwań operacyjnych, które ukształtowały zakres projektu:
Duże dzienne wolumeny
MyLead codziennie obsługuje tysiące kampanii i musi mieć pewność, że specyfikacja każdej z nich odpowiada strategii marketingowej opisanej przez wydawcę.Wrażliwość dopasowania kampanii do strony
Reklamodawcy i wydawcy pochodzą z bardzo różnych segmentów na całym świecie - dlatego kluczowe jest, by określone kampanie (np. produktów dla dzieci) nie trafiały na nieodpowiednie strony (np. z treściami dla dorosłych).Sezonowość
Wolumen zgłoszeń mocno się zmienia w zależności od pory dnia i roku, przez co utrzymywanie stałej obsady jest nieefektywne.Utracone przychody podczas oczekiwania
Każda minuta, którą wydawca spędza w kolejce do kampanii, to minuta, w której nie zarabia ani on, ani MyLead.Błędy ludzkie i reklamacje
Ręczne decyzje nieuchronnie prowadzą do pomyłek. Reklamacje to mniej zadowoleni wydawcy, dłuższe czasy oczekiwania i dodatkowa praca przy rozwiązywaniu problemów, którym automatyzacja mogłaby zapobiec.Powolne i kosztowne wdrażanie pracowników
Nowe osoby potrzebują tygodni szkolenia, zanim zaczną pracować efektywnie - co podnosi koszty i wymusza ciągłą rekrutację.
{Proces}
Jak w 4 etapach zbudowaliśmy hybrydową automatyzację łączącą statystykę z GPT-4?
Softwise.AI zrealizowało projekt w czterech przejrzystych etapach, stawiając na szybką informację zwrotną dla MyLead - tak, aby firma mogła na każdym kroku podejmować świadome decyzje o zakresie prac i inwestycji.
Discovery - analiza miliona historycznych zgłoszeń
Faza discovery skupiła się na tym, czym MyLead już dysponował: około 1 000 000 historycznych zgłoszeń z etykietami akceptacji lub odrzucenia. Zespół pracował na celowo ograniczonej próbce 5000 rekordów - wystarczająco dużej, by ujawnić realne korelacje, wystarczająco małej, by dało się ją rzetelnie przeanalizować, i na tyle aktualnej, by uniknąć problemów z parametrami, których nie śledzono w starszych danych. Podczas warsztatów z MyLead dodawano nowe punkty danych w miarę pojawiania się korelacji. W analizie dominowały dwie grupy cech: dane zgłoszenia (scoring użytkownika, opis) oraz dane kampanii (wrażliwość reklamodawcy, ograniczenia).
Rozwiązanie statystyczne - tani i dokładny pierwszy filtr
Zanim sięgnęliśmy po LLM, zespół sprawdził, czy prostsze podejście statystyczne może przejąć część pracy. Wyłoniły się dwie wyraźne korelacje: scoring użytkownika poniżej 12 oraz kampanie oznaczone jako „wrażliwe" pozwoliły łącznie na automatyczne odrzucanie 23,4% wszystkich zgłoszeń z dokładnością ok. 94% - porównywalną z pracą człowieka, przy praktycznie zerowym koszcie LLM.
Rozwiązanie GPT - klasyfikacja rozumiejąca język w trudniejszych przypadkach
W pozostałych przypadkach zespół porównał kilka modeli językowych. GPT-3.5 wystarczyłby do pracy wyłącznie po angielsku, ale ok. 40 języków obsługiwanych przez MyLead (w Europie i Azji) wymagało wyższej wielojęzycznej dokładności GPT-4 - mimo że jest on około 10 razy droższy. Starannie zaprojektowany prompt przekazywał modelowi kryteria decyzyjne MyLead i wymuszał ustrukturyzowane odpowiedzi. Warstwa GPT-4 objęła automatycznym odrzucaniem kolejne ok. 23,5% zgłoszeń z dokładnością ok. 75% - poziomem, który MyLead zaakceptował, biorąc pod uwagę, że dane historyczne same zawierają ludzkie błędy i przypadki autentycznie graniczne.
Proof of concept, MVP i iteracje po wdrożeniu
Po fazie discovery zespół zweryfikował model na wydzielonym zbiorze testowym w środowisku przedprodukcyjnym, a następnie wdrożył MVP na produkcję. W ciągu ok. 3 miesięcy wyniki przekroczyły pierwotne szacunki: 65% łącznej automatyzacji - wyraźnie powyżej 43% prognozowanych po fazie discovery. Iteracje po uruchomieniu dodatkowo dopracowały system:
Jakość - zmiany w promptach sprawiły, że model stał się mniej pobłażliwy i w razie niepewności domyślnie odrzuca zgłoszenie.
Wyjaśnialność - dodano tryb diagnostyczny, dzięki któremu każda decyzja ma swoje uzasadnienie.
Niezawodność - parametry temperature i Top_p dostrojono tak, by identyczne dane wejściowe zawsze dawały tę samą klasyfikację.
Solution
System, który działa dziś u MyLead na produkcji, jest hybrydowy - tania warstwa statystyczna obsługuje jednoznaczne przypadki, a GPT-4 zarezerwowano dla zgłoszeń niejednoznacznych i wymagających rozumienia języka. Taka warstwowa architektura to celowy wybór - ze względu na koszty, dokładność i wyjaśnialność.
Warstwa statystyczna - automatyczne odrzucanie jednoznacznych przypadków
Lekki klasyfikator regułowy analizuje scoring użytkownika i wrażliwość kampanii. Gdy ich kombinacja jest jednoznaczna, zgłoszenie zostaje automatycznie odrzucone bez udziału LLM. Sama ta warstwa obsługuje około jednej czwartej wszystkich zgłoszeń z dokładnością ok. 95% - bez kosztów inferencji LLM.
Warstwa GPT-4 - wielojęzyczna klasyfikacja według kryteriów
Wszystko, czego nie rozstrzygnie warstwa statystyczna, trafia do GPT-4. Starannie zaprojektowany prompt koduje reguły decyzyjne MyLead i wymagany format odpowiedzi. GPT-4 wybrano zamiast GPT-3.5 ze względu na lepszą obsługę ok. 40 języków, które przetwarza MyLead - różnica w wielojęzycznej dokładności uzasadniała wyższy koszt pojedynczego zapytania.
Tryb diagnostyczny dla wyjaśnialności
Każdej decyzji modelu towarzyszy uzasadnienie - dzięki temu zespół MyLead może audytować, diagnozować i stale ulepszać system, zamiast pracować z czarną skrzynką.
Dostrojony pod niezawodność
Parametry próbkowania temperature i top_p dostrojono po wdrożeniu tak, by identyczne dane wejściowe zawsze dawały identyczną klasyfikację - w produkcyjnych systemach LLM to nietrywialna właściwość, a zarazem warunek konieczny dla zespołu operacyjnego, który musi umieć obronić swoje decyzje.
Zaprojektowany z myślą o rozwoju
Architektura jest gotowa na zmiany: aktualizacje promptów i modyfikacje reguł statystycznych nie wymagają przebudowy systemu, a wraz z rozwojem sieci MyLead można dodawać kolejne języki i kategorie kampanii.
{Wyniki}
65% automatyzacji, 16 200 zgłoszeń miesięcznie i 1200% ROI w pierwszym roku
Po około trzech miesiącach na produkcji system osiągnął wyniki wyraźnie powyżej pierwotnych prognoz z fazy discovery:
65% poziomu automatyzacji wszystkich zgłoszeń do obsługi klienta (wobec prognozowanych 43%)
ok. 16 200 zgłoszeń obsługiwanych automatycznie każdego miesiąca
6 pełnoetatowych pracowników uwolnionych od rutynowych zadań i przeniesionych do pracy nad złożonymi przypadkami
1200% ROI w pierwszym roku
ok. 2 miesiące kalendarzowe od pierwszego spotkania do wdrożenia produkcyjnego (mimo wakacji, innych otwartych projektów i bieżącej pracy operacyjnej)
obsługa ok. 40 języków bez osobnych modeli dla poszczególnych regionów
wyjaśnialność każdej pojedynczej decyzji dzięki wbudowanemu trybowi diagnostycznemu
{Wpływ na biznes}
Od wąskiego gardła w obsłudze klienta do skalowalnej dźwigni wzrostu
Szybsze dołączanie wydawców do kampanii. Krótsze oczekiwanie oznacza, że wydawcy zarabiają więcej i szybciej - a MyLead notuje większą aktywność sieci każdego dnia.
Sześciu pracowników przeniesionych do zadań o wysokiej wartości. Najbardziej doświadczone osoby nie spędzają już dni na rutynowych decyzjach o akceptacji lub odrzuceniu - zajmują się złożonymi przypadkami, w których ludzka ocena naprawdę ma znaczenie.
Mniej błędów i reklamacji. Spójne decyzje oparte na jasnych kryteriach ograniczają chaos, który wcześniej wprowadzały zmęczenie i sezonowość.
Skalowanie niezależne od liczby etatów. Wzrost liczby kampanii i wydawców nie przekłada się już wprost na konieczność zatrudniania kolejnych osób.
Platforma, która uczy się na własnych decyzjach. Tryb diagnostyczny i regulowana niezawodność pozwalają MyLead stale ulepszać model bez przebudowy systemu.
{Kluczowe rekomendacje}
5 lekcji z hybrydowej automatyzacji AI na skalę produkcyjną
Kilka zasad z projektu dla MyLead, które przydadzą się każdemu zespołowi automatyzującemu klasyfikację operacyjną na dużą skalę:
Zanim sięgniesz po LLM, wypróbuj model statystyczny. Tanie, deterministyczne reguły mogą przejąć jedną czwartą pracy z dokładnością bliską ludzkiej. Wysyłanie tych przypadków do GPT to strata pieniędzy i czasu.
Jakość zbioru danych bije ilość. 5 000 starannie dobranych rekordów dało więcej użytecznych wniosków, niż dałby cały milion - starsze dane nie zawierają parametrów, które zaczęto śledzić dopiero później.
Dobieraj wielkość modelu do zastosowania, nie do mody. GPT-3.5 wystarczyłby dla angielskiego; GPT-4 był konieczny dla prawdziwej wielojęzycznej dokładności. Różnica w koszcie zapytania opłaca się tylko wtedy, gdy wymaga tego zastosowanie.
Niezawodność projektuj świadomie. Temperature, top_p i struktura promptu to nie szczegóły implementacyjne - od nich zależy, czy identyczne dane wejściowe dają identyczne decyzje, a to właśnie czyni system możliwym do obrony w codziennej pracy operacyjnej.
Wbuduj wyjaśnialność od samego początku. Tryb diagnostyczny, który uzasadnia każdą decyzję, zamienia system w coś, co biznes może diagnozować, audytować i ulepszać - a nie w czarną skrzynkę, która po cichu dryfuje.
SUMMARY
Softwise.AI dostarczyło hybrydowy system automatyzacji łączący statystykę z GPT-4, który przeprowadził MyLead od w pełni ręcznej obsługi zgłoszeń do 65% decyzji podejmowanych przez AI - to około 16 200 zgłoszeń miesięcznie, w ok. 40 językach, z pełną wyjaśnialnością i 1200% ROI w pierwszym roku. System powstał w około dwa miesiące kalendarzowe od pierwszego spotkania do wdrożenia produkcyjnego i jest konkretnym dowodem na to, że zdyscyplinowana, świadoma kosztów inżynieria AI - najpierw warstwy statystyczne, LLM tam, gdzie naprawdę zasługuje na swoje miejsce - przynosi doskonałość operacyjną przy niewielkiej początkowej inwestycji i szybkim zwrocie.
TESTIMONIAL
Współpraca z Softwise.ai odegrała kluczową rolę w przebudowie obsługi klienta w MyLead. Przy poziomie automatyzacji opartej na AI sięgającym 65% i 16 200 zgłoszeń obsługiwanych miesięcznie zobaczyliśmy realną zmianę i imponujący zwrot z inwestycji już w pierwszym roku.
Integracja przebiegła bezproblemowo, poprawiając efektywność operacyjną, a co najważniejsze - zadowolenie klientów. Precyzja i szybkość decyzji podejmowanych przez AI wyraźnie podniosły jakość naszej obsługi.

Paweł Wojcieszak
Head of Affiliate, MyLead