Case Study

Jak MyLead osiągnął 65% automatyzacji obsługi klienta zasilanej przez AI dzięki Softwise.AI

Softwise.AI stworzyło dostosowane do potrzeb rozwiązanie oparte na GPT-4, które umożliwiło wykorzystanie danych historycznych i analiz do zbudowania zaawansowanej automatyzacji dla zespołu obsługi klienta w MyLead.

KLIENT

MyLead

ROK

2024

SEKTORY

Marketing afiliacyjny - obsługa klienta i operacje

REZULTATY

Hybrydowy system klasyfikacji (metody statystyczne + GPT-4), Faza discovery i analiza danych historycznych, Wdrożenie produkcyjne, Optymalizacja jakości i niezawodności po uruchomieniu

The problem

MyLead prowadzi globalną sieć marketingu afiliacyjnego, która łączy tysiące kampanii z wydawcami na całym świecie. Zespół obsługi klienta codziennie decyduje, czy dany wydawca powinien zostać dopuszczony do danej kampanii - zestawiając wymagania kampanii ze strategią marketingową wydawcy oraz uwzględniając język, grupę odbiorców i wymogi brand safety. To praca na dużych wolumenach, w której błędna decyzja niesie realne ryzyko - umieszczenie kampanii produktu dla dzieci na stronie dla dorosłych to błąd, który uderza zarówno w relację z reklamodawcą, jak i w markę.

MyLead logo

Presja miała charakter strukturalny: duże dzienne wolumeny, wrażliwe decyzje wymagające uważnej oceny, sezonowe skoki ruchu, przychody tracone z każdą minutą oczekiwania wydawcy w kolejce i zespół, którego wdrożenie zajmowało tygodnie. W pełni ręczna obsługa ograniczała tempo, w jakim sieć mogła rosnąć.

Zadaniem Softwise.AI było szybko i konkretnie ustalić, jaką część tej pracy można odpowiedzialnie zautomatyzować - a następnie zbudować rozwiązanie.


{Kluczowe wyzwania}

Dlaczego ręczna akceptacja zgłoszeń nie nadążała za globalną siecią afiliacyjną?

Faza discovery ujawniła splot powiązanych ze sobą wyzwań operacyjnych, które ukształtowały zakres projektu:


  • Duże dzienne wolumeny
    MyLead codziennie obsługuje tysiące kampanii i musi mieć pewność, że specyfikacja każdej z nich odpowiada strategii marketingowej opisanej przez wydawcę.


  • Wrażliwość dopasowania kampanii do strony
    Reklamodawcy i wydawcy pochodzą z bardzo różnych segmentów na całym świecie - dlatego kluczowe jest, by określone kampanie (np. produktów dla dzieci) nie trafiały na nieodpowiednie strony (np. z treściami dla dorosłych).


  • Sezonowość
    Wolumen zgłoszeń mocno się zmienia w zależności od pory dnia i roku, przez co utrzymywanie stałej obsady jest nieefektywne.


  • Utracone przychody podczas oczekiwania
    Każda minuta, którą wydawca spędza w kolejce do kampanii, to minuta, w której nie zarabia ani on, ani MyLead.


  • Błędy ludzkie i reklamacje
    Ręczne decyzje nieuchronnie prowadzą do pomyłek. Reklamacje to mniej zadowoleni wydawcy, dłuższe czasy oczekiwania i dodatkowa praca przy rozwiązywaniu problemów, którym automatyzacja mogłaby zapobiec.


  • Powolne i kosztowne wdrażanie pracowników
    Nowe osoby potrzebują tygodni szkolenia, zanim zaczną pracować efektywnie - co podnosi koszty i wymusza ciągłą rekrutację.


{Proces}

Jak w 4 etapach zbudowaliśmy hybrydową automatyzację łączącą statystykę z GPT-4?

Softwise.AI zrealizowało projekt w czterech przejrzystych etapach, stawiając na szybką informację zwrotną dla MyLead - tak, aby firma mogła na każdym kroku podejmować świadome decyzje o zakresie prac i inwestycji.

  1. Discovery - analiza miliona historycznych zgłoszeń

Faza discovery skupiła się na tym, czym MyLead już dysponował: około 1 000 000 historycznych zgłoszeń z etykietami akceptacji lub odrzucenia. Zespół pracował na celowo ograniczonej próbce 5000 rekordów - wystarczająco dużej, by ujawnić realne korelacje, wystarczająco małej, by dało się ją rzetelnie przeanalizować, i na tyle aktualnej, by uniknąć problemów z parametrami, których nie śledzono w starszych danych. Podczas warsztatów z MyLead dodawano nowe punkty danych w miarę pojawiania się korelacji. W analizie dominowały dwie grupy cech: dane zgłoszenia (scoring użytkownika, opis) oraz dane kampanii (wrażliwość reklamodawcy, ograniczenia).

  1. Rozwiązanie statystyczne - tani i dokładny pierwszy filtr

Zanim sięgnęliśmy po LLM, zespół sprawdził, czy prostsze podejście statystyczne może przejąć część pracy. Wyłoniły się dwie wyraźne korelacje: scoring użytkownika poniżej 12 oraz kampanie oznaczone jako „wrażliwe" pozwoliły łącznie na automatyczne odrzucanie 23,4% wszystkich zgłoszeń z dokładnością ok. 94% - porównywalną z pracą człowieka, przy praktycznie zerowym koszcie LLM.

  1. Rozwiązanie GPT - klasyfikacja rozumiejąca język w trudniejszych przypadkach

W pozostałych przypadkach zespół porównał kilka modeli językowych. GPT-3.5 wystarczyłby do pracy wyłącznie po angielsku, ale ok. 40 języków obsługiwanych przez MyLead (w Europie i Azji) wymagało wyższej wielojęzycznej dokładności GPT-4 - mimo że jest on około 10 razy droższy. Starannie zaprojektowany prompt przekazywał modelowi kryteria decyzyjne MyLead i wymuszał ustrukturyzowane odpowiedzi. Warstwa GPT-4 objęła automatycznym odrzucaniem kolejne ok. 23,5% zgłoszeń z dokładnością ok. 75% - poziomem, który MyLead zaakceptował, biorąc pod uwagę, że dane historyczne same zawierają ludzkie błędy i przypadki autentycznie graniczne.

  1. Proof of concept, MVP i iteracje po wdrożeniu

Po fazie discovery zespół zweryfikował model na wydzielonym zbiorze testowym w środowisku przedprodukcyjnym, a następnie wdrożył MVP na produkcję. W ciągu ok. 3 miesięcy wyniki przekroczyły pierwotne szacunki: 65% łącznej automatyzacji - wyraźnie powyżej 43% prognozowanych po fazie discovery. Iteracje po uruchomieniu dodatkowo dopracowały system:

  • Jakość - zmiany w promptach sprawiły, że model stał się mniej pobłażliwy i w razie niepewności domyślnie odrzuca zgłoszenie.

  • Wyjaśnialność - dodano tryb diagnostyczny, dzięki któremu każda decyzja ma swoje uzasadnienie.

  • Niezawodność - parametry temperature i Top_p dostrojono tak, by identyczne dane wejściowe zawsze dawały tę samą klasyfikację.

Solution

System, który działa dziś u MyLead na produkcji, jest hybrydowy - tania warstwa statystyczna obsługuje jednoznaczne przypadki, a GPT-4 zarezerwowano dla zgłoszeń niejednoznacznych i wymagających rozumienia języka. Taka warstwowa architektura to celowy wybór - ze względu na koszty, dokładność i wyjaśnialność.

Warstwa statystyczna - automatyczne odrzucanie jednoznacznych przypadków

Lekki klasyfikator regułowy analizuje scoring użytkownika i wrażliwość kampanii. Gdy ich kombinacja jest jednoznaczna, zgłoszenie zostaje automatycznie odrzucone bez udziału LLM. Sama ta warstwa obsługuje około jednej czwartej wszystkich zgłoszeń z dokładnością ok. 95% - bez kosztów inferencji LLM.

Warstwa GPT-4 - wielojęzyczna klasyfikacja według kryteriów

Wszystko, czego nie rozstrzygnie warstwa statystyczna, trafia do GPT-4. Starannie zaprojektowany prompt koduje reguły decyzyjne MyLead i wymagany format odpowiedzi. GPT-4 wybrano zamiast GPT-3.5 ze względu na lepszą obsługę ok. 40 języków, które przetwarza MyLead - różnica w wielojęzycznej dokładności uzasadniała wyższy koszt pojedynczego zapytania.

Tryb diagnostyczny dla wyjaśnialności

Każdej decyzji modelu towarzyszy uzasadnienie - dzięki temu zespół MyLead może audytować, diagnozować i stale ulepszać system, zamiast pracować z czarną skrzynką.

Dostrojony pod niezawodność

Parametry próbkowania temperature i top_p dostrojono po wdrożeniu tak, by identyczne dane wejściowe zawsze dawały identyczną klasyfikację - w produkcyjnych systemach LLM to nietrywialna właściwość, a zarazem warunek konieczny dla zespołu operacyjnego, który musi umieć obronić swoje decyzje.

Zaprojektowany z myślą o rozwoju

Architektura jest gotowa na zmiany: aktualizacje promptów i modyfikacje reguł statystycznych nie wymagają przebudowy systemu, a wraz z rozwojem sieci MyLead można dodawać kolejne języki i kategorie kampanii.


{Wyniki}

65% automatyzacji, 16 200 zgłoszeń miesięcznie i 1200% ROI w pierwszym roku

Po około trzech miesiącach na produkcji system osiągnął wyniki wyraźnie powyżej pierwotnych prognoz z fazy discovery:

  • 65% poziomu automatyzacji wszystkich zgłoszeń do obsługi klienta (wobec prognozowanych 43%)

  • ok. 16 200 zgłoszeń obsługiwanych automatycznie każdego miesiąca

  • 6 pełnoetatowych pracowników uwolnionych od rutynowych zadań i przeniesionych do pracy nad złożonymi przypadkami

  • 1200% ROI w pierwszym roku

  • ok. 2 miesiące kalendarzowe od pierwszego spotkania do wdrożenia produkcyjnego (mimo wakacji, innych otwartych projektów i bieżącej pracy operacyjnej)

  • obsługa ok. 40 języków bez osobnych modeli dla poszczególnych regionów

  • wyjaśnialność każdej pojedynczej decyzji dzięki wbudowanemu trybowi diagnostycznemu


{Wpływ na biznes}

Od wąskiego gardła w obsłudze klienta do skalowalnej dźwigni wzrostu

  • Szybsze dołączanie wydawców do kampanii. Krótsze oczekiwanie oznacza, że wydawcy zarabiają więcej i szybciej - a MyLead notuje większą aktywność sieci każdego dnia.

  • Sześciu pracowników przeniesionych do zadań o wysokiej wartości. Najbardziej doświadczone osoby nie spędzają już dni na rutynowych decyzjach o akceptacji lub odrzuceniu - zajmują się złożonymi przypadkami, w których ludzka ocena naprawdę ma znaczenie.

  • Mniej błędów i reklamacji. Spójne decyzje oparte na jasnych kryteriach ograniczają chaos, który wcześniej wprowadzały zmęczenie i sezonowość.

  • Skalowanie niezależne od liczby etatów. Wzrost liczby kampanii i wydawców nie przekłada się już wprost na konieczność zatrudniania kolejnych osób.

  • Platforma, która uczy się na własnych decyzjach. Tryb diagnostyczny i regulowana niezawodność pozwalają MyLead stale ulepszać model bez przebudowy systemu.

{Kluczowe rekomendacje}

5 lekcji z hybrydowej automatyzacji AI na skalę produkcyjną

Kilka zasad z projektu dla MyLead, które przydadzą się każdemu zespołowi automatyzującemu klasyfikację operacyjną na dużą skalę:

  1. Zanim sięgniesz po LLM, wypróbuj model statystyczny. Tanie, deterministyczne reguły mogą przejąć jedną czwartą pracy z dokładnością bliską ludzkiej. Wysyłanie tych przypadków do GPT to strata pieniędzy i czasu.

  2. Jakość zbioru danych bije ilość. 5 000 starannie dobranych rekordów dało więcej użytecznych wniosków, niż dałby cały milion - starsze dane nie zawierają parametrów, które zaczęto śledzić dopiero później.

  3. Dobieraj wielkość modelu do zastosowania, nie do mody. GPT-3.5 wystarczyłby dla angielskiego; GPT-4 był konieczny dla prawdziwej wielojęzycznej dokładności. Różnica w koszcie zapytania opłaca się tylko wtedy, gdy wymaga tego zastosowanie.

  4. Niezawodność projektuj świadomie. Temperature, top_p i struktura promptu to nie szczegóły implementacyjne - od nich zależy, czy identyczne dane wejściowe dają identyczne decyzje, a to właśnie czyni system możliwym do obrony w codziennej pracy operacyjnej.

  5. Wbuduj wyjaśnialność od samego początku. Tryb diagnostyczny, który uzasadnia każdą decyzję, zamienia system w coś, co biznes może diagnozować, audytować i ulepszać - a nie w czarną skrzynkę, która po cichu dryfuje.

SUMMARY

Softwise.AI dostarczyło hybrydowy system automatyzacji łączący statystykę z GPT-4, który przeprowadził MyLead od w pełni ręcznej obsługi zgłoszeń do 65% decyzji podejmowanych przez AI - to około 16 200 zgłoszeń miesięcznie, w ok. 40 językach, z pełną wyjaśnialnością i 1200% ROI w pierwszym roku. System powstał w około dwa miesiące kalendarzowe od pierwszego spotkania do wdrożenia produkcyjnego i jest konkretnym dowodem na to, że zdyscyplinowana, świadoma kosztów inżynieria AI - najpierw warstwy statystyczne, LLM tam, gdzie naprawdę zasługuje na swoje miejsce - przynosi doskonałość operacyjną przy niewielkiej początkowej inwestycji i szybkim zwrocie.

TESTIMONIAL

"

"

Współpraca z Softwise.ai odegrała kluczową rolę w przebudowie obsługi klienta w MyLead. Przy poziomie automatyzacji opartej na AI sięgającym 65% i 16 200 zgłoszeń obsługiwanych miesięcznie zobaczyliśmy realną zmianę i imponujący zwrot z inwestycji już w pierwszym roku.

Integracja przebiegła bezproblemowo, poprawiając efektywność operacyjną, a co najważniejsze - zadowolenie klientów. Precyzja i szybkość decyzji podejmowanych przez AI wyraźnie podniosły jakość naszej obsługi.

Women Side Pose

Paweł Wojcieszak

Head of Affiliate, MyLead

Skontaktuj się z nami!

Przesyłając swoje dane, potwierdzam, że zapoznałem/am się i zrozumiałem/am Politykę Prywatności Softwise.AI.

Skontaktuj się z nami!

Przesyłając swoje dane, potwierdzam, że zapoznałem/am się i zrozumiałem/am Politykę Prywatności Softwise.AI.

Skontaktuj się z nami!

Przesyłając swoje dane, potwierdzam, że zapoznałem/am się i zrozumiałem/am Politykę Prywatności Softwise.AI.

Padewska 23/7

00-777 Warszawa

Tel.: +48 601 789 982

SOFTWISE.AI Sp. z o.o.

NIP: 9522254365

KRS: 0001097298

REGON: 528213750

Padewska 23/7

00-777 Warszawa

Tel.: +48 601 789 982

SOFTWISE.AI Sp. z o.o.

NIP: 9522254365

KRS: 0001097298

REGON: 528213750

Padewska 23/7

00-777 Warszawa

Tel.: +48 601 789 982

SOFTWISE.AI Sp. z o.o.

NIP: 9522254365

KRS: 0001097298

REGON: 528213750