Dedykowane modele AI

Zaczynamy od danych, nie od modelu

Pierwsze pytanie nie brzmi „jaki model”, tylko „czy jest z czego się uczyć”. Potrzebna jest historia decyzji wraz z ich wynikiem: wyceny i to, czy zostały przyjęte; zgłoszenia i to, jak je ostatecznie zakwalifikowano; zamówienia i to, co faktycznie zeszło z magazynu.

Ten etap kończy się czasem odpowiedzią, że danych jest za mało albo są niespójne. Mówimy to wtedy przed wyceną, a nie po wdrożeniu. Model zbudowany na danych, których nie ma, będzie działał, tylko jego odpowiedzi nie będą nic znaczyły.

Dlatego w ProcessPilot wyceniamy takie wdrożenie dopiero wtedy, gdy zobaczymy dane, a nie na podstawie samego opisu problemu.

Do czego nadaje się dedykowany model AI

• Klasyfikacja: zgłoszenia, dokumenty, pozycje kosztowe, kandydaci, wszędzie tam, gdzie człowiek dziś przypisuje kategorię z listy na oko.
• Wycena i szacowanie: powtarzalne wyceny, w których cena wynika z parametrów i historii, a technolog jest wąskim gardłem.
• Prognoza: popyt, zapotrzebowanie na obsadę, ryzyko opóźnienia, tam, gdzie istnieje wystarczająco długa historia.
• Wyszukiwanie znaczeniowe: znajdowanie w dokumentach po sensie, a nie po dokładnym słowie.

Jak sprawdzamy, że działa

Model porównujemy z tym, jak decyzje zapadają dzisiaj, na danych, których nie widział przy uczeniu. Jeżeli nie jest wyraźnie lepszy od obecnej praktyki, nie wdrażamy go, a wynik takiego porównania pokazujemy niezależnie od tego, co z niego wyszło.

Po wdrożeniu dalej mierzymy jakość. Dane się zmieniają: nowy asortyment, nowy segment klientów, inna sezonowość. Model, którego nikt nie kontroluje, po roku jest cichym źródłem błędnych decyzji, bo nadal odpowiada równie pewnie.

Decyzje, które zostają przy człowieku

Model podpowiada, człowiek decyduje, wszędzie tam, gdzie decyzja dotyczy osoby albo dużej kwoty. To nasz standard. Osoba, która decyduje, widzi podstawę podpowiedzi i może ją zmienić: zatwierdzanie bez czytania to w świetle RODO nadal decyzja automatu.

Zgodnie z RODO każdy ma prawo nie podlegać decyzji, która opiera się wyłącznie na zautomatyzowanym przetwarzaniu, jeżeli wywołuje ona skutki prawne albo w podobny sposób istotnie wpływa na osobę. Od tej zasady są wyjątki, które sprawdzamy dla konkretnego wdrożenia. Systemy AI oceniające kandydatów albo zdolność kredytową osób fizycznych są też według AI Act co do zasady systemami wysokiego ryzyka, więc przed takim wdrożeniem sprawdzamy, jakie wymogi je obejmują.