Aby przejść na skalę, sztuczna inteligencja musi być przewidywalna, niezawodna i kontrolowana. Według ostatniego globalnego badania PwC Global CEO Survey, przeprowadzonego wśród ponad 4400 dyrektorów, 56% z nich twierdzi, że do tej pory nie osiągnęło żadnych znaczących korzyści finansowych ze sztucznej inteligencji. Architektura łącząca SI z regułami biznesowymi pozwoliłaby, według opublikowanej analizy, kontrolować koszty i zapewniać mierzalne rezultaty.
Hamulec najczęściej nie leży w wydajności modeli, ale w ich nieprzewidywalności. Firma, która nie może ani przewidzieć decyzji SI, ani zagwarantować jej niezawodności w dłuższej perspektywie, waha się powierzyć jej swoje krytyczne procesy. Pozostaje wówczas ograniczona do eksperymentów o niskim ryzyku, podczas gdy jej konkurenci posuwają się naprzód. Kluczowym pytaniem staje się więc kwestia niezawodności: czy SI może wytwarzać dobre wyniki w sposób powtarzalny i kontrolowany?
Od wyników technicznych do wyników biznesowych
SI może wygenerować odpowiedź, podsumować dokument lub zarekomendować działanie. Pozostaje pytanie, czy te rezultaty poprawiają doświadczenie klienta, redukują koszty operacyjne, zwiększają produktywność pracowników lub podnoszą przychody, ponieważ to właśnie te wyniki są podstawą oceny dla kierownictwa. Przez lata branża mierzyła jednak SI za pomocą kryteriów technicznych, takich jak precyzja czy wyniki benchmarków, wskaźników zrozumiałych głównie dla data scientistów.
Z punktu widzenia przedsiębiorstwa, wydajna SI to taka, której wyniki są zgodne z jego celami, w określonym i kontrolowanym ramach.
Koszt nieprzewidywalności
Gdy zachowanie SI zmienia się w zależności od sytuacji, najpierw spowalnia jej adopcja. Z powodu braku zaufania do jej rekomendacji, pracownicy wracają do ręcznych procesów, a oczekiwane korzyści z automatyzacji ulatniają się. Z ostrożności firmy rezerwują następnie SI do przypadków użycia o niskiej wrażliwości, co ogranicza zyski do kilku jednorazowych rezultatów.
Koszty również stają się trudne do opanowania. W agentowych systemach SI, gdzie agenci autonomicznie wykonują długie i złożone zadania, zużycie tokenów, jednostek tekstu przetwarzanych przez model, nie rośnie liniowo. Na każdym etapie agenci ponownie analizują kontekst, oceniają opcje i uruchamiają swoje rozumowanie, przez co rachunek może gwałtownie wzrosnąć w skali dużej firmy. Gartner przewiduje zresztą, że ponad 40% projektów agentowej SI zostanie porzuconych do końca 2027 roku z powodu rosnących kosztów, słabo określonej wartości biznesowej lub niewystarczającej kontroli ryzyka.
Do tego dochodzi ryzyko prawne. W środowisku regulowanym, zwłaszcza gdy AI Act stopniowo wchodzi w życie, probabilistyczna odpowiedź nie może zastąpić reguły biznesowej, gdy właściwa odpowiedź jest znana z góry.
Przewidywalne nie znaczy jednolite
Przewidywalna SI nie daje tej samej odpowiedzi w każdej sytuacji. Gwarantuje natomiast, że każda odpowiedź służy celowi wyznaczonemu przez firmę, z zachowaniem precyzyjnych reguł. Wymiana z klientem może pozostać naturalna i spersonalowana, jednocześnie spełniając obowiązki regulacyjne, a rekomendacja może się różnić w zależności od klienta, podążając za zatwierdzoną logiką decyzyjną.
Należy móc wyjaśnić, jakie dane i jakie reguły doprowadziły do rekomendacji, aby działać z zaufaniem i rozliczać się w razie potrzeby. Zgodność musi być wpisana w samą architekturę, zamiast opierać się na późniejszych kontrolach ludzkich. Dane PwC idą w tym kierunku: firmy z solidnymi fundamentami, takimi jak ramy odpowiedzialnej SI, mają trzy razy większe szanse na osiągnięcie znaczących zwrotów finansowych.
Wobec gwałtownie rosnących kosztów, najczęstszym odruchem jest mnożenie pulpitów nawigacyjnych, pułapów budżetowych i mechanizmów monitorowania. Źródło uważa natomiast, że nieprzewidywalność rozwiązuje się już na etapie projektowania systemów, łącząc dwa poziomy. Pierwszy to warstwa orkiestracji deterministycznej, która stosuje reguły biznesowe i podejmuje decyzje, dla których właściwa odpowiedź już istnieje, jak kryteria kwalifikowalności czy wymogi zgodności. Drugi to warstwa SI, wykorzystywana gdy trzeba zinterpretować niestrukturyzowany dokument, wygenerować język naturalny lub przeanalizować sentyment. Zużycie zasobów koncentruje się wtedy na zadaniach, które je uzasadniają, a koszty stają się przewidywalne.
Od eksperymentowania do przewagi konkurencyjnej
Firmami, które najlepiej wykorzystają SI będą, według tej analizy, te, które potrafią przekształcić potężne modele w niezawodne i trwałe rezultaty. Kryterium sukcesu zmienia się wtedy: mniej liczy się to, co SI potrafi zrobić, a bardziej to, co wytwarza w sposób stały i mierzalny. Przewidywalność stanowi różnicę między demonstracją a transformacją, między projektem pilotażowym a wdrożeniem w skali całego przedsiębiorstwa.
