Każda sztuczna inteligencja może się mylić, a żadne porównanie nie powie, która z nich popełni błąd w kluczowej odpowiedzi. Dla firm wybór SI jest więc kwestią rozpatrywaną dla każdego zastosowania osobno, w zależności od tego, jakie konsekwencje miałby błąd. Metoda oparta na analizie wpływu pozwala podjąć decyzję.
Weźmy ankietę bezpieczeństwa wysłaną przez dużego klienta, z długą listą pytań i krótkim terminem. Zespół wypełnia ją przy pomocy SI, szybko sprawdza, a następnie kierownik ds. bezpieczeństwa podpisuje. Na pytanie „czy kopie zapasowe są szyfrowane? » SI odpowiada twierdząco, powołując się na politykę, która od tego czasu się zmieniła. Nikt tego nie zauważa. Klient zauważy to podczas pierwszej kontroli, a pytaniem nie będzie już to, czy SI się pomyliła, tylko kto podpisał i w oparciu o co.
Błąd SI da się naprawić, dopóki pozostaje szkicem. Kosztuje, gdy tylko osoba zaangażowała go w imieniu firmy. Ta sama SI, z tym samym wskaźnikiem błędów, może być nieszkodliwa w wewnętrznej notatce i niebezpieczna w odpowiedzi skierowanej do klienta. Dlatego wybór narzędzia należy podejmować dla każdego zastosowania osobno.
Cztery poziomy, jedno pytanie
Metoda polega na zadaniu sobie pytania, dla każdego zastosowania, co jest zaangażowane, jeśli odpowiedź jest błędna i nikt tego nie zauważy. Możliwe są cztery odpowiedzi. Nic, w przypadku notatki wewnętrznej, przeformułowania lub szkicu i tak sprawdzanego. Praca, gdy trzeba poprawić dokument i stracić czas, bez podjętych zobowiązań. Zobowiązanie, z odpowiedzią umowną, oświadczeniem dla klienta lub ofertą. Wreszcie ekspozycja, z raportowaniem regulacyjnym, zaświadczeniem o zgodności lub dokumentem sporządzonym pod kontrolą organu.
Komitet zarządzający nie musi wyceniać kosztu każdego błędu, ponieważ żadne źródło nie podaje go z góry. Musi zdecydować, dla każdego poziomu, co firma akceptuje: podpisywanie bez weryfikacji, wymaganie wskazania źródła lub odmowa, aby maszyna generowała treść. Jest to decyzja o tolerancji ryzyka, podejmowana dla każdego zastosowania osobno, a nie raz na zawsze dla „SI ».
Dla każdego poziomu odpowiednie narzędzie
Dla dwóch pierwszych poziomów może wystarczyć ogólnodostępna generatywna SI, w granicach tego, co można jej powierzyć bez ryzyka. Dla dwóch kolejnych szybkość już nie wystarcza i konieczne są trzy wymagania: aby każde stwierdzenie cytowało dokument, stronę i wersję, z której pochodzi; aby system potrafił wskazać, że nie może odpowiedzieć, ponieważ błędna odpowiedź kosztuje podczas audytu; oraz aby wyznaczona osoba zatwierdziła treść, ze śladami podpisu.
Autor dodaje czwarte wymaganie: weryfikacji nie należy powierzać modelowi, który treść przygotował. Badacze wykazali to na konferencji ICLR 2024, a nowsze badanie idzie w tym samym kierunku: weryfikacja zyskuje na skuteczności, gdy kontrolujący jest mniej podobny do tego, który odpowiedział. Kontrolę może więc zapewnić inna SI, specjalizująca się w branży i dokumentach firmy, która sprawdza każde stwierdzenie w odniesieniu do źródła i sygnalizuje to, czego nie może ustalić. Rozbieżność między dwoma SI nie daje poprawnej odpowiedzi, ale wskazuje miejsce, w którym człowiek musi spojrzeć. Ta kontrola odbywa się w chronionej przestrzeni firmy, a nie u podmiotu trzeciego.
Decyzje komitetu
Kolejność postępowania ma znaczenie. Najpierw należy zinwentaryzować zastosowania i określić dla każdego z nich, co byłoby zaangażowane w przypadku cichego błędu. Następnie przychodzi tolerancja ryzyka, poziom po poziomie. Narzędzie pojawia się dopiero na końcu, dobrane do tej tolerancji, a nie do prezentacji dostawcy.
Wróćmy do ankiety. Przy zastosowaniu tej metody odpowiedź dotycząca kopii zapasowych zawierałaby odniesienie do polityki, jej wersję i datę. Druga SI, lub osoba sprawdzająca zwracająca uwagę na tę datę, zauważyłaby, że cytowana wersja nie jest już najnowsza, a kierownik ds. bezpieczeństwa podpisałby ze świadomością tego faktu. Maszyna i tak by się pomyliła, ale ktoś wiedziałby o tym przed klientem.
