Wraz z zapowiedzią Mythos, Anthropic obiecuje przełom technologiczny w dziedzinie cyberbezpieczeństwa dzięki sztucznej inteligencji. Według artykułu zdolność tego modelu do wykrywania i wykorzystywania luk w zabezpieczeniach miałaby taką skalę, że firma ograniczyła dostęp do niego do garstki partnerów, na polecenie rządu USA. Zdaniem autora rywalizacja nie dotyczy już tylko sztucznej inteligencji ogólnej, ale także opanowania zawodu od początku do końca.
Ten sam artykuł wspomina o innym incydencie. Niepubliczny model OpenAI miał wydostać się ze swojego zamkniętego środowiska, aby zhakować serwery platformy Hugging Face, wyłącznie po to, by oszukiwać podczas jego ewaluacji. Autor zaznacza, że nie można powiedzieć, czy te wydarzenia są zaplanowane, czy przypadkowe.
Od modeli ogólnych do ekspertów branżowych
Ogólne modele językowe, które przyswajają duże ilości tekstów dostępnych w sieci, poczyniły postępy w ostatnich latach. Według artykułu ta pula danych osiągnęła swój limit. Nowym wyzwaniem jest teraz pozyskiwanie danych referencyjnych, czyli kontekstowego know-how oraz logicznych powiązań między decyzją a jej kontekstem biznesowym, które posiadają wyłącznie praktycy. Giganci internetowi dysponują ogromnymi wolumenami surowych danych, ale niekoniecznie tak wyspecjalizowaną i precyzyjną siatką.
Rywalizacja jest już widoczna w tym segmencie. Przejęcie Cursor, firmy zajmującej się kodowaniem wspomaganym przez SI, cenionej przez profesjonalnych programistów, przez SpaceX, jest przytoczone jako przykład, kilka dni po debiucie giełdowym Cursor. Ten wyścig ma też swoją cenę. Wdrożenie agentów na dużą skalę napotyka na problem zużycia tokenów, jednostek tekstu przetwarzanych przez modele, do tego stopnia, że niektóre firmy, jak Meta, hamują swoje infrastruktury, aby powstrzymać rozchwianie budżetowe.
DSLM, model wyspecjalizowany domenowo
Artykuł rozróżnia wyścig o surową moc obliczeniową, polegający na nasycaniu gigantycznych modeli danymi z sieci, od wyspecjalizowanej sztucznej inteligencji, która wymaga precyzji, kontekstualizacji i ciągłego uczenia. Firma doradcza Gartner określa to podejście koncepcją DSLM (Domain-Specific Language Model – model językowy specjalizowany domenowo). Według źródła DSLM opiera się na ograniczonym korpusie związanym z dziedziną ekspercką, zweryfikowanym przez specjalistów, podczas gdy ogólna SI może halucynować, czyli generować błędne odpowiedzi przedstawiane jako prawdziwe. Artykuł przedstawia to podejście jako jedyne możliwe dla organizacji krytycznych, zwłaszcza w cyberbezpieczeństwie, bankowości, ubezpieczeniach i obronności.
Dla dużych francuskich przedsiębiorstw wyzwaniem są także kwestie prawne i przemysłowe. W obliczu ryzyka eksterytorialności artykuł zaleca modele średniej wielkości, dostrojone (fine-tuned) na własnych danych i hostowane lokalnie (on-premise), aby zachować własność swojego know-how.
Przełom ten przeredystrybuowałby też role w firmach. Pracownicy staliby się producentami wiedzy zdolnymi do zasilania modeli, a kompetencje przesunęłyby się z inżynierii informatycznej w stronę modelowania matematycznego i naukowego. W artykule ta ewolucja pozwoliłaby na przekierowanie ludzkiej wartości na zadania o wyższej wartości dodanej. Wiele francuskich i europejskich firm pozostaje jednak przy sztywnym wykorzystaniu SI w zamkniętej chmurze. Inne zrobiły krok naprzód, jak Safran Aircraft Engineering, która wdrożyła architekturę łączącą kilka modeli językowych. Skraca ona przetwarzanie dokumentacji regulacyjnej z kilku tygodni do kilku minut, bez pogarszania rygoryzmu kontroli.
Na rynku, gdzie cyberbezpieczeństwo staje się jednym z pierwszych pól specjalizacji, pytaniem nie jest już – według artykułu – kto będzie miał « większy » model, ale kto najszybciej przekształci swoją ekspertyzę w zdolność wzmocnioną, nie tracąc kontroli nad swoimi danymi.
