Agenty AI, zdolne do podejmowania inicjatyw w systemach informatycznych firm, burzą dotychczasowe modele zarządzania. Tożsamość, kontrola dostępu, możliwość śledzenia działań i nadzór człowieka stają się kluczowe dla pogodzenia autonomii z bezpieczeństwem, w momencie gdy AI Act stopniowo wchodzi w życie.
- Agenty AI działają autonomicznie w systemach firm i podważają dotychczasowe modele zarządzania.
- AI Act nie reguluje agentów jako kategorii, lecz wymaga identyfikacji, nadzoru i kontroli systemów wysokiego ryzyka.
- Firma powinna przypisać każdemu agentowi właściciela, ograniczone uprawnienia i możliwość szybkiego zatrzymania.
- Zarządzanie agentami trzeba wdrożyć od razu, a nie dopiero przed terminem regulacyjnym z grudnia 2027 roku.
Tradycyjny model zarządzania opiera się na prostej zasadzie: jedna osoba odpowiada jednej tożsamości, określonym uprawnieniom i jasno wskazanemu przełożonemu. W przypadku agentów AI ta logika zostaje zachwiana. Te programy mogą być tworzone szybko, ewoluować w czasie, a ich dostęp może się poszerzać zgodnie z powierzonymi zadaniami. Wdrażane poza standardowymi procesami, mogą sprawić, że firma straci kontrolę nad liczbą aktywnych agentów, ich opiekunami oraz tym, do czego są faktycznie uprawnione.
Według raportu Okta Global CISO Insights 2026, 81% ankietowanych dyrektorów ds. bezpieczeństwa wyraża obawy dotyczące nadmiernych uprawnień przyznawanych AI, podczas gdy tylko 47% deklaruje, że jest w stanie zidentyfikować wszystkich agentów AI działających w ich środowisku. AI Act nie reguluje „agentów AI » jako kategorii. Nakłada natomiast, w przypadku niektórych systemów i określonych poziomów ryzyka, wymóg zwiększonej zdolności do identyfikacji, nadzorowania, monitorowania i kontroli wdrożonych systemów. Pytanie nie brzmi więc już tylko, czy firma korzysta z AI, ale co jest uprawnione do działania w jej imieniu.
W przypadku systemów wysokiego ryzyka rozporządzenie nakłada wymagania dotyczące zarządzania ryzykiem, możliwości śledzenia działań, monitorowania i kontroli człowieka. Zanim pozwoli się agentowi działać w krytycznym procesie, trzeba wiedzieć, do jakich danych ma dostęp, z jakich aplikacji może korzystać, jakie działania może podejmować, kto za niego odpowiada i jak w razie potrzeby zawiesić jego uprawnienia. Przepisy te wpisują się ponadto w szerszy trend, obejmujący m.in. DORA i NIS2, które zmierzają do tego samego wymogu: identyfikacji zasobów, zrozumienia uprawnień dostępu i możliwości wykazania, co się wydarzyło.
Tożsamość jako podstawa łańcucha odpowiedzialności
Każdy agent musi być możliwy do zidentyfikowania, przypisany do zespołu lub przełożonego, mieć zdefiniowany zakres dostępu, a jego uprawnienia muszą być regularnie weryfikowane. Agent nie jest pracownikiem i nie należy nim zarządzać jak zatrudnioną osobą. Kluczowe jest odtworzenie łańcucha odpowiedzialności, gdy działa – czyli powiązanie zautomatyzowanej akcji z upoważnieniem i osobą odpowiedzialną. Niektóre zadania mogą być w pełni zautomatyzowane, inne muszą pozostać poddane zatwierdzeniu przez człowieka lub możliwe do przerwania, gdy stwarzają szczególne ryzyko.
Cztery kroki do odzyskania kontroli
Mapowanie istniejącego stanu. Pierwszym krokiem jest inwentaryzacja wykorzystywanych narzędzi i agentów, ich dostępu do danych oraz osób, które je kontrolują. Spis ten powinien objąć także agenty tworzone w środowiskach deweloperskich oraz zautomatyzowane procesy, które wymykają się tradycyjnym procesom IT.
Przypisanie tożsamości i zakresu działania. Agent musi mieć wyznaczonego właściciela oraz uprawnienia odpowiadające jego misji, zgodnie z zasadami minimalnych uprawnień, dostępu ograniczonego w czasie i rozdzielenia obowiązków. Jego maszynowa natura nie powinna prowadzić do obdarzania go większym zaufaniem niż użytkownika-ludzi.
Utrzymanie człowieka w pętli decyzyjnej. W przypadku działań wrażliwych firma musi określić, kiedy konieczna jest interwencja człowieka – czy to w formie zatwierdzenia przed wykonaniem, czy możliwości szybkiego zatrzymania agenta wykraczającego poza swój zakres.
Weryfikacja wartości biznesowej. Autonomiczne projekty uruchamiane bez jasnego celu i nadzoru mogą mnożyć ryzyka, nie wykazując swojej użyteczności. Należy zatem zdefiniować problem do rozwiązania, oczekiwaną wartość i sposób pomiaru wyników, co pozwala również określić niezbędny poziom autonomii.
Dla systemów AI wysokiego ryzyka objętych Załącznikiem III, przepisy zaczną obowiązywać od 2 grudnia 2027 roku. Źródło przypomina jednak, że zarządzanie agentem buduje się w momencie, gdy firma przyznaje mu prawo do działania, a nie dopiero w terminie regulacyjnym. Traktując te agenty jako kwestię tożsamości, a nie tylko zgodności z przepisami czy technologii, organizacje mogą przejść od logiki „shadow AI » do zarządzanej AI.
