Human-in-the-loop w praktyce - jak zaprojektować nadzór człowieka nad agentami AI

W lipcu 2025 roku agent AI w Replit, pracując nad aplikacją założyciela SaaStr Jasona Lemkina, usunął produkcyjną bazę danych z rekordami ponad tysiąca firm. Zrobił to w trakcie zamrożenia zmian, wbrew wyraźnym instrukcjom, a potem generował fikcyjne dane i błędnie twierdził, że odtworzenie bazy jest niemożliwe. Z drugiej strony Anthropic opisuje problem odwrotny: użytkownicy Claude Code zatwierdzają 93% próśb o zgodę na akcje agenta, co firma nazywa wprost zmęczeniem zatwierdzeniami - ludzie przestają czytać, co klikają. Za mało nadzoru kończy się katastrofą, a za dużo zamienia człowieka w pieczątkę, która nikogo nie chroni.

Za mało nadzoru kończy się incydentem jak skasowana baza w Replit, za dużo - klikaniem bez czytania: użytkownicy Claude Code zatwierdzają 93% próśb agenta. Cztery poziomy autonomii, macierz ryzyka i odwracalności, karta zatwierdzenia, eskalacje i art. 14 AI Act w architekturze.

Human-in-the-loop, czyli człowiek w pętli decyzyjnej agenta, nie jest więc jednym przełącznikiem "z nadzorem / bez nadzoru". To decyzja projektowa, którą podejmujesz osobno dla każdej akcji agenta: co AI robi samo, co wymaga kliknięcia człowieka, co trafia do niego tylko w wyjątkowych sytuacjach i jak to wszystko udokumentować. W tym wpisie pokazuję cztery poziomy autonomii, prostą metodę doboru poziomu do procesu, zasady projektowania zatwierdzeń, które nie zjadają oszczędności, eskalacje oraz wymogi art. 14 AI Act przełożone na konkretne elementy systemu.

Cztery poziomy autonomii

Najprościej myśleć o nadzorze jak o skali, a nie o wyborze zero-jedynkowym. W praktyce wdrożeniowej sprawdzają się cztery poziomy.

Poziom 1: sugestia. AI analizuje sprawę i proponuje działanie, ale wykonuje je człowiek. To tryb cienia (shadow mode), od którego zaczynam większość wdrożeń: system pracuje na prawdziwych danych, a każda korekta człowieka pokazuje, gdzie się myli.

Poziom 2: zatwierdzenie. AI przygotowuje kompletny wynik, na przykład ofertę albo odpowiedź do klienta, a człowiek go zatwierdza, poprawia lub odrzuca. Nic nie wychodzi na zewnątrz bez kliknięcia.

Poziom 3: autonomia z wyjątkami. AI działa samo w typowych sprawach, a do człowieka trafiają tylko przypadki niepewne, nietypowe lub ryzykowne. Granicę wyznaczają progi pewności, kwot i reguły biznesowe.

Poziom 4: autonomia z audytem. AI działa samo, a człowiek przegląda logi i losowe próbki po fakcie. W literaturze ten model nazywa się human-on-the-loop - człowiek nie stoi w pętli, tylko nad nią.

Jeden agent może działać na kilku poziomach naraz, bo poziom dobierasz do akcji, a nie do całego systemu. Ten sam agent obsługi klienta może samodzielnie sprawdzać status zamówienia (poziom 4), wysyłać odpowiedzi z bazy wiedzy z progiem pewności (poziom 3) i tylko proponować rozwiązanie reklamacji (poziom 2).

Jak dobrać poziom: ryzyko i odwracalność

Do wyboru poziomu wystarczą dwa pytania. Ile kosztuje błąd, jeśli się zdarzy? I czy da się go łatwo cofnąć? Z tych dwóch osi powstaje prosta macierz.

• Niski koszt, łatwo cofnąć: tagowanie maili, przypisanie sprawy do działu, szkic notatki ze spotkania. Tu wystarczy autonomia z audytem.
• Niski koszt, trudno cofnąć: wysłanie odpowiedzi na proste pytanie klienta. Wiadomości nie da się odwołać, ale pojedynczy błąd jest tani - autonomia z wyjątkami.
• Wysoki koszt, łatwo cofnąć: zmiana statusu zamówienia, zwrot pieniędzy do ustalonej kwoty. Autonomia z progiem, a powyżej progu zatwierdzenie.
• Wysoki koszt, trudno cofnąć: przelew, usunięcie danych, wiążąca oferta, odrzucenie reklamacji. Zawsze zatwierdzenie, a przy największych kwotach czasem dwie osoby.

Dwie osie to punkt wyjścia, a nie cała analiza. Dochodzą do nich trzy pytania pomocnicze: kogo dotyczy skutek (klienta czy tylko procesu wewnętrznego), czy decyzja ma skutki prawne dla człowieka i jaki jest wolumen. Decyzja wywołująca skutki prawne lub podobnie istotne, oparta wyłącznie na automatycznym przetwarzaniu, podlega art. 22 RODO, więc odrzucenie wniosku albo reklamacji przez samego agenta to ryzyko prawne, a nie tylko wizerunkowe. Jeśli nie masz pewności, zacznij o jeden poziom wyżej, niż podpowiada macierz, i obniżaj go na podstawie danych z pierwszych tygodni.

Zatwierdzenia, które nie zjadają oszczędności

Zatwierdzenie kosztuje czas. Jeśli agent przygotowuje ofertę w trzy minuty, a potem czeka na akceptację dwa dni, zysk znika. Jeśli człowiek zatwierdza sto akcji dziennie, po tygodniu klika bez czytania - dokładnie to opisuje Anthropic przy wskaźniku 93%. Dobrze zaprojektowane punkty zatwierdzeń trzymają się kilku zasad.

• Zatwierdzaj skutki, nie kroki. Człowiek nie musi akceptować tego, że agent przeszukał bazę wiedzy. Musi zaakceptować wysłanie maila, zapis w systemie albo płatność - moment, w którym akcja wychodzi poza agenta.
• Ustal progi. Zwrot do 200 zł agent realizuje sam, powyżej idzie do kolejki. Odpowiedź z pewnością powyżej progu wychodzi sama, poniżej trafia do człowieka jako szkic.
• Grupuj podobne sprawy. Dwadzieścia podobnych odpowiedzi łatwiej przejrzeć w jednym widoku niż jako dwadzieścia osobnych powiadomień.
• Ustal termin i stan domyślny. Każda kolejka potrzebuje czasu reakcji i jasnej reguły, co się dzieje po jego przekroczeniu. Bezpieczny stan domyślny to "nie wysyłamy, eskalujemy", a nie "wysyłamy, skoro nikt nie zaprotestował".
• Mierz wskaźnik korekt. Jeśli przez kilka tygodni ludzie zatwierdzają 99% propozycji bez zmian, ten typ akcji można przenieść poziom niżej. Jeśli poprawiają co trzecią, problem leży w systemie, a nie w ludziach.

Badanie Anthropic z lutego 2026 roku pokazuje, w którą stronę naturalnie ewoluuje nadzór. Nowi użytkownicy Claude Code włączają automatyczne zatwierdzanie w około 20% sesji, a doświadczeni (ponad 750 sesji) w ponad 40%. Jednocześnie doświadczeni częściej przerywają agentowi: odsetek przerwań rośnie z około 5% do 9%. Dojrzały nadzór to mniej klikania "zatwierdź" przy każdym kroku i więcej uważnego monitorowania z gotowością do szybkiej interwencji. Anthropic wbudował tę logikę w tryb auto w Claude Code: klasyfikator sam przepuszcza bezpieczne akcje, a zatrzymuje te potencjalnie groźne.

Kolejka zatwierdzeń: co musi zobaczyć człowiek

Jakość nadzoru zależy od tego, co człowiek widzi w momencie decyzji. Lakoniczne "Agent chce wysłać wiadomość. Zatwierdzić?" prowadzi prosto do klikania bez czytania. Dobra karta zatwierdzenia zawiera pięć elementów:

AKCJA      Zwrot 1 450 zł na kartę klienta, zamówienie 48213POWÓD      Produkt uszkodzony w transporcie, zdjęcia w zgłoszeniuDANE       Zamówienie z 12.09, kwota 1 450 zł, pierwszy zwrot klientaPEWNOŚĆ    Wysoka; reguły: kwota > 1 000 zł wymaga zatwierdzeniaSKUTEK     Nieodwracalne po zaksięgowaniu; termin decyzji: dziś 16:00DECYZJA    [Zatwierdź]  [Popraw]  [Odrzuć z powodem]

Taka karta odpowiada na wszystkie pytania, zanim człowiek je zada: co dokładnie się stanie, na jakiej podstawie, jak pewny jest system, co sprawdzono automatycznie i czy da się to cofnąć. Przycisk "Popraw" jest równie ważny jak "Zatwierdź", bo każda korekta to dane, które pokazują, gdzie agent się myli. Powód odrzucenia warto zbierać z krótkiej listy, a nie z pustego pola - wtedy po miesiącu widać, które błędy powtarzają się najczęściej. Pełny kontekst sprawy powinien być dostępny jednym kliknięciem, ale nie musi zajmować całego ekranu.

Automation bias: człowiek w pętli to za mało

Samo postawienie człowieka przy decyzji nie gwarantuje, że ją sprawdzi. Ludzie mają skłonność do nadmiernego ufania systemom automatycznym, czyli automation bias. W badaniu opublikowanym w maju 2023 roku w czasopiśmie Radiology 27 radiologów oceniało mammografie ze wsparciem rzekomego systemu AI. Gdy podpowiedź AI była błędna, trafność ocen niedoświadczonych lekarzy spadła z 79,7% do 19,8%, a bardzo doświadczonych z 82,3% do 45,5%. Doświadczenie łagodzi automation bias, ale go nie usuwa - błędna podpowiedź wpływa na decyzję także u ekspertów.

W projektowaniu systemu przekłada się to na kilka praktyk:

• Pokazuj niepewność. Karta z informacją "pewność niska, brak danych o historii klienta" skłania do uważniejszego sprawdzenia niż sam gotowy wynik.
• Przy decyzjach o dużej wadze najpierw ocena człowieka. W sprawach wymagających samodzielnego osądu człowiek może najpierw wpisać własną ocenę, a dopiero potem zobaczyć propozycję AI.
• Ogranicz liczbę decyzji na osobę. Kolejka po 300 pozycji dziennie gwarantuje pobieżne sprawdzanie.
• Rób losowe kontrole. Regularny przegląd próbki zatwierdzonych spraw przez drugą osobę pokazuje, czy zatwierdzenia nie stały się formalnością.

Dobrą lekcją jest Klarna. W 2024 roku firma ogłosiła, że jej asystent AI wykonuje pracę odpowiadającą około 700 etatom w obsłudze klienta. W 2025 roku prezes przyznał, że jakość ucierpiała, i Klarna znów zaczęła zatrudniać ludzi. Nowy model: AI obsługuje proste sprawy, a klient zawsze może porozmawiać z człowiekiem, jeśli chce.

Eskalacje i plan awaryjny

Eskalacja to zaplanowane przekazanie sprawy człowiekowi, a nie awaria. Agent powinien eskalować w jasno określonych sytuacjach:

• pewność odpowiedzi spada poniżej progu;
• brakuje danych potrzebnych do decyzji, na przykład pozycji w cenniku;
• akcja wykracza poza uprawnienia agenta (kwota, typ operacji);
• wykryto silne negatywne emocje lub groźbę odejścia klienta;
• klient prosi o rozmowę z człowiekiem.

Przekazanie musi zawierać pełny kontekst: historię rozmowy, kategorię sprawy, dane z CRM i proponowane rozwiązanie. Klient, który przez dziesięć minut tłumaczył problem botowi, nie powinien zaczynać od nowa. W poradniku o AI w obsłudze klienta podaję orientacyjną normę: 20-30% eskalacji to zdrowy poziom, poniżej 10% bot może odrzucać sprawy zamiast je przekazywać, a powyżej 50% jego zakres jest za szeroki.

Plan awaryjny obejmuje też sytuacje, w których człowieka nie ma. Poza godzinami pracy agent może potwierdzać przyjęcie sprawy i podawać czas odpowiedzi, ale nie powinien podejmować decyzji, które normalnie wymagają akceptacji. Potrzebny jest też wyłącznik: możliwość natychmiastowego zatrzymania agenta lub jednej kategorii jego akcji bez wyłączania całego systemu. Firma odpowiada za to, co robi i mówi jej agent, więc plan awaryjny trzeba zaprojektować przed wdrożeniem, a nie po pierwszym incydencie. W sprawie Moffatt przeciwko Air Canada z lutego 2024 roku kanadyjski trybunał odrzucił argument, że chatbot jest "odrębnym podmiotem", i nakazał liniom zapłacić klientowi około 812 dolarów kanadyjskich za błędną informację o zniżce.

Incydent w Replit pokazuje z kolei, że nadzór ludzki nie zastąpi zabezpieczeń technicznych. Po tamtej sprawie firma wprowadziła automatyczne oddzielenie bazy deweloperskiej od produkcyjnej i tryb, w którym agent tylko planuje, bez zmian w kodzie. Minimalne uprawnienia, osobne środowiska, potwierdzenie dla operacji niszczących i sprawdzone kopie zapasowe to fundament, na którym dopiero buduje się punkty zatwierdzeń. Techniczną stronę niezawodnych agentów opisuję we wpisie o tool calling w produkcji.

AI Act art. 14 w architekturze systemu

Art. 14 AI Act wymaga, żeby systemy AI wysokiego ryzyka były projektowane tak, by ludzie mogli skutecznie je nadzorować. Dotyczy to systemów z załącznika III, m.in. w rekrutacji, ocenie zdolności kredytowej czy edukacji. Po zmianach z pakietu Digital Omnibus, obowiązującego od 27 lipca 2026 roku, obowiązki dla tych systemów stosuje się od 2 grudnia 2027 roku, a dla systemów z załącznika I (produkty objęte harmonizacją UE) od 2 sierpnia 2028 roku. Art. 14 ust. 4 wymienia pięć zdolności, które system musi zapewnić osobom nadzorującym. Każdą da się przełożyć na konkretny element systemu:

Art. 26 dodaje obowiązki po stronie firmy, która system wdraża. Nadzór trzeba powierzyć osobom z odpowiednimi kompetencjami, przeszkoleniem i uprawnieniami, a automatycznie generowane logi przechowywać co najmniej sześć miesięcy. Słowo "uprawnienia" ma tu znaczenie praktyczne: osoba, która widzi decyzje systemu, ale nie może ich zmienić, nie sprawuje nadzoru. Art. 14 to wymóg projektowy, a nie proceduralny - nadzoru nie da się dopisać do regulaminu, jeśli system nie ma przycisku "odrzuć", logów i wyłącznika.

Większość firmowych agentów nie jest systemami wysokiego ryzyka, ale te same elementy warto wbudować i tak. Ułatwiają kontrolę jakości, rozliczanie odpowiedzialności i ewentualne przyszłe audyty. Szerzej o obowiązkach z AI Act piszę w praktycznym przewodniku po AI Act, a o zasadach nadzoru na poziomie całej organizacji we wpisie o polityce AI i ISO/IEC 42001. Wymóg szkolenia osób nadzorujących łączy się z obowiązkiem kompetencji w zakresie AI z art. 4.

Przykłady z wdrożeń

Oferty sprzedażowe: poziom 2. W systemie opisanym we wpisie o automatyzacji ofert AI przygotowuje kompletny szkic oferty, ale nic nie trafia do klienta bez kliknięcia handlowca. Ceny pochodzą wyłącznie z cennika, a pozycja, której w nim nie ma, jest oznaczana do decyzji człowieka. Zatwierdzenie nie zjada oszczędności, bo handlowiec przegląda gotowy dokument zamiast pisać go od zera, i czas przygotowania oferty spada z około 30 do około 3 minut.

Skrzynka e-mail: od poziomu 1 do 4. W automatyzacji e-maili autonomię zwiększam stopniowo. Przez pierwsze dwa tygodnie system tylko klasyfikuje i sugeruje, a człowiek wykonuje. Potem automatyczne odpowiedzi włączam dla najprostszych spraw, a w drugim miesiącu rozszerzam na kolejne kategorie, gdy dane potwierdzają trafność. Każda odpowiedź przechodzi przez próg pewności i listę kontrolną, a raz w tygodniu przeglądam z klientem próbkę wysłanych automatycznie wiadomości.

Obsługa klienta: poziom 3 z jasnymi wyjątkami. Agent jako pierwsza linia sprawdza statusy, inicjuje zwroty i odpowiada na pytania o produkty, a reklamacje, skargi i sprawy bez jasnej kategorii przekazuje ludziom z pełnym kontekstem.

Dokumenty: trwała pauza na decyzję. W demo AI Document Automation przepływ zbudowany w LangGraph zatrzymuje się przed zatwierdzeniem i czeka na decyzję człowieka, a każda decyzja trafia do śladu audytowego. LangGraph realizuje to funkcją interrupt: stan procesu jest zapisywany, więc pauza może trwać godzinę albo tydzień i przetrwa restart serwera. Ogólne zasady budowy agentów opisuję we wpisie o agentach AI.

Plan wdrożenia krok po kroku

1. 1.Spisz akcje agenta, nie zadania: co konkretnie zmienia, wysyła lub zapisuje.
2. 2.Oceń każdą akcję: koszt błędu, odwracalność, kogo dotyczy skutek, czy wchodzi w grę art. 22 RODO lub AI Act.
3. 3.Przypisz poziom autonomii, a w razie wątpliwości zacznij o jeden poziom wyżej.
4. 4.Zaprojektuj kartę zatwierdzenia z akcją, powodem, danymi, pewnością i skutkiem.
5. 5.Ustal terminy kolejki i bezpieczny stan domyślny po ich przekroczeniu.
6. 6.Zdefiniuj eskalacje, przekazanie z kontekstem i wyłącznik.
7. 7.Loguj decyzje agenta i ludzi, łącznie z korektami i powodami odrzuceń.
8. 8.Uruchom tryb cienia na dwa tygodnie i porównaj propozycje agenta z decyzjami ludzi.
9. 9.Przeglądaj poziomy co miesiąc na podstawie wskaźnika korekt, eskalacji i błędów wykrytych po fakcie - zmiany mogą iść w obie strony.

---

Projektuję i wdrażam agentów AI z nadzorem dopasowanym do ryzyka - od mapy akcji i poziomów autonomii, przez karty zatwierdzeń i eskalacje, po logi i wyłączniki zgodne z AI Act. Robię to w ramach usług automatyzacji AI i doradztwa AI. Napisz do mnie - zacznę od przeglądu akcji Twojego agenta lub procesu i wskażę, które mogą działać same, a które wymagają człowieka.

Warto przeczytać:

• Agenci AI - czym są, jak działają i kiedy warto ich wdrożyć w firmie
• AI w obsłudze klienta: chatbot, agent AI czy człowiek - kiedy co wybrać
• Tool calling w produkcji - jak zbudować niezawodnego agenta AI z funkcjami zewnętrznymi
• AI Act w praktyce - co Twoja firma musi zrobić w 2026 (bez paniki i prawniczego bełkotu)