// DefinedTermSet

Słownik człowieka w pętli

Jasne, cytowalne definicje słownictwa nadzoru człowieka nad AI — pojęć, na których opiera się reszta tekstów, od AI Act po codzienne rzemiosło utrzymywania człowieka w pętli.

01Człowiek w pętli (HITL): Układ, w którym człowiek sprawdza, zatwierdza lub poprawia wynik systemu AI, zanim ten wywoła skutek. Człowiek znajduje się wewnątrz ścieżki decyzji, więc żadne istotne działanie nie zapada bez jego wyraźnego udziału.
02Człowiek nad pętlą (HOTL): Układ, w którym system AI działa samodzielnie, lecz człowiek go nadzoruje i może w każdej chwili zareagować, wstrzymać lub nadpisać decyzję. Nadzór jest dozorujący, a nie krok po kroku, co pasuje do zadań masowych lub działających pod presją czasu.
03Człowiek u steru: Zasada, że to ludzie zachowują nadrzędną władzę i odpowiedzialność za system AI — rozstrzygają, czy, kiedy i jak go używać — nawet gdy bieżąca praca jest zautomatyzowana. Ujmuje AI jako narzędzie służące celom człowieka, a nie odwrotnie.
04Rzeczywisty nadzór człowieka: Nadzór, który naprawdę pozwala człowiekowi zrozumieć, zakwestionować i zatrzymać system AI — a nie tylko przyklepać go kliknięciem. AI Act (art. 14) wymaga, by systemy wysokiego ryzyka projektowano tak, aby nadzorujący pojął ich ograniczenia, czuwał nad błędem automatyzacji oraz mógł zainterweniować lub przerwać działanie.
05Błąd automatyzacji: Skłonność do nadmiernego ufania podpowiedzi maszyny i zaprzestania jej weryfikacji — przyjmowania błędnych odpowiedzi i przeoczania pomyłek, które człowiek inaczej by wychwycił. To główna słabość, której ma przeciwdziałać rzeczywisty nadzór człowieka.
06Wsparcie a zastąpienie: Dwa przeciwne cele wdrażania AI: wsparcie sprawia, że człowiek pracuje lepiej i szybciej, wciąż podejmując decyzje; zastąpienie usuwa człowieka z zadania w całości. Wybór kształtuje organizację pracy, ryzyko oraz to, gdzie wciąż obowiązuje ludzki osąd.
07Eskalacja i przekazanie sprawy: Moment, w którym system AI przekazuje sprawę człowiekowi, bo jest niepewny, wykracza poza swój zakres lub stawka jest wysoka. Dobrze zaprojektowane przekazanie zawiera kontekst i uzasadnienie, których człowiek potrzebuje, by przejąć sprawę bez zaczynania od zera.
08Zaufanie wykalibrowane: Zaufanie użytkownika do systemu AI dopasowane do jego rzeczywistej rzetelności — poleganie nań tam, gdzie jest mocny, i powątpiewanie tam, gdzie jest słaby. Czytelny interfejs i jasne sygnały skuteczności pomagają je zbudować; nieprzejrzyste popychają ludzi ku nadmiernej lub zbyt małej ufności.
09Zautomatyzowane podejmowanie decyzji: Decyzja oparta wyłącznie na zautomatyzowanym przetwarzaniu, bez oceny przez człowieka. Na gruncie RODO (art. 22) osoba ma prawo nie podlegać takiej decyzji, gdy wywołuje ona skutki prawne lub podobnie istotne, poza wąskimi wyjątkami obwarowanymi zabezpieczeniami.
10Obowiązki przejrzystości (AI Act, art. 50): Obowiązki z art. 50 AI Act, by informować ludzi, że mają do czynienia z AI: chatboty muszą ujawniać, że są maszyną, a treści syntetyczne lub zmanipulowane (deepfake) trzeba oznaczać jako wytworzone sztucznie. Przepisy te obowiązują od 2 sierpnia 2026 r.
11System AI wysokiego ryzyka: Kategoria z AI Act dla AI używanej w obszarach wrażliwych — rekrutacji, kredytach, edukacji, ochronie zdrowia, wymiarze sprawiedliwości i podobnych — gdzie błędy mogą poważnie naruszyć prawa ludzi. Takie systemy obejmują najsurowsze obowiązki, w tym zarządzanie ryzykiem, jakość danych i nadzór człowieka.
12Podmiot stosujący: W AI Act to organizacja, która stosuje system AI we własnej działalności (w odróżnieniu od dostawcy, który go tworzy). Podmioty stosujące systemy wysokiego ryzyka muszą wyznaczyć kompetentny nadzór człowieka, przestrzegać instrukcji użycia i monitorować zachowanie systemu w praktyce.
13Przekwalifikowanie i podnoszenie kwalifikacji: Przekwalifikowanie przygotowuje ludzi do innej roli, gdy ich dawne zadania są automatyzowane; podnoszenie kwalifikacji pogłębia obecne umiejętności do pracy z AI. Oba sposoby pozwalają organizacjom wdrażać AI, zachowując zespół, zamiast go wymieniać.
14Zarządzanie zmianą: Świadome prowadzenie ludzi przez nowy sposób pracy — komunikacja, szkolenia, przeprojektowane role i informacja zwrotna — tak by wdrożenie AI naprawdę się przyjęło. Większość nieudanych wdrożeń to porażki zarządzania zmianą, a nie kwestie techniczne.
15UX nadzoru: Projekt interfejsu, który czyni nadzór człowieka wykonalnym: pokazuje pewność i tok rozumowania AI, wyróżnia sprawy wymagające przeglądu i sprawia, że interwencja jest szybka i bezbolesna. Słaby UX nadzoru to częsty powód, dla którego nadzór istnieje na papierze, lecz nie w praktyce.
16Łańcuch odpowiedzialności: Udokumentowana linia tego, kto odpowiada za decyzję wspartą przez AI — od dostawcy i podmiotu stosującego po osobę, która ją zatwierdziła. Czytelny łańcuch sprawia, że gdy coś pójdzie nie tak, odpowiedzialność spoczywa na ludziach, a nie na modelu.
17Bezpieczne zatrzymanie (stop): Niezawodny sposób zatrzymania systemu AI i powrotu do stanu bezpiecznego — „przycisk stop”, na którym opiera się rzeczywisty nadzór człowieka. By był prawdziwy, musi pozostać dostępny, szybki i skuteczny nawet wtedy, gdy system jest pewny swojej racji.
18Dryf modelu: Stopniowy spadek trafności modelu AI, w miarę jak rzeczywistość oddala się od danych, na których go nauczono. Ponieważ dryf jest cichy, stanowi jeden z najsilniejszych powodów, by ludzie monitorowali AI długo po wdrożeniu.