Bezpieczne AI w urzędzie: nagranie webinarium i odpowiedzi na najczęstsze pytania

24 września 2026 r. poprowadziliśmy webinarium „Bezpieczne AI w administracji publicznej“. Wzięło w nim udział ponad 130 osób z urzędów i innych jednostek publicznych. Nagranie jest dostępne poniżej i na YouTube.

Spotkanie prowadzili Wojciech Łaś (technologia i pokazy rozwiązań) oraz Tomasz Łaś, radca prawny (aspekty prawne). Trwało ponad dwie godziny. Poniżej znajdziesz spis treści z odnośnikami do konkretnych fragmentów, streszczenie najważniejszych tez i odpowiedzi na pytania uczestników.

Spis treści nagrania

• 0:00 — Otwarcie
• 3:28 — Jak działa sztuczna inteligencja
• 22:07 — Aspekty prawne: AI Act, RODO, art. 50
• 38:36 — Kazus: czy urzędnik mógł użyć prywatnego ChatGPT?
• 49:24 — Jak korzystać z AI bezpiecznie: umowa powierzenia
• 64:53 — Pokaz: asystent dla pracowników urzędu
• 91:05 — Pokaz: asystent dla mieszkańców
• 107:01 — Odpowiedzi na pytania

Przerwa kawowa trwa od około 57. do 64. minuty.

Jak działa AI: praktykant, który nigdy nie mówi „nie wiem“

Model językowy, na którym działają ChatGPT, Gemini czy Claude, robi jedno: przewiduje następne słowo. Nie sprawdza faktów. Wybiera to słowo, które najlepiej pasuje do tego, czego się nauczył.

Na początku webinarium poprosiliśmy uczestników o dokończenie zdania „Wlazł kotek na…“. Większość wpisała „płotek”. Pojedyncze osoby wpisały „parapet“ albo „drzewo“. Wszystkie odpowiedzi są poprawne gramatycznie i mają sens. „Płotek“ wygrywa, bo rymuje się i jest znany prawie każdemu.

Tak samo działa model. Wybiera odpowiedź najbardziej prawdopodobną, a nie sprawdzoną. Dlatego zdarzają się halucynacje. Zapytany o termin załatwienia skargi, model może pewnie odpowiedzieć „14 dni“. Tymczasem Kodeks postępowania administracyjnego mówi: bez zbędnej zwłoki, nie później niż w ciągu miesiąca (art. 237 § 1 k.p.a.).

Wojciech porównał model do praktykanta. Jest bardzo oczytany i szybko pisze. Nie zna jednak procedur urzędu, jest pewny siebie i chce się przypodobać. Jego pracę trzeba sprawdzić.

Dwie rzeczy zmniejszają to ryzyko. Pierwsza to podłączenie modelu do bazy dokumentów (technika RAG). Model dostaje wtedy „segregator“ z aktami prawnymi i dokumentami urzędu, szuka w nim odpowiedzi i wskazuje źródło. Odpowiedź można od razu zweryfikować. Druga to zasada, że decyzję podejmuje i podpisuje człowiek.

Co mówi prawo

Model to nie system

AI Act rozróżnia model i system AI. Model to silnik, na przykład Bielik czy PLLuM. Sam plik z modelem niczego nie uruchomi. System AI to gotowa aplikacja z interfejsem, na przykład ChatGPT albo Gemini. To system jest przedmiotem regulacji.

Trzy poziomy ryzyka

AI Act dzieli systemy na trzy grupy:

1. Zakazane. Na przykład ocena społeczna obywateli (social scoring) czy masowe rozpoznawanie twarzy z kamer.
2. Wysokiego ryzyka. Dopuszczalne, ale z rygorystycznymi wymogami. Przykłady to ocena uczniów i rekrutacja pracowników.
3. Pozostałe. Tu mieszczą się chatboty wspierające pracę: pomoc w redagowaniu pism, przeszukiwanie orzecznictwa, odpowiedzi na pytania ogólne.

Według naszej oceny asystenci, które oferujemy (dla urzędników i dla mieszkańców), należą do trzeciej grupy.

Art. 50: przejrzystość

Zasada jest prosta: użytkownik ma wiedzieć, że rozmawia z systemem AI. To obowiązek dostawcy, na przykład firmy takiej jak Neon Flower. Urząd, który tylko korzysta z gotowego rozwiązania, ma obowiązków dużo mniej.

W praktyce urząd musi oznaczyć deepfake, czyli treść udającą rzeczywistość. Nie musi oznaczać tekstów, które informują społeczeństwo o sprawach interesu publicznego, jeśli sprawdził je człowiek (wystarczy weryfikacja redakcyjna). W sprawach indywidualnych art. 50 nie nakłada obowiązku oznaczania. Za wynik odpowiada urząd. Nie można zrzucić winy za halucynacje na czatbota.

Ustawa o systemach AI i norma ISO 42001

Krajowa ustawa o systemach sztucznej inteligencji nie zastępuje AI Act. Ustanawia organ, który będzie interpretował przepisy (podobnie jak interpretacje podatkowe) i nakładał sankcje. Obowiązki urzędu wynikają bezpośrednio z AI Act.

Norma ISO 42001 jest dobrowolna. Opisuje, jak projektować, wdrażać i prowadzić rozwiązania AI.

Kazus: prywatne konto w czacie

Prowadzący przedstawił uczestnikom sytuację. Gmina nie zapewnia pracownikom dostępu do AI. Pracownik, Jan Kowalski, wykupuje prywatną subskrypcję czatu. Usuwa ze skargi mieszkańca dane osobowe i wysyła plik do czatu. Czat proponuje odpowiedź. Jan ją sprawdza, przenosi do pisma i dopisuje dane mieszkańca. Wójt akceptuje treść i podpisuje pismo.

W ankiecie większość uczestników uznała, że takie działanie było niedozwolone, ale pojawiły się też odpowiedzi „raczej tak“ i „zdecydowanie tak“. Widać, że ocena takich przypadków nie jest oczywista.

Odpowiedź prowadzącego: to działanie było niedozwolone. Jest jak wysłanie dokumentów służbowych z prywatnej skrzynki e-mail. Dane opuszczają urząd poza zgodą pracodawcy i poza jego systemem zarządzania ryzykiem. Konsekwencje mogą obejmować:

• naruszenie obowiązków pracowniczych i wewnętrznych procedur urzędu,
• naruszenie RODO, jeśli w danych są dane osobowe (pracownik przekazuje je wtedy bez umowy powierzenia),
• wyprowadzenie tajemnicy służbowej,
• incydent w rozumieniu ustawy o krajowym systemie cyberbezpieczeństwa.

W popularnych aplikacjach konsumenckich dane rozmów mogą być domyślnie wykorzystywane do trenowania modeli. Ustawienie da się wyłączyć, ale nie znosi to przechowywania danych przez dostawcę. Użytkownik indywidualny nie ma też wpływu na to, na jakich serwerach dane leżą.

Czy w ogóle wolno używać prywatnych narzędzi? W ograniczonym zakresie, jak wyszukiwarki. Pytania ogólne, wyszukiwanie orzeczeń: tak. Tłumaczenie pisma, przygotowanie projektu odpowiedzi na wniosek czy ocena specyfikacji warunków zamówienia: nie.

Jak zrobić to bezpiecznie

Warunek podstawowy: narzędzie zapewnia pracodawca. Wtedy urząd jest podmiotem stosującym system AI i administratorem danych. Pracownik nie działa na własną rękę i nie ponosi ryzyka za to, że urząd nie dał mu narzędzia.

Urząd ma dwie drogi:

1. Własne wdrożenie. Na przykład model open source (Bielik, PLLuM) na własnej infrastrukturze. Modele są dostępne bezpłatnie, ale wymagają odpowiedniego sprzętu i jego utrzymania.
2. Dostawca zewnętrzny. Urząd zawiera umowę na usługę i umowę powierzenia przetwarzania danych. Dostawca działa jako procesor, a lista podwykonawców jest jawna.

Analogia jest taka sama jak przy poczcie. Nikt nie oczekuje, że pracownik założy sobie prywatną skrzynkę do korespondencji urzędowej. Pracodawca daje skrzynkę, a pracownik z niej korzysta. Z AI powinno być tak samo.

W ocenie prowadzącego, gdy jest umowa powierzenia i regulamin, pracownik nie musi ręcznie anonimizować danych osobowych w pismach wgrywanych do narzędzia. Tak samo nie anonimizuje się treści wiadomości e-mail. Bez umowy powierzenia nie należy wgrywać pism w ogóle.

Do wdrożenia potrzebne są też: regulamin korzystania (w urzędzie najlepiej wprowadzony zarządzeniem wójta, burmistrza lub prezydenta), zasada weryfikacji każdej odpowiedzi przez pracownika oraz szkolenie.

Pokazy: dwa rozwiązania

Asystent dla pracowników urzędu (NEON Public). Prowadzący pokazali pracę na przykładach: analiza zagadnienia prawnego, wyszukanie orzecznictwa sądów administracyjnych, projekt umowy dzierżawy, projekt odpowiedzi na petycję mieszkańca, wezwanie do wykazania interesu publicznego, sprawdzenie specyfikacji warunków zamówienia pod kątem zgodności z ustawą Prawo zamówień publicznych. W każdej odpowiedzi asystent podaje źródła, do których można przejść jednym kliknięciem. System łączy się z bazami aktów prawnych i orzeczeń, a urząd może dodać własne dokumenty i wzory pism. Projekt pisma ma adnotację, że AI może popełniać błędy. Urzędnik musi ją usunąć, co wymusza sprawdzenie treści. Asystent zmniejsza ryzyko halucynacji, ale go nie eliminuje.

Asystent dla mieszkańców (NEON Resident). Chatbot do umieszczenia na stronie urzędu lub w BIP. Odpowiada na pytania mieszkańców na podstawie informacji już opublikowanych przez urząd, zawsze ze wskazaniem źródła i linkiem do wniosku lub karty usługi. Gdy nie zna odpowiedzi, mówi o tym wprost i podaje kontakt do urzędu. Na webinarium pokazaliśmy go publicznie po raz pierwszy. Wdrożenie polega na wklejeniu na stronę jednego fragmentu kodu.

Dane organizacji przechowujemy w Polsce, a przetwarzanie modelowe odbywa się w Unii Europejskiej. NEON Public jest zaprojektowany zgodnie z wymaganiami RODO i AI Act oraz w oparciu o normę ISO 42001.

Odpowiedzi na pytania uczestników

Pytania z czatu zebraliśmy w sekcji FAQ poniżej. Dotyczą między innymi prywatnych kont w czacie, odpowiedzialności za wyciek danych, oznaczania odpowiedzi AI oraz sposobu zawarcia umowy.

Na koniec prowadzący odnieśli się do dwóch pytań, które warto odnotować. Pierwsze: czy AI zastąpi urzędnika? Nie. AI pomaga skrócić przygotowanie umowy czy odpowiedzi z godzin do minut, ale nie zastąpi weryfikacji ani decyzji człowieka. Drugie: czy istnieją systemy AI do zarządzania ryzykiem w kontroli wewnętrznej? W ocenie prowadzących zarządzanie ryzykiem musi opierać się na analizie przez poszczególne działy. AI może wspomagać, na przykład weryfikować regulamin zarządzania ryzykiem, ale nie zastąpi kontroli wewnętrznej.

Co dalej

Jeśli chcesz zobaczyć rozwiązanie na przykładach ze swojej jednostki, umów bezpłatną, 30-minutową prezentację. Pokażemy m.in. panel administratora i omówimy umowę oraz dokumenty wdrożeniowe.

Umów bezpłatną prezentację

Źródła: rozporządzenie (UE) 2024/1689 (AI Act), w szczególności art. 50; ustawa z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (art. 237 § 1). Treść ma charakter informacyjny i nie stanowi opinii prawnej dla konkretnej jednostki.