W ostatnich latach sztuczna inteligencja stała się nie tylko elementem innowacji technologicznych, lecz także przedmiotem szczegółowych regulacji prawnych. W odpowiedzi na dynamiczny rozwój narzędzi AI Unia Europejska przyjęła AI Act – pierwsze kompleksowe rozporządzenie dotyczące systemów sztucznej inteligencji. Dla przedsiębiorców oznacza to szereg nowych obowiązków, które zaczną stopniowo obowiązywać w najbliższych latach.

Poniżej prezentujemy najważniejsze kwestie, które warto wziąć pod uwagę już teraz.

1. Czym właściwie jest AI Act?

AI Act to unijne rozporządzenie regulujące projektowanie, wprowadzanie do obrotu oraz wykorzystywanie systemów sztucznej inteligencji na rynku UE. Jego głównym założeniem jest podejście oparte na ocenie ryzyka – im większe potencjalne zagrożenie wynikające z zastosowania danego systemu, tym bardziej rygorystyczne wymogi prawne.

Regulacja obejmie zarówno firmy tworzące systemy AI, jak i podmioty, które wykorzystują gotowe narzędzia w swojej działalności, np. w rekrutacji, obsłudze klienta, analizie danych czy automatyzacji procesów.

2. Kategorie ryzyka i ich znaczenie

AI Act wyróżnia cztery podstawowe poziomy ryzyka:

1. Niedopuszczalne ryzyko

To systemy, których stosowanie w UE będzie zakazane (np. rozwiązania naruszające podstawowe prawa lub wpływające na zachowania użytkowników w sposób niedopuszczalny). Przeciętny przedsiębiorca raczej nie będzie mieć styczności z tą kategorią.

2. Wysokie ryzyko

Tu znajdują się rozwiązania wykorzystywane m.in. w procesach rekrutacyjnych, zarządzaniu personelem, usługach medycznych, edukacji, transporcie czy krytycznej infrastrukturze.
Podmioty stosujące takie systemy muszą spełnić liczne obowiązki, w tym:

• prowadzić dokumentację techniczną,
• zapewnić nadzór człowieka,
• wprowadzić środki zapewniające jakość i bezpieczeństwo danych,
• podlegać procedurom oceny zgodności.

3. Ograniczone ryzyko

Rozwiązania wymagające podstawowej transparentności, np. informowania użytkownika, że ma do czynienia z systemem AI. Przykładem mogą być chatboty wykorzystywane do obsługi klienta.

4. Minimalne ryzyko

Najmniej wymagająca kategoria – większość popularnych narzędzi AI biurowych i wspomagających, które można nadal stosować bez dodatkowych obowiązków formalnych.

3. Czy AI Act dotyczy również użytkowników narzędzi AI, a nie tylko twórców?

Tak.
Rozporządzenie wprowadza pojęcie „użytkownika systemu AI” i nakłada na niego konkretne obowiązki, jeżeli korzysta z systemów wysokiego ryzyka. Obejmują one m.in.:

• właściwe wdrożenie systemu,
• monitorowanie działania,
• reagowanie na nieprawidłowości,
• zapewnienie jakości wprowadzanych danych,
• przestrzeganie instrukcji dostawcy.

W praktyce oznacza to, że nawet firmy, które jedynie kupują lub licencjonują narzędzie AI, mogą ponosić odpowiedzialność za jego niewłaściwe użycie.

4. Sankcje – na co trzeba uważać

AI Act przewiduje wysokie kary administracyjne, naliczane procentowo od globalnego obrotu przedsiębiorstwa. Naruszenia dotyczące systemów wysokiego ryzyka lub stosowania zakazanych rozwiązań mogą wiązać się z sankcjami porównywalnymi do tych znanych z RODO.

Dlatego odpowiednie przygotowanie dokumentacji oraz procedur zgodności jest kluczowe, nawet dla firm średniej wielkości.

5. Co powinni zrobić przedsiębiorcy już teraz?

a) Audyt narzędzi AI

Weryfikacja, jakie systemy są wykorzystywane i do jakiej kategorii ryzyka mogą należeć.

b) Przegląd umów z dostawcami oprogramowania

Umowy powinny odzwierciedlać nowe obowiązki: informacyjne, jakościowe, dokumentacyjne.

c) Analiza bezpieczeństwa i jakości danych

Szczególnie tam, gdzie AI wspomaga procesy kadrowe, medyczne czy decyzyjne.

d) Opracowanie wewnętrznych procedur korzystania z AI

Może to być polityka AI, regulaminy wewnętrzne lub instrukcje dla pracowników.

e) Szkolenia pracowników

Dobrze poinformowany użytkownik zmniejsza ryzyko naruszeń i błędnych decyzji.

6. Dlaczego to temat ważny dla firm w Polsce?

• AI Act będzie obowiązywać bezpośrednio, bez potrzeby implementacji ustawowej.
• Zakres regulacji obejmuje zarówno małe firmy, jak i duże korporacje.
• W wielu branżach analiza korzystania z AI stanie się wymogiem kontraktowym lub przetargowym.
• Wdrożenie zgodności może zająć od kilku miesięcy do kilkunastu – warto zacząć odpowiednio wcześnie.

Jak może pomóc Kancelaria Adwokacka Adwokat Grabarczyk – Piła

Nasza kancelaria oferuje kompleksowe wsparcie dla przedsiębiorców z Piły i okolic, obejmujące m.in.:

✔ Audyt stosowanych narzędzi AI

Weryfikujemy, z jakich systemów korzysta firma oraz jakie ryzyka i obowiązki wynikają z AI Act.

✔ Przygotowanie dokumentacji i procedur

Tworzymy polityki organizacyjne, instrukcje, rejestry i dokumenty wymagane przez nowe regulacje.

✔ Opinie prawne i doradztwo wdrożeniowe

Pomagamy dostosować firmę do nowych obowiązków, w tym w obszarach HR, usług cyfrowych, ochrony danych i compliance.

✔ Szkolenia dla kadry zarządzającej i pracowników

W przystępny sposób tłumaczymy praktyczne obowiązki wynikające z AI Act.

✔ Stała obsługa prawna przedsiębiorców

Zapewniamy wsparcie nie tylko na etapie wdrożenia, ale także w bieżącej ocenie zgodności i w relacjach z organami nadzoru.

5. Podsumowanie

AI Act to regulacja, która zmieni sposób funkcjonowania wielu przedsiębiorstw, nie tylko firm technologicznych. Kluczowe będzie odpowiednie przygotowanie procesów, dokumentacji i procedur.
Dla przedsiębiorców z regionu Piły to dobry moment, by rozpocząć działania dostosowawcze i uniknąć przyszłych niejasności oraz kosztownych naruszeń.