Projekt ustawy o systemach sztucznej inteligencji. Co zakłada?

Nowa ustawa o systemach sztucznej inteligencji ma wprowadzić ramy prawne zgodne z unijnymi regulacjami zawartymi w EU AI Act. Przewiduje ona m.in. powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zgodnie z planem wejdzie w życie w pierwszej połowie 2025 roku.

Co znajdzie się w ustawie o AI?

16 października 2024 roku Ministerstwo Cyfryzacji opublikowało projekt ustawy o systemach sztucznej inteligencji (AI), który odpowiada na wyzwania postawione przez unijne rozporządzenie w sprawie AI (EU AI Act). EU AI Act, który wszedł w życie 1 sierpnia 2024 r. wprowadza nowe, zharmonizowane zasady dotyczące sztucznej inteligencji na terenie całej Unii.

Ustawa adaptująca akt europejski ma ustanowić nowe mechanizmy nadzoru nad systemami AI, zgodne z wartościami Unii Europejskiej, jak ochrona praw człowieka, bezpieczeństwo i praworządność. W projekcie znalazły się konkretne regulacje dotyczące wprowadzania na rynek, użytkowania i nadzoru nad systemami sztucznej inteligencji.

Państwa członkowskie UE, w tym Polska, są zobowiązane stworzyć własne przepisy umożliwiające skuteczne egzekwowanie EU AI Act. Sam akt nie wymaga jednak wprowadzenia ustawą krajową, bo jako akt unijny zaczął obowiązywać automatycznie w każdym kraju członkowskim UE.

Planowane przez MC przepisy przewidują m.in. powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (jej biuro będzie miało siedzibę w Warszawie), która będzie pełnić funkcję centralnego organu nadzoru.

Kompetencje nowego organu

Zgodnie z projektem, Komisja będzie odpowiadała za nadzór nad rynkiem AI w Polsce. Jej zadaniem będzie m.in. monitorowanie zgodności systemów AI z nowymi przepisami, przyjmowanie skarg oraz wprowadzanie sankcji tytułem naruszenia prawa dot. AI. Ma również promować rozwój bezpiecznej i etycznej sztucznej inteligencji, współpracując z innymi instytucjami, takimi jak Urząd Ochrony Danych Osobowych czy Urząd Ochrony Konkurencji i Konsumentów.

W pracach nad ustawą, Ministerstwo Cyfryzacji przeprowadziło prekonsultacje, które trwały od kwietnia 2024 roku. Zdecydowana większość uczestników z sektora prywatnego i publicznego opowiedziała się za koniecznością powołania nowego organu nadzoru, który mógłby skutecznie realizować zadania związane z regulacją AI. W projekcie ustawy przewidziano także współpracę z innymi państwami Unii Europejskiej oraz Europejskim Urzędem ds. AI.

AI. Obowiązki prawne także w sektorze zdrowia

Projekt ustawy przewiduje szereg wymagań, do których będą musiałby dostosować się organy państwowe i sektor prywatny. Przedsiębiorcy będą m.in. zobowiązani do zapewnienia zgodności systemów z nowymi regulacjami, w tym spełniania wymogów bezpieczeństwa i ochrony danych. Za naruszenie przepisów grożą kary administracyjne, które mogą być nałożone zarówno na firmy, jak i na osoby fizyczne.

Najwięcej uwagi ustawa poświęca systemom AI wysokiego ryzyka. Szczególny nacisk położono na ochronę praw podstawowych. Projekt zakłada m.in. procedury związane ze zgłaszaniem incydentów związanych z AI, które mogą mieć wpływ na bezpieczeństwo obywateli. Ten obowiązek obejmuje też placówki zdrowia korzystające z rozwiązań AI. Będę one musiały raportować nietypowe zachowania systemów AI, tak samo jak zgłaszane są działania niepożądane leków.

Obok nadzoru, ustawa ma na celu wspieranie rozwoju sztucznej inteligencji w Polsce, w tym innowacyjności sektora małych i średnich przedsiębiorstw oraz startupów. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie prowadzić działania edukacyjne i promować bezpieczne i etyczne korzystanie z AI. Przypomnijmy, że w wywiadzie dla OSOZ, Wojciech Demediuk, Dyrektor Departamentu e-Zdrowia w Ministerstwie Zdrowia zapowiedział, że MZ planuje przeznaczyć 1,26 mld zł na rozwiązania AI dla ochrony zdrowia. Środki te mają pochodzić z Krajowego Planu Odbudowy (KPO).

Konsultacje społeczne projektu ustawy potrwają do końca listopada 2024 roku, a ministerstwo planuje, by ostateczny projekt został uchwalony przez Sejm w pierwszej połowie 2025 roku.

Projekt ustawy oraz uzasadnienie dostępne są tutaj.

Czytaj także: O co chodzi w EU AI Act? Rozmowa z Pamelą Krzypkowską z Ministerstwa Cyfryzacji