Wdrażanie automatyki na bazie AI – wyzwania praktyczne

W branży IT oraz wśród prawników zajmujących się sztuczną inteligencją krąży pewna anegdota. Wykonawca opowiadający o zaletach swojego rozwiązania skupia się na tym, jakie jest ono inteligentne i wielokrotnie odwołuje się do pojęcia „sztucznej inteligencji”. Po zakończeniu prezentacji zamawiający dopytuje, czy wykonawca śledzi rozwój ekosystemu prawnego, który ma regulować sztuczną inteligencję oraz jak dba o to, aby jego rozwiązania w zakresie AI były gotowe na nowe regulacje. Wtedy pada odpowiedź lekko przerażonego wykonawcy, że tak właściwie to jest jednak… zaawansowany algorytm, a nie żadne AI.

Anegdota ta oddaje pierwsze dwa istotne wyzwania praktyczne, przed jakimi stają podmioty zaangażowane we wdrażanie automatyki.

AI czy nie AI?

Pierwsze jest związane z tym, przy których rozwiązaniach rzeczywiście mamy do czynienia ze sztuczną Inteligencją (czyli softwarem, który faktycznie cechuje zdolność do uczenia się i samodzielnego rozwiązywania problemów – bez korzystania z zaprogramowanych wcześniej algorytmów). Na to pytanie często odpowiedzieć będą mogli inżynierowie i programiści, o ile wykonawca realnie pozwoli im zapoznać się z kodem i architekturą systemu.

Nieuregulowane regulacje

Drugie wyzwanie dotyczy ekosystemu regulacyjnego. Obecnie w Polsce i w UE nie mamy powszechnie obowiązujących reguł (ustaw, rozporządzeń czy dyrektyw UE), które jednoznacznie przesądzałyby, co wolno, a czego nie wolno przy tworzeniu i wykorzystywaniu sztucznej inteligencji. Nie istnieją też wiążące wytyczne dotyczące cech i wymogów, jakie muszą spełniać rozwiązania techniczne oparte na sztucznej inteligencji. Pojawiają się białe księgi[1], komunikaty[2], strategie[3], założenia oraz projekty aktów prawnych[4]. Żadne z nich nie są (na dzień przygotowania tego artykułu) wiążącym prawem, rozwiązania w nich proponowane często się od siebie różnią, a lobbyści i interesy różnych grup często się ścierają. Nie ma gwarancji, kiedy oraz dokładnie w jakiej formie wejdą w życie wiążące przepisy. Oczywiście istnieją regulacje, które można wykorzystywać pomocniczo (ogólne zasady prawa cywilnego, RODO etc.), niemniej jednak oznacza to, że projektując i wdrażając rozwiązania AI trzeba być gotowym na elastyczność i szybkie oraz sprawne reagowanie na rozwój wypadków i zmiany legislacyjne.

„Without data, there is no AI”

Na opisanych dotąd dwóch wyzwaniach jednak nie koniec. Kolejne wiąże się z tym, że – jak słusznie wskazano w Unijnej Białej Księdze z 2020 r. dotyczącej AI – „Without data, there is no AI.” A zatem jednym z kluczowych aspektów dla efektywności działania sztucznej inteligencji są dane, na których algorytmy „trenują się” i na podstawie których wyciągają wnioski. W konsekwencji dane, którymi karmi się algorytmy są równie ważne, co sam program. Ten ostatni może bowiem działać w pełni poprawnie, gdy tymczasem na skutek niepełnych, zmanipulowanych czy tendencyjnych danych efekt działania kompletnego rozwiązania będzie absolutnie nieakceptowalny.

Dobrym przykładem jest eksperyment z chatbootem Tay na Twitterze z 2016 r. Twórcy z firmy Microsoft musieli wyłączyć go po kilkunastu godzinach, gdyż AI zaczęła odpowiadać zaczepiającym ją użytkownikom TT w sposób, którego się od nich nauczyła – daleki od oczekiwanego i akceptowalnego. Ten przypadek pokazuje, że kwestia tego, czyimi i jakiej jakości danymi będziemy uczyć algorytmy może być decydującym czynnikiem podczas wyboru wykonawcy czy negocjacji umowy.

Formuła „black box”

W przypadku bardzo wyrafinowanych i zaawansowanych rozwiązań opartych na sztucznej inteligencji jest ona często oferowana w formule „black box”. W praktyce oznacza to, że otrzymujemy wnioski i efekty, ale nie możemy prześledzić procesu ani odpowiedzieć sobie na pytanie, dlaczego otrzymaliśmy taki, a nie inny wynik. Czasami przyczyna tkwi w dużym skomplikowaniu, a zazwyczaj w chęci ochrony know-how i kodu wykonawcy. Utrudnia to, a czasem wręcz uniemożliwia, rozliczalność i zagwarantowanie takiego charakteru działania AI, który nie będzie dyskryminacyjny.

Podsumowując, w przypadku wdrażania rozwiązań opartych na sztucznej inteligencji w przedsiębiorstwie czy instytucji trzeba nastawić się na fascynującą podróż w często jeszcze nieznane rejony. Warto zatem dobrze się do tego przygotować, zadbać o jakość danych i niuanse w umowie oraz aktywnie śledzić zmieniający się ekosystem prawny.

[1] KE, Biała księga w sprawie sztucznej inteligencji. Europejskie podejście do doskonałości i zaufania, COM (2020) 65 final, 19.02.2020.

[2] Komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów: Sztuczna inteligencja dla Europy, COM (2018) 237 final, 25.04.2018; Komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów: Skoordynowany plan w sprawie sztucznej inteligencji, COM (2018) 795 final, 07.12.2018; Komunikat Komisji do Parlamentu Europejskiego, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów: Promowanie europejskiego podejścia do sztucznej inteligencji, COM (2021) 205 final, 21.04.2021.

[3] Uchwała nr 196 Rady Ministrów z dnia 28 grudnia 2020 r. w sprawie ustanowienia „Polityki dla rozwoju sztucznej inteligencji w Polsce od roku 2020”.

[4] Wniosek w sprawie rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniającego niektóre akty ustawodawcze Unii, COM(2021) 206 final, 21.04.2021.

Artykuł ukazał się w Miesięczniku Automatyka, wydanie 1-2/2022. – https://automatykaonline.pl/Automatyka/Roczniki/2022/1-2-2022

Autor – Maciej Kubiak – Specjalizuje się w zagadnieniach prawa autorskiego, mediów, filmowego i prasowego, IT i nowych technologii, reklamy i własności przemysłowej oraz ochrony dóbr osobistych. Reprezentuje Klientów w sporach sądowych związanych z ochroną własności intelektualnej, renomy oraz w sprawach gospodarczych. Zrealizował kilkadziesiąt projektów obsługi prawnej produkcji filmowo-telewizyjnych, w tym wysoko budżetowych koprodukcji międzynarodowych. Doradzał wielu producentom, wydawnictwom muzycznym i książkowym, organizatorom koncertów, agencjom reklamowym i public relations, firmom IT czy domom mediowym. Konsultuje przedsięwzięcia związane z innowacjami, wdrażaniem automatyki i robotyki, danymi osobowymi, nowymi technologiami i komercjalizacją badań naukowych. Wspiera klientów w sprawach dotyczących zwalczania nieuczciwej konkurencji. Pomagał w transgranicznych projektach licencyjnych oraz wejściu na polski rynek nowych brandów w tym nowych kanałów telewizyjnych.

Więcej artykułów o podobnej tematyce możesz znaleźć na naszym blogu.