Sztuczna Inteligencja nie może działać kosztem konsumentów

Europosłowie komisji rynku wewnętrznego przyjęli dziś rezolucję, w której apelują o ochronę konsumentów w trakcie rozwoju i wprowadzania na rynek „inteligentnych” urządzeń. Rezolucja została przygotowana przez grupy polityczne w ślad za pytaniem do Komisji Europejskiej zaproponowanym przez wiceprzewodnicząca komisji, europosłankę PO - Różę Thun.

„Obserwujemy szybki rozwój  technologii sztucznej inteligencji i systemów zautomatyzowanego podejmowania decyzji.  Aplikacje wykorzystujące te systemy są przełomowe i stwarzają wiele nowych możliwości w różnych sektorach rynku, od finansów, poprzez lotnictwo, zatrudnienie, kulturę, służbę zdrowia czy edukację. Jednocześnie, niosą ze sobą ryzyko, że algorytmy wykorzystywane do ich funkcjonowania mogą wprowadzać w błąd, bądź, co gorsze, dyskryminować użytkowników lub doprowadzić do natarczywego monitorowania” - powiedziała Róża Thun. „Konieczne jest zapewnienie, i o to apelujemy do Komisji Europejskiej, aby wykorzystywane algorytmy, nie powielały błędnych, ale utartych wzorów” -  dodała europosłanka.

Systemy zautomatyzowanego podejmowania decyzji są już powszechnie wykorzystywane w Europie. W przyjętej rezolucji, europosłowie podkreślają, że użytkownicy zautomatyzowanych systemów powinni mieć pełną informację na temat tego jak ten system działa, jak dotrzeć do osoby, mającej możliwość podjęcia decyzji za system lub jak skorygować jego decyzje. Wezwali też Komisję Europejską do zapewnienia zgodności tych systemów z zapisami rozporządzenia o geoblokowaniu, tak aby automatyczne urządzenia nie dyskryminowały użytkowników ze  względu na narodowość, miejsce zamieszkania czy tymczasowe miejsce pobytu.

„Istnieje wiele wyzwań wynikających ze stosowania sztucznej inteligencji, od zróżnicowanych cen, aplikacji inteligentnego domu, systemów rekomendacji, procesów rekrutacyjnych po rozpoznawanie twarzy. Badania wykazały, że systemy są podatne na błędy algorytmiczne i odzwierciedlają uprzedzenia i nierówności społeczne, które są wprowadzone do ich kodu i danych szkoleniowych , co prowadzi do reprodukcji i zaostrzenia nierównego traktowania konsumentów, na przykład kobiet, osób biednych i osób o innym kolorze skóry. Musimy wyeliminować te ryzyka, żeby w pełni korzystać z potencjału  nowych technologii ” - dodała Róża Thun.

Dokument będzie głosowany podczas sesji plenarnej PE w lutym.