KRK.TV

niezależna telewizja internetowa – portal informacyjny

Kultura a sztuczna inteligencja. UNESCO obawia się zbyt szybkiego rozwoju w dziedzinie AI

Szaleńczo szybki, szczególnie w ostatnich latach, rozwój sztucznej inteligencji i robotyki budzi coraz większe wątpliwości i mieszane uczucia. Z jednej strony mamy entuzjastów i tych, którzy w pocie czoła pracują nad zagadnieniami SI, z drugiej zaś pełnych obawy sceptyków, czy wręcz apokaliptyków wieszczących bunt robotów i zagładę ludzkości rodem z filmu Matrix. Jednak nie tylko paranoicy i teorio-spiskowcy obawiają się szybkiego rozwoju SI. Przed ciemnymi stronami fenomenu coraz częściej ostrzegają również specjaliści, w związku z czym specjalną deklarację, przygotowaną inicjatywy UNESCO, podpisali przedstawiciele 193 państw członkowskich. 

Zarówno UNSESCO, jak i ONZ – jako organizacje powiązane – na celu mają dbanie o dziedzictwo kultury i sztuki, monitorowanie ogólnego postępu i rozwoju nauk szczegółowych oraz kontrolowanie i ochronę praw człowieka. W związku z tak pojętym posłannictwem przedstawiciele UNESCO mają prawo wnosić swoje uwagi do projektów i planów dzisiejszych technologicznych pionierów oraz wdrażających ich pomysły w życie instytucji.

Kierunek, w którym zmierza współczesna technologia może budzić i budzi słuszne obawy. Dotyczą one zwłaszcza etycznych aspektów rozwoju i zastosowań sztucznej inteligencji; właśnie te wątki UNESCO opatrzyło obszernym komentarzem w ramach swojegoprojektu. Na stronie Polskiego Komitetu do spraw UNESCO przeczytamy więc, iż projekt w formie zalecenia (rekomendacji) „opracowało grono 24 ekspertów z różnych regionów świata, w tym z Polski. Zebrane opinie i sugestie miedzy innymi ekspertów ze 155 krajów, agend Narodów Zjednoczonych, środowisk naukowych, mediów, organizacji pozarządowych i przedstawicieli sektora prywatnego  posłużyły ekspertom UNESCO do opracowania tekstu, który został skierowany do państw członkowskich”.

Nowe możliwości powodują bowiem wzrost ryzyka związanego z ogólnym rozwojem sztucznej inteligencji, która już teraz bywa wykorzystywana w sposób niewłaściwy, lub do niewłaściwych celów: pogłębienie uprzedzeń płciowych i etnicznych, wzrost stopnia inwigilacji, posługiwanie się mało skutecznymi technologiami, które wskutek błędu mogą prowadzić do oskarżenia niewinnych ludzi na podstawie ustaleń wadliwego algorytmu itp. 

Źródło: unsplash.com

Komunikat ekspertów działających z ramienia UNESCO przywołuje więc związane z potencjałem SI obawy że „maszyny zaczną decydować za człowieka, podważą jego prawo do prywatności oraz narażą użytkowników na manipulacje, naruszając podstawowe wolności i prawa człowieka, gdy ogromna ilość danych przetwarzanych każdego dnia stwarza poważne wyzwania dotyczące poufności, poszanowania życia prywatnego, ryzyka powielania praktyk dyskryminacyjnych oraz upowszechniania stereotypów”.

Zalecenia, które wprowadza dokument za sprawą postanowień sygnatariuszy obejmują istotne idee takie jak: 

– Proporcjonalność: technologie SI nie mogą wykraczać poza ramy ustalone dla osiągnięcia legalnych celów i powinny być dostosowane do kontekstu, w jakim są stosowane. Norma wyraźnie zakazuje wykorzystywania systemów sztucznej inteligencji do oceny społecznej i masowej inwigilacji. UNESCO postrzega tego typu technologie jako bardzo inwazyjne, naruszające prawa człowieka i podstawowe wolności;

– Sprawowanie nadzoru i określanie celów przez człowieka: człowiek jest odpowiedzialny pod względem etycznym i prawnym za systemy SI na wszystkich etapach ich tzw. cyklów życia. W zaleceniu podkreślono, że przy opracowywaniu ram regulacyjnych państwa członkowskie powinny wziąć pod uwagę, że ostateczna odpowiedzialność zawsze musi spoczywać na ludziach, a technologie sztucznej inteligencji nie powinny same mieć osobowości prawnej.

– zarządzanie dotyczące środowiska: na wszystkich etapach swych cyklów życia systemy SI powinny sprzyjać pokojowej interkonektywności wszystkich istot żywych i szanować środowisko naturalne, zwłaszcza w zakresie pozyskiwania surowców. Norma zaleca rządom ocenę bezpośredniego i pośredniego wpływu na środowisko w całym cyklu życia systemu SI. Obejmuje to ślad węglowy, zużycie energii oraz wpływ wydobycia surowców na środowisko w celu wspierania produkcji technologii sztucznej inteligencji. Ma również na celu zmniejszenie wpływu systemów SI i infrastruktury danych na środowisko;

– równość płci i ochrona danych: technologie SI nie powinny powielać istniejących w świecie realnym nierówności ze względu na płeć, przede wszystkim, jeśli chodzi o zarobki, reprezentację, dostęp i stereotypy. Dla uniknięcia tych poważnych niebezpieczeństw potrzebne są działania polityczne, m.in. w zakresie dyskryminacji pozytywnej. Ochrona danych poprzez działania wykraczające poza to, co robią firmy technologiczne i rządy, aby zagwarantować osobom większą ochronę poprzez zapewnienie przejrzystości i kontroli nad ich danymi osobowymi. Zalecenie postanawia, że wszystkie osoby powinny mieć możliwość dostępu do swoich danych osobowych, a nawet ich usunięcia. Obejmuje to również działania mające na celu poprawę ochrony danych oraz wiedzy danej osoby na temat własnych danych i prawa do ich kontrolowania. Zwiększa również zdolność organów regulacyjnych na całym świecie do egzekwowania tego.

„Świat potrzebuje reguł dla sztucznej inteligencji, które przyniosą korzyści ludzkości. Zalecenie w sprawie etyki SI jest ważną reakcją. Ustanawia pierwsze globalne ramy normatywne, jednocześnie nakładając na państwa odpowiedzialność za wprowadzanie ich na swoim poziomie. UNESCO będzie wspierać swoje 193 państwa członkowskie we wdrażaniu zasad i poprosi je o regularne raportowanie swoich postępów i działań” – powiedziała dyrektor generalny UNESCO Audrey Azoulay.

Bardzo interesującym wątkiem jest tutaj „wykorzystanie systemów sztucznej inteligencji do oceny społecznej i masowej inwigilacji”. Przedstawiciele UNESCO mają tu na myśli zwłaszcza tak zwany System zaufania społecznego (Social Credit System) czy też system punktacji społeczne, który od wielu lat funkcjonuje w Chinach, a od niedawna również w Australii. Założenia brzmią więc świetnie, faktem jednak pozostaje to, iż rozwój systemów SI do celów społecznej inwigilacji: projektowania tak zwanych smart city’s, rozpoznawania twarzy przez kamery przemysłowe, gromadzenia danych biometrycznych, szkolenie algorytmów, aby to one decydowały o możliwości korzystania (lub nie) z kredytów, pożyczek, zakupu nieruchomości, wynajmu mieszkań i samochodów, latania samolotem, rezerwacji pokoi w prestiżowych hotelach lub kształcenia w prestiżowych szkołach – stanowi jeden z najszybciej rozwijających się sektorów w pracy nad sztuczną inteligencją. 

Źródło: infoworld.com/ unesco.pl/wikipedia.org

Zobacz więcej

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *