Sztuczna inteligencja coraz częściej współdecyduje o tym, kto dostanie pomoc medyczną czy kredyt hipoteczny. Badacze z Penn State proponują model o nazwie FAIR, który traktuje uczciwość algorytmów jak stale zarządzany problem, podobnie jak cyberbezpieczeństwo, a nie jednorazowe zadanie do odhaczenia.

Dlaczego uczciwość AI to trudny problem

Systemy automatyczne podejmują decyzje szybciej i bardziej spójnie niż ludzie, ale potrafią też powielać nierówności zapisane w danych treningowych. Jak przypomina autor badania, algorytmy stosowane w ochronie zdrowia wykazywały różnice rasowe, a systemy rekrutacyjne potrafiły dyskryminować kobiety. Dlatego samo pytanie o skuteczność nie wystarcza – trzeba pytać również o sprawiedliwość.

Według opublikowanego w czasopiśmie MIS Quarterly badania, którego współautorem jest Jing Tian ze Smeal College of Business, mamy do czynienia z „paradoksem socjotechnicznym”. Napięcia mają trzy źródła:

• różne rozumienia uczciwości – traktowanie wszystkich tak samo nie musi dawać równych efektów grupom historycznie pokrzywdzonym;
• konflikt z celami organizacji – takimi jak trafność przewidywań, wydajność czy zyski;
• rozbieżność między jednostką a grupą – to, co sprawiedliwe dla jednej osoby, nie zawsze jest takie dla całego społeczeństwa.

Autorzy podają przykład izby przyjęć: lekarz może chcieć stosować te same kryteria wobec wszystkich, rzecznik pacjentów – wspierać społeczności o gorszym dostępie do opieki, a administrator szpitala – przyjąć jak najwięcej osób. Wszystkie te cele są uzasadnione, a mimo to ciągną w różne strony.

Na czym polega model FAIR

Pierwsza część rozwiązania to podział systemu na trzy warstwy: dane, model generujący prognozy oraz reguły zamieniające prognozy w decyzje. Dzięki temu łatwiej wskazać, gdzie powstaje problem, i poprawić konkretny element zamiast traktować całość jak czarną skrzynkę.

Na każdym poziomie działa ciągły cykl: wykrywanie i rozwiązywanie problemów. Agenci AI monitorują system i sygnalizują narastające dysproporcje, a eksperci wskazują, którymi sprawami trzeba się zająć. Następnie AI proponuje i testuje poprawki, a ludzie oceniają kompromisy i zatwierdzają zmiany.

Druga część to wspólne standardy z miejscem na lokalną ocenę. Centralny zespół ds. nadzoru ustala minimalne wymogi dotyczące monitorowania, dokumentacji, odpowiedzialności i akceptacji przez człowieka, a zespoły odpowiedzialne za konkretne aplikacje dostosowują je do swoich decyzji. Obowiązuje zasada: im wyższa stawka, tym większy nadzór. Narzędzie polecające produkty może się dostosowywać niemal bez kontroli, natomiast system wpływający na leczenie wymaga znacznie ostrzejszego nadzoru.

Co to oznacza w praktyce

Zdaniem badaczy firmy muszą przede wszystkim zmienić podejście: uczciwość AI nie jest punktem do zaliczenia przy wdrożeniu. Potrzebne są stałe monitorowanie, jasno przypisana odpowiedzialność, szkolenia pracowników oraz łatwo dostępne kanały, w których osoby dotknięte decyzjami algorytmów mogą zgłaszać swoje doświadczenia. Autorzy zastrzegają, że na początku korzyści mogą być ograniczone, bo organizacje potrzebują czasu na naukę.

Dla polskiego czytelnika to nie tylko teoria. W Unii Europejskiej obowiązuje unijne rozporządzenie o sztucznej inteligencji (AI Act), które dla systemów wysokiego ryzyka – m.in. w rekrutacji, ocenie zdolności kredytowej czy ochronie zdrowia – przewiduje wymogi w zakresie nadzoru człowieka i zarządzania ryzykiem. Podejście z badania nie jest oficjalnym standardem, ale pokazuje, jak firmy mogłyby w praktyce realizować podobne zasady. Dla zwykłego użytkownika wniosek jest prosty: gdy o kredycie czy leczeniu współdecyduje algorytm, warto pytać, kto i jak sprawdza jego uczciwość.

Źródło: Tech Xplore – „Q&A: How can organizations improve fairness in automated AI systems?”