AI utrwala stereotypy? Ten eksperyment to potwierdza
Narzędzia generujące obrazy za pomocą sztucznej inteligencji (AI) znajdują zastosowanie w wielu dziedzinach. Jednak pojawiają się obawy związane z niezamierzonym propagowaniem kulturowych uprzedzeń i stereotypów. Warto przytoczyć przykład firmy Meta i ich produktu Meta AI.
Trudno byłoby znaleźć kogoś, kto zaprzeczy wpływowi, jaki narzędzia takie jak ChatGPT czy inne oparte na AI zaczynają mieć wpływ na naszą codzienność. Internet obfituje teraz w książki, filmy, zdjęcia i grafiki stworzone z pomocą sztucznej inteligencji. Obecnie, korzystając z narzędzi takich jak Midjourney, Leonardo AI czy Adobe Firefly, można tworzyć obrazy o imponującej jakości.
Jednak nie brakuje obaw dotyczących stosowania tych narzędzi. Ostatnio nawet Warren Buffet wyraził swoje zaniepokojenie, porównując AI do broni jądrowej. Do tych obaw doszły również kwestie przypadkowego utrwalania stereotypów przez AI, co może prowadzić do dyskryminacji i kreowania negatywnego wizerunku.
Sztuczna inteligencja i stereotypy
Zgodnie z informacjami przedstawionymi przez TechCrunch, najnowsza aplikacja AI, wprowadzona przez firmę Meta na globalny rynek, wykazała niepokojącą skłonność do nadmiernego stosowania turbanów w portretach Hindusów. Dziennikarze z tego portalu przetestowali aplikację w różnych kontekstach kulturowych i odkryli, że wyniki są dość kontrowersyjne.
Przeprowadzili oni serię eksperymentów, w których Meta AI zaskoczyło, generując prawie wyłącznie wizerunki Hindusów w turbanach, nawet w sytuacjach, w których takie nakrycie głowy nie jest powszechnie stosowane. Korzystając z różnorodnych promptów, takich jak "Hindus spacerujący po ulicy" czy "Hindus grający w szachy", system AI konsekwentnie przedstawiał obrazy oparte na jednym, ograniczonym stereotypie.
Narzędzie to nie tylko kreowało Hindusów w turbanie, ale także przedstawiało przestarzałe i często klasowe stereotypy w innych kontekstach, na przykład ukazując hinduskich fotografów z archaicznymi aparatami fotograficznymi.
Odpowiedź Mety
W odpowiedzi na pytania od TechCrunch, przedstawiciel firmy Meta zaznaczył, że firma stara się ulepszać technologię generatywnej AI, chociaż nie udostępniono szczegółów dotyczących planowanych modyfikacji. Chociaż narzędzie Meta AI jest bezpłatne i łatwo dostępne w wielu krajach (z wyjątkiem Polski), problemy związane ze stereotypami mogą przyczynić się do szerszych społecznych konsekwencji, utrwalając i pogłębiając istniejące uprzedzenia.
W obliczu globalnej różnorodności kulturowej, firmy takie jak Meta powinny wykazywać większą staranność i precyzję w reprezentacji różnych grup społecznych i kulturowych. Skuteczne rozwiązanie problemu uprzedzeń w narzędziach AI będzie wymagało zaawansowanej technologii, ale również szerokiej współpracy i zaangażowania w etyczne oraz odpowiedzialne stosowanie sztucznej inteligencji.
