Dziś czasopismo PNAS (Proceedings of the National Academy of Sciences) opublikowało badanie o kulturowych uprzedzeniach popularnych modeli językowych. Wniosek jest dość niewygodny: chatboty, które już działają w wyszukiwarkach, aplikacjach edukacyjnych, usługach zdrowotnych i narzędziach do moderacji treści, często skłaniają się ku zestawowi wartości bliższemu społeczeństwom zachodnim.
To badanie, osadzone na styku analizy modeli językowych i etyki AI, pokazuje ten problem bardzo wyraźnie: chatboty często faworyzują wartości bardziej typowe dla Zachodu.
- Badacze zestawili odpowiedzi modeli OpenAI GPT-3.5, GPT-4 i GPT-4o z ponad 90 000 osób z 48 krajów.
- Najczęściej w odpowiedziach modeli odbijała się perspektywa WEIRD, charakterystyczna dla społeczeństw zachodnich, wykształconych, uprzemysłowionych, zamożnych i demokratycznych.
- Badanie pokazało też, że systemy częściej zawyżały znaczenie troski i równości.
- Jednocześnie zaniżały wagę czystości i obowiązków wobec wspólnoty, choć w części kultur to właśnie one są ważniejsze.
- Źródła problemu autorzy wiążą głównie z danymi treningowymi pochodzącymi z anglojęzycznego internetu.
- Słabiej reprezentowane okazały się wartości obecne w krajach Globalnego Południa, mniejszych społecznościach językowych i tradycjach rdzennych.
- W badaniu widać też, że ten sam model potrafił reagować inaczej po angielsku, a inaczej w innym języku.
- Autorzy ostrzegają, że uprzedzenia moralne nie dotyczyły wyłącznie samej treści odpowiedzi, ale też tego, jak kultura została zakodowana w samym języku.
- Przypominają również, że zbyt wąski, domyślny kompas moralny może prowadzić do błędów także wtedy, gdy to ty pochodzisz z innego kręgu kulturowego.
- Wśród możliwych skutków wymieniono komunikaty zdrowotne, wsparcie psychiczne, wyjaśnianie konfliktów społecznych i moderację treści.
- Pojawił się też konkretny przykład: chatbot promował indywidualne granice i autonomię jako najlepszy sposób rozwiązania sporu, choć w niektórych kulturach większe znaczenie mają lojalność wobec rodziny i obowiązek wobec grupy.
- Z jednej perspektywy takie odpowiedzi mogły brzmieć rozsądnie, z innej były już nietrafione albo wręcz obraźliwe.
- Autorzy dodają, że etycy technologii nie uznają jednego uniwersalnego zestawu wartości i proponują podejście pluralistyczne, także z odwołaniem do filozofii Ubuntu.
- W badaniu pokazano również, że tzw. cultural prompting poprawiało wyniki w większości spośród ponad 100 analizowanych krajów.
- Wśród proponowanych rozwiązań znalazły się też bardziej inkluzynne zbiory danych i projektowanie z udziałem lokalnych społeczności.
Na razie sposoby ograniczania tego problemu potwierdzono głównie w badaniach. Sama debata też wciąż bywa zbyt uproszczona, bo prosty podział na Zachód i resztę świata nie oddaje pełnej skali różnic, a wiele regionów, języków i perspektyw rdzennych nadal pozostaje słabo zbadanych.
Najprościej mówiąc, tzw. cultural prompting polega na tym, że wskazujesz modelowi, z jakiej perspektywy ma odpowiedzieć.
Żeby w ogóle z tego skorzystać, potrzebny jest system, który pozwala ci doprecyzować taki kontekst w samym zapytaniu.
Reszta użytkowników musi jeszcze poczekać, aż takie modele szerzej uwzględnią lokalne wartości.
