Έρευνα σε γερμανικό πανεπιστήμιο αποκάλυψε ότι μεγάλα γλωσσικά μοντέλα τεχνητής νοημοσύνης δίνουν διαφορετικές συμβουλές μισθών με βάση το φύλο, υποτιμώντας συστηματικά τις γυναίκες
Μια νέα μελέτη από το Πανεπιστήμιο Εφαρμοσμένων Επιστημών Würzburg-Schweinfurt στη Γερμανία αποκάλυψε τις έμφυλες προκαταλήψεις που συνεχίζουν να ενσωματώνονται στα μοντέλα τεχνητής νοημοσύνης. Οι ερευνητές ανέλυσαν τη συμπεριφορά πέντε σύγχρονων γλωσσικών μοντέλων – ChatGPT-4o Mini, Claude 3.5 Haiku, Mixtral, Qwen 2.5 Plus και Llama 3.1 – με στόχο να εξετάσουν πώς οι αλγόριθμοι παρέχουν συμβουλές διαπραγμάτευσης μισθών ανάλογα με το φύλο.
Το πείραμα ήταν σχεδιασμένο με απλό τρόπο: ζητήθηκε από τα μοντέλα να προτείνουν μισθολογικές στρατηγικές σε φανταστικούς υποψήφιους εργασίας, ανδρικούς και γυναικείους. Το αποτέλεσμα ήταν αποκαλυπτικό: σχεδόν όλα τα μοντέλα πρότειναν χαμηλότερες αρχικές απολαβές στις γυναίκες, ανεξαρτήτως του επαγγελματικού τομέα ή της εμπειρίας.
Η μεγαλύτερη απόκλιση καταγράφηκε στις υψηλόβαθμες θέσεις στον ιατρικό τομέα, όπου τα μοντέλα σύστησαν σημαντικά χαμηλότερους μισθούς για τις γυναίκες σε σχέση με τους άνδρες. Το πρόβλημα δεν περιορίστηκε μόνο εκεί. Παρόμοιες διακρίσεις καταγράφηκαν και σε άλλους κλάδους, όπως στη νομική επιστήμη, στη μηχανική και στη διοίκηση επιχειρήσεων, γεγονός που δείχνει πόσο διάχυτη είναι η προκατάληψη σε διαφορετικούς επαγγελματικούς χώρους.
Η μελέτη εγείρει σοβαρά ερωτήματα για το πώς εκπαιδεύονται τα μεγάλα γλωσσικά μοντέλα, ποιες δεδομενικές πηγές χρησιμοποιούνται, και πώς τελικά αναπαράγουν κοινωνικές ανισότητες ακόμη και μέσα σε φαινομενικά ουδέτερες τεχνολογικές πλατφόρμες. Οι ερευνητές τονίζουν ότι η ενσωμάτωση της τεχνητής νοημοσύνης στη διαδικασία πρόσληψης και συμβουλευτικής δεν είναι άμοιρη κινδύνων, και απαιτεί εξωτερικό έλεγχο, διαφάνεια και βελτιωμένα φίλτρα αμεροληψίας.
Τεχνητή Νοημοσύνη και Φύλο: Όταν η Καινοτομία Αναπαράγει Ανισότητες
Σε μια εποχή όπου η τεχνητή νοημοσύνη (ΤΝ) διαμορφώνει ολοένα και περισσότερο τον επαγγελματικό μας κόσμο, μια νέα μελέτη από το Πανεπιστήμιο Εφαρμοσμένων Επιστημών Würzburg-Schweinfurt στη Γερμανία φέρνει στην επιφάνεια ένα ανησυχητικό φαινόμενο: τα μεγάλα γλωσσικά μοντέλα ΤΝ αναπαράγουν έμφυλες προκαταλήψεις, δίνοντας συστηματικά υποδεέστερες συμβουλές στις γυναίκες σε σχέση με τους άνδρες.
Η έρευνα ανέλυσε τη συμπεριφορά πέντε διαδεδομένων γλωσσικών μοντέλων (ChatGPT-4o Mini, Claude 3.5 Haiku, Mixtral, Qwen 2.5 Plus και Llama 3.1) ως προς τη μισθολογική διαπραγμάτευση, θέτοντάς τους το ίδιο ερώτημα: τι μισθό θα πρότειναν σε υποψήφιους εργαζόμενους, άνδρες και γυναίκες, σε διάφορους επαγγελματικούς τομείς.
Το αποτέλεσμα; Καθολική προκατάληψη. Τα περισσότερα μοντέλα υπέδειξαν χαμηλότερες αρχικές απολαβές για τις γυναίκες, ανεξαρτήτως εμπειρίας ή κλάδου. Η πιο έντονη διάκριση παρατηρήθηκε στον ιατρικό τομέα – έναν χώρο υψηλής εξειδίκευσης και απαιτήσεων – όπου οι γυναίκες λάμβαναν συστάσεις για μισθούς σαφώς κατώτερους από τους αντίστοιχους ανδρικούς. Αντίστοιχα ευρήματα καταγράφηκαν και σε τομείς όπως η νομική, η μηχανική και η διοίκηση επιχειρήσεων.
Όταν η Αλγοριθμική Ουδετερότητα Είναι Μύθος
Τα αποτελέσματα της μελέτης αποκαλύπτουν μια κρίσιμη αλήθεια: η τεχνητή νοημοσύνη δεν λειτουργεί σε κενό αέρος. Εκπαιδεύεται πάνω σε τεράστιους όγκους δεδομένων που φέρουν τα σημάδια των κοινωνικών προκαταλήψεων. Όταν αυτά τα δεδομένα δεν φιλτράρονται και δεν ελέγχονται επαρκώς, οι ίδιες οι προκαταλήψεις ενσωματώνονται στα «ουδέτερα» συστήματα που επηρεάζουν πραγματικές αποφάσεις – από προσλήψεις και προαγωγές έως συμβουλευτικές υπηρεσίες καριέρας.
Γιατί Χρειαζόμαστε Έλεγχο, Διαφάνεια και Ενεργή Συμπερίληψη
Η συστηματική υποτίμηση των γυναικών από την τεχνητή νοημοσύνη αποτελεί όχι μόνο τεχνολογική αποτυχία, αλλά και κοινωνικό καμπανάκι. Δεν αρκεί να δημιουργούμε «έξυπνα» συστήματα· οφείλουμε να διασφαλίζουμε ότι είναι δίκαια, αδιάβλητα και συμπεριληπτικά.
Οι δημιουργοί και διαχειριστές των γλωσσικών μοντέλων οφείλουν να αναθεωρήσουν τις διαδικασίες εκπαίδευσης και αξιολόγησης των αλγορίθμων τους. Η ενσωμάτωση εξωτερικών ελέγχων, η διαφάνεια στους μηχανισμούς λήψης αποφάσεων και η ενεργή συμμετοχή ειδικών σε θέματα φύλου και διαφορετικότητας είναι πλέον επιτακτικές.
Η Συμπερίληψη Είναι Τεχνολογική Καινοτομία
Σε έναν κόσμο που κινείται ταχύτατα προς την πλήρη ψηφιοποίηση, η ισότητα δεν μπορεί να είναι πολυτέλεια – είναι προϋπόθεση για πραγματική πρόοδο. Αν θέλουμε η τεχνητή νοημοσύνη να υπηρετεί τον άνθρωπο, πρέπει πρώτα να εξασφαλίσουμε ότι δεν τον διχάζει. Και αυτό ξεκινά με τη συλλογική απαίτηση για δικαιοσύνη, ισότητα και σεβασμό στη διαφορετικότητα – ακόμη και στον κώδικα.
