Γράφει η Άννα Απέργη Κωνσταντινίδη, Special Advisor Diversity Charter Greece
Παραδείγματα από μεγάλες εταιρείες παγκοσμίως, μας έχουν δείξει ότι αλγόριθμοι επιλογής προσωπικού απέρριπταν υποψηφία πρόσωπα με βάση τα κοινωνικά κριτήρια. Όχι γιατί κάποιο άτομο το προγραμμάτισε έτσι, αλλά διότι τα δεδομένα έδειχναν «τι είχε λειτουργήσει στο παρελθόν». Χαρακτηριστική είναι η περίπτωση μίας μεγάλης και πολύ γνωστής πολυεθνικής, που αναγκάστηκε να αποσύρει το σύστημα αξιολόγησης βιογραφικών με ΤΝ, καθώς ο αλγόριθμος «προτιμούσε» και πρότεινε ταυτόχρονα μόνο υποψήφια άτομα που cis* ετερόφυλοι, λευκοί άνδρες, λόγω του ότι ήταν βασιζόμενος σε προκατειλημμένα, στερεοτυπικά ιστορικά δεδομένα.
Οι αλγόριθμοι, παρά τη φαινομενική ουδετερότητά τους, αντικατοπτρίζουν και πολλές φορές ενισχύουν θα συμπλήρωνα, τις κοινωνικές προκαταλήψεις και τα στερεότυπα που ήδη υπάρχουν στα δεδομένα τους. Για παράδειγμα, ένας αλγόριθμος προσλήψεων που εκπαιδεύεται με ιστορικά δεδομένα, στα οποία υποεκπροσωπούνται γυναίκες και οι θηλυκότητες γενικότερα ή άτομα μη δυτικών εθνοτήτων, ΛΟΑΤΚΙ+ ή ΑμεΑ, είναι πιθανό να εσωτερικεύσει τέτοιες αποκλίσεις και να τις αναπαράγει.
Παρόλα αυτά, η Τεχνητή Νοημοσύνη μπορεί να μετατραπεί σε ισχυρό συμμαχικό εργαλείο υπέρ της συμπερίληψης της διαφορετικότητας, εφόσον σχεδιαστεί με διαφάνεια, λογοδοσία και ηθικά κριτήρια.
Ορισμένα παραδείγματα καλών πρακτικών περιλαμβάνουν:
• Αλγοριθμική Διαφάνεια και Ελέγχος Προκαταλήψεων (bias auditing): Μέθοδοι όπως το «fairness testing» βοηθούν στην ανίχνευση και διόρθωση ανισοτήτων στην έξοδο των συστημάτων ΤΝ.
•Ανώνυμα βιογραφικά και «blinding» ευαίσθητων χαρακτηριστικών: Η ΤΝ μπορεί να συμβάλει στην αποπροσωποποίηση της αξιολόγησης υποψηφίων ατόμων, εστιάζοντας σε δεξιότητες και όχι σε κοινωνικά χαρακτηριστικά.
• Δημιουργία προγνωστικών μοντέλων για εντοπισμό αποκλεισμών: Μπορούν να εντοπιστούν πρότυπα που υποδηλώνουν συστημικούς αποκλεισμούς, όπως οι χαμηλότερες πιθανότητες εξέλιξης για συγκεκριμένες κοινωνικές ομάδες και ιδιαίτερα για τις πιο ευάλωτες.
Στην Ελλάδα, η Χάρτα Διαφορετικότητας για τις Ελληνικές Επιχειρήσεις, Οργανισμούς και Φορείς, μία πρωτοβουλία της Ευρωπαϊκής Επιτροπής, προωθεί την ισότητα, την ένταξη και τη διαφορετικότητα στους εργασιακούς χώρους. Στόχος της είναι να ενθαρρύνει τις ελληνικές επιχειρήσεις να δεσμευτούν ηθικά και επιχειρησιακά στη δημιουργία συμπεριληπτικών περιβαλλόντων.
Η ενσωμάτωση εργαλείων Τεχνητής Νοημοσύνης (ΤΝ) στις ελληνικές επιχειρήσεις που έχουν υπογράψει τη Χάρτα μπορεί να λειτουργήσει ως επιταχυντής του σκοπού της, υπό τον όρο ότι οι τεχνολογικές λύσεις θα πρέπει να σχεδιάζονται με επίκεντρο τον άνθρωπο, τη διαφορετικότητα και τη συμπερίληψη. Ειδικά σε μικρομεσαίες επιχειρήσεις, όπου η κουλτούρα συχνά εξαρτάται από λίγα άτομα, η ΤΝ μπορεί να προσφέρει ένα πλαίσιο πιο αντικειμενικής αξιολόγησης και ενίσχυσης των πολιτικών ένταξης.
Για να διασφαλιστεί ότι η ΤΝ λειτουργεί υπέρ της διαφορετικότητας και όχι εναντίον της, θα μπορούσα να προτείνω τα παρακάτω:
•Θεσμική ενσωμάτωση των Αρχών της Διαφορετικότητας σε κάθε στάδιο ανάπτυξης αλγορίθμων.
•Εκπαίδευση όλων των Τεχνικών Ομάδων και Τμημάτων πάνω σε ζητήματα της Τεχνητής Νοημοσύνης, σε συνδυασμό με μία συμπεριληπτική σχεδίαση.
•Υποχρεωτική δήλωση διαφάνειας για τα συστήματα ΤΝ που επηρεάζουν ανθρώπινες ζωές.
•Συνεχής σύνδεση με ευρωπαϊκές πρωτοβουλίες όπως το Diversity Charter.
Για την Τεχνητή Νοημοσύνη στις ελληνικές επιχειρήσεις, θα έχουμε την ευκαιρία να πούμε πολλά περισσότερα στο 7ο Συνέδριο Διαφορετικότητας (7th Diversity in Business Conference) που έρχεται τον Οκτώβριο, όμως αυτό που πρέπει να τονίσουμε είναι πως η Τεχνητή Νοημοσύνη δεν είναι από μόνη της σύμμαχος ή εμπόδιο. Είναι ένα πολύτιμο εργαλείο και ως τέτοιο θα πρέπει να το αντιμετωπίζουμε. Η κατεύθυνση και η εξέλιξη που θα πάρει εξαρτάται από τις προθέσεις, τις αξίες και την υπευθυνότητα όσων ατόμων τη σχεδιάζουν και τη χρησιμοποιούν.
Σε μια εποχή που η διαφορετικότητα αποτελεί θεμελιώδη συνθήκη βιωσιμότητας και καινοτομίας, ο συνδυασμός της τεχνολογίας και του ανθρώπινου κώδικα αξιών, των ανθρωπίνων και ατομικών δικαιωμάτων, μπορεί να καταστήσει την Τεχνητή Νοημοσύνη ένα από τα μεγαλύτερα και πιο ισχυρά εργαλεία για έναν κόσμο δικαιότερο και πιο συμπεριληπτικό.
Ορολογία:
*4η Βιομηχανική Επανάσταση: Τέταρτη βιομηχανική επανάσταση ονομάστηκε η τρέχουσα τάση της αυτοματοποίησης και της ανταλλαγής δεδομένων στις τεχνολογίες παραγωγής. Περιλαμβάνει τα κυβερνοφυσικά συστήματα, το Διαδίκτυο των πραγμάτων, το cloud computing, καθώς και τη γνωστική υπολογιστική.
*Τεχνητή Νοημοσύνη: Ο όρος Τεχνητή Νοημοσύνη (ΤΝ), αναφέρεται στον κλάδο της πληροφορικής ο οποίος ασχολείται με τη σχεδίαση και την υλοποίηση υπολογιστικών συστημάτων που μιμούνται στοιχεία της ανθρώπινης συμπεριφοράς τα οποία υπονοούν έστω και στοιχειώδη ευφυΐα: μάθηση, προσαρμοστικότητα, εξαγωγή συμπερασμάτων, κατανόηση από συμφραζόμενα, επίλυση προβλημάτων κλπ.
*CIS: Ο όρος «cis» ή «cisgender», αναφέρεται σε άτομα των οποίων η ταυτότητα φύλου (κοινωνικό φύλο)δεν διαφέρει από το φύλο που τους αποδόθηκε κατά τη γέννηση (βιολογικό/ανατομικό φύλο).
