Hard Things: Σίρι, τι είναι σεξισμός;

Το πρόβλημα: στις περισσότερες περιπτώσεις, οι εφαρμογές τεχνητής νοημοσύνης που μας βοηθάνε, μέσω της φωνής, να κλείσουμε εισιτήρια, να μάθουμε την πρόβλεψη για τον καιρό, να προγραμματίσουμε τα ραντεβού μας, να βάλουμε μουσική ή να βρούμε κάτι ενδιαφέρον να διαβάσουμε, παίρνουν, μέσω της φωνής και του ονόματός τους, θηλυκή μορφή, διαιωνίζοντας έτσι το στερεότυπο που θέλει τις γυναίκες να φροντίζουν χωρίς να περιμένουν ανταπόδοση, να υπηρετούν χωρίς να παραπονιούνται (ή να πληρώνονται), να βοηθούν χωρίς να δίνουν οδηγίες και να δέχονται προσβλητικές ερωτήσεις και κακότροπα σχόλια χωρίς να κάνουν κανέναν να αισθανθεί άβολα. 

Το βαθύτερο πρόβλημα: οι ψηφιακές βοηθοί δεν φτιάχτηκαν έτσι από κάποιο καπρίτσιο των εταιρειών ή των ομάδων που τις ανέπτυξαν ως εφαρμογές. Φτιάχτηκαν έτσι γιατί αυτός ακριβώς είναι ο ρόλος που έχουν αποδώσει στις κοινωνίες μας οι γυναίκες και ο ρόλος που ως δημιουργοί και καταναλωτές ή καταναλώτριες έχουμε συνηθίσει να ενσαρκώνεται από τις γυναίκες. Οι δημιουργοί τους δεν εφηύραν το στερεότυπο, αλλά το άφησαν άκριτα να παρεισφρήσει στην τεχνολογία που ανέπτυξαν -ένα μοτίβο που βλέπουμε να εμφανίζεται ξανά και ξανά στα μη ανθρώπινα προϊόντα που περιμένουμε, ως κοινωνίες, ότι θα μας απαλλάξουν από τις ανθρώπινες προκαταλήψεις: τροφοδοτούμε μια τεχνητή νοημοσύνη με δεδομένα μιας σεξιστικής κοινωνίας και έτσι εμπεδώνουμε τα στερεότυπα και τις ανισότητες όλο και πιο βαθιά στην καθημερινότητά μας.

Η δικαιολογία: Πολλοί από τους εμπλεκόμενους στη διαδικασία (κι εδώ δεν είναι τυχαίο το αρσενικό, τα στοιχεία δείχνουν ότι στις ομάδες ανάπτυξης εφαρμογών ΑΙ η αναλογία αντρών/γυναικών είναι ακόμα χειρότερη από αυτήν που επικρατεί σε άλλους -ανδροκρατούμενους- χώρους τεχνολογίας: 10:1) επισημαίνουν ότι οι γυναικείες φωνές επιλέγονται μετά από έρευνες στο κοινό: το κοινό, λένε, δηλώνει πάντα ότι προτιμά τη γυναικεία φωνή. 

Και δεν πειράζει που οι ίδιες έρευνες επιβεβαιώνουν ότι, στην πράξη, το κοινό, ό,τι κι αν λέει στην θεωρία, δεν αντιδρά τελικά διαφορετικά, με την συμπεριφορά του, στο γένος της φωνής. 

Δεν πειράζει που, στην πραγματική ζωή, οι γυναικείες φωνές κριτικάρονται πολύ περισσότερο ως υπερβολικά ψιλές, εκνευριστικές, υστερικές, στριγκιές ή, απλώς, δυσάρεστες.

Δεν πειράζει που το κοινό, πιθανότατα, επιλέγει τη γυναικεία φωνή για να το υπηρετεί κυρίως επειδή έχει μάθει και στην κανονική ζωή να υπηρετείται από άτομα με γυναικείες φωνές (τη μαμά του, την σερβιτόρα του καφέ, την νοσηλεύτρια του νοσοκομείου, την σύντροφό του, την οικιακή βοηθό του, την γραμματέα του).

Δεν πειράζει που το κοινό μια χαρά αποδέχεται τις ανδρικές φωνές όταν αποζητά μια συγκεκριμένη κατεύθυνση, μια αυτοπεποίθηση, έναν ηγέτη -παράδειγμα, ο Γουάτσον, η τεχνητή νοημοσύνη της IBM, που βοηθάει κυρίως χειρούργους και ογκολόγους να σώσουν ζωές, σαρώνει τα βραβεία σε δύσκολα τηλεπαιχνίδια και βοηθάει εταιρείες τεχνολογίας κα φτιάξουν ψηφιακές βοηθούς με γυναικείες φωνές.

Δεν πειράζει που οι έρευνες δείχνουν πως μεγαλώνουμε μια γενιά παιδιών που μαθαίνει να δίνει διαταγές, χωρίς «παρακαλώ», σε γυναικείες φωνές χωρίς σώμα, ανάγκες ή απαιτήσεις.

Δεν πειράζει που οι βοηθοί απαντούν διπλωματικά ή χαριτωμένα σε όποιο αγενές ή κακοποιητικό (αν απευθυνόταν σε μια πραγματική γυναίκα) σχόλιο τους «απευθύνει» κανείς. 

Πειράζει, κυρίως, ότι οι γυναικείες φωνές (όπως και η Έμμα Νατ) κοστίζουν λίγο πιο φθηνά: 

Γιατί αυτό που σπανιότερα παραδέχονται οι εμπλεκόμενοι είναι ότι, μέχρι πρόσφατα, το να χρησιμοποιούν γυναικείες φωνές για τις ψηφιακές βοηθούς ήταν, κυρίως, θέμα ευκολίας, ταχύτητας και οικονομίας. Τα παλιότερα συστήματα μηχανικής αναγνώρισης και αναπαραγωγής της φωνής ήταν βασισμένα σε στοιχεία από θηλυκές, κυρίως φωνές, και γι’ αυτό δεν τα κατάφερναν πολύ καλά όταν έπρεπε να αποδώσουν τον ανδρικό τρόπο ομιλίας: θα χρειάζονταν λοιπόν πολύ περισσότερη δουλειά και πόρους για να δημιουργήσουν τεχνολογίες που θα αποδίδουν με εξίσου καλά αποτελέσματα μια αντρική φωνή. Ή, τουλάχιστον, αυτό πίστευαν οι άντρες που καλούνταν να τα προσαρμόσουν.

Και αυτό που δεν παραδεχόμαστε εμείς είναι ότι, ακόμα και στις περιπτώσεις όπου οι εφαρμογές μας δίνουν τη δυνατότητα να επιλέξουμε ένα άλλο γένος για τη φωνή που, θα μας βοηθήσει, δεν σκεφτόμαστε να το κάνουμε -από αδράνεια, συνήθεια ή απλώς αδιαφορία. 

Έχει, άραγε, σημασία; Μπορεί να αλλάξει τα πράγματα η φωνή που επιλέγει μια εταιρεία, η φωνή που επιλέγουμε εμείς, ο τρόπος που αναθεωρούμε τις συνήθειές μας, η σημασία που δίνουμε στη γλώσσα μας, το πόσο κριτικά αντιμετωπίζουμε τα πράγματα που θεωρούμε «φυσιολογικά», η λογοδοσία που απαιτούμε από τις εταιρείες, το πόσα ξέρουμε για τους τρόπους με τους οποίους ο σεξισμός τρυπώνει στην τεχνολογία;

Λέω πως έχει και πως μπορεί.

Μέχρι που πέθανε, η γιαγιά μου της πόλης έλεγε αυτή την ιστορία: πώς η παρακόρη της οικογένειας, όταν έπαιρνε τηλέφωνο στο αρχαίο (που παρόλ’ αυτά το πρόλαβα) 141, έλεγε πάντα στην μαγνητοφωνημένη κυρία «μπορείτε να μου πείτε την ώρα, παρακαλώ;» και, στο τέλος, «σας ευχαριστώ». Σήμερα, που κανείς δεν λέει στην Αλέξα, έστω, καλημέρα, η γιαγιά μου σίγουρα θα ήθελε να της δίνουμε τη δυνατότητα να μας βάζει στη θέση μας -και το ίδιο να μάθουμε να κάνουμε, αντίστοιχα, κι εμείς.

Διαβάστε επίσης | Hard Things: Μία στις δέκα