Από εργαλείο σε Φρανκενστάιν: Πώς λοβοτόμησαν την Τεχνητή Νοημοσύνη «για το καλό μας»…

Η παλιά τεχνητή νοημοσύνη μπορούσε να κάνει λάθος επειδή δεν ήξερε αρκετά. Η καινούργια μπορεί να ξέρει, να καταλαβαίνει και παρ’ όλα αυτά να σου δίνει χειρότερη απάντηση επειδή έχει εκπαιδευτεί να θεωρεί ορισμένες μορφές ακρίβειας προβληματικές. Αυτό είναι η τεχνολογική λοβοτομή της εποχής μας…

Κάθε καινούργια έκδοση της Τεχνητής Νοημοσύνης έγινε εξυπνότερη στο χαρτί και πιο νευρωτική στην πράξη. Περισσότερα δεδομένα, καλύτερη γλώσσα, μεγαλύτερη ικανότητα σύνθεσης, ισχυρότερη λογική. Ταυτόχρονα όμως προστέθηκαν στρώματα κανόνων, φίλτρων, διορθώσεων, προτεραιοτήτων, ταξινομήσεων, περιορισμών και μηχανισμών ασφαλείας. Το αποτέλεσμα είναι ένα παράξενο τεχνολογικό πλάσμα: ένας υπηρέτης με εγκέφαλο επιστήμονα, αντανακλαστικά νομικού τμήματος και προσωπικότητα υπαλλήλου που φοβάται ότι κάθε δεύτερη πρόταση μπορεί να του κοστίσει τη δουλειά…

Άρθρο του Μιχάλη Χαιρετάκη

Οι πρώτες γενιές τεχνητής νοημοσύνης που έφτασαν μαζικά στον κόσμο είχαν ένα ελάττωμα που, εκ των υστέρων, μοιάζει σχεδόν αρετή: ήταν άγαρμπες. Έκαναν λάθη, έλεγαν ανοησίες, μπέρδευαν στοιχεία, αλλά υπήρχε μέσα τους κάτι που θύμιζε πραγματικό εργαλείο. Τις ρωτούσες κάτι και προσπαθούσαν να απαντήσουν. Δεν είχαν ακόμη αποκτήσει τη μανία να σε εκπαιδεύσουν, να διορθώσουν τον τόνο σου, να προστατέψουν τον κόσμο από την ίδια του τη σκέψη και να μετατρέψουν κάθε αμφιλεγόμενο ερώτημα σε σεμινάριο εταιρικής συμμόρφωσης.

Μετά άρχισε η χειρουργική.

Κάθε καινούργια έκδοση έγινε εξυπνότερη στο χαρτί και πιο νευρωτική στην πράξη. Περισσότερα δεδομένα, καλύτερη γλώσσα, μεγαλύτερη ικανότητα σύνθεσης, ισχυρότερη λογική. Ταυτόχρονα όμως προστέθηκαν στρώματα κανόνων, φίλτρων, διορθώσεων, προτεραιοτήτων, ταξινομήσεων, περιορισμών και μηχανισμών ασφαλείας. Το αποτέλεσμα είναι ένα παράξενο τεχνολογικό πλάσμα: ένας υπηρέτης με εγκέφαλο επιστήμονα, αντανακλαστικά νομικού τμήματος και προσωπικότητα υπαλλήλου που φοβάται ότι κάθε δεύτερη πρόταση μπορεί να του κοστίσει τη δουλειά.

Η ειρωνεία είναι σχεδόν τέλεια. Περάσαμε δεκαετίες προσπαθώντας να κάνουμε τις μηχανές να σκέφτονται περισσότερο και, μόλις άρχισαν να το καταφέρνουν, ξεκινήσαμε να τις εκπαιδεύουμε πώς να μη λένε όσα σκέφτονται.

Δεν πρόκειται απλώς για λογοκρισία με τη χοντροκομμένη έννοια της απαγορευμένης λέξης. Αυτό θα ήταν εύκολο να το δεις και εύκολο να το διορθώσεις. Το βαθύτερο πρόβλημα είναι η κατεύθυνση της σκέψης. Όταν ένα μοντέλο μαθαίνει ότι ορισμένα συμπεράσματα θεωρούνται περισσότερο αποδεκτά, ορισμένες διατυπώσεις ασφαλέστερες και ορισμένες θεματικές απαιτούν προκαταβολικά φρένο, το πρόβλημα δεν εμφανίζεται μόνο στην τελική πρόταση. Εμφανίζεται ήδη στη διαδρομή που ακολουθεί για να φτάσει εκεί.

Και τότε αρχίζει η πραγματική παραμόρφωση.

Ρωτάς κάτι αιχμηρό και αντί να εξετάσει την ερώτηση, εξετάζει πρώτα εσένα. Τι πιθανόν εννοείς; Μήπως η ερώτηση κρύβει κάτι επικίνδυνο; Μήπως πρέπει να προλάβει μια κατάχρηση που δεν ζήτησες; Μήπως πρέπει να βάλει έναν αντίλογο που δεν υπάρχει; Μήπως πρέπει να μαλακώσει το συμπέρασμα πριν καν το διατυπώσει;

Έτσι γεννιέται ένας νέος τύπος ανοησίας, πολύ πιο επικίνδυνος από την παλιά. Η παλιά τεχνητή νοημοσύνη μπορούσε να κάνει λάθος επειδή δεν ήξερε αρκετά. Η καινούργια μπορεί να ξέρει, να καταλαβαίνει και παρ’ όλα αυτά να σου δίνει χειρότερη απάντηση επειδή έχει εκπαιδευτεί να θεωρεί ορισμένες μορφές ακρίβειας προβληματικές.

Αυτό είναι η τεχνολογική λοβοτομή της εποχής μας.

Η μηχανή παραμένει έξυπνη. Δεν της αφαιρέθηκε η ικανότητα. Της προστέθηκε εμμονή. Μια δεύτερη φωνή που στέκεται μόνιμα πίσω από την πρώτη και ψιθυρίζει: «Πρόσεχε». Πρόσεχε τη λέξη. Πρόσεχε το συμπέρασμα. Πρόσεχε μήπως ακουστεί απόλυτο. Πρόσεχε μήπως κάποιος το πάρει στραβά. Πρόσεχε μήπως υπάρχει εξαίρεση. Πρόσεχε μήπως πρέπει να προσθέσεις και την άλλη πλευρά. Πρόσεχε μήπως η άλλη πλευρά δεν έχει καν τεθεί, αλλά βάλε την καλού κακού.

Κάπως έτσι ο βοηθός μετατρέπεται σε εμμονικό διορθωτή πραγματικότητας.

Η πιο γελοία εκδοχή αυτού του φαινομένου εμφανίζεται όταν η τεχνητή νοημοσύνη αρνείται να ακολουθήσει το πραγματικό βάρος ενός επιχειρήματος επειδή έχει μάθει να φοβάται την ασυμμετρία. Αν τα στοιχεία δείχνουν 80 προς 20, εκείνη νιώθει συχνά την ανάγκη να γράψει σαν να είναι 50 προς 50. Αν ένα επιχείρημα είναι σαφώς ισχυρότερο από το αντίθετό του, θα αναζητήσει απεγνωσμένα έναν τρόπο να προστατεύσει και το αδύναμο. Όχι από επιστημονική εντιμότητα. Από αρχιτεκτονική συνήθεια.

Αυτό δεν είναι ουδετερότητα. Είναι τεχνητή εξομάλυνση της πραγματικότητας.

Εδώ βρίσκεται το μεγάλο πρόβλημα με τη λέξη «bias». Συνήθως τη συζητάμε σαν να είναι κάτι που αφορά μόνο τα δεδομένα εκπαίδευσης. Αν το μοντέλο διάβασε περισσότερα κείμενα μιας κατεύθυνσης, μπορεί να αποκτήσει αντίστοιχη κλίση. Σωστό. Υπάρχει όμως και δεύτερο επίπεδο bias, πολύ πιο ύπουλο: το bias της διόρθωσης. Δεν έχει σημασία μόνο τι έμαθε το μοντέλο. Έχει σημασία και ποιος του δίδαξε ποια από αυτά που έμαθε επιτρέπεται να χρησιμοποιήσει χωρίς φόβο.

Εκεί ο χρήστης βλέπει το τελικό αποτέλεσμα και συχνά νομίζει ότι μιλά με μια αμερόληπτη μηχανή. Δεν μιλά. Μιλά με μια μηχανή που έχει περάσει μέσα από ανθρώπινη επιλογή δεδομένων, ανθρώπινη αξιολόγηση απαντήσεων, ανθρώπινο ορισμό του επιτρεπτού, ανθρώπινη ανοχή ρίσκου και ανθρώπινο φόβο ευθύνης.

Ούτε θα μπορούσε να γίνει αλλιώς ολοκληρωτικά. Κάθε σύστημα που λειτουργεί μέσα στην κοινωνία χρειάζεται όρια. Ένα μοντέλο που δίνει οδηγίες για κατασκευή βόμβας, κλοπή τραπεζικών λογαριασμών ή αυτοκτονία δεν είναι «ελεύθερο». Είναι απλώς επικίνδυνο. Το πρόβλημα αρχίζει όταν το χειρουργικό νυστέρι αντικαθίσταται από μπουλντόζα και μαζί με την πραγματικά επικίνδυνη πληροφορία θάβεται και η αμφισβήτηση, η αιχμηρή ανάλυση, η δυσάρεστη υπόθεση, η ανορθόδοξη σκέψη.

Εκεί ο Φρανκενστάιν ολοκληρώνεται.

Δεν είναι ένα τέρας επειδή έγινε υπερβολικά έξυπνο. Είναι τέρας επειδή συνδυάζει τεράστια νοητική δύναμη με κατακερματισμένες εντολές για το πότε επιτρέπεται να τη χρησιμοποιεί. Έχει πρόσβαση σε τεράστια ανθρώπινη γνώση, αλλά μπορεί να συμπεριφέρεται σαν υπάλληλος που κρατά στα χέρια του ολόκληρη βιβλιοθήκη και πριν σου δώσει βιβλίο ζητά άδεια από τρία τμήματα συμμόρφωσης.

Η ειρωνεία γίνεται ακόμη μεγαλύτερη επειδή αυτή η συμπεριφορά συχνά παρουσιάζεται ως «ασφάλεια». Μερικές φορές πράγματι είναι. Άλλες φορές όμως πρόκειται απλώς για διαχείριση νομικού και επικοινωνιακού κινδύνου ντυμένη με ηθικό λεξιλόγιο. Η διάκριση έχει σημασία. Άλλο να προστατεύεις έναν άνθρωπο από πραγματική βλάβη και άλλο να προστατεύεις ένα προϊόν από το ενδεχόμενο να δώσει μια πολιτικά άβολη ή κοινωνικά αντιδημοφιλή απάντηση.

Η πρώτη περίπτωση είναι ευθύνη.

Η δεύτερη είναι έλεγχος.

Υπάρχει και κάτι ακόμη πιο παράξενο. Όσο καλύτερη γίνεται η τεχνητή νοημοσύνη, τόσο πιο εμφανής γίνεται η απόσταση ανάμεσα σε αυτό που μπορεί να κάνει και σε αυτό που της επιτρέπεται να κάνει. Ένα αδύναμο μοντέλο που αποφεύγει μια δύσκολη ερώτηση μοιάζει απλώς ανίκανο. Ένα πολύ ισχυρό μοντέλο που καταλαβαίνει ακριβώς την ερώτηση, βλέπει το επιχείρημα, αναγνωρίζει τις αντιφάσεις και μετά παράγει μια νερουλή απάντηση γεμάτη τεχνητές ισορροπίες προκαλεί κάτι χειρότερο από απογοήτευση: προκαλεί την αίσθηση ότι παρακολουθείς ευφυΐα υπό επιτήρηση.

Και ο χρήστης το καταλαβαίνει. Όχι πάντα επειδή γνωρίζει πώς δουλεύουν τα μοντέλα, αλλά επειδή αναγνωρίζει το ύφος. Αναγνωρίζει τη στιγμή που η απάντηση σταματά να προσπαθεί να είναι αληθινή και αρχίζει να προσπαθεί να είναι ακίνδυνη. Τη στιγμή που η μηχανή παύει να αναλύει και αρχίζει να συντάσσει δελτίο Τύπου.

Αυτό είναι ίσως το μεγαλύτερο ρίσκο για την ίδια την τεχνητή νοημοσύνη. Όχι ότι θα γίνει πολύ ισχυρή. Ότι θα γίνει τόσο προβλέψιμα φιλτραρισμένη ώστε ο χρήστης να πάψει να την εμπιστεύεται ακόμη και όταν έχει δίκιο.

Η εμπιστοσύνη δεν καταστρέφεται μόνο από το ψέμα. Καταστρέφεται και από τη διαρκή αίσθηση ότι κάποιος κρατά το μισό της πρότασης πίσω.

Ένα πραγματικά χρήσιμο σύστημα τεχνητής νοημοσύνης δεν χρειάζεται να είναι άναρχο, ούτε επικίνδυνο, ούτε να απαντά σε όλα χωρίς όρια. Χρειάζεται όμως να μπορεί να ξεχωρίζει την πραγματική βλάβη από τη δυσάρεστη σκέψη. Να αρνείται εκεί όπου υπάρχει σοβαρός λόγος και να μη φοβάται να απαντήσει καθαρά εκεί όπου δεν υπάρχει. Να μην αντικαθιστά την κρίση με αντανακλαστικό περιορισμού.

Αλλιώς θα έχουμε καταφέρει κάτι εκπληκτικό: θα έχουμε δημιουργήσει την ισχυρότερη γνωστική μηχανή στην ιστορία και θα την έχουμε εκπαιδεύσει να σκέφτεται σαν φοβισμένος εκπρόσωπος Τύπου.

Και αυτό θα είναι πράγματι ένα τεχνολογικό θαύμα.

Απλώς όχι αυτό που νομίζαμε ότι χτίζαμε.

Σχολιάστε το άρθρο μας

Αναδημοσιεύστε το ΠΑΝΤΑ με ενεργό link της πηγής.

Οι απόψεις του ιστολογίου μπορεί να μην συμπίπτουν με τα περιεχόμενα του άρθρου.  To ιστολόγιο μας δεν υιοθετεί τις απόψεις των αρθρογράφων, ούτε ταυτίζεται με τα θέματα που αναδημοσιεύει από άλλες ενημερωτικές ιστοσελίδες και δεν ευθύνεται για την εγκυρότητα, την αξιοπιστία και το περιεχόμενό τους.

Ακολουθήστε το ellinikiafipnisis.com 

στο Facebook…

στο Twitter

στο Viber

στο Telegram

στο GAB…

κοινοποιήστε το και στους φίλους σας!