Στο πλαίσιο συγγραφής ενός καινούργιου βιβλίου μου που πρόκειται να εκδοθεί και αφορά στην ΤΝ υπό την οπτική της φιλοσοφίας της τεχνολογίας, διαβάζω τον τελευταίο καιρό διάφορα άρθρα για τον κίνδυνο που παραμονεύει σχετικά με αυτή την ταχέως αναπτυσσόμενη τεχνολογία. Τα περισσότερα άρθρα εξ αυτών χρησιμοποιούν παραπλανητικούς τίτλους – όχι απλά δημοσιογραφικούς, παραπλανητικούς – με εμφανή σκοπό να «τραβήξουν» αναγνώστες. Σχεδόν κανένα δεν καταπιάνεται με την ουσία, εκτός ελαχίστων εξαιρέσεων. Ποια, όμως είναι η ουσία;
Γράφει ο Δρ Δημήτριος Γκίκας, Διδάκτωρ Πολιτικής Φιλοσοφίας
Το μεγάλο ερώτημα με την ΤΝ δεν είναι, βέβαια αν κάποια στιγμή θα έχουμε μια υπερνοημοσύνη που θα αποκτήσει συνείδηση και θα «εξεγερθεί» κατά του ανθρώπου. Διότι αυτό το ερώτημα έχει ήδη καταστεί ανούσιο, από τη στιγμή που η ανθρωπότητα δεν αναθέτει απλώς «δουλειές» στην ΤΝ, αλλά σταδιακά παραδίδει λειτουργίες που μέχρι πρόσφατα θεωρούσαμε συστατικές της ανθρώπινης αυτονομίας. Μέχρι στιγμής, όλο και περισσότεροι άνθρωποι δεν έχουν πρόβλημα να παραχωρούν στην Τεχνητή Νοημοσύνη όχι απλώς την αναζήτηση και επιλογή πληροφοριών, αλλά σχεδόν το σύνολο των γνωσιακών μας δεξιοτήτων. Από το «χρησιμοποιώ την ΤΝ ως εργαλείο για να σκεφτώ αποτελεσματικότερα» έχουμε φτάσει, και μάλιστα με ανησυχητικά ραγδαίο ρυθμό, στο «αναθέτω στην ΤΝ το μεγαλύτερο μέρος της διαδικασίας της σκέψης».
Δείτε, για παράδειγμα, πόσοι χρησιμοποιούν την ΤΝ για παραγάγουν ολόκληρα κείμενα (από απλές αναρτήσεις στα ΜΚΔ μέχρι και δημοσιογραφικά – ακόμα και ακαδημαϊκά!). Οι μαθητές και οι φοιτητές, μάλιστα έχουν αρχίσει να εθίζονται τόσο πολύ σ’ αυτή τη λειτουργία, ώστε, στο άμεσο μέλλον, θα είναι αμφίβολο αν θα μπορούν να παράγουν μόνοι τους έστω και μία πρόταση – κυριολεκτώ, δάσκαλος ων εδώ και πολλές δεκαετίες και σε όλες τις βαθμίδες εκπαίδευσης.
Εξίσου ανησυχητική είναι και η παραχώρηση μέρους της ανθρώπινης κρίσης: ποιος, για παράδειγμα, είναι κατάλληλος για πρόσληψη, ποιος δικαιούται πίστωση, ποια συναλλαγή είναι ύποπτη, ποιος ασθενής χρειάζεται προτεραιότητα, ποιο περιεχόμενο είναι επικίνδυνο. Εδώ η ΤΝ δεν επεξεργάζεται απλώς πληροφορίες. Κατατάσσει ανθρώπους και καταστάσεις! Τα παραπάνω δεν είναι υποθετικά σενάρια. Συμβαίνουν ήδη και – αυτό είναι το ανησυχητικό – σε μεγαλύτερη κλίμακα απ’ όσο φαντάζονται κάποιοι!
Στα παραπάνω προσθέστε και την ήδη επιταχυνόμενη εκχώρηση ελέγχου και επιτήρησης. Βεβαίως, η υπόθεση Σνόουντεν απέδειξε πως αυτό, έτσι κι αλλιώς, είχε αρχίσει να συμβαίνει. Όμως, η χρήση ΤΝ καθιστά πολύ ευκολότερη και ταχύτερη αυτή την τάση. Κάμερες με δυνατότητα ζωντανής μετάδοσης δεδομένων, αναγνώριση προσώπου, ανίχνευση συμπεριφοράς, κυβερνοασφάλεια, παρακολούθηση δικτύων και υποδομών. Εδώ η ΤΝ γίνεται κάτι περισσότερο από σύμβουλος: γίνεται ο μηχανισμός μέσω του οποίου «βλέπει» ένας οργανισμός ή ένα κράτος. Γιατί αυτό έχει ιδιαίτερη σημασία; Διότι όποιος καθορίζει τι θεωρείται «ύποπτο», επηρεάζει και το τι θα ελεγχθεί.
Το επόμενο βήμα είναι η εκχώρηση δράσης. Ο άνθρωπος τείνει να παραδίδει όχι μόνο την κρίση, αλλά και την εκτέλεση ενεργειών. Από τα αυτόνομα οχήματα που κινούνται αποκλειστικά με ΤΝ μέχρι και τους ΑΙ Agents που μπορούν να εκτελέσουν σειρά πολύπλοκων ενεργειών, η ΤΝ δεν προτείνει μόνο τι πρέπει να γίνει. Πλέον, μπορεί και να το κάνει η ίδια, και μάλιστα χωρίς καμία ανθρώπινη παρέμβαση!
Ακόμα, όμως και σε επίπεδο δημιουργικής έκφρασης, κάτι που μέχρι πρόσφατα θεωρούνταν αποκλειστικό προνόμιο του ανθρώπου, η ανθρωπότητα δεν διστάζει να εκχωρήσει μέρος της στην ΤΝ: συγγραφή στίχων, μουσικές παραγωγές, ακόμα και συγγραφή ολόκληρων μυθιστορημάτων αποτελούν πλέον αναδυόμενη τάση που ήδη ξεπερνά την απλή «βοήθεια». Ακόμα και στην καλλιτεχνική δημιουργία, η ΤΝ από εργαλείο και βοηθός μετατρέπεται σε κυρίαρχο καλλιτεχνικό δρώντα!
Το πιο φρικιαστικό, όμως είναι το επόμενο επίπεδο – που, επίσης, συμβαίνει ήδη. Πρόκειται για την παραχώρηση μέρους της ανθρώπινης εξουσίας. Αλγοριθμικά συστήματα έχουν χρησιμοποιηθεί ή δοκιμαστεί για εκτίμηση κινδύνου υποτροπιασμού ανθρώπων με ποινικό μητρώο, για αστυνόμευση, για αποφάσεις που αφορούν σε κοινωνικές παροχές, για τη μετανάστευση, για τους φορολογικούς ελέγχους κ.ά. Παρότι η τελική απόφαση μπορεί τυπικά να παραμένει ανθρώπινη, έχει αρχίσει να εμφανίζεται ανησυχητικά συχνά το φαινόμενο του automation bias: ο άνθρωπος τείνει να εμπιστεύεται, και μάλιστα σε απόλυτο σχεδόν βαθμό, την πρόταση του συστήματος. Έτσι η εξουσία δεν χρειάζεται να αποκτηθεί με τη βία και την προϋπόθεση μιας «εξέγερσης των μηχανών», ούτε καν να μεταβιβαστεί θεσμικά. Έχει ήδη μεταβιβαστεί και συνεχίζει να παραδίδεται στην ΤΝ λειτουργικά και μάλιστα δίχως αναστολές ή προϋποθέσεις!
Οι παραπάνω εκφάνσεις της αλόγιστης χρήσης της ΤΝ δεν είναι απλώς υποθετικές. Είναι πραγματικές, διότι ήδη συμβαίνουν – λιγότερο ή περισσότερο. Το πιο ανησυχητικό είναι πως η ίδια η λειτουργία της ΤΝ, που αποβαίνει όλο και πιο πολύπλοκη, δυσχεραίνει τελικά τη δυνατότητα εποπτείας της και ελέγχου των λειτουργιών της. Ο άνθρωπος δεν διστάζει να παραχωρεί όλο και περισσότερες λειτουργίες σ’ αυτήν, ακόμα κι αν δεν έχει πια τον τρόπο να ελέγχει την ίδια τη διαδικασία της λειτουργίας.
Αν, λοιπόν έχουμε παραδώσει στην ΤΝ τη μνήμη, τη γνώση, μέρος της κρίσης, μέρος της απόφασης, μέρος της δημιουργίας, μέρος της εξουσίας και σταδιακά την εποπτεία των ίδιων των συστημάτων μας, τι ακριβώς απομένει που θα μας επιτρέπει να λέμε ότι εμείς εξακολουθούμε να έχουμε τον έλεγχο;
Μεγάλος μέρος της ανθρώπινης κυριαρχίας έχει ήδη παραδοθεί – απλώς δεν έχουμε ακόμα συνειδητοποιήσει το μέγεθος αυτής της παραχώρησης…
