Σύγχρονα θέματα
"ανάπτυξη"

«Nexus» του Γιουβάλ Νώα-Χαράρι (κριτική) – Τεχνητή νοημοσύνη:

«ελπιδοφόρο νέο κεφάλαιο» ή «τελικό σφάλμα»;

Σημείωση: στο τέλος του κειμένου υπάρχει και βίντεο με τον Yuval Noah Harari

Για το βιβλίο του Γιουβάλ Νώα-Χαράρι [Yuval Noah-Harari] «Nexus - Μια σύντομη ιστορία των δικτύων πληροφοριών από την Εποχή του Λίθου μέχρι την εποχή της Τεχνητής Νοημοσύνης» (μτφρ. Μιχάλης Λαλιώτης, εκδ. Αλεξάνδρεια).

Γράφει ο Διονύσης Μαρίνος

Στο Sapiens, ένα βιβλίο που πούλησε πάνω από 25 εκατ. αντίτυπα παγκοσμίως καθιστώντας το εκδοτικό γεγονός, ο Γιουβάλ-Νώα Χαράρι, υποστήριξε πως ο άνθρωπος έγινε κυρίαρχος γιατί έμαθε να συνεργάζεται σε μεγάλη κλίμακα.

Αυτή η μαζικοποίηση των δυνάμεων του homo sapiens, γέννησε την ικανότητά του να αφηγείται ιστορίες, να πιστεύει σε φανταστικές οντότητες (να πώς δημιουργήθηκε η ανάγκη των θρησκειών) και να δομεί τις κοινότητές του πάνω σε αναλλοίωτους μύθους. Σημείωνε, δε, πως δίχως αυτούς τους συνεκτικούς μύθους και τις αφηγηματικές ικανότητές μας, ο πολιτισμός δεν θα μπορούσε να προχωρήσει με αλματώδη βήματα.

   

  

Η αλήθεια των πληροφοριών

Στο νέο του βιβλίο, το Nexus μελετάει το δίκτυο πληροφοριών από τη λίθινη εποχή έως την τεχνητή νοημοσύνη. Προχωρώντας τη σκέψη του από το Sapiens, ο Χαράρι γράφει τώρα πως οι πληροφορίες είναι η νέα συγκολλητική ουσία των σύγχρονων κοινωνιών. Μήπως, όμως, αρκετές φορές έχουν αποδειχθεί και αιτία αποδόμησης των κοινωνιών;

Ο συγγραφέας θυμίζει πως συχνά οι πληροφορίες δεν μεταφέρουν με αξιοπιστία την αλήθεια που περιβάλλει τον κόσμο μας. Αυτό έχει ως αποτέλεσμα να γεννιούνται στρεβλές μυθοπλασίες, επικίνδυνες φαντασιώσεις και μαζικές αυταπάτες που με τη σειρά τους οδηγούν σε καταστροφικά συστήματα διακυβέρνησης όπως ήταν ο ναζισμός και ο σταλινισμός.

Ο συγγραφέας θυμίζει πως συχνά οι πληροφορίες δεν μεταφέρουν με αξιοπιστία την αλήθεια που περιβάλλει τον κόσμο μας. Αυτό έχει ως αποτέλεσμα να γεννιούνται στρεβλές μυθοπλασίες, επικίνδυνες φαντασιώσεις και μαζικές αυταπάτες...

Το λάθος, λέει ο Χαράρι, δεν είναι εγγενές, δεν οφείλεται στη φύση των ανθρώπων, αλλά στα δίκτυα πληροφοριών. Ένα εξωγενές πρόβλημα που, όμως, επηρεάζει δομικά τις ζωές των ανθρώπων. Θα πρέπει, λοιπόν, να δαιμονοποιήσουμε τα δίκτυα πληροφοριών; Ο Χαράρι απαντάει πως οι επαναστάσεις της πληροφορίας ανά τους αιώνες οδήγησαν με περιόδους άνθησης, αλλά τίποτα δεν επιτυγχάνεται δίχως το απαραίτητο κόστος.

Η τυπογραφία και οι μάγισσες

Ένα από τα κλασικά παραδείγματα που δείχνουν πώς οι πληροφορίες ενδέχεται να προκαλέσουν μεγαλύτερη ζημιά από όφελος, είναι το βιβλίο The Hammer of the Witches γραμμένο από τον Δομινικανό μοναχό Heinrich Kramer στην Αυστρία του 1480. Πρόκειται για ένα βιβλίο-οδηγό για το κυνήγι των μαγισσών και τους φρικτούς τρόπους που αυτές θα πρέπει να θανατώνονται. Αυτό το βιβλίο, μπεστ σέλερ για την εποχή του, ταξίδεψε στον τότε κόσμο χάρη στην εφεύρεση του Γουτεμβέργιου.

Αν δεν είχε ανακαλύψει την τυπογραφία, το κακό ενδέχεται να ήταν μικρότερο και να μην είχε πυροδοτηθεί σε τέτοιο βαθμό όλη αυτή η δολοφονική φρενίτιδα.

Πληροφορία και τυραννία

Οι άφθονες ροές πληροφοριών χειροτέρευσαν, επίσης, την επιτήρηση και την τυραννία, υποστηρίζει ο Χαράρι. Η Σοβιετική Ένωση ήταν, μεταξύ άλλων, «ένα από τα πιο τρομερά δίκτυα πληροφοριών στην ιστορία». Όταν ο Αλεξάντερ Σολζενίτσιν διαμαρτυρήθηκε για τον ηγέτη του, Ιωσήφ Στάλιν, με επιστολές, πήρε την προφύλαξη να τον αναφέρει ευφημιστικά ως «ο άντρας με το μουστάκι».

Ακόμα κι έτσι, τα γράμματά του υπεκλάπησαν με αποτέλεσμα ο Σολζενίτσιν να καταδικαστεί σε οκτώ χρόνια στα Γκουλάγκ. Μεγάλο μέρος του υλικού που συγκέντρωσε η Μόσχα σχετικά με τις συνθήκες στη χώρα ήταν είτε αναξιόπιστο είτε ανεπαρκές. Αυτό, όμως, είχε ως αποτέλεσμα χιλιάδες Σοβιετικοί να κατηγορηθούν, να εκτελεστούν ή να περάσουν πολλά χρόνια της ζωής τους στην εξορία.

Από την άλλη, σημειώνει, αυτές οι δημαγωγικές μανίες, ως τώρα, τείνουν να καίγονται και να σβήνουν. Είναι δύσκολο να κρατάς τους ανθρώπους σε μια διαρκώς φρενήρη κατάσταση. Τα συναισθηματικά τους ερεθίσματα αλλάζουν και μια θεωρία που κάποτε τους έκανε να επιτεθούν στους γείτονές τους, τώρα τους φαίνεται γελοία.

Είναι δύσκολο να κρατάς τους ανθρώπους σε μια διαρκώς φρενήρη κατάσταση. Τα συναισθηματικά τους ερεθίσματα αλλάζουν και μια θεωρία που κάποτε τους έκανε να επιτεθούν στους γείτονές τους, τώρα τους φαίνεται γελοία.

Τα κράτη που κυβερνώνται με όπλο τον φόβο έχουν πρόβλημα ανθεκτικότητας, εξηγεί ο Χαράρι. Ακόμα κι αν μπορούσαν με κάποιο τρόπο να υποκλέψουν κάθε γράμμα και να φυτέψουν πληροφοριοδότες σε κάθε νοικοκυριό, θα πρέπει να αναλύσουν έξυπνα όλες τις εισερχόμενες αναφορές.

Κανένα καθεστώς δεν έχει φτάσει σε τέτοιο επίπεδο ελέγχου που να μπορεί να διαχειριστεί όλο αυτό το ογκώδες υλικό. Ιδού γιατί τα κράτη του 20ου αιώνα αντιμετώπισαν προβλήματα διαχείρισης των πληροφοριών που έκαναν, συνάμα, δύσκολη την άσκηση της διακυβέρνησης.

Η ανησυχία για την τεχνητή νοημοσύνη

Ωστόσο, η μεγαλύτερη ανησυχία του συγγραφέα είναι τι θα συμβεί όταν η τεχνητή νοημοσύνη αποκτήσει τη δύναμη να ελέγχει και να καθορίζει όλο τον όγκο των πληροφοριών. Επί του παρόντος κάτι τέτοιο δεν διαφαίνεται στον ορίζοντα ως κάτι άμεσο, εντούτοις η τεχνητή νοημοσύνη δεν θα είναι για πάντα δυσλειτουργική όπως εμφανίζεται (ακόμη) στις μέρες μας.

Φανταστείτε τι θα συμβεί, γράφει ο Χαράρι, όταν τα bot φτάσουν στο σημείο να δημιουργούν αυτό το περιεχόμενο από μόνα τους, εξατομικεύοντάς το και προσαρμόζοντάς το συνεχώς ώστε να επηρεάζει κάθε χρήστη ξεχωριστά.

Σε αυτή την περίπτωση το μανιφέστο του Kramer Hammer of the Witches θα ωχριά μπρος στις επικίνδυνες επινοήσεις των αλγόριθμων. Εάν η τεχνητή νοημοσύνη κατακτήσει αυτή την ικανότητα, θα μπορούσε να μας κάνει όλους δουλοπάροικους ή ψυχοπαθείς.

  

    

Ο καθηγητής Yuval Noah Harari (Γιουβάλ Νώε Χαράρι) είναι ιστορικός, φιλόσοφος και συγγραφέας των μπεστ σέλερ Sapiens: Μια σύντομη ιστορία του ανθρώπου, Homo Deus: Μια σύντομη ιστορία του μέλλοντος, 21 μαθήματα για τον 21ο αιώνα και Sapiens: Μια εικονογραφημένη ιστορία. Τα βιβλία του έχουν πουλήσει πάνω από 35 εκατομμύρια αντίτυπα σε 65 γλώσσες και θεωρείται ένας από τους σημαντικότερους δημόσιους διανοούμενους της εποχής μας. Γεννήθηκε στο Ισραήλ το 1976, πήρε το διδακτορικό του από το Πανεπιστήμιο της Οξφόρδης το 2002 και σήμερα είναι καθηγητής στο Εβραϊκό Πανεπιστήμιο της Ιερουσαλήμ. Το 2019, μετά τη διεθνή επιτυχία των βιβλίων του, ίδρυσε μαζί με τον σύζυγό του και αρχικό του ατζέντη Itzik Yahav τη Sapienship. Η Sapienship είναι μια εταιρεία κοινωνικού αντικτύπου με προγράμματα στα πεδία της ψυχαγωγίας και της εκπαίδευσης, με κύριο στόχο να στρέφει τον δημόσιο διάλογο στα πιο σημαντικά παγκόσμια προβλήματα που αντιμετωπίζει ο κόσμος σήμερα. Το 2018 και το 2020 παρουσίασε δύο βασικές ομιλίες για το μέλλον της ανθρωπότητας, στο Νταβός, στη σκηνή της κεντρικής αίθουσας στο Παγκόσμιο Οικονομικό Φόρουμ. Συνομιλεί συχνά με ηγέτες για ζητήματα παγκόσμιου ενδιαφέροντος κι έχει κάνει δημόσιες συζητήσεις μαζί τους.

Ανεξιχνίαστη νοημοσύνη

Για τον Χαράρι, η τεχνητή νοημοσύνη είναι ανεξιχνίαστη ακόμη και για τους δημιουργούς της. Δεν είναι τυχαίο ότι στην ανοιχτή επιστολή που είχε υπογραφεί πέρυσι, κάνοντας λόγο για τους μεγάλους κινδύνους που κρύβει η τεχνητή νοημοσύνη για τους ανθρώπους και τις κοινωνίες, είχε υπογράψει και ο Έλον Μασκ.

Αυτό που θα πρέπει να κατανοήσουμε είναι ότι η τεχνητή νοημοσύνη δεν είναι προϊόν ενός ασύγγνωστου λάθους, αλλά μια εξέλιξη της εποχής. Εγείρει, πλέον, σοβαρά ηθικά διλήμματα, τα οποία οι εταιρείες τεχνητής νοημοσύνης επί του παρόντος δείχνουν να αγνοούν.

Αν δεν αναλάβουμε άμεση δράση, αυτή η ανερχόμενη «εξωγήινη νοημοσύνη», όπως προτιμά να την αποκαλεί, θα μπορούσε να προκαλέσει καταστροφές που δεν μπορούμε καν να φανταστούμε, μέχρι και την καταστροφή του ανθρώπινου πολιτισμού.

Οι λύσεις

Οι λύσεις που προτείνει στο βιβλίο ο Χαράρι για τον περιορισμό της ισχύος της τεχνητής νοημοσύνης είναι η απαγόρευση στα bots να υποδύονται ότι είναι άνθρωποι, αλλά και η συνεργασία των σημαντικών προσωπικοτήτων του κόσμου ώστε να βοηθήσουν τον κόσμο να κατανοήσει το δίκτυο υπολογιστών.

Η απαισιόδοξη άποψη του συγγραφέα ολοκληρώνεται με μια προειδοποίηση: Οι αποφάσεις που θα λάβουμε όλοι τα επόμενα χρόνια θα καθορίσουν εάν η τεχνητή νοημοσύνη θα αποδειχθεί «ένα ελπιδοφόρο νέο κεφάλαιο» ή ένα «τελικό σφάλμα».

Η απαισιόδοξη άποψη του συγγραφέα ολοκληρώνεται με μια προειδοποίηση: Οι αποφάσεις που θα λάβουμε όλοι τα επόμενα χρόνια θα καθορίσουν εάν η τεχνητή νοημοσύνη θα αποδειχθεί «ένα ελπιδοφόρο νέο κεφάλαιο» ή ένα «τελικό σφάλμα».

Οφείλουμε να πάρουμε στα σοβαρά την τεχνητή νοημοσύνη; Το βιβλίο δεν αφήνει περιθώρια για άλλες σκέψεις. Ο Χαράρι τάσσεται υπέρ ενός κανονιστικού πλαισίου που δεν θα επιτρέπει στις ιδιωτικές εταιρείες να αναπτύσσουν την τεχνολογία τους δίχως έλεγχο.

Μια αντιμονοπωλιακή νομοθεσία σίγουρα θα ήταν ένα καλό μέτρο, όπως και η ανάπτυξη κάποιων εναλλακτικών πλατφορμών. Το Nexus δεν είναι ένα επαναστατικό βιβλίο. Με την έννοια ότι δεν προτρέπει να βγούμε στους δρόμους καταγγέλλοντας τους ιδιώτες για προσπάθεια χειρισμού των κοινωνιών και τις κυβερνήσεις για επικίνδυνη απραξία.

Αυτό που κάνει είναι να επισημαίνει το πρόβλημα, να το εντοπίζει και να αφήνει να πλανάται στον αέρα μια απειλή που μπορεί στις μέρες μας να φαίνεται μακρινή, αλλά δεν θα είναι για πάντα έτσι και το γνωρίζουμε πολύ καλά. Το θέμα είναι να μην φτάσουμε στο σημείο των αμυντικών αποφάσεων όταν θα είναι πολύ αργά.

^＊Ο ΔΙΟΝΥΣΗΣ ΜΑΡΙΝΟΣ είναι δημοσιογράφος και συγγραφέας.