Μια συζήτηση με τον Πληροφορικό Ιωσήφ Σηφάκη
Καθημερινή, 4/5/2024
Δεν είναι πλέον μία ανεξερεύνητη φράση, μία αόριστη έννοια στα papers των επιστημόνων και στις εγκυκλοπαίδειες. Έχει μορφή, χαρακτηριστικά και γνωστές δυνατότητες άμεσα προσβάσιμες στον οποιονδήποτε. Η τεχνητή νοημοσύνη δεν είναι προνόμιο των «ειδικών», αλλά εργαλείο των πολλών.
Η εξέλιξη αυτή αφήνει ένα χαμόγελο στα χείλη του καθηγητή και ομότιμου διευθυντή έρευνας της Verimag, Ιωσήφ Σηφάκη, του μοναδικού Έλληνα που έχει τιμηθεί, το 2007, με το βραβείο Τούρινγκ, αντίστοιχο του βραβείου Νομπέλ στην Πληροφορική.
Ο τομέας της πληροφορικής γνωρίζει συνεχή εξέλιξη και ο 78χρονος καθηγητής δεν είναι απαθής παρατηρητής των αλλαγών, αλλά ακαταπόνητος ερευνητής των αλγορίθμων.
Ο κ. Σηφάκης είναι ένας επιστήμονας με γνώση των σταδίων εξέλιξης της τεχνητής νοημοσύνης. Ως όρος γεννήθηκε στα μέσα του ’50 στον τομέα της πληροφορικής που «μελετά και σχεδιάζει νοήμονα συστήματα».
Στο Διαδίκτυο υπάρχουν ακόμη οι έρευνες που υπέγραφε από το 1980, ενώ, παρακολουθώντας ασταμάτητα τις εξελίξεις της επιστημονικής κοινότητας, ο ίδιος συνέβαλε στις αρχές του 21ου αιώνα στον τομέα της σχεδίασης και επαλήθευσης συστημάτων θεμελιώνοντας το Model-Checking. Πρόκειται για την κύρια βιομηχανική μέθοδο επαλήθευσης πληροφορικών συστημάτων και σήμερα χρησιμοποιείται από εταιρείες όπως η Intel, η Microsoft και η Google.
Με τα σημερινά ενδιαφέροντά του να επικεντρώνονται στη μελέτη μεθόδων κατασκευής ενσωματωμένων συστημάτων υψηλής ασφάλειας και πιστότητας, ο κ. Σηφάκης βλέπει την ανάδυση της τεχνητής νοημοσύνης από τον «βυθό» της πληροφορικής με θαυμασμό.
«Γύρω στο 2007 είδαμε τα πρώτα εντυπωσιακά αποτελέσματα της τεχνητής νοημοσύνης, αλλά δεν μπορούσαμε να προβλέψουμε τότε ότι σήμερα θα είχαμε κάνει τέτοια πρόοδο. Τότε είχαμε συστήματα που κέρδιζαν πρωταθλητές στο σκάκι. Η μεγάλη αλλαγή έγινε με το ChatGPT, με τα συστήματα τα οποία μπορούν και επεξεργάζονται φυσικές γλώσσες», αναφέρει.
Ωστόσο βλέποντας το δάσος και όχι το δέντρο που είναι σήμερα τα chatbots, ο ίδιος πιστεύει ακράδαντα πως το μέλλον θα είναι πολύ πιο εντυπωσιακό από αυτό που ζούμε σήμερα.
Κατά την άποψή του η σελίδα στον τομέα της πληροφορικής θα αλλάξει όταν θα υπάρχουν μηχανές που μπορούν να κατανοούν καταστάσεις και να δρουν αυτόνομα.
Ο χρόνος έως ότου αυτό γίνει είναι πολύτιμος για τον καθηγητή, καθώς η κοινωνία θα μπορέσει να προσαρμοσθεί αλλά και να ασφαλισθεί καλύτερα. Για τον ίδιο είναι επικίνδυνο πως σήμερα δεν υπάρχουν ορισμένα αντικειμενικά κριτήρια με βάση τα οποία θα μπορούμε να κρίνουμε την αξιοπιστία ενός συστήματος.
Έχοντας συνδέσει το όνομά του με την τεχνολογία fly-by-wire που χρησιμοποιήθηκε για πρώτη φορά σε επιβατικά αεροπλάνα (Airbus320) για τον αυτόματο έλεγχο πτήσεων, βλέπει με θετική ματιά τη δημιουργία ρυθμιστικού πλαισίου από την Ε.Ε. για την A.I., ενώ παραμένει πεπεισμένος ότι η τεχνολογία πρέπει να μένει στην υπηρεσία του ανθρώπου και ότι τα ρίσκα πάντα πρέπει να είναι λελογισμένα.
Λίγο πριν παρευρεθεί ως ομιλητής στο 21ο Διεθνές Συνέδριο Βιοϊατρικής Απεικόνισης (ISBI 2024) του Ινστιτούτου Ηλεκτρολόγων και Ηλεκτρονικών Μηχανικών (ΙΕΕΕ), που διοργανώνεται από το Εθνικό Μετσόβιο Πολυτεχνείο, σε συνεργασία με το Εθνικό και Καποδιστριακό Πανεπιστήμιο Αθηνών και το Αριστοτέλειο Πανεπιστήμιο Θεσσαλονίκης στις 27-30 Μαΐου 2024, ο κ. Σηφάκης μιλάει αποκλειστικά στην «Κ» για το παρελθόν, το παρόν και το μέλλον της A.I.
– Κύριε Σηφάκη, θεωρείτε πως σε αυτό το στάδιο που βρισκόμαστε αναφορικά με τη χρήση της τεχνητής νοημοσύνης (υπολογιστές που εκτελούν εντολές με μεγάλες βάσεις δεδομένων) θα παραμείνουμε καιρό;
– Σήμερα γίνεται μεγάλος θόρυβος σχετικά με το ChatGPT, που είναι ένα σύστημα με το οποίο μπορεί κανείς να συνομιλεί και να απαντά λίγο–πολύ σωστά στις ερωτήσεις μας. Ωστόσο για εμένα το ChatGPT απέχει πάρα πολύ από το να φτάσει την ανθρώπινη νοημοσύνη.
Σίγουρα είναι εντυπωσιακό το ότι έχουμε μηχανές στις οποίες θέτουμε ερωτήματα και μπορούν και μας απαντούν, αλλά για εμένα αυτό δεν είναι αρκετό, διότι η ανθρώπινη νοημοσύνη χαρακτηρίζεται από ένα σύνολο δεξιοτήτων και ικανοτήτων, όπως να μπορείς να βαδίζεις, να οδηγείς αυτοκίνητο, ή να εγχειρίζεις ασθενείς.
Υπάρχουν βέβαια διαφωνίες όσον αφορά τους στόχους της τεχνητής νοημοσύνης. Προσωπικά θεωρώ πως βασικός στόχος είναι η δημιουργία αυτόνομων συστημάτων, δηλαδή μηχανών που να πλησιάζουν την ανθρώπινη νοημοσύνη και μπορεί να αντικαθιστούν τον άνθρωπο στις ποικίλες δραστηριότητές του.
Οπότε, κατά την άποψή μου, είμαστε ακόμα εντελώς στην αρχή της εποχής της τεχνητής νοημοσύνης, καθώς το κριτήριο είναι να έχουμε μηχανές που να μπορούν να κατανοούν καταστάσεις και να δρουν αυτόνομα. Παραδείγματος χάριν, να έχουμε μια μηχανή που να μπορεί να αντικαταστήσει μια νοσοκόμα. Αυτό δεν είναι καθόλου εύκολο να γίνει, γιατί θα σημαίνει ότι η μηχανή έχει και μια αντίληψη και συναντίληψη με τον άνθρωπο.
– Άρα, κατά τη γνώμη σας, κάποια στιγμή θα έχουμε νοσοκόμες-ρομπότ;
– Είναι πολύ δύσκολο να γίνουν προβλέψεις σχετικά. Κάνω έρευνα πάνω στα αυτόνομα αυτοκίνητα για τα οποία όπως ίσως θυμάστε, γύρω στο 2010, ο Ελον Μασκ είχε πει πως μέχρι το 2020 θα είναι παντού. Ωστόσο, 14 χρόνια μετά, ο στόχος αυτός δεν έχει επιτευχθεί, διότι είναι απίστευτα δύσκολο να κατασκευάσουμε μηχανές που να συμπεριφέρονται σαν τον άνθρωπο.
– Είναι ιδέα μου ή μεγάλη μερίδα της επιστημονικής κοινότητας πλέον έχει επικεντρωθεί στην ανάπτυξη αυτόνομων συστημάτων;
– Τα αυτόνομα συστήματα δεν είναι ακόμη τόσο «της μόδας» όσο η τεχνητή νοημοσύνη, η οποία κατά την άποψή μου είναι η κυρίαρχη τάση σήμερα. Προσωπικά ασχολούμαι με τα αυτόνομα συστήματα πάνω από 15-20 χρόνια και θεωρώ πως αυτά είναι το τελικό στάδιο της τεχνητής νοημοσύνης. Όμως ο δρόμος που οδηγεί σε πλήρη αυτονομία είναι πολύ μακρύς.
– Έχετε τονίσει στο βιβλίο και σε διαλέξεις ότι πρέπει να μπουν όρια τόσο στη χρήση των αυτόνομων συστημάτων όσο και γενικά στη χρήση της A.I. Πόσο εύκολο είναι αυτό;
– Κατ’ αρχάς να εξηγήσουμε πως υπάρχουν πάρα πολλές λειτουργίες και στον άνθρωπο και στην τεχνητή νοημοσύνη που κατά κάποιον τρόπο δεν είναι εξηγήσιμες. Παραδείγματος χάριν, η λειτουργία ενός ασανσέρ ή ενός αεροπλάνου είναι εξηγήσιμη, διότι έχει προγραμματιστεί πολύ συγκεκριμένα και έχει συγκεκριμένους κανόνες για την κατασκευή του.
Η μεγάλη τομή όμως σήμερα είναι πως δεν έχουμε θεωρίες που να εξηγούν τη συμπεριφορά των συστημάτων τεχνητής νοημοσύνης. Πράγμα το οποίο συνεπάγεται ότι δεν μπορούμε να εγγυηθούμε την ασφάλειά τους. Και φυσικά, αν τα χρησιμοποιεί κάποιος για να συζητάει απλώς, δεν υπάρχει κανένα θέμα. Αν όμως παράγουν αποφάσεις των οποίων οι επιπτώσεις είναι κρίσιμες, τότε πρέπει να είμαστε ιδιαίτερα προσεκτικοί. Αν παραδείγματος χάριν αποφασίζουμε για την αξιολόγηση των υπαλλήλων σε μια επιχείρηση, θα πρέπει να είμαστε σίγουροι ότι τα συστήματα αυτά είναι αδιάβλητα. Το πρόβλημα είναι πως σήμερα δεν υπάρχουν κριτήρια με βάση τα οποία να μπορούμε να κρίνουμε την αξιοπιστία ενός συστήματος.
– Ποιο είναι δηλαδή το χειρότερο αλλά και το καλύτερο σενάριο με βάση τα υπάρχοντα δεδομένα;
– Για εμένα το καλύτερο σενάριο είναι να χρησιμοποιούμε την τεχνολογία στην υπηρεσία του ανθρώπου και να παίρνουμε λελογισμένα ρίσκα. Ως προς αυτό υπάρχει το πρόσφατο κείμενο της Ευρωπαϊκής Ένωσης, το οποίο λέει ότι τα συστήματα τεχνητής νοημοσύνης πρέπει –όπως όλα τα συστήματα που παρέχουν μία λειτουργία–ένα έχουν ένα βαθμό αξιοπιστίας ανάλογο με την κρισιμότητα της λειτουργίας. Επομένως για ένα σύστημα που είναι πολύ κρίσιμο, πρέπει η πιθανότητα να κάνει λάθος να είναι πολύ μικρή.
– Οπότε θεωρείτε ότι το ρυθμιστικό πλαίσιο της Ευρώπης θα εφαρμοστεί από τα κράτη-μέλη;
– Είναι θετικό που η Ευρώπη έχει θεσπίσει ένα αυστηρό κανονιστικό πλαίσιο πολύ διαφορετικό από αυτό των ΗΠΑ. Δεν ξέρω σε ποιον βαθμό θα μπορέσει να το εφαρμόσει. Είναι σαφές ότι υπάρχει πίεση από αμερικανικής πλευράς να μην εφαρμοστούν αυστηρά αυτοί οι κανονισμοί. Η πίεση είναι πολλαπλή και πρωτίστως τεχνολογική, διότι η Ευρώπη εξαρτάται άμεσα από την Αμερική για την τεχνητή νοημοσύνη. Οπότε θα δούμε τι θα γίνει. Αυτό που είναι θετικό, κατά την άποψή μου, είναι ότι η Ευρώπη τόλμησε να κάνει αυτό το βήμα, ακόμη κι αν υπήρξαν κριτικές και εντός της από ορισμένα κράτη-μέλη.
– Γυρίζοντας πάλι πίσω στην τεχνητή νοημοσύνη, πώς θεωρείτε πως τη χρησιμοποιεί η νέα γενιά και πώς ενδεχομένως θα ευχόσασταν να τη χρησιμοποιεί;
– Θα ήθελα οι νέοι να χρησιμοποιούν την τεχνητή νοημοσύνη με σύνεση και ιδιαίτερα όσοι ακόμη πηγαίνουν στο σχολείο. Ο βασικός στόχος της εκπαίδευσης είναι οι νέοι κατακτήσουν διανοητικές ικανότητες όπως αυτοσυγκέντρωση, κριτική σκέψη και δημιουργικότητα. Εάν καταφεύγουν σε αυτά τα εργαλεία για να κάνουν τις εργασίες τους, θα είναι διηνεκώς εξαρτημένοι. Δεν θα μπορέσουν να αναπτύξουν μια προσωπικότητα ικανή να κατανοεί και να κρίνει αυτόνομα και έχοντας συναίσθηση της ευθύνης των πράξεών της. Δυστυχώς, βλέπω ήδη σε πολλά παιδιά, αλλά και σε φοιτητές μου ακόμα, συμπτώματα μιας τέτοιας εξάρτησης.
– Να σταθώ λίγο στη λέξη «δημιουργικότητα». Έχετε πει πως εξαιτίας της ταχείας άνθησης της τεχνολογίας θα επιβιώσουν τα επαγγέλματα υψηλής δημιουργικότητας. Ωστόσο αυτό θα γίνει σε ένα πλαίσιο, στο οποίο οι υπολογιστές μάς αφαιρούν τη δημιουργικότητα. Πώς λοιπόν μπορούμε να διατηρήσουμε τη δημιουργικότητά μας στη σημερινή εποχή;
– Προς το παρόν υπάρχουν πάρα πολλά επαγγέλματα υψηλής δημιουργικότητας. Άμα είσαι μηχανικός, γιατρός, κουρέας, επισκευαστής αυτοκινήτων, τότε κάνεις ένα δημιουργικό επάγγελμα, αν όμως είσαι πίσω από έναν γκισέ και κάνεις μία δουλειά που τυποποιείται, τότε, ναι, αυτά τα επαγγέλματα κινδυνεύουν.
Ως προς τη διατήρηση της δημιουργικότητας, θεωρώ πως τέτοιες ερωτήσεις τίθενται στην ανθρωπότητα διαχρονικά. Δηλαδή, αφότου ο άνθρωπος ανακάλυψε τον τροχό, ανακάλυψε τους μοχλούς και δεν είχε ανάγκη τη μυϊκή του δύναμη, μετά ανακάλυψε τη φωτιά, ανακάλυψε τις μηχανές. Ακολούθησε η μεγάλη Βιομηχανική Επανάσταση με τον ατμό. Οπότε όλα αυτά είναι αναπόφευκτα, και εδώ δεν φταίει η τεχνολογία, απλώς οι κοινωνίες πρέπει προσαρμοστούν στα νέα δεδομένα.
– Το επάγγελμά σας, η πληροφορική, σε ποιο στάδιο βρισκόταν όταν κερδίσατε το βραβείο Τούρινγκ το 2007 και πού είναι τώρα;
– Υπάρχει μεγάλη διαφορά. Εγώ είχα την ευτυχία να ζήσω όλο το «σίριαλ» της ανάπτυξης της επιστήμης και της τεχνολογίας της πληροφορικής. Ξεκίνησα το ’70, σπουδάζοντας πληροφορική. Μετά όλα έγιναν πολύ γρήγορα: το διαδίκτυο, ο ιστός, τα ενσωματωμένα συστήματα, η επανάσταση της τεχνητής νοημοσύνης. Ίσως αυτό είναι ένα πρόβλημα για την ανθρωπότητα, να συνειδητοποιήσουμε όλες αυτές τις αλλαγές και να μπορέσουμε να προσαρμοστούμε. Γύρω στο 2007 είδαμε τα πρώτα εντυπωσιακά αποτελέσματα της τεχνητής νοημοσύνης, αλλά δεν μπορούσαμε να προβλέψουμε τότε ότι σήμερα θα είχαμε κάνει τέτοια πρόοδο. Τότε είχαμε συστήματα που κέρδιζαν πρωταθλητές στο σκάκι. Η μεγάλη αλλαγή έγινε με το ChatGPT, με τα συστήματα τα οποία μπορούν και επεξεργάζονται φυσικές γλώσσες.
Η πρόκληση είναι πλέον να κατασκευάσουμε συστήματα που να πλησιάζουν την ανθρώπινη νοημοσύνη σε όλες της τις εκφάνσεις. Ικανά να επιτυγχάνουν στόχους ατομικούς, ενώ ταυτόχρονα να μπορούν να συμβιώνουν με άλλα συστήματα για την επιδίωξη κοινών στόχων. Αυτό δεν είναι καθόλου απλό. Παραδείγματος χάριν στο Σαν Φρανσίσκο έχουμε αυτόνομα αυτοκίνητα που είναι λίγο–πολύ ασφαλή, όμως δεν επιδεικνύουν συλλογική νοημοσύνη, προκαλώντας κυκλοφοριακά προβλήματα όταν σταματούν χωρίς λόγο ή εμποδίζουν το πέρασμα ενός περιπολικού. Είναι απίστευτα δύσκολο να κάνεις μία μηχανή να συμπεριφέρεται κοινωνικά και να ζει αρμονικά με τους ανθρώπους.
– Σε ένα ολόκληρο κεφάλαιο στο βιβλίο σας αναφέρεστε στο μεγαλείο της γνώσης και στη χρήση της. Πόσο εύκολο είναι κάποιος να αναπτύξει τη γνώση του όταν κυρίως πια αναπτύσσουμε τη γνώμη μας;
– Είναι όντως ένα σημείο των καιρών και βλέπουμε πως ολοένα και περισσότερο στην κοινωνία της πληροφορίας βασιλεύει μια πολυφωνία γνωμών που κάποτε θεωρούσαμε θετική. Αυτό που προβληματίζει είναι η αποστασιοποίηση από την αλήθεια, αυτός ο σχετικισμός ο οποίος έχει καλλιεργηθεί, και αμφισβητείται κατά κάποιον τρόπο η αντικειμενικότητα της γνώσης.
Τελικά, η πολυφωνία γνωμών που έχουν τάση να παραποιούν την αλήθεια δημιουργεί σύγχυση και εντέλει δεν βοηθάει τον δημοκρατικό διάλογο στην κοινωνία και τους ανθρώπους να κατανοήσουν τι συμβαίνει και να βρουν τον δρόμο τους. Δεν ξέρω πώς θα εξελιχθεί το φαινόμενο αυτό, αλλά οι κοινωνίες και οι θεσμοί τους πρέπει να βρουν ένα τρόπο να το διαχειριστούν σεβόμενες την ελευθερία έκφρασης.
– Γιατί φύγατε από την Ελλάδα;
Είχα μια πολύ ενδιαφέρουσα δουλειά στο εξωτερικό. Φυσικά έκανα απόπειρες επιστροφής στην Ελλάδα, αλλά νομίζω είναι θέμα επιλογής από ένα σημείο και μετά. Αγαπώ τη χώρα μου και θα ήθελα να συμβάλω πραγματικά. Μία περίοδο διετέλεσα πρόεδρος του Εθνικού Συμβουλίου Έρευνας και Τεχνολογίας και κατάλαβα πως η κατάσταση στη χώρα δυστυχώς δεν βελτιώνεται. Δεν μπορώ να πω τίποτα άλλο, απλώς ότι είναι λυπηρό το ότι δεν βελτιώνεται.
– Στους μαθητές σας τι λέτε; Να μείνουν στο εξωτερικό ή να επιστρέψουν;
– Αυτό που λέω στα νέα παιδιά είναι πως αν δεν αισθάνονται καλά στην Ελλάδα, μην έχουν κανένα πρόβλημα να βγουν έξω, γιατί θα μπορούν στο μέλλον να είναι πιο χρήσιμοι και για τη χώρα τους.
– Υπάρχει κάτι που θα θέλατε να πετύχετε;
– Έχω πολλά να δώσω στη δουλειά μου. Έχω πάρα πολλές απορίες ακόμα να λύσω, οπότε συνεχίζουμε. Το πρώτο και βασικότερο είναι να διατηρήσω τις δυνάμεις να σκέφτομαι και να δημιουργώ.