Το πείραμα σε Γυμνάσιο του Μπρονξ για τις αδυναμίες του «CHATGPT»
της ΝΑΤΑΣΑΣ ΣΙΝΓΚΕΡ, Καθημερινή, 8 Feb 2023
Η εκπαιδευτικός Μαρίζα Σούμαν μαθαίνει στις μαθήτριές της, στο Μπρονξ της
Νέας Υόρκης, τα πλεονεκτήματα αλλά και τις παγίδες του CHATGPT, του νέου
εργαλείου τεχνητής νοημοσύνης (ΑΙ). Στόχος είναι να αναπτύξει στην τάξη μια
κριτική θεώρηση της ΑΙ και όχι μια άνευ όρων υιοθέτηση των ευκολιών της.
Πρωτοποριακή μέθοδο διδασκαλίας έχει επιλέξει καθηγήτρια μέσης εκπαίδευσης
πληροφορικής σε πρότυπο γυμνάσιο θηλέων του Μπρονξ της Νέας Υόρκης, ζητώντας
από τις μαθήτριές της να εξετάσουν τις αδυναμίες των συστημάτων τεχνητής
νοημοσύνης. Στο πείραμά της η καθηγήτρια Μαρίζα Σούμαν επέτρεψε σε εφαρμογή
τεχνητής νοημοσύνης, το τσατμπότ CHATGPT, σχεδιασμένο για να προσφέρει
απαντήσεις σε ερωτήσεις χρηστών, να σχεδιάσει το μάθημα χωρίς ανθρώπινη
παρέμβαση. Ο αλγόριθμος του CHATGPT θα αποφάσιζε την ύλη της ημέρας και θα
δημιουργούσε σχέδιο μαθήματος με θέμα τη φορητότητα στην τεχνολογία.
«Δεν με νοιάζει αν δεν μάθετε τίποτα σήμερα για τα τεχνολογικά μέσα που
φοριούνται (wearable technology). Θέλω να αξιολογήσουμε το CHATGPT. Στόχος
είναι να αποφασίσετε αν το μάθημα ήταν αποτελεσματικό ή όχι», είπε η κ. Σούμαν.
Σε όλες τις ΗΠΑ, σχολεία και πανεπιστήμια προσπαθούν να διαχειρισθούν το
φαινόμενο των «τσατμπότ», τις εφαρμογές τεχνητής νοημοσύνης, ικανές για
αυτόνομη δημιουργία κειμένων και εικόνων που μοιάζουν σαν να έχουν γίνει από
ανθρώπινο χέρι.
Παρότι πολλά εκπαιδευτικά ιδρύματα σπεύδουν να απαγορεύσουν τα τσατμπότ,
θεωρώντας ότι μπορούν να αξιοποιηθούν σαν «σκονάκια» σε εξετάσεις,
εκπαιδευτικοί όπως η κ. Σούμαν προτιμούν να εκμεταλλευθούν την τεχνολογική
αιχμή προκειμένου να εντοπίσουν ενδεχόμενες παρενέργειες των νέων μέσων. Η κ.
Σούμαν
λέει ότι φιλοδοξεί να εκπαιδεύσει τη νέα γενιά δημιουργών και καταναλωτών
στην κριτική αντιμετώπιση της πληροφορικής. Η προσέγγιση αυτή θεωρεί ότι η
κριτική μελέτη των αλγορίθμων είναι εξίσου –αν όχι περισσότερο– σημαντική από
τη γνώση προγραμματισμού υπολογιστών.
Η διεύθυνση δευτεροβάθμιας εκπαίδευσης της Νέας Υόρκης, η μεγαλύτερη στις
ΗΠΑ με 900.000 μαθητές, εκπαιδεύει καθηγητές πληροφορικής για να βοηθούν τους
μαθητές να αναγνωρίζουν τις προκαταλήψεις της τεχνητής νοημοσύνης και τους
κινδύνους που αυτές παρουσιάζουν. Ενα από τα μαθήματα περιλαμβάνει συζήτηση για
τις αστοχίες αλγορίθμων αναγνώρισης προσώπου, οι οποίοι είναι πολύ πιο ακριβείς
στην αναγνώριση προσώπων λευκών από ό,τι μαύρων.
Πολλά σχολεία διδάσκουν πως ισχυρά συστήματα τεχνητής νοημοσύνης είναι
ικανά να παράγουν ψευδείς ειδήσεις, όπως ρεαλιστικά βίντεο, με γνωστά πολιτικά
πρόσωπα να κάνουν δηλώσεις τις οποίες ουδέποτε έκαναν. Η κατανόηση των
ικανοτήτων τέτοιων αλγορίθμων είναι αναγκαία για τους ενεργούς πολίτες του
μέλλοντος, επισημαίνουν οι εμπλεκόμενοι εκπαιδευτικοί. «Είναι κρίσιμο οι
μαθητές να καταλαβαίνουν τη λειτουργία των συστημάτων αυτών, καθώς οι
αλγόριθμοι αυτοί μαθαίνουν από την ψηφιακή συμπεριφορά των νέων. Πολλές αποφάσεις
λαμβάνονται από την τεχνητή νοημοσύνη για λογαριασμό των νέων, χωρίς οι ίδιοι
να το γνωρίζουν», λέει η ερευνητής του ΜΙΤ, Κέιτ Μορ.
Σε ένα από τα μαθήματα της κ. Σούμαν, οι μαθήτριες καλούνται να
διαπιστώσουν πειραματικά πώς δημοφιλείς αλγόριθμοι –σχεδιασμένοι συχνά από
λευκούς ή Ασιάτες άνδρες– έχουν δυσκολία να αναγνωρίσουν πρόσωπα
Αφροαμερικανών. Η δυσλειτουργία αυτή έχει οδηγήσει στη σύλληψη πολλών αθώων
μαύρων κατοίκων του Μπρονξ.
Στο πείραμα της κ. Σούμαν, ο αλγόριθμος αναγνώρισης προσώπου της Amazon
αποφάνθηκε με σιγουριά 76,5% ότι η Οπρα Γουίνφρεϊ ήταν άνδρας. Το αντίστοιχο
σύστημα της Microsoft αποφάσισε ότι η Μισέλ Ομπάμα ήταν «νεαρός Αφροαμερικανός
που φοράει μαύρη μπλούζα», ενώ το σύστημα της IBM ενημέρωσε τους χρήστες –με
βεβαιότητα 89%– ότι φωτογραφία της τενίστριας Σερίνα Ουίλιαμς απεικόνιζε άνδρα.
Στόχος του μαθήματος είναι να συνειδητοποιήσουν τα παιδιά ότι οι αλγόριθμοι
της πληροφορικής μπορεί να είναι ελαττωματικοί, όπως τα αυτοκίνητα και κάθε
άλλο ανθρώπινο κατασκεύασμα, ωθώντας τους νέους σε αμφισβήτηση των
προβληματικών τεχνολογικών μέσων.
Απλή παρουσίαση
Το μάθημα που επινόησε και σχεδίασε το τσατμπότ CHATGPT με θέμα τη φορητή
τεχνολογία, όπως τα ψηφιακά συνδεδεμένα ρολόγια χειρός smartwatches, ήταν
εντυπωσιακά λεπτομερές και σχολαστικό, με εναρκτήρια συζήτηση, ανάγνωση πηγών
για τη φορητή τεχνολογία, ασκήσεις και επίλογο. Η κ. Σούμαν ζήτησε από τις
μαθήτριές της να ακολουθήσουν το πρόγραμμα του CHATGPT για 20 λεπτά, σαν να
επρόκειτο για πραγματική διδακτική ώρα.
Στο τέλος του μαθήματος, τα κορίτσια στέναζαν από πλήξη και σχολίαζαν ότι
το μάθημα του αλγορίθμου ήταν απλοϊκό, επαναληπτικό και θύμιζε παρουσίαση
διαφημιστικής εταιρείας. Η τάξη κατέληξε ομόφωνα ότι το μάθημα της κ. Σούμαν
είναι κλάσεις ανώτερο από αυτό του τσατμπότ. «Πιστεύετε ότι οι καθηγητές σας
πρέπει να χρησιμοποιούν CHATGPT;» ρώτησε η κ. Σούμαν. Όλες οι μαθήτριες
απάντησαν με ένα ζωηρό «όχι».
Εκπαιδευτικοί ενθαρρύνουν τους μαθητές τους να αμφισβητούν την αυθεντία των
αλγορίθμων.
