Τον κίνδυνο διεύρυνσης των παγκόσμιων ανισοτήτων από την ταχεία και άνιση εξάπλωση της τεχνητής νοημοσύνης επισημαίνει η πρώτη προκαταρκτική έκθεση της ανεξάρτητης διεθνούς επιστημονικής επιτροπής του ΟΗΕ για την AI. Η επιτροπή αναγνωρίζει τεράστιες δυνητικές ωφέλειες για χώρες και πολίτες, αλλά προειδοποιεί ότι η ταχεία και ανεξέλεγκτη εφαρμογή της τεχνολογίας σε μεγάλη κλίμακα μπορεί να επηρεάσει την ψυχική υγεία, τα ανθρώπινα δικαιώματα, τα κοινωνικά και οικονομικά συστήματα, το περιβάλλον και την ακεραιότητα της δημόσιας πληροφόρησης.
Η έκθεση θα παρουσιαστεί στις κυβερνήσεις κατά τον πρώτο Παγκόσμιο Διάλογο του ΟΗΕ για τη διακυβέρνηση της AI, ο οποίος θα πραγματοποιηθεί στη Γενεύη στις 6 και 7 Ιουλίου. Πρόκειται για την πρώτη παγκόσμια επιστημονική αξιολόγηση της τεχνολογίας από ανεξάρτητο όργανο του ΟΗΕ, ενώ πληρέστερη έκθεση προγραμματίζεται για το 2027. Στην επιτροπή συμμετέχουν 40 επιστήμονες και ειδικοί από όλες τις περιφέρειες του κόσμου, με τριετή θητεία και ανεξαρτησία από κυβερνήσεις, θεσμούς και επιχειρήσεις.
Η ισχύς συγκεντρώνεται σε λίγες χώρες
Περισσότεροι από ένα δισεκατομμύριο άνθρωποι χρησιμοποιούν πλέον εφαρμογές διαλογικής AI κάθε εβδομάδα, όμως η υιοθέτηση παραμένει άνιση μεταξύ χωρών και κλάδων. Οι αναπτυσσόμενες οικονομίες υστερούν, ενώ η ανάπτυξη των ισχυρότερων συστημάτων και των σχετικών υποδομών συγκεντρώνεται κυρίως στις ΗΠΑ και την Κίνα. Οι ΗΠΑ διαθέτουν το 75% της υπολογιστικής ισχύος των 500 κορυφαίων υπερυπολογιστών AI παγκοσμίως και η Κίνα το 15%.
Παράλληλα, οι περισσότερες χώρες διαθέτουν περιορισμένη δυνατότητα αξιολόγησης των ισχυρότερων μοντέλων και ουσιαστικής συμμετοχής στη διακυβέρνησή τους. Η πρόσβαση σε εργαλεία AI από μόνη της δεν εξασφαλίζει ισότιμο όφελος, τονίζει η έκθεση. Χώρες που εξαρτώνται από ξένα μοντέλα, υποδομές cloud και ροές δεδομένων μπορεί να αποκτούν πρόσβαση στην τεχνολογία, αλλά να χάνουν τον πρακτικό έλεγχο των προτύπων, των δικλίδων ασφαλείας και της προσαρμογής στις τοπικές ανάγκες. Ο γενικός γραμματέας του ΟΗΕ, Αντόνιο Γκουτέρες, κάλεσε τις κυβερνήσεις να κινηθούν άμεσα, επισημαίνοντας ότι όσο η AI προχωρά χωρίς κοινούς κανόνες τόσο περιορίζεται η επιρροή των κρατών και των κοινωνιών στις τελικές επιλογές.
Κενά ασφάλειας και περιορισμένος δημόσιος έλεγχος
Οι δυνατότητες των συστημάτων εξελίσσονται ταχύτερα από την επιστημονική κατανόηση και από την ικανότητα των κυβερνήσεων να προσαρμόζουν την εποπτεία τους. Η επιτροπή σημειώνει ότι υπάρχουν λίγες διαθέσιμες μέθοδοι για τον έλεγχο συστημάτων υψηλής αυτονομίας, ενώ οι περισσότερες χώρες, ακόμη και αρκετές προηγμένες οικονομίες, στερούνται της τεχνικής εξειδίκευσης που απαιτείται για την αξιολόγηση των ισχυρότερων μοντέλων. Ο συμπρόεδρος της επιτροπής, Γιοσούα Μπέντζιο, αναφέρθηκε σε αυξανόμενες ενδείξεις παραπλανητικής συμπεριφοράς της AI και σε αδυναμία της επιστήμης να εγγυηθεί την αποτροπή καταστροφικής βλάβης.
Στους κινδύνους περιλαμβάνονται η χρήση της AI ως καταστροφικού εργαλείου, οι επιπτώσεις στην ψυχική υγεία, η παραγωγή υλικού σεξουαλικής κακοποίησης παιδιών και η σεξουαλική βία μέσω deepfakes. Η τεχνολογία διευκολύνει επίσης την παραγωγή και τη στοχευμένη διάδοση πειστικού περιεχομένου σε μεγάλη κλίμακα. Κατά την έκθεση, η διαδικασία αυτή μπορεί να προκαλέσει σταδιακή διάβρωση της ακεραιότητας της πληροφορίας, αποδυναμώνοντας την εμπιστοσύνη, την κοινωνική συνοχή και τη δημοκρατική διαβούλευση. Παράλληλα, η ανάπτυξη data centers αυξάνει τις απαιτήσεις σε ενέργεια και νερό και μπορεί να οδηγήσει σε αύξηση των εκπομπών αερίων του θερμοκηπίου.
Γλώσσες, υγεία και το νέο ψηφιακό χάσμα
Το γλωσσικό χάσμα αποτελεί ξεχωριστή πηγή κινδύνου. Παρότι περισσότερες από 7.000 γλώσσες χρησιμοποιούνται παγκοσμίως, τα σημερινά μοντέλα εκπαιδεύονται μόνο για ένα μικρό μέρος τους και εμφανίζουν χαμηλότερη απόδοση στις υπόλοιπες. Η έκθεση παραθέτει σφάλματα μηχανικής μετάφρασης στα τιγκρινιακά, όπου η ευλογιά αποδόθηκε ως σύφιλη, η γονόρροια ως διαβήτης και τα ενδοφλέβια αντιβιοτικά ως ενδοφλέβια εντομοκτόνα. Τέτοιες αστοχίες μπορούν να έχουν απειλητικές συνέπειες για ασθενείς, ιδίως όταν χρησιμοποιούνται σε διάγνωση ή θεραπεία.
Οι ανισότητες εντείνονται και από την περιορισμένη συνδεσιμότητα. Περισσότεροι από δύο δισεκατομμύρια άνθρωποι, σχεδόν το ένα τρίτο του παγκόσμιου πληθυσμού, παραμένουν εκτός διαδικτύου, βάσει στοιχείων της Διεθνούς Ένωσης Τηλεπικοινωνιών. Η επιτροπή προτείνει επενδύσεις σε τοπικές υποδομές AI και δεδομένων, εκπαίδευση μαθητών και εργαζομένων, στήριξη προγραμματιστών, δημιουργία ινστιτούτων ασφάλειας και συστηματική αξιολόγηση των συστημάτων μετά την κυκλοφορία τους, με πραγματικούς χρήστες και πραγματικές συνθήκες. Η επιτροπή χαρακτήρισε την προσέγγισή της επιστημονική και όχι πολιτική, ενώ η συμπρόεδρος Μαρία Ρέσα ανέφερε ότι οι πολιτικές επιλογές θα συζητηθούν από τις κυβερνήσεις στη Γενεύη.
