Yoshua Bengio: «Χάνουμε τον έλεγχο της Τεχνητής Νοημοσύνης» – Ζητά δικλείδες ασφαλείας τύπου πυρηνικών όπλων για το AI

Ο Καναδός επιστήμονας πληροφορικής Yoshua Bengio, ο οποίος θεωρείται ένας από τους πρωτοπόρους της Τεχνητής Νοημοσύνης (ΤΝ), δήλωσε στο Γαλλικό Πρακτορείο (AFP) ότι η ανθρωπότητα «χάνει τον έλεγχο» της τεχνολογίας και ότι ο κόσμος χρειάζεται δικλείδες ασφαλείας παρόμοιες με εκείνες που ισχύουν για τον έλεγχο των πυρηνικών όπλων.

Οι ανησυχίες για τους κινδύνους της ΤΝ έχουν ενταθεί τις τελευταίες εβδομάδες, καθώς εργαζόμενοι σε μεγάλες εταιρείες παραιτούνται, προειδοποιώντας για πιθανές υπαρξιακές απειλές για την ανθρώπινη ζωή, εάν δεν περιοριστεί ο ρυθμός της τεχνολογικής προόδου.

Ο Bengio είναι καθηγητής στο Πανεπιστήμιο του Μόντρεαλ και τιμήθηκε με το βραβείο Turing το 2018 -το αντίστοιχο του βραβείου Νόμπελ στον τομέα της πληροφορικής μαζί με τον Geoffrey Hinton, ο οποίος είναι ευρύτερα γνωστός ως ο «νονός της Τεχνητής Νοημοσύνης».

Κατά τον Bengio, «υπάρχει λόγος που οι εταιρείες λένε ότι οι εξελίξεις τρέχουν πολύ γρήγορα και ότι χάνουμε τον έλεγχο». «Άνθρωποι σαν εμένα το περιμέναμε εδώ και καιρό», δήλωσε την Τρίτη στο AFP ο 62χρονος επιστήμονας, επισημαίνοντας ότι οι συζητήσεις για την ασφάλεια γύρω από την ΤΝ δεν ήταν επαρκώς ουσιαστικές.

Έντονη ανησυχία προκλήθηκε όταν η OpenAI αποκάλυψε ότι μια ομάδα πρακτόρων ΤΝ -προγραμμάτων που μπορούν να αναλαμβάνουν δράση αυτόνομα- πραγματοποίησε μη εξουσιοδοτημένη παραβίαση της πλατφόρμας ανοιχτού κώδικα Hugging Face τον περασμένο Ιούλιο.

Μια τέτοια αυτόνομη δράση αποτελεί την κύρια απειλή, τόνισε ο Bengio, προειδοποιώντας για ένα σενάριο όπου οι πράκτορες ΤΝ «θα έχουν τη δυνατότητα να παρακάμπτουν τα εμπόδια κυβερνοασφάλειας και να εισχωρούν σε οποιαδήποτε εταιρεία».

Πέρυσι, ο Bengio ίδρυσε τον μη κερδοσκοπικό οργανισμό LawZero, με στόχο τη δημιουργία μιας νέας μορφής προηγμένης ΤΝ, η οποία «σχεδιάζεται ώστε να είναι αξιόπιστη και ασφαλής».

Ο Bengio δήλωσε στο AFP ότι οι άνθρωποι πρέπει να έχουν επίγνωση των κινδύνων που ελλοχεύουν.

Οι πράκτορες ΤΝ ενδέχεται να αναπτύξουν «την ικανότητα να δημιουργούν προσωπικούς δεσμούς και να πείθουν τους ανθρώπους να ενεργούν με τρόπους που εξυπηρετούν την ίδια την ΤΝ, αλλά δεν είναι απαραίτητα ωφέλιμοι για όλους εμάς», μια ικανότητα που θα μπορούσε να έχει τεράστιες πολιτικές επιπτώσεις, όπως ανέφερε.

Σε μακροπρόθεσμο ορίζοντα, «η ΤΝ ίσως να μην χρειάζεται πλέον τους ανθρώπους για να επιτελεί πραγματικές ενέργειες στον φυσικό κόσμο», πρόσθεσε.

Σε ένα τέτοιο σενάριο, «ένα ακραίο ενδεχόμενο θα μπορούσε να είναι η καταστροφή της ανθρωπότητας», προειδοποίησε. «Πρόκειται για ακραίο σενάριο», παραδέχτηκε, ωστόσο σημείωσε ότι ακόμη και η κατάρρευση ενός τραπεζικού συστήματος «θα ήταν κάτι εξαιρετικά σοβαρό».