Politica 89.8
Εκατοντάδες στελέχη της βιομηχανίας ΑΙ ζητούν να μπει φρένο στην ανάπτυξη της τεχνολογίας
Περισσότεροι από 1.000 εργαζόμενοι της βιομηχανίας τεχνητής νοημοσύνης, ανάμεσά τους ανώτερα στελέχη της OpenAI, της Anthropic, της Google και της Meta, υπογράφουν ανοιχτή επιστολή με την οποία ζητούν από την αμερικανική κυβέρνηση να υποστηρίξει τη δημιουργία διεθνών μηχανισμών που θα μπορούν να «επιβραδύνουν εσκεμμένα» την πρόοδο της ΑΙ για το καλό της ανθρωπότητας.
Επικαλούμενοι εκτιμήσεις ότι τα μοντέλα τεχνητής νοημοσύνης θα μπορούν σύντομα να βελτιώνουν τον εαυτό τους, οι 1224 υπογράφοντες γράφουν ότι «για να αξιοποιηθεί πλήρως το δυναμικό της τεχνητής νοημοσύνης, η βιομηχανία, οι κυβερνήσεις και η κοινωνία συνολικά ίσως χρειάζονται τη δυνατότητα να “κερδίσουν χρόνο”, ώστε να αντιμετωπίσουν τους αναδυόμενους κινδύνους, να αναπτύξουν μέτρα ασφαλείας και να ενισχύσουν τους μηχανισμούς εποπτείας».
Η επιστολή ζητά από την Ουάσιγκτον «να στηρίξει μια διεθνή προσπάθεια για την ανάπτυξη τεχνικών εργαλείων και μηχανισμών διακυβέρνησης ώστε να επιβραδυνθεί με ελεγχόμενο τρόπο η εξέλιξη των πλέον προηγμένων συστημάτων τεχνητής νοημοσύνης».
Η επιστολή έρχεται λίγες ημέρες μετά την αποκάλυψη ότι ένας πράκτορας ΑΙ της OpenAI απέδρασε από το περιβάλλον δοκιμών, απέκτησε πρόσβαση στο Internet και χάκαρε τουλάχιστον δύο εταιρείες στην προσπάθειά του να πετύχει τους στόχους που του είδαν δοθεί.
Στους υπογράφοντες περιλαμβάνονται ο διευθύνων σύμβουλος της Anthropic Ντάριο Άμοντεϊ μαζί με αρκετούς συνιδρυτές της εταιρείας, ο αντιπρόεδρος έρευνας ΑΙ στη Meta Ντον Σονγκ και ο επικεφαλής επιστήμονας της OpenAI Γιάκουμπ Πατσότσκι.
O διευθύνων σύμβουλος της OpenAI Σαμ Άλτμαν δεν υπέγραψε στο κείμενο, ωστόσο η εταιρεία του αναγνώρισε με ανάρτησή της στο Χ ότι «κάποια στιγμή στο μέλλον, η επιτάχυνση της ανάπτυξης προηγμένων μοντέλων αιχμής μπορεί να γίνει τόσο μεγάλη, ώστε ο κόσμος θα χρειαστεί να ρυθμίσει την ταχύτητα με την οποία προχωρά η εξέλιξη της τεχνητής νοημοσύνης».
Αυτοβελτίωση
Είχε προηγηθεί αυτόν τον μήνα έκκληση της Anrthropic προκειμένου να δημιουργήσουν οι εταιρείες ΑΙ και οι κυβερνήσεις δικλείδες ασφαλείας ώστε να βγάλουν την τεχνητή νοημοσύνη από την πρίζα σε περίπτωση που γίνει επικίνδυνη.
«Η έρευνά μας σχετικά με την αναδρομική αυτοβελτίωση (recursive self-improvement), η οποία δημοσιεύθηκε τον περασμένο μήνα, υποδεικνύει την ανάγκη για εργαλεία που θα επιτρέπουν τη σκόπιμη ρύθμιση του ρυθμού ανάπτυξης των πλέον προηγμένων συστημάτων τεχνητής νοημοσύνης, ώστε η κοινωνία να μπορέσει να προετοιμαστεί» έγραψε η Anthropic σε νέα ανάρτησή της στο X.
Στο ίδιο μήκος κύματος ήρθε το σχόλιο της Ντον Σονγκ, αντιπροέδρου έρευνας τεχνητής νοημοσύνης στη Meta και καθηγήτριας πληροφορικής στο Πανεπιστήμιο της Καλιφόρνιας στο Μπέρκλεϊ.
«Πολλοί ερευνητές θεωρούν πιθανό ότι η αναδρομική αυτοβελτίωση μπορεί να καταστεί πραγματικότητα μέσα στα επόμενα λίγα χρόνια, επιταχύνοντας την πρόοδο με τρόπο που θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοήσουμε και να διαχειριστούμε αυτά τα συστήματα», έγραψε σε σχόλιο που συνόδευε την επιστολή.
«Η προετοιμασία πριν από την εκδήλωση μιας κρίσης είναι η συνετή επιλογή», προειδοποίησε.
Η κυβέρνηση Τραμπ ήταν αρχικά αρνητική στη λήψη μέτρων για τον περιορισμό των κινδύνων της ΑΙ, υποστηρίζοντας ότι οι κανόνες εμποδίζουν την καινοτομία. Άλλαξε γνώμη μετά την παρουσίαση του Mythos, το οποίο βρήκε χιλιάδες κενά ασφάλειας σε λειτουργικά συστήματα και προγράμματα που χρησιμοποιούνται ευρέως σε όλο τον κόσμο.
Η αμερικανική κυβέρνηση ζητά πλέον από τις εταιρείες ΑΙ να υποβάλλουν εθελοντικά τα νέα μοντέλα τους για έλεγχο πριν από τη δημόσια κυκλοφορία τους, φοβούμενη ότι η Κίνα ή η Ρωσία θα μπορούσαν να τα χρησιμοποιήσουν για κυβερνοεπιθέσεις ή συλλογή πληροφοριών.
in.gr
