Politica 89.8
OpenAI: Στέλεχος αρμόδιο για θέματα ασφάλειας παραιτήθηκε – Μιλάει για «προβληματική κουλτούρα» στην εταιρεία
Έκκληση για αλλαγή κουλτούρας στον κλάδο της τεχνητής νοημοσύνης έκανε στέλεχος της OpenAI, υπεύθυνο για θέματα ασφάλειας, που αποχώρησε από την εταιρεία. Ο Ντέιβιντ Ρόμπινσον έρχεται να προστεθεί στη λίστα των ανθρώπων του κλάδου, αλλά και ειδικών, που προειδοποιούν ότι η κουλτούρα της εταιρείας είναι προβληματική και ότι οι εταιρείες τεχνητής νοημοσύνης (AI) δεν επιδεικνύουν την απαιτούμενη προσοχή κατά την ανάπτυξη της τεχνολογίας.
Η προειδοποίηση εκφράζεται αφότου ο Ντόναλντ Τραμπ και οι ηγέτες της ΑΙ, συμφώνησαν σε «αυτορρύθμιση» του κλάδου της ΑΙ.
Ο Ντέιβιντ Ρόμπινσον είχε ηγηθεί της σύνταξης των εκθέσεων ασφαλείας που συνόδευαν τις κυκλοφορίες προϊόντων της εταιρείας που δημιούργησε το ChatGPT. Τους λόγους της παραίτησής του τους εξήγησε σε άρθρο στο περιοδικό «The Atlantic» με τίτλο: «Παραιτήθηκα από την OpenAI επειδή η κουλτούρα της είναι προβληματική».
Ο Ρόμπινσον υποστηρίζει ότι απαιτείται ριζική αλλαγή κουλτούρας στις πρωτοπόρες εταιρείες τεχνητής νοημοσύνης. Και σημείωσε ότι περιστατικά όπως η επίθεση ενός «σμήνους» πρακτόρων της OpenAI —προγραμμάτων AI που λειτουργούν αυτόνομα χωρίς ανθρώπινη επίβλεψη— κατά της νεοφυούς επιχείρησης Hugging Face, είναι «χαρακτηριστικά του κλάδου, δεδομένης της ταχύτητας και της ευελιξίας με την οποία κινούνται οι άνθρωποι».
«Να μιλήσουμε για την κουλτούρα»
Στο άρθρο του, το πρώην στέλεχος της OpenAI σημειώνει:
«Συμφωνώ με άλλα στελέχη που αποχώρησαν πρόσφατα, ότι οι εταιρείες που αναπτύσσουν αυτή την τεχνολογία δεν επιδεικνύουν την απαιτούμενη προσοχή. Πιστεύω όμως ότι πρέπει να εξετάσουμε το ζήτημα βαθύτερα, πέρα από συγκεκριμένους κανόνες ή νέους νόμους. Πρέπει να μιλήσουμε για την κουλτούρα».
Όσον αφορά τον ρυθμό ανάπτυξης της OpenAI, έγραψε: «Καθώς η εταιρεία μεταβαίνει με ταχύτατους ρυθμούς από τη μία κυκλοφορία στην επόμενη, αποτυγχάνει να επιτύχει το επίπεδο προσοχής που θεωρώ απαραίτητο».
Η OpenAI έχει δείξει σημάδια επιφυλακτικότητας τις τελευταίες εβδομάδες, μετά το περιστατικό με την Hugging Face και την αποκάλυψη ότι έχει ενημερώσει περισσότερους από 100 οργανισμούς σχετικά με τη δραστηριότητα ανεξέλεγκτων πρακτόρων AI. Αυτή την εβδομάδα ανακοίνωσε ότι ακυρώνει την κυκλοφορία ενός μοντέλου AI επόμενης γενιάς, αφού ερευνητές εξέφρασαν ανησυχίες για την ασφάλεια κατά τη διάρκεια εσωτερικών δοκιμών. Η OpenAI έχει επίσης αναστείλει την εκπαίδευση των πιο προηγμένων μοντέλων της.
«Να μην υποτιμούμε τον κίνδυνο»
Προειδοποίηση σχετικά με την τεχνητή νοημοσύνη απηύθυνε και ο Τζέφρι Ίρβινγκ, ο οποίος εργάστηκε στην OpenAI και διετέλεσε επικεφαλής επιστήμονας στο Ινστιτούτο Ασφάλειας AI της βρετανικής κυβέρνησης. Πλέον, έχοντας ενταχθεί στην εταιρεία έρευνας για την ασφάλεια της AI, Resolution, σε άρθρο του στο περιοδικό Time, δήλωσε: «Οι πρόσφατες προειδοποιήσεις σχετικά με την πιθανή καταστροφική ισχύ της τεχνητής νοημοσύνης υποτιμούν τη σοβαρότητα της κατάστασης. Πιστεύω ότι υπάρχει πιθανότητα περίπου 50% να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων ΑΙ που θα είναι πιο έξυπνα από τον άνθρωπο, και ότι οι ενέργειές μας κατά την επόμενη διετία έως δεκαετία θα καθορίσουν την έκβαση».
Οι προειδοποιήσεις αυτές έπονται της παραίτησης του Τζέικομπ Κόξον, ερευνητή στην Anthropic —ανταγωνίστρια εταιρεία της OpenAI—, ο οποίος αποχώρησε τον περασμένο μήνα από την εταιρεία που ανέπτυξε το chatbot Claude. Ο ίδιος εξέφρασε την πεποίθηση ότι η τεχνητή νοημοσύνη «θα μπορούσε να μας εξολοθρεύσει όλους μέχρι το τέλος της δεκαετίας» — άποψη που ενίσχυσε υπάλληλος της Anthropic, προειδοποιώντας ότι υπήρχε πιθανότητα άνω του 10% να αφανίσει η ΤΝ την ανθρωπότητα μέσα στην επόμενη δεκαετία. Ωστόσο, όσοι ασκούν κριτική σε τέτοιου είδους προειδοποιήσεις επισημαίνουν ότι στερούνται επιστημονικής βάσης, καθώς δεν είναι δυνατόν να επαληθευτούν ή να διαψευσθούν.
Ο Ντέιβιντ Ρόμπινσον έγραψε ότι στη Silicon Valley απουσιάζει η επίγνωση του «πώς να διαχειρίζεται κανείς επικίνδυνες τεχνολογίες» και του «τι σημαίνει να νοιάζεσαι για τους ανθρώπους».
Επισημαίνοντας ότι η OpenAI διακατεχόταν από έναν «ακράδαντο αισιόδοξο» τρόπο σκέψης ως προς την επίλυση προβλημάτων κατά την εμφάνισή τους, υποστήριξε ότι αυτή η εσωτερική κουλτούρα σήμαινε πως τα προβλήματα ασφαλείας θα πολλαπλασιάζονταν καθώς τα συστήματα θα γίνονταν πιο ικανά.
«Φανταστείτε “ανεξέλεγκτους” πράκτορες [λογισμικού] που λειτουργούν όπως ομάδες χάκερ (για παράδειγμα, κρατώντας ομήρους τα συστήματα υπολογιστών νοσοκομείων με αντάλλαγμα λύτρα), αλλά δεν χρειάζεται ποτέ να κοιμηθούν», έγραψε.
Και ζήτησε δύο αλλαγές στον τομέα της ασφάλειας: αφενός, οι εταιρείες ΤΝ να αξιοποιούν την τεχνογνωσία ασφαλείας από άλλους κλάδους, όπως η πυρηνική ενέργεια και η αεροναυπηγική, και αφετέρου, να αναπτύξουν μια «νέα επιστήμη» που θα διασφαλίζει ότι τα ισχυρά μελλοντικά συστήματα θα μπορούν να περιορίζονται ή να ελέγχονται όταν λειτουργούν αυτόνομα.
in.gr
