Κάποιοι στην OpenAI πιστεύουν ότι το Q* (προφέρεται Q-Star) θα μπορούσε να είναι μια σημαντική ανακάλυψη
Σε μια τεράστια αποκάλυψη προχώρησε σήμερα το πρακτορείο Reuters, καθώς φέρνει στη δημοσιότητα μια επιστολή ερευνητών στην οποία προειδοποιούν για μια ισχυρή ανακάλυψη τεχνητής νοημοσύνης που θα μπορούσε να απειλήσει την ανθρωπότητα.
Στο παρασκήνιο της απομάκρυνσης του πρώην, πλέον, Διευθύνοντος Συμβούλου του OpenAI, Sam Altman, αρκετοί ερευνητές έγραψαν μια επιστολή στο διοικητικό συμβούλιο προειδοποιώντας για μια ισχυρή ανακάλυψη τεχνητής νοημοσύνης που θα μπορούσε να απειλήσει την ανθρωπότητα, σύμφωνα με το Reuters.
Η «κρυφή» επιστολή, αλλά και ο αλγόριθμος τεχνητής νοημοσύνης που δεν είχε αναφερθεί προηγουμένως ήταν βασικές εξελίξεις πριν από την απομάκρυνση από το διοικητικό συμβούλιο του Altman, ανέφεραν οι πηγές του Reuters.
Πριν από τη θριαμβευτική επιστροφή του αργά την Τρίτη, περισσότεροι από 700 υπάλληλοι είχαν απειλήσει να παραιτηθούν και να ενταχθούν στην ομάδα της Microsoft σε ένδειξη αλληλεγγύης προς τον απολυθέντα ηγέτη τους.
Οι πηγές ανέφεραν την επιστολή ως έναν παράγοντα μεταξύ μιας μεγαλύτερης λίστας παραπόνων από το διοικητικό συμβούλιο που οδήγησε στην απόλυση του Altman, μεταξύ των οποίων ήταν και οι ανησυχίες για την εμπορευματοποίηση των προόδων πριν κατανοηθούν οι συνέπειες.
Το Reuters δεν μπόρεσε να εξετάσει ένα αντίγραφο της επιστολής.
Το προσωπικό που έγραψε την επιστολή δεν απάντησε στα αιτήματα για σχολιασμό.
Αφού ήρθε σε επαφή με το Reuters, η OpenAI, η οποία αρνήθηκε να σχολιάσει, αναγνώρισε σε εσωτερικό μήνυμα προς το προσωπικό ένα έργο που ονομάζεται Q* και μια επιστολή στο διοικητικό συμβούλιο πριν από τα γεγονότα του Σαββατοκύριακου, είπε ένας από τους ανθρώπους.
Ένας εκπρόσωπος της OpenAI είπε ότι το μήνυμα, που εστάλη από το επί χρόνια στέλεχος Mira Murati, ειδοποίησε το προσωπικό για ορισμένες ιστορίες των μέσων ενημέρωσης χωρίς να σχολιάσει την ακρίβειά τους.
Το επίμαχο Q-Star
Κάποιοι στην OpenAI πιστεύουν ότι το Q* (προφέρεται Q-Star) θα μπορούσε να είναι μια σημαντική ανακάλυψη στην αναζήτηση της startup για αυτό που είναι γνωστό ως τεχνητή γενική νοημοσύνη (AGI), είπε ένας από τους ανθρώπους στο Reuters.
Το OpenAI ορίζει το AGI ως αυτόνομα συστήματα που ξεπερνούν τους ανθρώπους στις περισσότερες οικονομικά πολύτιμες εργασίες.
Δεδομένων των τεράστιων υπολογιστικών πόρων, το νέο μοντέλο ήταν σε θέση να λύσει ορισμένα μαθηματικά προβλήματα, είπε η πηγή του Reuters.
Αν και εκτελούσε μόνο μαθηματικά σε επίπεδο μαθητών δημοτικού σχολείου, τα τεστ αυτά έκαναν τους ερευνητές πολύ αισιόδοξους για τη μελλοντική επιτυχία του Q*. .
Το Reuters δεν μπόρεσε να επαληθεύσει ανεξάρτητα τις δυνατότητες του Q* που ισχυρίστηκαν οι ερευνητές.
«Πέπλο άγνοιας»
Οι ερευνητές θεωρούν ότι τα μαθηματικά αποτελούν σύνορο της γενετικής ανάπτυξης της τεχνητής νοημοσύνης.
Επί του παρόντος, η γενετική τεχνητή νοημοσύνη είναι καλή στη γραφή και τη μετάφραση γλώσσας προβλέποντας στατιστικά την επόμενη λέξη και οι απαντήσεις στην ίδια ερώτηση μπορεί να διαφέρουν πολύ.
Αλλά η κατάκτηση της ικανότητας να κάνει μαθηματικά - όπου υπάρχει μόνο μια σωστή απάντηση - σημαίνει ότι η τεχνητή νοημοσύνη θα έχει μεγαλύτερες ικανότητες συλλογισμού που μοιάζουν με την ανθρώπινη νοημοσύνη.
Αυτό θα μπορούσε να εφαρμοστεί σε νέα επιστημονική έρευνα, για παράδειγμα, πιστεύουν οι ερευνητές της τεχνητής νοημοσύνης.
Σε αντίθεση με μια αριθμομηχανή που μπορεί να επιλύσει έναν περιορισμένο αριθμό πράξεων, το AGI μπορεί να γενικεύσει, να μάθει και να κατανοήσει.
Στην επιστολή τους προς το διοικητικό συμβούλιο, οι ερευνητές επισήμαναν την ικανότητα και τον πιθανό κίνδυνο της τεχνητής νοημοσύνης, ανέφεραν οι πηγές χωρίς να διευκρινίσουν τις ακριβείς ανησυχίες για την ασφάλεια που σημειώνονται στην επιστολή.
Υπάρχει εδώ και πολύ καιρό συζήτηση μεταξύ των επιστημόνων υπολογιστών σχετικά με τον κίνδυνο που θέτουν οι εξαιρετικά ευφυείς μηχανές, για παράδειγμα εάν θα μπορούσαν να αποφασίσουν ότι η καταστροφή της ανθρωπότητας ήταν προς το συμφέρον τους.
Οι ερευνητές επισήμαναν επίσης την εργασία μιας ομάδας «επιστημόνων AI», την ύπαρξη της οποίας επιβεβαίωσαν πολλές πηγές.
Η ομάδα, που σχηματίστηκε συνδυάζοντας προηγούμενες ομάδες "Code Gen" και "Math Gen", διερευνούσε πώς να βελτιστοποιήσει τα υπάρχοντα μοντέλα AI για να βελτιώσει τη συλλογιστική τους και τελικά να εκτελέσει επιστημονική εργασία, είπε ένας από τους ανθρώπους.
Ο Altman ηγήθηκε των προσπαθειών για να γίνει το ChatGPT μία από τις ταχύτερα αναπτυσσόμενες εφαρμογές λογισμικού στην ιστορία και άντλησε επενδύσεις - και υπολογιστικούς πόρους - απαραίτητους από τη Microsoft για να πλησιάσει το AGI.
Εκτός από την ανακοίνωση μιας σειράς νέων εργαλείων αυτόν τον μήνα, ο Altman την περασμένη εβδομάδα ανέφερε σε μια σύνοδο κορυφής παγκόσμιων ηγετών στο Σαν Φρανσίσκο ότι πίστευε ότι υπήρχαν σημαντικές προόδους.
«Τέσσερις φορές τώρα στην ιστορία του OpenAI, η πιο πρόσφατη ήταν μόλις τις τελευταίες δύο εβδομάδες, έφτασα να σπρώχνω το πέπλο της άγνοιας προς τα πίσω και τα σύνορα της ανακάλυψης προς τα εμπρός, και το να το κάνεις αυτό είναι η επαγγελματική τιμή μιας ζωής», είπε στη σύνοδο κορυφής της Οικονομικής Συνεργασίας Ασίας-Ειρηνικού.
Μια μέρα αργότερα, το διοικητικό συμβούλιο απέλυσε τον Altman.
Πηγή: bankingnews.gr
