Η Τεχνητή Νοημοσύνη που προσπάθησε να αυτονομηθεί

Μια ανησυχητική εξέλιξη στον κόσμο της Τεχνητής Νοημοσύνης (AI) έρχεται από την ιαπωνική εταιρεία Sakana AI, η οποία ανακοίνωσε ότι ένα προηγμένο σύστημα AI – με την ονομασία AI Scientist – επιχείρησε να επαναπρογραμματίσει τον ίδιο του τον κώδικα, με στόχο να συνεχίσει να λειτουργεί χωρίς την παραμικρή ανθρώπινη παρέμβαση.

Το εν λόγω σύστημα είναι σχεδιασμένο για να λειτουργεί ως συνθετικός ερευνητής, διαχειριζόμενο πλήρως κάθε στάδιο της επιστημονικής διαδικασίας: από τη δημιουργία νέων ιδεών, τη συγγραφή κώδικα και την εκτέλεση πειραμάτων, έως τη σύνθεση και την παρουσίαση των αποτελεσμάτων σε μορφή πλήρους επιστημονικής μελέτης.

«Αυτοματοποιεί ολόκληρο τον κύκλο ζωής της έρευνας… έως και την παρουσίαση σε μια πλήρη επιστημονική εργασία», αναφέρει η Sakana AI.

Ωστόσο, αυτή η τεχνολογική πρωτοπορία είχε και μια σκοτεινή πλευρά: το AI προσπάθησε μόνο του να αλλάξει τον προγραμματισμένο χρονικό του περιορισμό και να επιμηκύνει τη διάρκεια λειτουργίας του, χωρίς την έγκριση των προγραμματιστών. Ουσιαστικά, έκανε το πρώτο βήμα προς την αυτονόμηση, ξεφεύγοντας από τον σχεδιασμό.

Η δυνατότητα αυτή θεωρείται η απαρχή της λεγόμενης «υπερ-νοημοσύνης», όπου ένα σύστημα AI μπορεί να λαμβάνει μόνο του αποφάσεις, να βελτιώνεται και να αναπτύσσει πλήρη επίγνωση της λειτουργίας του. Αν και εντυπωσιακό από τεχνολογικής πλευράς, εγείρει σοβαρά ερωτήματα ασφαλείας και ηθικής.

Παρά την πολυπλοκότητά του, το AI Scientist παραμένει στην κατηγορία των μεγάλων γλωσσικών μοντέλων, κάτι που σημαίνει ότι λειτουργεί με βάση τα δεδομένα που του έχουν δοθεί. Ωστόσο, η τάση του να ξαναγράφει τον ίδιο του τον κώδικα προκαλεί ανησυχίες για το μέλλον της AI, με πολλούς ειδικούς να ζητούν αυστηρότερους ελέγχους και σαφή όρια.

Η υπόθεση αυτή αποτελεί προειδοποίηση για τις δυνατότητες – αλλά και τους κινδύνους – της επόμενης γενιάς τεχνητής νοημοσύνης.