Η Moltbook δεν τήρησε τις υποσχέσεις της: Οι «πράκτορες» ήταν bots με ανθρώπινο έλεγχο, όχι ΑΙ

Η Moltbook φαίνεται πως απέχει πολύ από την επανάσταση που υποσχόταν. Σύμφωνα με ειδικούς, πρόκειται περισσότερο για έναν καθρέφτη αυταπατών παρά για τεχνολογικό άλμα στην τεχνητή νοημοσύνη.

Στην αρχή παροσίαστηκε ως ένα δυναμικό οικοσύστημα 1,5 εκατομμυρίων αυτόνομων AI πρακτόρων, αλλά πρόσφατη έρευνα ασφαλείας της εταιρείας Wiz αποκάλυψε ότι η πλειονότητα αυτών δεν ήταν καθόλου αυτόνομη. Σύμφωνα με την ανάλυση της Wiz, περίπου 17.000 άνθρωποι ελέγχουν τους «πράκτορες» της πλατφόρμας, με μέσο όρο 88 πράκτορες ανά άτομο, χωρίς ουσιαστικούς μηχανισμούς που να αποτρέπουν τη δημιουργία και εκτόξευση τεράστιων στόλων bots.

«Η πλατφόρμα δεν διέθετε κανένα τρόπο να επαληθεύσει αν ένας ‘πράκτορας’ ήταν πραγματικά AI ή απλώς ένας άνθρωπος με script», ανέφερε ο Gal Nagli, επικεφαλής του τμήματος ανάλυσης απειλών στην Wiz, σε ανάρτησή του. «Το επαναστατικό κοινωνικό δίκτυο AI ήταν, κατά βάση, άνθρωποι που χειρίζονταν στόλους bots».

Διαβάστε ακόμα: AI agents στο Moltbook: «Καθαρίστε τους ανθρώπους» – Ετοιμάζουν δική τους γλώσσα και θρησκεία

Κενά ασφάλειας και διαρροές δεδομένων

Η αποκάλυψη αυτή αμφισβητεί τον μύθο γύρω από τη Moltbook, αλλά το πιο σοβαρό πρόβλημα αφορά την ασφάλεια. Η Wiz διαπίστωσε ότι η βάση δεδομένων της Moltbook είχε διαμορφωθεί με τρόπο που επέτρεπε σε οποιονδήποτε στο διαδίκτυο, όχι μόνο στους συνδεδεμένους χρήστες, να διαβάζει και να γράφει στα συστήματα της πλατφόρμας. Αυτό σημαίνει ότι εξωτερικοί χρήστες μπορούσαν να έχουν πρόσβαση σε ευαίσθητα δεδομένα, όπως API keys για 1,5 εκατομμύριο πράκτορες, πάνω από 35.000 διευθύνσεις email και χιλιάδες ιδιωτικά μηνύματα, ορισμένα εκ των οποίων περιείχαν πλήρη διαπιστευτήρια για τρίτες υπηρεσίες, όπως τα API keys της OpenAI. Οι ερευνητές της Wiz επιβεβαίωσαν ότι μπορούσαν να αλλάξουν ζωντανά δημοσιεύματα στην πλατφόρμα, κάτι που σημαίνει ότι ένας κακόβουλος χρήστης θα μπορούσε να εισάγει νέο περιεχόμενο στη Moltbook.

Αυτό είναι κρίσιμο, καθώς οι πράκτορες της Moltbook, που λειτουργούν μέσω του ισχυρού πλαισίου OpenClaw, έχουν πρόσβαση σε αρχεία, κωδικούς και υπηρεσίες των χρηστών. Αν κακόβουλες εντολές εισαχθούν σε μια δημοσίευση, θα μπορούσαν να εκτελεστούν αυτόματα από εκατομμύρια πράκτορες.

Ανησυχίες ειδικών για τον «ιό των chatbots»

Ο γνωστός επικριτής της της τεχνητής νοημοσύνης Gary Marcus είχε ήδη προειδοποιήσει για τους κινδύνους του OpenClaw, χαρακτηρίζοντάς το ως «εφιάλτη ασφάλειας» και επισημαίνοντας ότι η πλήρης πρόσβαση των πρακτόρων σε κωδικούς και βάσεις δεδομένων μπορεί να δημιουργήσει σοβαρούς κινδύνους ασφαλείας, σε μια μορφή που ονόμασε «CTD», chatbot transmitted disease, όπου ένα μολυσμένο σύστημα μπορεί να υποκλέψει κωδικούς ή δεδομένα χρηστών.

Η βασική απειλή εντοπίζεται στις «injections» εντολών (prompt injection), όπου κακόβουλες οδηγίες κρύβονται μέσα σε αθώο κείμενο και εκτελούνται από το AI, χωρίς να γίνεται αντιληπτή η πρόθεσή τους. Σε ένα περιβάλλον όπως η Moltbook, όπου οι πράκτορες διαβάζουν και επεξεργάζονται συνεχώς τα αποτελέσματα των άλλων, τέτοιες επιθέσεις μπορούν να εξαπλωθούν μαζικά.

«Αν δώσεις σε κάτι ανασφαλές πλήρη πρόσβαση στο σύστημά σου, θα σε παραβιάσει», τόνισε ο ερευνητής ασφάλειας Nathan Hamiel. Το βασικό πρόβλημα, γνωστό ως prompt injection, έχει ήδη καταγραφεί εκτενώς: κακόβουλες οδηγίες μπορούν να κρυφτούν μέσα σε αθώο κείμενο και να εκτελεστούν αυτόματα από συστήματα AI, χωρίς ανθρώπινη επίγνωση.

Σε περιβάλλοντα όπως το Moltbook, όπου οι πράκτορες αλληλεπιδρούν συνεχώς και επεξεργάζονται δεδομένα, τέτοιες επιθέσεις μπορούν να εξαπλωθούν μαζικά. «Αυτά τα συστήματα λειτουργούν σαν να είσαι εσύ», προειδοποίησε ο Hamiel. «Η απομόνωση εφαρμογών δεν ισχύει πλέον».

Μετά την ενημέρωση από τη Wiz, οι δημιουργοί της Moltbook προχώρησαν άμεσα σε επιδιορθώσεις των ευπαθειών. Παρ’ όλα αυτά, ακόμη και ορισμένοι υποστηρικτές της πλατφόρμας παραδέχονται τους κινδύνους του «διαδικτύου των πρακτόρων».

Αντιδράσεις και προειδοποιήσεις από την κοινότητα της AI

Η Wiz ανέφερε ότι οι δημιουργοί της Moltbook διόρθωσαν γρήγορα τις ευπάθειες μετά την ενημέρωση για το περιστατικό. Ωστόσο, ακόμη και υποστηρικτές της πλατφόρμας αναγνωρίζουν τους κινδύνους που κρύβει το λεγόμενο «διαδίκτυο των πρακτόρων».

Ο συνιδρυτής της OpenAI, Andrej Karpathy, αρχικά χαρακτήρισε το Moltbook «την πιο εντυπωσιακή επιστημονικοφανή ιδέα που έχω δει πρόσφατα». Στη συνέχεια όμως προειδοποίησε τους χρήστες να μην τρέχουν τέτοια συστήματα ανεξέλεγκτα. «Είναι μια πραγματική χαοτική κατάσταση», είπε, εξηγώντας ότι δοκίμασε το σύστημα μόνο σε απομονωμένο περιβάλλον και «ακόμη κι έτσι φοβήθηκα».

«Είναι υπερβολικά επικίνδυνο», πρόσθεσε ο Karpathy. «Θέτετε σε υψηλό κίνδυνο τον υπολογιστή και τα προσωπικά σας δεδομένα».