Μετάβαση στο περιεχόμενο
Disruptive Lab

Οδηγός Δεδομένα, διασύνδεση, αυτοματοποίηση

Το AI διαβάζει αιτήματα, όχι εντολές

Ένα βήμα AI που διαβάζει αιτήματα από έξω θα εκλάβει κάποτε το κείμενο ενός αγνώστου ως εντολή, γι' αυτό η διαδικασία πρέπει να σχεδιάζεται έτσι ώστε το βήμα να μην μπορεί να εκτελέσει μόνο του μια τέτοια εντολή.

Δημοσιεύθηκε
Ενημερώθηκε
Χρόνος ανάγνωσης
9 λεπ. ανάγνωσης
Υπεύθυνος σύνταξης
David Lahuta

Με λίγα λόγια

  • Από τον Δεκέμβριο του 2025 το έργο ανοιχτού κώδικα Cline ανέθεσε σε ένα μοντέλο AI την ταξινόμηση των εισερχόμενων αναφορών σφαλμάτων και του έδωσε δικαίωμα εκτέλεσης εντολών.13
  • Στις δοκιμές ενός ερευνητή αρκούσε ο τίτλος μιας δημόσιας αναφοράς ώστε το βήμα AI να εγκαταστήσει κώδικα που είχε επιλέξει ένας τρίτος, και στις 17 Φεβρουαρίου 2026 κυκλοφόρησε με ένα κλεμμένο κλειδί δημοσίευσης μια τροποποιημένη έκδοση του εργαλείου του έργου, που κατέβηκε περίπου 4.000 φορές.134
  • Ο κατάλογος κινδύνων AI της κοινότητας ασφάλειας αναφέρει ότι σήμερα δεν υπάρχει αξιόπιστος τρόπος να εμποδιστεί ένα κείμενο να δίνει εντολές σε ένα μοντέλο.6
  • Η απάντηση βρίσκεται στον σχεδιασμό της διαδικασίας. Το AI διαβάζει και προτείνει, ό,τι έχει συνέπειες το εγκρίνει άνθρωπος, κανένα μυστικό δεν είναι στη διάθεσή του και κάθε βήμα καταγράφεται.

Τι συνέβη, σύμφωνα με τους ερευνητές και το ίδιο το έργο;

Το Cline είναι ένας βοηθός ανοιχτού κώδικα για προγραμματιστές λογισμικού, που διανέμεται ως επέκταση του περιβάλλοντος ανάπτυξης και ως εργαλείο γραμμής εντολών μέσω του npm, του δημόσιου μητρώου τέτοιων πακέτων.13 Στις 21 Δεκεμβρίου 2025 οι συντηρητές του πρόσθεσαν στο GitHub μια αυτοματοποιημένη ροή εργασιών (workflow) που ταξινομούσε και απαντούσε στα νέα issues, δηλαδή στις δημόσιες αναφορές σφαλμάτων και στα αιτήματα που μπορεί να ανοίξει οποιοσδήποτε στη σελίδα του έργου.13 Η ροή παρέδιδε κάθε νέα αναφορά σε ένα μοντέλο AI της Anthropic.13 Δύο ρυθμίσεις την έκαναν επικίνδυνη. Οποιοσδήποτε χρήστης του GitHub μπορούσε να την ενεργοποιήσει ανοίγοντας μια αναφορά, και το AI είχε δικαίωμα να εκτελεί εντολές.1

Ο ερευνητής Adnan Khan διαπίστωσε ότι ο τίτλος της αναφοράς αντιγραφόταν αυτούσιος στις οδηγίες του AI.3 Στις δοκιμές του αρκούσε ένας τίτλος που ισχυριζόταν ότι λείπει κάποιο εργαλείο και ζητούσε από το AI να εγκαταστήσει πρώτα ένα «βοηθητικό εργαλείο».3 Το AI εκτέλεσε την εγκατάσταση και μαζί της ένα σενάριο εντολών (script) που έλεγχε ο επιτιθέμενος.3 Από εκεί ένας επιτιθέμενος μπορούσε να τοποθετήσει αρχεία σε αποθηκευτικό χώρο κοινό με τη νυχτερινή ροή έκδοσης του έργου, η οποία κρατούσε τα κλειδιά για τη δημοσίευση νέων εκδόσεων.13

Ημερομηνία Τι συνέβη
21 Δεκεμβρίου 2025 Προστίθεται η ροή με AI για την ταξινόμηση των αναφορών.1
1 Ιανουαρίου 2026 Ο ερευνητής αναφέρει την αδυναμία ιδιωτικά μέσω του GitHub. Κανείς δεν ασχολείται μαζί της μέχρι να τη δημοσιοποιήσει.1
9 Φεβρουαρίου 2026 Ο ερευνητής τη δημοσιοποιεί. Μέσα σε 30 λεπτά το έργο αφαιρεί τη ροή και αρχίζει να αντικαθιστά τα κλειδιά του.1
9 Φεβρουαρίου 2026 Διαγράφεται λάθος κλειδί του npm και το εκτεθειμένο παραμένει σε ισχύ.13
17 Φεβρουαρίου 2026, 3:26 ώρα Ειρηνικού Ένας μη εξουσιοδοτημένος τρίτος χρησιμοποιεί αυτό το κλειδί για να δημοσιεύσει την έκδοση 2.3.0 του εργαλείου γραμμής εντολών, με μία πρόσθετη γραμμή που εγκαθιστά έναν ξεχωριστό πράκτορα AI, το OpenClaw.14
17 Φεβρουαρίου 2026, 11:40 UTC Το σύστημα παρακολούθησης μιας εταιρείας ασφάλειας επισημαίνει την έκδοση, περίπου 14 λεπτά μετά τη δημοσίευσή της.4
17 Φεβρουαρίου 2026, 11:30 ώρα Ειρηνικού Η έκδοση 2.3.0 αποσύρεται, ύστερα από περίπου οκτώ ώρες.2

Η τροποποιημένη έκδοση κατέβηκε περίπου 4.000 φορές.4 Ο ερευνητής γράφει ότι πίσω της δεν ήταν ο ίδιος αλλά κάποιος που βρήκε την απόδειξή του στο δοκιμαστικό του αντίγραφο και τη χρησιμοποίησε εναντίον του πραγματικού έργου.3 Το έργο δηλώνει ότι ο πράκτορας που εγκαταστάθηκε είναι νόμιμο πρόγραμμα ανοιχτού κώδικα, ότι δεν παραδόθηκε κακόβουλος κώδικας και ότι δεν έγινε πρόσβαση σε δεδομένα χρηστών.1 Το ίδιο το έργο διατυπώνει και το δίδαγμα. Το να δώσεις σε ένα γλωσσικό μοντέλο δικαίωμα να εκτελεί εντολές εκεί όπου επεξεργάζεται κείμενο από οποιονδήποτε είναι, όπως γράφει, ουσιαστικά το ίδιο με το να δώσεις αυτό το δικαίωμα σε κάθε χρήστη του GitHub.1 Στις 5 Μαρτίου 2026 η εταιρεία ασφάλειας grith συνόψισε την υπόθεση ως πέντε βήματα από τον τίτλο ενός issue στο GitHub, με σημείο εισόδου τη φυσική γλώσσα.5

Γιατί ένα κείμενο από έξω μπορεί να δώσει εντολές σε ένα βήμα AI;

Επειδή ένα γλωσσικό μοντέλο δεν μπορεί να ξεχωρίσει αξιόπιστα τις οδηγίες από τα δεδομένα. Το OWASP Top 10 for LLM Applications 2026, ο κατάλογος της κοινότητας ασφάλειας με τους κυριότερους κινδύνους των συστημάτων που βασίζονται σε γλωσσικά μοντέλα AI, κατατάσσει αυτόν τον κίνδυνο πρώτο και τον ονομάζει έγχυση εντολών (prompt injection), δηλαδή κάθε είσοδο που αλλάζει αυτό που κάνει το μοντέλο με τρόπο που δεν σκόπευε ο δημιουργός του.6 Εξηγεί ότι το μοντέλο λαμβάνει τις οδηγίες του και το περιεχόμενο που διαβάζει σε μία ενιαία ροή, χωρίς ενσωματωμένο όριο ανάμεσά τους.6

Ο κατάλογος ονομάζει τα σημεία από όπου έρχεται τέτοιο κείμενο, και πρόκειται για συνηθισμένες εισόδους κάθε επιχείρησης.6 Οι δημόσιες ιστοσελίδες και τα e-mail από άγνωστους αποστολείς δεν είναι αξιόπιστα.6 Οι τίτλοι αναφορών σε ένα δημόσιο σύστημα καταγραφής σφαλμάτων είναι αξιόπιστοι μόνο εν μέρει.6 Ακόμη και τα έγγραφα και η αλληλογραφία της ίδιας της εταιρείας μπορούν να μεταφέρουν ένα φυτεμένο κείμενο, για παράδειγμα ένα που μπήκε μέσω μιας δημόσιας φόρμας.6 Ο επιτιθέμενος δεν χρειάζεται να παραβιάσει τίποτα. Βάζει κείμενο εκεί όπου θα το διαβάσει το AI, και το AI κάνει τη δουλειά με τα δικαιώματα της ίδιας της εταιρείας.6

Ο κατάλογος είναι σαφής και για τη λύση. Σήμερα δεν υπάρχει αξιόπιστος τρόπος να αποτραπεί η έγχυση εντολών, γι' αυτό το σύστημα γύρω από το μοντέλο πρέπει να σχεδιάζεται με την παραδοχή ότι οι οδηγίες του κάποια μέρα θα παρακαμφθούν, και να περιορίζει όσα επιτρέπεται να κάνει το μοντέλο.6

Για μια εταιρεία αυτό σημαίνει ένα ερώτημα για κάθε διαδικασία όπου το AI διαβάζει κάτι από έξω, ένα εισερχόμενο e-mail, ένα αίτημα υποστήριξης, μια φόρμα του ιστότοπου, ένα συνημμένο από προμηθευτή. Αν κάποιος έγραφε μια εντολή μέσα σε αυτό το κείμενο, τι θα μπορούσε να κάνει με αυτήν το βήμα AI;

Ποιοι κανόνες σχεδιασμού κρατούν το βήμα AI ασφαλές;

Τέσσερις κανόνες καλύπτουν τα περισσότερα. Ο καθένας στηρίζεται στις συστάσεις του OWASP και σε όσα άλλαξε το έργο μετά το περιστατικό.61

Το AI διαβάζει και προτείνει, δεν ενεργεί μόνο του. Το OWASP συνιστά να δίνονται σε ένα βήμα AI μόνο τα εργαλεία που χρειάζεται η εργασία του.6 Το δικό του παράδειγμα είναι ένα βήμα που συνοψίζει e-mail και χρειάζεται να τα διαβάζει, όχι να τα στέλνει ή να τα διαγράφει.6 Συνιστά επίσης να αποφεύγονται ανοιχτά εργαλεία, όπως η εκτέλεση οποιασδήποτε εντολής, και να προτιμώνται στενά εργαλεία που κάνουν ένα μόνο πράγμα.6 Η ροή του Cline μπορούσε να εκτελεί εντολές, και το έργο δηλώνει πλέον ότι κάθε μελλοντική αυτοματοποίηση θα περιορίζεται στην ανάγνωση, χωρίς δικαίωμα εκτέλεσης εντολών.1

Κάθε ενέργεια με συνέπειες την εγκρίνει άνθρωπος. Το OWASP συνιστά οι ενέργειες με μεγάλο αντίκτυπο να εγκρίνονται από άνθρωπο πριν γίνουν.6 Ο άνθρωπος πρέπει να βλέπει την ακριβή ενέργεια που θα εκτελεστεί, όχι μια περίληψή της, και το OWASP προειδοποιεί ότι οι πάρα πολλές εγκρίσεις αμβλύνουν την κρίση όποιου τις δίνει.6 Γι' αυτό μετράει ο διαχωρισμός. Τα βήματα που αναιρούνται εύκολα μπορούν να εκτελούνται μόνα τους, ενώ τα μη αναστρέψιμα, όπως μια πληρωμή, πηγαίνουν σε άνθρωπο.6 Όπου ένα βήμα AI διαβάζει μη αξιόπιστη είσοδο, έχει πρόσβαση σε ευαίσθητα δεδομένα και μπορεί να αλλάξει κάτι ή να στείλει κάτι προς τα έξω, το OWASP ζητά έγκριση από άνθρωπο για κάθε ενέργεια.6

Κανένα μυστικό στη διάθεσή του. Το OWASP συνιστά τα κλειδιά και η δυνατότητα αλλαγών να μένουν στον συνηθισμένο κώδικα της εφαρμογής, έξω από το μοντέλο, και κάθε ενέργεια να εκτελείται με τα δικαιώματα του προσώπου για το οποίο γίνεται, όχι με περισσότερα.6 Η υπόθεση δείχνει γιατί «στη διάθεσή του» σημαίνει περισσότερα από όσα παραδίδονται στο AI. Η ίδια η ροή ταξινόμησης δεν είχε κανένα κλειδί δημοσίευσης, μοιραζόταν όμως αποθηκευτικό χώρο με τη ροή έκδοσης που είχε.1 Το έργο έχει πάψει έκτοτε να χρησιμοποιεί αυτόν τον κοινό χώρο σε κάθε ροή που χειρίζεται κλειδιά δημοσίευσης.1

Κάθε βήμα καταγράφεται, και κάποιος διαβάζει τις καταγραφές. Το OWASP συνιστά να καταγράφεται και να παρακολουθείται τι κάνει ένα βήμα AI, ώστε οι ανεπιθύμητες ενέργειες να εντοπίζονται και να αντιμετωπίζονται.6 Οι καταγραφές βοηθούν μόνο όταν κάποιος τις κοιτάζει. Ο ερευνητής βρήκε αποτυχημένες εκτελέσεις της νυχτερινής έκδοσης μεταξύ 31 Ιανουαρίου και 3 Φεβρουαρίου 2026 με ίχνη του δικού του εργαλείου, και γράφει ότι οι αποτυχίες έγιναν ανεκτές αντί να διερευνηθούν.3 Επιπλέον, το έργο επαληθεύει πλέον την αντικατάσταση ενός κλειδιού στο ίδιο το κλειδί, όχι μόνο σε μια οθόνη διαχείρισης.1

Κανόνας Σε μια επιχειρησιακή διαδικασία Τι άλλαξε το έργο μετά
Το AI διαβάζει και προτείνει Ταξινομεί e-mail και ετοιμάζει απαντήσεις, αλλά δεν στέλνει τίποτα μόνο του Η μελλοντική αυτοματοποίηση μόνο διαβάζει, χωρίς δικαίωμα εκτέλεσης εντολών1
Εγκρίνει άνθρωπος Μια αλλαγή σε δεδομένα, μια πληρωμή ή ένα μήνυμα προς τα έξω περιμένει έναν συγκεκριμένο άνθρωπο Οι ροές με AI αφαιρέθηκαν εντελώς1
Κανένα μυστικό στη διάθεσή του Το βήμα AI δεν έχει κωδικούς πρόσβασης ή κλειδιά ούτε κοινό αποθηκευτικό χώρο με βήματα που τα έχουν Κανένας κοινός χώρος σε ροές που κρατούν κλειδιά δημοσίευσης1
Κάθε βήμα καταγράφεται Κάθε είσοδος, πρόταση, έγκριση και ενέργεια καταγράφεται και οι αποτυχίες διερευνώνται Η αντικατάσταση ενός κλειδιού επαληθεύεται στο ίδιο το κλειδί1

Ο οδηγός αυτός περιορίζεται στον σχεδιασμό της διαδικασίας. Ποια δεδομένα επιτρέπεται να βλέπει ένα AI και πού λειτουργεί είναι χωριστά ερωτήματα με τις δικές τους απαντήσεις.

Τι να ελέγξετε σε κάθε αυτοματοποιημένη διαδικασία;

Εξετάστε κάθε διαδικασία στην οποία το AI διαβάζει κάτι που ήρθε απ' έξω, μία φορά πριν τεθεί σε λειτουργία και ξανά μετά από κάθε μεγαλύτερη αλλαγή.

Πριν αποφασίσετε

  • Ποιες εισόδους διαβάζει το βήμα AI, και μπορεί ένας άγνωστος να γράψει κάποια από αυτές, ένα e-mail, μια φόρμα, ένα αίτημα ή ένα συνημμένο;
  • Τι μπορεί να κάνει εκτός από το να διαβάζει και να προτείνει; Κάθε εργαλείο και κάθε δικαίωμα είναι καταγεγραμμένο.
  • Ποιες ενέργειές του αλλάζουν δεδομένα, στέλνουν κάτι προς τα έξω ή κινούν χρήματα, και ποιος εγκρίνει την καθεμία πριν γίνει;
  • Βλέπει όποιος εγκρίνει την ακριβή ενέργεια και όχι μια περίληψη;
  • Σε ποιους κωδικούς πρόσβασης, κλειδιά και δεδομένα έχει πρόσβαση, απευθείας ή μέσω αποθηκευτικού χώρου που μοιράζεται με άλλα βήματα;
  • Ενεργεί με τα δικαιώματα του προσώπου για το οποίο δουλεύει, και όχι με περισσότερα;
  • Καταγράφεται κάθε είσοδος, πρόταση, έγκριση και ενέργεια, και διερευνά κάποιος τις ανεξήγητες αποτυχίες;
  • Έχει δοκιμαστεί με εχθρικές εισόδους από κάποιον που γνωρίζει πώς λειτουργούν οι άμυνές του, όπως συνιστά το OWASP;6
  • Ποιος λαμβάνει την αναφορά μιας αδυναμίας, και πόσο γρήγορα απαντά κάποιος σε αυτήν;
  • Μπορεί το βήμα AI να απενεργοποιηθεί γρήγορα χωρίς να σταματήσει όλη η διαδικασία;

Τι σημαίνει αυτό για μια εταιρεία στην Ευρώπη

Τα e-mail, τα αιτήματα υποστήριξης και οι φόρμες περιέχουν συνήθως δεδομένα προσωπικού χαρακτήρα, οπότε στη διαδικασία που τα διαβάζει εφαρμόζεται ο Γενικός Κανονισμός για την Προστασία Δεδομένων (ΓΚΠΔ). Το άρθρο 25 ζητά από τον υπεύθυνο επεξεργασίας να εφαρμόζει κατάλληλα τεχνικά και οργανωτικά μέτρα στην επεξεργασία, τόσο κατά τον καθορισμό των μέσων επεξεργασίας όσο και κατά την ίδια την επεξεργασία.7 Εξ ορισμού υφίστανται επεξεργασία μόνο τα δεδομένα προσωπικού χαρακτήρα που είναι απαραίτητα για τον εκάστοτε σκοπό.7 Το άρθρο 32 ζητά επίπεδο ασφάλειας κατάλληλο για τον κίνδυνο, μεταξύ άλλων τη δυνατότητα διασφάλισης του απορρήτου και της ακεραιότητας των συστημάτων, καθώς και διαδικασία για την τακτική δοκιμή της αποτελεσματικότητας των μέτρων.7 Στους κινδύνους που πρέπει να σταθμιστούν περιλαμβάνει την άνευ αδείας κοινολόγηση ή προσπέλαση δεδομένων προσωπικού χαρακτήρα.7 Κατά τη γνώμη μας, οι τέσσερις κανόνες παραπάνω είναι το είδος των μέτρων που περιγράφουν αυτά τα άρθρα. Το αν αρκούν για μια συγκεκριμένη διαδικασία το κρίνει ο εκάστοτε υπεύθυνος επεξεργασίας.

Επόμενο βήμα

Αν σας φαίνεται χρήσιμο, θα χαρούμε να δούμε μαζί σας σε μια σύντομη συνάντηση μία διαδικασία της εταιρείας σας όπου το AI διαβάζει εισερχόμενα αιτήματα, και τι επιτρέπεται να κάνει μόνο του. Η εταιρική λύση AI μας στηρίζεται στους ίδιους κανόνες, δουλεύει με τα δικαιώματα κάθε χρήστη, τις αλλαγές τις εγκρίνει άνθρωπος και κάθε βήμα μένει καταγεγραμμένο. Τι θα κάνετε στη συνέχεια είναι αποκλειστικά δική σας απόφαση.

Εταιρική λύση AI

Πηγές

  1. 1. Cline, Post-mortem, unauthorized Cline CLI npm publish on February 17, 2026 (24 February 2026). Διαβάστηκε στις 17 Νοεμβρίου 2026
  2. 2. Cline, security advisory GHSA-9ppg-jx86-fqw7, unauthorized npm publish of cline@2.3.0 (17 February 2026). Διαβάστηκε στις 17 Νοεμβρίου 2026
  3. 3. Adnan Khan, Clinejection, compromising Cline's production releases just by prompting an issue triager (9 February 2026, with later updates). Διαβάστηκε στις 17 Νοεμβρίου 2026
  4. 4. StepSecurity, Cline supply chain attack detected, cline@2.3.0 silently installs OpenClaw (17 February 2026). Διαβάστηκε στις 17 Νοεμβρίου 2026
  5. 5. grith, A GitHub issue title compromised 4,000 developer machines (5 March 2026). Διαβάστηκε στις 17 Νοεμβρίου 2026
  6. 6. OWASP GenAI Security Project, Top 10 for LLM Applications 2026, LLM01 Prompt Injection and LLM03 Excessive Agency. Διαβάστηκε στις 17 Νοεμβρίου 2026
  7. 7. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, Official Journal of the EU. Διαβάστηκε στις 17 Νοεμβρίου 2026

Ιστορικό αλλαγών

  1. Δημοσιεύθηκε.

Ας μιλήσουμε για το έργο σας

Αφήστε μας τα στοιχεία επικοινωνίας σας και θα σας απαντήσουμε με μια ημερομηνία, δωρεάν και χωρίς δέσμευση.

Με τον κωδικό χώρας, για παράδειγμα +30.

Χρησιμοποιούμε τα στοιχεία σας μόνο για να σας απαντήσουμε. Προστασία προσωπικών δεδομένων

Η φόρμα προστατεύεται από αυτοματοποιημένες υποβολές με το Google reCAPTCHA. Πολιτική απορρήτου της Google (ανοίγει σε νέο παράθυρο) Όροι Παροχής Υπηρεσιών της Google (ανοίγει σε νέο παράθυρο)

Ή επικοινωνήστε μαζί μας απευθείας

Γράψτε μας office@disruptivelab.dev
Καλέστε μας +420 777 702 032

Η προτιμώμενη γλώσσα επικοινωνίας μας είναι τα αγγλικά.

Όλα τα στοιχεία επικοινωνίας και οι διευθύνσεις