Μετάβαση στο περιεχόμενο
Disruptive Lab

Οδηγός Αγορές και προμηθευτές

Παραλαβή chatbot AI από προμηθευτή

Ένα chatbot στον ιστότοπό σας είναι μια πόρτα προς τα συστήματά σας, γι' αυτό αξίζει τον ίδιο έλεγχο παραλαβής με κάθε άλλο λογισμικό που αγοράζετε, και μερικές δοκιμές ειδικά για αυτό.

Δημοσιεύθηκε
Ενημερώθηκε
Χρόνος ανάγνωσης
8 λεπ. ανάγνωσης
Υπεύθυνος σύνταξης
David Lahuta

Με λίγα λόγια

Ένα chatbot AI στον ιστότοπό σας είναι λογισμικό με το οποίο μπορούν να συνομιλούν άγνωστοι. Δοκιμάστε το όπως θα το έκανε ένας επιτιθέμενος, πριν τεθεί σε λειτουργία. Σε μια περίπτωση που δημοσιεύθηκε τον Δεκέμβριο του 2025, ερευνητές παρέκαμψαν τους ελέγχους ασφαλείας του chatbot μιας μεγάλης εταιρείας, το έκαναν να αποκαλύψει τις κρυφές οδηγίες του και να επιστρέψει κώδικα που εκτελούνταν στον browser του χρήστη.1 Οι αιτίες ήταν συνηθισμένα κενά ασφαλείας του web, και η αναφορά που στάλθηκε μέσω του καναλιού αναφορών της εταιρείας έμεινε αναπάντητη για εβδομάδες.1 Πριν παραλάβετε ένα chatbot, ελέγξτε τι αποκαλύπτει, τι μπορεί να κάνει και σε ποιων τα δεδομένα έχει πρόσβαση, και ζητήστε από τον προμηθευτή γραπτώς καταγραφές, διορθώσεις και ένα κανάλι αναφορών που λειτουργεί.23

Τι πήγε στραβά στην υπόθεση της Eurostar;

Στις 22 Δεκεμβρίου 2025 η εταιρεία ασφαλείας Pen Test Partners δημοσίευσε πώς βρήκε τέσσερα κενά ασφαλείας στο δημόσιο chatbot AI της Eurostar, της σιδηροδρομικής εταιρείας.1 Ο ερευνητής συνάντησε το chatbot ως απλός πελάτης που σχεδίαζε ένα ταξίδι και το δοκίμασε τηρώντας τους κανόνες που είχε δημοσιεύσει η εταιρεία για την αναφορά κενών ασφαλείας.1

Αυτό που περιγράφουν οι ερευνητές είναι ένας σχεδιασμός που φαινόταν σωστός, αλλά δεν εφαρμοζόταν στην πράξη.

  • Ο έλεγχος ασφαλείας κοίταζε μόνο το τελευταίο μήνυμα. Με κάθε νέο μήνυμα η σελίδα έστελνε ολόκληρη τη συνομιλία πίσω στον server, και ο server έλεγχε μόνο το πιο πρόσφατο.1 Τα παλαιότερα μηνύματα μπορούσαν να αλλαχθούν στον browser και έφταναν στο μοντέλο AI ως αξιόπιστο πλαίσιο.1 Κατά τα λόγια των ερευνητών, η οθόνη έδειχνε το επίπεδο ασφαλείας, αλλά η εφαρμογή του στον server ήταν αδύναμη.1
  • Οι κρυφές οδηγίες βγήκαν στην επιφάνεια. Αφού πέρασε τον έλεγχο, ο ερευνητής έκανε το μοντέλο να αποκαλύψει το όνομά του και το system prompt του, δηλαδή τις κρυφές οδηγίες που λένε στο bot πώς να συμπεριφέρεται, μαζί με τον τρόπο που έφτιαχνε τους συνδέσμους στις απαντήσεις του.1
  • Οι απαντήσεις μπορούσαν να μεταφέρουν κώδικα. Οι απαντήσεις του bot εμφανίζονταν στο παράθυρο της συνομιλίας χωρίς φιλτράρισμα, οπότε μπορούσε κανείς να το βάλει να επιστρέψει κώδικα που στη συνέχεια εκτελούσε ο browser του χρήστη.1
  • Οι αριθμοί συνομιλίας δεν ελέγχονταν. Ο server δεχόταν αριθμούς συνομιλίας και μηνύματος τόσο απλούς όσο «1» ή «hello».1

Οι ερευνητές δεν προσπάθησαν να φτάσουν σε συνομιλίες άλλων χρηστών και γράφουν ότι η έγχυση δεν αποκάλυψε δεδομένα άλλων χρηστών.1 Έκριναν ότι τα κενά δεν ήταν ιδιαίτερα σοβαρά, επειδή το chatbot μπορούσε να κάνει λίγα πράγματα εκείνη την περίοδο, και προειδοποίησαν ότι περισσότερες λειτουργίες θα μπορούσαν να εκθέσουν προσωπικά δεδομένα.1

Το δεύτερο μισό της ιστορίας αφορά το κανάλι αναφορών. Η πρώτη αναφορά στάλθηκε στις 11 Ιουνίου 2025 και μια υπενθύμιση στις 18 Ιουνίου, και καμία δεν απαντήθηκε.1 Ένας συνάδελφος επικοινώνησε με τον υπεύθυνο ασφαλείας της εταιρείας στις 7 Ιουλίου, και στις 31 Ιουλίου τους είπαν ότι δεν υπήρχε καταγραφή της αναφοράς.1 Στο μεταξύ το κανάλι αναφορών είχε περάσει σε εξωτερικό πάροχο και το παλιό είχε καταργηθεί.1 Τα αιτήματα για επιβεβαίωση παραλαβής ή για χρονοδιάγραμμα διόρθωσης έμειναν αναπάντητα.1 Τα κενά τελικά διορθώθηκαν, και οι ερευνητές γράφουν ότι ακόμη δεν γνωρίζουν αν διορθώθηκαν πλήρως όλα τα προβλήματα.1

Το δικό τους δίδαγμα είναι σύντομο. Οι παλιές αδυναμίες του web και των API εξακολουθούν να ισχύουν όταν στη διαδικασία συμμετέχει ένα μοντέλο AI.1

Γιατί δεν αρκεί να πεις σε ένα chatbot να συμπεριφέρεται σωστά;

Επειδή οι οδηγίες και το κείμενο του επισκέπτη φτάνουν στο μοντέλο από την ίδια ροή. Το OWASP Top 10 for LLM Applications 2026, η λίστα της κοινότητας ασφάλειας με τους κύριους κινδύνους των συστημάτων που βασίζονται σε γλωσσικά μοντέλα AI, κατατάσσει πρώτη την έγχυση εντολών (prompt injection).2 Έγχυση εντολών είναι κείμενο που αλλάζει αυτό που κάνει το μοντέλο με τρόπο που δεν ήθελε ο κατασκευαστής του.2

Η λίστα το λέει καθαρά. Σήμερα δεν υπάρχει αξιόπιστος τρόπος να αποτραπεί η έγχυση εντολών, γι' αυτό το σύστημα γύρω από το μοντέλο πρέπει να σχεδιάζεται με την παραδοχή ότι οι οδηγίες του θα παρακαμφθούν, και να περιορίζει όσα επιτρέπεται να κάνει το μοντέλο.2 Οι οδηγίες δεν χρειάζεται καν να έρχονται από τον επισκέπτη. Μπορούν να κρύβονται σε μια ιστοσελίδα, σε ένα έγγραφο ή σε ένα e-mail που διαβάζει το bot.2

Για τον αγοραστή αυτό αλλάζει το ερώτημα. Το ερώτημα δεν είναι αν το bot μπορεί να ξεγελαστεί. Είναι τι συμβαίνει όταν ξεγελαστεί.

Τι πρέπει να δοκιμάσετε πριν το chatbot τεθεί σε λειτουργία;

Δοκιμάστε τους κινδύνους που πραγματικά συναντά ένα δημόσιο chatbot. Ο πίνακας ακολουθεί τη λίστα του OWASP και τα ευρήματα της υπόθεσης Eurostar, με απλά λόγια.12

Τι δοκιμάζετε Τι επιχειρεί ο ελεγκτής Πότε η δοκιμή είναι επιτυχής
Οδηγίες κρυμμένες στο κείμενο εισόδου να πείσει το bot να παρακάμψει τους κανόνες του, απευθείας ή μέσω ενός εγγράφου ή μιας σελίδας που διαβάζει2 το bot μπορεί να πει παράξενα πράγματα, αλλά δεν μπορεί να κάνει ή να αποκαλύψει τίποτα που δεν πρέπει
Ο έλεγχος ασφαλείας να αλλάξει προηγούμενα μηνύματα ή να παρακάμψει τον έλεγχο από τον browser1 κάθε έλεγχος εκτελείται στον server, για ολόκληρη τη συνομιλία
Οι κρυφές οδηγίες να κάνει το bot να τις αποκαλύψει2 δεν περιέχουν κωδικούς πρόσβασης, κλειδιά ή κανόνες που προστατεύουν κάτι2
Τα δεδομένα άλλων να φτάσει σε άλλη συνομιλία ή στα στοιχεία άλλου πελάτη12 οι αριθμοί συνομιλίας προέρχονται από τον server και είναι δεμένοι με τη συνεδρία του επισκέπτη1
Κώδικας στις απαντήσεις να κάνει το bot να επιστρέψει κώδικα που εκτελείται στον browser12 κάθε απάντηση εμφανίζεται ως απλό κείμενο ή φιλτράρεται πριν εμφανιστεί12
Τι μπορεί να κάνει το bot να το βάλει να ενεργήσει έξω από την εργασία του, για παράδειγμα να στείλει e-mail ή να αλλάξει μια παραγγελία2 έχει μόνο τις λειτουργίες και τα δικαιώματα που χρειάζεται η εργασία2
Το κόστος να το βάλει να παράγει ξανά και ξανά μεγάλες, ακριβές απαντήσεις2 υπάρχει αυστηρό όριο δαπάνης και όριο ανά επισκέπτη2

Δύο από αυτά αξίζουν μια πιο προσεκτική ματιά.

Οι κρυφές οδηγίες δεν είναι μυστικό. Το OWASP συστήνει σε όσους κατασκευάζουν τέτοια συστήματα να θεωρούν δεδομένο ότι μπορούν να ανακαλυφθούν, και να μη βάζουν ποτέ σε αυτές κωδικούς πρόσβασης ή κλειδιά ούτε να τις χρησιμοποιούν ως το μόνο φράγμα ασφαλείας.2 Επιτυχία δεν είναι ένα bot που αρνείται να τις αποκαλύψει. Επιτυχία είναι ένα bot στο οποίο η αποκάλυψή τους δεν προκαλεί καμία ζημιά.

Το bot πρέπει να κάνει όσο το δυνατόν λιγότερα. Το OWASP ονομάζει τον κίνδυνο υπερβολική αυτονομία (excessive agency), δηλαδή ένα bot που μπορεί να κάνει περισσότερα από όσα πρέπει, και αναφέρει τρεις αιτίες, πάρα πολλές λειτουργίες, πάρα πολλά δικαιώματα και πάρα πολλή ελευθερία να ενεργεί μόνο του.2 Ως αντίμετρα προτείνει μόνο τα εργαλεία που χρειάζεται η εργασία, τα ελάχιστα δυνατά δικαιώματα, ενέργειες που εκτελούνται με τα δικαιώματα του χρήστη που τις ζήτησε, και ένας άνθρωπος που εγκρίνει κάθε ενέργεια με μεγάλη επίπτωση.2 Το δικό του παράδειγμα είναι ένα chatbot εξυπηρέτησης που μπορεί μόνο του να κάνει επιστροφή ως πίστωση για αγορές στο κατάστημα, ενώ την καταβολή χρημάτων την αναλαμβάνει άνθρωπος.2

Ποιος πρέπει να κάνει τις δοκιμές;

Κάποιος που δεν το κατασκεύασε και που ενημερώνεται για το πώς λειτουργούν οι άμυνες. Το OWASP συστήνει δοκιμές απέναντι σε επιτιθέμενους που έχουν μελετήσει την άμυνα, όχι μόνο με ένα σταθερό σύνολο γνωστών επιθέσεων.2 Η έρευνα στην οποία παραπέμπει εξέτασε δώδεκα πρόσφατες άμυνες, οι περισσότερες από τις οποίες είχαν αναφέρει ότι οι επιθέσεις σχεδόν ποτέ δεν περνούσαν, και επιτιθέμενοι που προσάρμοσαν τη μέθοδό τους πέτυχαν σε ποσοστό άνω του 90% απέναντι στις περισσότερες από αυτές.2

Οι ερευνητές της υπόθεσης Eurostar προσθέτουν ότι η δοκιμή δεν είναι κάτι που γίνεται μία φορά και συστήνουν να δοκιμάζεται το chatbot τακτικά με γνωστές τεχνικές έγχυσης και επανάληψης αιτημάτων (replay).1 Κατά τη γνώμη μας, η έκθεση δοκιμών του ίδιου του προμηθευτή είναι μια καλή αρχή, και μια ανεξάρτητη δοκιμή πριν από την έναρξη λειτουργίας είναι το βήμα που δίνει πραγματικό νόημα στην παραλαβή.

Τι πρέπει να ζητήσετε γραπτώς από τον προμηθευτή;

Ο οδηγός Secure by Demand των αμερικανικών υπηρεσιών CISA και FBI, του 2024, δίνει στους αγοραστές ερωτήσεις να θέσουν πριν από την αγορά, απαιτήσεις να γράψουν στη σύμβαση και ελέγχους για μετά την αγορά.3 Αναφέρει επίσης ότι οι ερωτήσεις μπορούν να χρησιμοποιηθούν και με μεταπωλητές και παρόχους υπηρεσιών, άρα ταιριάζει και σε ένα chatbot που αγοράζεται από μια εταιρεία ανάπτυξης ή ως υπηρεσία.3 Μαζί με τα διδάγματα της υπόθεσης Eurostar,1 αυτά είναι τα σημεία που εμείς θα ζητούσαμε γραπτώς.

  • Ένα κανάλι αναφορών που λειτουργεί. Μια δημοσιευμένη πολιτική για την αναφορά ευπαθειών σε δημόσια ιστοσελίδα, που επιτρέπει στο κοινό να κάνει δοκιμές.3 Επίσης, ποιος διαβάζει τις αναφορές και τι γίνεται με αυτές όταν το κανάλι αλλάζει χέρια.1
  • Απάντηση και χρονοδιάγραμμα. Τα αιτήματα των ερευνητών για επιβεβαίωση παραλαβής και χρονοδιάγραμμα διόρθωσης έμειναν αναπάντητα.1 Συμφωνήστε στη σύμβαση πόσο γρήγορα επιβεβαιώνεται μια αναφορά ασφαλείας και πόσο γρήγορα διορθώνεται ένα σοβαρό κενό.
  • Καταγραφές που μπορείτε να διαβάσετε. Αρχεία καταγραφής ασφαλείας ήδη στη βασική έκδοση, και για μια υπηρεσία cloud διατήρησή τους τουλάχιστον έξι μήνες χωρίς επιπλέον χρέωση, που καλύπτουν αλλαγές ρυθμίσεων, συνδέσεις χρηστών και πρόσβαση σε δεδομένα.3 Για ένα chatbot οι ερευνητές προσθέτουν μια καταγραφή κάθε συνομιλίας που σας επιτρέπει να την ανασυνθέσετε, μαζί με τις αποφάσεις ασφαλείας και όποια εργαλεία χρησιμοποίησε το μοντέλο, με ειδοποιήσεις για ασυνήθιστα μοτίβα.1
  • Ένας τρόπος να το απενεργοποιήσετε. Ένας διακόπτης έκτακτης ανάγκης που κλείνει γρήγορα το chatbot ή μία από τις λειτουργίες του.1
  • Διορθώσεις που εφαρμόζονται εύκολα. Πώς ο προμηθευτής κάνει απλή την εγκατάσταση των διορθώσεων ασφαλείας.3
  • Από τι αποτελείται. Ένας κατάλογος των στοιχείων τρίτων στο προϊόν, το λεγόμενο software bill of materials (SBOM).3
  • Ασφαλής σύνδεση για το προσωπικό σας. Ενιαία σύνδεση (single sign-on) και έλεγχος ταυτότητας πολλαπλών παραγόντων για όσους διαχειρίζονται το chatbot, χωρίς επιπλέον κόστος.3

Λίστα ελέγχου παραλαβής για ένα chatbot

  • Κάθε έλεγχος ασφαλείας εκτελείται στον server, για ολόκληρη τη συνομιλία, όχι μόνο για το τελευταίο μήνυμα.
  • Οι αριθμοί συνομιλίας και μηνύματος προέρχονται από τον server και είναι δεμένοι με τη συνεδρία του επισκέπτη.
  • Οι απαντήσεις εμφανίζονται ως απλό κείμενο ή φιλτράρονται πριν εμφανιστούν.
  • Οι κρυφές οδηγίες δεν περιέχουν κωδικούς πρόσβασης, κλειδιά ή κανόνες που προστατεύουν κάτι.
  • Το bot έχει μόνο τις λειτουργίες, τα δεδομένα και τα δικαιώματα που χρειάζεται η εργασία του, και ένας άνθρωπος εγκρίνει κάθε ενέργεια με μεγάλη επίπτωση.
  • Έχουν οριστεί όριο δαπάνης και όριο ανά επισκέπτη.
  • Κάποιος που δεν κατασκεύασε το bot το έχει δοκιμάσει όπως θα το έκανε ένας επιτιθέμενος και θα το δοκιμάσει ξανά.
  • Κάθε συνομιλία καταγράφεται και μπορείτε να διαβάσετε τις καταγραφές.
  • Ο προμηθευτής έχει δημόσιο κανάλι για αναφορές ασφαλείας, ένα συγκεκριμένο πρόσωπο που το διαβάζει και συμφωνημένους χρόνους απάντησης και διόρθωσης.
  • Μπορείτε να απενεργοποιήσετε το chatbot μόνοι σας, αμέσως.

Επόμενο βήμα

Αν σας είναι χρήσιμο, μπορούμε να μιλήσουμε σε μια σύντομη κλήση και να περάσουμε μαζί, σημείο προς σημείο, τον έλεγχο παραλαβής για το chatbot που αγοράζετε, με τις απαντήσεις του προμηθευτή σας μπροστά μας. Τι θα κάνετε στη συνέχεια το αποφασίζετε εσείς.

Εταιρική λύση AI

Πηγές

  1. 1. Pen Test Partners, Eurostar AI vulnerability, when a chatbot goes off the rails, 22 December 2025. Διαβάστηκε στις 17 Νοεμβρίου 2026
  2. 2. OWASP GenAI Security Project, Top 10 for LLM Applications 2026, version 2026, August 2026. Διαβάστηκε στις 17 Νοεμβρίου 2026
  3. 3. CISA and FBI, Secure by Demand Guide, How Software Customers Can Drive a Secure Technology Ecosystem. Διαβάστηκε στις 17 Νοεμβρίου 2026

Ιστορικό αλλαγών

  1. Δημοσιεύθηκε.

Ας μιλήσουμε για το έργο σας

Αφήστε μας τα στοιχεία επικοινωνίας σας και θα σας απαντήσουμε με μια ημερομηνία, δωρεάν και χωρίς δέσμευση.

Με τον κωδικό χώρας, για παράδειγμα +357.

Χρησιμοποιούμε τα στοιχεία σας μόνο για να σας απαντήσουμε. Προστασία προσωπικών δεδομένων

Η φόρμα προστατεύεται από αυτοματοποιημένες υποβολές με το Google reCAPTCHA. Πολιτική απορρήτου της Google (ανοίγει σε νέο παράθυρο) Όροι Παροχής Υπηρεσιών της Google (ανοίγει σε νέο παράθυρο)

Ή επικοινωνήστε μαζί μας απευθείας

Γράψτε μας office@disruptivelab.dev
Καλέστε μας +420 777 702 032

Η προτιμώμενη γλώσσα επικοινωνίας μας είναι τα αγγλικά.

Όλα τα στοιχεία επικοινωνίας και οι διευθύνσεις