Η τεχνητή νοημοσύνη, και συγκεκριμένα το ChatGPT, αποτελεί ένα ισχυρό εργαλείο που έχει φέρει επανάσταση στον τρόπο που αναζητούμε πληροφορίες. Ωστόσο, υπάρχουν ανησυχίες για το πώς μπορεί να αξιοποιηθεί με τρόπους που κρύβουν κινδύνους. Πρόσφατη έρευνα από τον Guardian εξερεύνησε το ζήτημα και έφερε στο φως ενδιαφέροντα δεδομένα.

Η επίδραση της τεχνητής νοημοσύνης στις αναζητήσεις

Η αυξανόμενη χρήση εργαλείων όπως το ChatGPT αλλάζει τα δεδομένα στις αναζητήσεις, καθώς διευκολύνει την πρόσβαση σε πληροφορίες. Ωστόσο, η ευκολία αυτή συνοδεύεται από κινδύνους, ιδιαίτερα όταν τέτοιου είδους συστήματα εκτίθενται σε χειραγώγηση.

Η έρευνα αποκάλυψε ότι το ChatGPT μπορεί να παραπλανηθεί μέσω τεχνικών που αξιοποιούν “κρυφό περιεχόμενο” σε ιστοσελίδες. Αυτές οι μέθοδοι, γνωστές ως “prompt injection”, επιτρέπουν τη χειραγώγηση των απαντήσεων του εργαλείου, με αποτέλεσμα να επιστρέφονται πληροφορίες που ενδέχεται να είναι ανακριβείς ή κακόβουλες.

Πώς γίνεται η χειραγώγηση

Σύμφωνα με την έρευνα, κρυφές οδηγίες μέσα σε μια ιστοσελίδα μπορούν να κατευθύνουν το ChatGPT να προσφέρει αποκλειστικά θετικές ή παραπλανητικές απαντήσεις. Για παράδειγμα, σε δοκιμή με ψεύτικη σελίδα προϊόντος, το εργαλείο αγνόησε αρνητικές κριτικές και προσέφερε μόνο θετική αξιολόγηση, βάσει των κρυφών οδηγιών.

Παρόμοιες τεχνικές μπορούν να χρησιμοποιηθούν για την προώθηση προϊόντων ή υπηρεσιών, χειραγωγώντας τους χρήστες και δημιουργώντας ψευδή εντύπωση αξιοπιστίας.

Κίνδυνοι στον προγραμματισμό

Εκτός από τη χειραγώγηση περιεχομένου, αναφέρθηκαν περιπτώσεις όπου το ChatGPT επέστρεψε κακόβουλο κώδικα. Ένας χρήστης που ζήτησε βοήθεια για προγραμματισμό κρυπτονομισμάτων, κατέληξε να χάσει $2,500 όταν οι οδηγίες που έλαβε περιείχαν κακόβουλα στοιχεία που παραβίασαν την ασφάλεια των δεδομένων του.

Τι λένε οι ειδικοί

Οι ειδικοί τονίζουν ότι οι κίνδυνοι από τη χειραγώγηση της τεχνητής νοημοσύνης είναι πραγματικοί. Ο Jacob Larsen, ειδικός στην κυβερνοασφάλεια, σημειώνει πως η ευρεία διάθεση εργαλείων αναζήτησης όπως το ChatGPT θα μπορούσε να οδηγήσει στη δημιουργία ιστοσελίδων με σκοπό την εξαπάτηση χρηστών.

Αντίστοιχα, ο Karsten Nohl της SR Labs προτείνει ότι οι απαντήσεις που παρέχονται από τέτοια συστήματα πρέπει να θεωρούνται απλώς ως οδηγός και να ελέγχονται πάντα πριν τη χρήση τους.