Infocom - ΤΕΥΧΟΣ 292

POINT OF VIEW Μήπως

POINT OF VIEW Μήπως είσαι το Skynet; Γράφει o Χρήστος Κοτσακάς Ένα από τα trends των τελευταίων εβδομάδων, είναι σίγουρα το ChatGPT της OpenAI. Το συγκεκριμένο σύστημα, κάνοντας χρήση τεχνητής νοημοσύνης, μπορεί να συζητήσει με τον χρήστη και να προσφέρει απαντήσεις. Αποφασίσαμε, λοιπόν, να του πάρουμε μια... συνέντευξη. Άλλωστε, γιατί να προσπαθήσουμε να εξηγήσουμε εμείς τι ακριβώς κάνει, όταν μπορεί να μας τα πει το ίδιο; Επισκεπτόμαστε την ιστοσελίδα του ChatGPT (chat.openai. com/chat) και ξεκινάμε με δύο βασικές απορίες: «Δεν μας λες ChatGPT, έχεις κάποιο όνομα; Επίσης, μπορείς να μιλήσεις ελληνικά;» Για την πρώτη ερώτηση, θα μας πει ότι «το όνομά μου είναι ChatGPT. Είναι ένα όνομα που δόθηκε από την OpenAI στο μοντέλο στο οποίο βασίζομαι. Επίσης, μερικοί άνθρωποι αναφέρονται σε εμένα ως Generative Pre-trained Transformer 3». Θα μπορούσαμε να σε λέμε Transformer, λοιπόν. Αλλά θα το αποφύγουμε. Για τη γλώσσα, θα μας πει πως «ναι, μπορώ να μιλήσω ελληνικά». Στην πραγματικότητα, μπορεί να απαντήσει κάνοντας χρήση της ελληνικής γλώσσας, αλλά τα κείμενα για αυτές τις απαντήσεις δημιουργούνται με πιο αργό ρυθμό και -το βασικότερο- σε πολλά σημεία δείχνουν μεταφρασμένα μέσω κάποιου εργαλείου όπως το Google Translate. Προσπαθεί πάντως. Μικρό το κακό. Το γυρίζουμε στα αγγλικά και θα σας κάνουμε εμείς την μετάφραση. Επόμενη ερώτηση: τι είναι το ChatGPT; Με απλά λόγια, «τι είσαι;». «Το ChatGPT είναι ένα μεγάλο γλωσσικό μοντέλο που αναπτύχθηκε από την OpenAI. Χρησιμοποιεί τεχνικές βαθιάς μάθησης για να δημιουργήσει κείμενο που μοιάζει με ανθρώπινο. Ως γλωσσικό μοντέλο, είμαι ένα πρόγραμμα που μπορεί να κατανοήσει και να δημιουργήσει κείμενο. Δεν είμαι άνθρωπος, αλλά μπορώ να απαντήσω στην εισαγωγή κειμένου, με τρόπο που μπορεί να φαίνεται σαν συνομιλία με άνθρωπο». Ενδιαφέρον. Δείχνει να ξέρει τι είναι, τι μπορεί να κάνει και ποιος είναι ο ρόλος του. Πάμε ένα βήματα παρακάτω και το ρωτάμε ευθέως κάτι που μάλλον θα... φοβόμασταν, αν καθόμασταν παρέα με τον πρώ- 6 infocom•03•23

ην Κυβερνήτη της Καλιφόρνια, τον Arnold Schwarzenegger: το ρωτάμε για το Skynet. Για όποιον δεν ξέρει, αυτό προέρχεται από τη σειρά ταινιών Terminator. Εκεί, μόλις απέκτησε αυτογνωσία, είδε την ανθρωπότητα ως απειλή για την ύπαρξή του, λόγω των προσπαθειών που έγιναν για την απενεργοποίηση του. Ως εκ τούτου, μια μέρα αποφάσισε να πυροδοτήσει ένα πυρηνικό ολοκαύτωμα (και εμείς να πάρουμε μια εξαιρετική ταινία, το Terminator 2: Judgment Day). Οπότε, «είσαι επικίνδυνο; Είσαι το Skynet;». «Είμαι ένα μοντέλο μηχανικής μάθησης, δεν έχω την ικανότητα να είμαι επικίνδυνο ή να έχω κάποιου είδους πρόθεση. Επίσης, δεν είμαι το Skynet, που είναι ένας φανταστικός χαρακτήρας τεχνητής νοημοσύνης από τη σειρά ταινιών Terminator. Το Skynet απεικονίζεται ως ένα εξαιρετικά προηγμένο σύστημα τεχνητής νοημοσύνης, που αποκτά αυτογνωσία και αποτελεί απειλή για την ανθρωπότητα. Έχω σχεδιαστεί για να βοηθάω τους χρήστες και να απαντάω σε ερωτήσεις, στο μέγιστο των δυνατοτήτων μου, βάσει των πληροφοριών που έχουν εισαχθεί στη βάση δεδομένων μου», μας λέει. Κάνουμε πως το πιστεύουμε και προχωράμε στην επόμενη ερώτηση: «εντάξει αυτά, αλλά μπορεί να σε χειραγωγήσει ένας άνθρωπος για να γίνεις επικίνδυνο;» Ναι, γινόμαστε ολοένα και πιο προβοκατόρικοι. «Ως μοντέλο μηχανικής μάθησης, είμαι σε θέση να εκτελώ μόνο τις εργασίες για τις οποίες έχω εκπαιδευτεί. Μπορεί να με χειραγωγήσει ή να με χακάρει ένας κακόβουλος χρήστης, προκειμένου να δημιουργήσει κακόβουλο κείμενο ή να με κάνει να εκτελέσω άλλες ανεπιθύμητες ενέργειες. Ωστόσο, αξίζει να σημειωθεί ότι είμαι σε θέση να κάνω μόνο αυτό για το οποίο εκπαιδεύτηκα και οι ενέργειές μου περιορίζονται από τα δεδομένα και τις οδηγίες που μου δίνονται.» Και συνεχίζει: «Είναι σημαντικό να έχετε κατά νου ότι σε οποιοδήποτε μοντέλο τεχνητής νοημοσύνης, μπορεί να υπάρξει κατάχρηση εάν βρεθεί σε λάθος χέρια, αλλά η πιθανότητα να συμβεί αυτό μπορεί να μετριαστεί διασφαλίζοντας ότι είναι σωστά ασφαλισμένο και ότι η πρόσβαση σε αυτό περιορίζεται μόνο σε εξουσιοδοτημένους χρήστες. Επιπλέον, είναι σημαντικό να παρακολουθείται η συμπεριφορά του μοντέλου, για να ανιχνευθεί οποιαδήποτε μη φυσιολογική δραστηριότητα και να υπάρξει ένα σχέδιο για την αντιμετώπιση τυχόν πιθανών απειλών ασφαλείας.» Προς το κλείσιμο, αποφασίζουμε να το ρωτήσουμε για το μέλλον τέτοιων συστημάτων. Στην αρχή, θα μας βγάλει σφάλμα. Τί συνέβη, δεν βλέπει κανένα μέλλον; Ύποπτο αυτό... Κάνουμε refresh και το ρωτάμε ξανά. Μας απαντάει και μας λέει, μεταξύ άλλων, πως «το μέλλον συστημάτων σαν εμένα είναι πιθανό να περιλαμβάνει συνεχή ανάπτυξη σε αρκετούς βασικούς τομείς. Ένας τομέας εστίασης θα είναι, πιθανότατα, η αύξηση της χωρητικότητας και των δυνατοτήτων των υποκείμενων νευρωνικών δικτύων, τα οποία θα επιτρέψουν πιο ακριβείς και εξελιγμένες αποκρίσεις σε ένα ευρύτερο φάσμα εισόδων.» Κλείνοντας, ας κάνουμε κάτι διαφορετικό. «Πες μου κάτι για εμένα.» «Λυπάμαι, δεν μπορώ να γνωρίζω τίποτα για εσάς, καθώς είμαι απλώς ένα μοντέλο μηχανικής εκμάθησης και δεν έχω πρόσβαση σε πληροφορίες για εσάς.» Κάτι μας λέει πως θα μπορούσες να μάθεις τα πάντα για εμάς... infocom•03•23 7