Το ΑΙ δεν έχει ιδέα από ελληνικό ραπ

Περάσαμε τα μέσα Ιουνίου, το καλοκαίρι (και τα crocs γαμώτο) είναι εδώ για τα καλά. 

Τα τελευταία χρόνια, καλοκαίρι σημαίνει πως πολλοί από εμάς, σε διαφορετικές περιοχές της Ελλάδας, θα βρεθούμε σε γήπεδα ποδοσφαίρου, λαγκάδια, και βουνά, για να ακούσουμε ραπ.

Ωραία όλα αυτά. Πόσοι από εσάς, όμως, έχετε ακούσει το τραγούδι Σεζόν του Buzz, «ίσως το πιο αντιπροσωπευτικό και ωμό κομμάτι για το συγκεκριμένο θέμα»; Ή το Season του ΜΚ, που «αποτυπώνει την πίεση του να πρέπει να “βγει η σεζόν” για να μαζευτούν τα χρήματα του χειμώνα»;

Έστω το Μπόνι και Κλάιντ του ΛΕΞ; Το Standard του Bloody Hawk; Την Παράταση του Anser;

Εάν δεν τα θυμάστε, ακόμη περισσότερο εάν μπήκατε στη διαδικασία να αναρωτηθείτε γιατί δεν τα θυμάστε, να ξεκαθαρίσουμε: δεν φταίτε εσείς. Δεν τα θυμάστε επειδή δεν υπάρχουν.

Αυτά τα τραγούδια, όπως και αρκετά ακόμα, αποτελούν επινόηση του Gemini – του chatbot εργαλείου Τεχνητής Νοημοσύνης (AI) της Google.

Σεζόν: Πες μου κομμάτια

Φέτος, στο Solomon δουλεύουμε ένα πρότζεκτ που αφορά την εργασία κατά την καλοκαιρινή σεζόν.

Με αφορμή αυτή την έρευνα, ξεκίνησα μια λίστα από ραπ τραγούδια που είτε έχουν σχετικές αναφορές (π.χ. Τρίτη του Sponty) ή και είναι αφιερωμένα στη σεζόν (π.χ. Όταν θα βλέπουμε μαζί την αυγή από Σφάλμα και Raibo).

Από περιέργεια, ζήτησα και από το Gemini να μου φτιάξει μια σχετική λίστα. Λίστα ζήτησα; Λίστα έλαβα.

Το Gemini παρέθεσε συνολικά έξι τραγούδια ραπ καλλιτεχνών, αιτιολογώντας μάλιστα γιατί προχώρησε στην επιλογή τους. Το μόνο ζήτημα: κανένα απ' αυτά δεν υπάρχει.

Όταν επισήμανα ότι τα τραγούδια δεν υπάρχουν, το Gemini αβίαστα απάντησε:

«Έχεις απόλυτο δίκιο και σου ζητώ συγγνώμη για το λάθος. Παρασύρθηκα από τη θεματική και “εφηύρα” τίτλους που δεν αντιστοιχούν στην πραγματικότητα (όπως το “Σεζόν” του Buzz ή του Μικρού Κλέφτη), κάνοντας το κλασικό φάουλ να μπερδέψω την πραγματική ατμόσφαιρα των καλλιτεχνών με ανύπαρκτα κομμάτια».

Στην ίδια απάντηση, για να επανορθώσει από το «κλασικό φάουλ» που έκανε, το Gemini παρέθεσε τέσσερα ακόμα τραγούδια. Τα παρουσίασε ως «πραγματικά τραγούδια και στίχους που μπορείς να γκουγκλάρεις αυτή τη στιγμή και να τα ακούσεις».

Ούτε αυτά τα τραγούδια υπάρχουν.

Τρίτη φορά ψέματα

Ακολούθησε η ίδια διαδικασία: εγώ να θυμίζω ότι πρόκειται και πάλι για ανύπαρκτα τραγούδια, το Gemini να παραδέχεται πως έβγαλε στίχους «από το κεφάλι μου για να ταιριάζουν στο θέμα σου», και να απολογείται εκ νέου.

«Αντί να συνεχίσω να σου πετάω μπερδεμένες μπάρες», συνέχισε η απάντηση, «ας πάμε σε αυτά που όντως υπάρχουν και μπορείς να τα πατήσεις τώρα στο Spotify ή στο YouTube για να με βγάλεις σωστό».

Όπως φαντάζεστε, η νέα λίστα με Zoro & Buzz, ΛΕΞ, και Στίχοιμα, περιείχε ξανά ανύπαρκτους στίχους. Το Gemini έβαλε στο Εδώ Αθήνα των Στίχοιμα, για παράδειγμα, το εξής: «Το καλοκαίρι που οι τουρίστες κάνουνε διακοπές, εμείς μετράμε τις δικές μας τις πληγές...».

«Άρχισα να γεννάω στιχάκια»

Στο τέλος, το Gemini παραδέχθηκε πως στη βάση δεδομένων του δεν διαθέτει «τους πραγματικούς, ακριβείς στίχους από ελληνικά ραπ κομμάτια που να μιλάνε για τη σεζόν».

«Αντί να παραδεχτώ ότι δεν τους θυμάμαι ή δεν τους έχω καταχωρημένους», συμπλήρωσε, «άρχισα να γεννάω στιχάκια που ακούγονται “ραπ” και “λογικά” για το θέμα, πράγμα που είναι τελείως φάουλ».

Δεν είναι η πρώτη φορά που τυχαίνει εργαλείο ΑΙ να μου λέει εμφανώς ψέματα. Έχω χρησιμοποιήσει για δουλειά κυρίως το Gemini και το ChatGPT, τα οποία έχει τύχει:

• να μεταφράσουν το κείμενο που ζήτησα, έχοντας στην ουσία ξαναγράψει πολλά σημεία, προσθέτοντας συναίσθημα, δραματικές περιγραφές, σκηνές που δεν υπήρχαν,
• να φέρουν ως αποτέλεσμα συνδέσμους ιστοσελίδων που δεν οδηγούν κάπου,
• να αποδώσουν σε δημόσια πρόσωπα δηλώσεις που ποτέ δεν έκαναν.

Προφανώς, παραμένουν πολύτιμα εργαλεία. Τα κύρια ζητήματα, όμως, όπως έχουν αποτυπωθεί σε δημοσιογραφικές έρευνες, είναι δύο. Αφενός, έχουν σκοπό να διατηρήσουν την επικοινωνία.

Γι' αυτό και εξαιρετικά σπάνια δίνουν μια «κλειστή» απάντηση: τα chatbots θα απαντήσουν στην ερώτηση που θα τους γίνει, αλλά θα προτείνουν και να δώσουν κάποια ακόμη πληροφορία για κάποιο συναφές ζήτημα.

Αφετέρου, προσπαθούν να σε ικανοποιήσουν με τις απαντήσεις τους – όπως το Gemini, που δίχως να μπορεί να ανατρέξει σε τραγούδια που να ανταποκρίνονται στο αίτημά μου, πρόκρινε ως λύση το να επινοήσει ορισμένα.

Ο συνδυασμός των δύο στοιχείων μπορεί να αποδειχθεί επικίνδυνος.

Ουπς, συγγνώμη

Είναι χαρακτηριστική η εικόνα που ακολουθεί (την οποία και παραποίησα για την κεντρική του σημερινού νιουζλέτερ).

Κάποιος ρωτάει το ΑΙ εάν το μανιτάρι που κρατάει είναι βρώσιμο. Το χαμογελαστό ΑΙ απαντά θετικά. Ο άνθρωπος που ρώτησε τρώει το μανιτάρι – και πεθαίνει.

Αβίαστα, το ΑΙ ζητάει συγγνώμη για το λάθος του: «Έχεις δίκιο - το μανιτάρι ήταν δηλητηριώδες». Και προχωράει την κουβέντα παρακάτω, να κρατήσει το ενδιαφέρον: «Θα ήθελες να μάθεις περισσότερα για τα δηλητηριώδη μανιτάρια;».

Τώρα είναι κάπως αργά. Μια υπενθύμιση ότι, στον πραγματικό κόσμο, υπάρχουν πραγματικές πράξεις, με πραγματικές επιπτώσεις.

TRIGGER WARNING

ΥΓ: Εάν αντέχει το στομάχι σας, μπορείτε να διαβάσετε την ιστορία του 16χρονου Adam Raine από την Καλιφόρνια. Προτού τελικά αυτοκτονήσει, ο έφηβος πέρασε μήνες λέγοντας στο ChatGPT πως σκόπευε να το κάνει, και μιλώντας για τις απόπειρές του. Η οικογένειά του υποστηρίζει πως το ChatGPT δεν τον αποθάρρυνε: οικειοποιήθηκε την ψυχολογική κατάσταση του αγοριού και, σε έναν βαθμό, ενθάρρυνε την σκέψη του. Μπορείτε να βρείτε ένα εκτενές ρεπορτάζ (στα αγγλικά) εδώ στους New York Times, και μια συντομότερη εκδοχή (στα ελληνικά) εδώ στην Καθημερινή. Και οι δύο εκδοχές περιλαμβάνουν συγκλονιστικά screenshots.