Μορφή, κόσμος και τεχνητή νοημοσύνη · Μέρος 4 από 4

Τρία άρθρα, τρία βήματα.

Η μορφή καθορίζει ποιον κόσμο συναντά ένα σύστημα. Η ανάγκη καθορίζει αν κάτι σε αυτόν τον κόσμο έχει σημασία για το ίδιο. Και στον άνθρωπο, η φαντασία χτίζει πάνω στην ανάγκη αξίες που μπορούν και να την ξεπεράσουν.

Κάθε βήμα απαντούσε σε ένα ερώτημα και άνοιγε ένα άλλο. Και κάθε φορά που το επιχείρημα πλησίαζε το σημείο όπου γεννιέται κάτι πραγματικά νέο, ένα κριτήριο, μια αξία, ένας τρόπος να βλέπεις, γλιστρούσε.

Το ζήσαμε γράφοντας αυτή τη σειρά. Κάθε απάντηση έφερνε μια νέα ένσταση. Κάθε διόρθωση άνοιγε ένα νέο κενό. Και κάποια στιγμή οι ενστάσεις άρχισαν να κάνουν κύκλο.

Αυτό δεν είναι αποτυχία του επιχειρήματος. Είναι το θέμα αυτού του άρθρου.

Μπορεί η AI να δημιουργήσει; Για να απαντήσουμε, πρέπει πρώτα να ξέρουμε τι είναι δημιουργία.

Δεν ξέρουμε.

Τρία είδη νέου

Η Margaret Boden, από τους πρώτους ανθρώπους που μελέτησαν συστηματικά τη δημιουργικότητα με όρους υπολογισμού, ξεχώρισε τρία είδη νέου.

  • Συνδυαστικό: νέοι συνδυασμοί γνωστών στοιχείων. Μια μεταφορά, ένα αστείο, μια απρόσμενη σύζευξη ιδεών.
  • Εξερευνητικό: νέα σημεία μέσα σε έναν ήδη δοσμένο χώρο. Ένα νέο θεώρημα μέσα σε ένα σύστημα αξιωμάτων, μια νέα παραλλαγή μέσα σε ένα μουσικό ύφος.
  • Μετασχηματιστικό: αλλαγή του ίδιου του χώρου. Μια ιδέα που πριν δεν ήταν απλώς άγνωστη, αλλά αδύνατο να διατυπωθεί.

Η AI είναι ήδη εξαιρετική στα δύο πρώτα. Το 2016, στη δεύτερη παρτίδα με τον Lee Sedol, το AlphaGo έπαιξε την κίνηση 37, που οι σχολιαστές αρχικά βρήκαν παράξενη, σχεδόν λάθος, και αργότερα ιδιοφυή. Το ίδιο το σύστημα εκτίμησε ότι ένας άνθρωπος θα την έπαιζε με πιθανότητα περίπου μία στις δέκα χιλιάδες. Την έπαιξε επειδή η αναζήτησή του τη βρήκε καλή.

Ήταν πραγματικά νέα για ανθρώπους που έπαιζαν Go επί αιώνες. Ήταν όμως εξερεύνηση: μέσα στους κανόνες του Go, προς τον στόχο που έθεταν οι κανόνες. Το AlphaGo δεν επινόησε άλλο παιχνίδι.

Το τρίτο είδος είναι αυτό που μας ενδιαφέρει. Και εκεί αρχίζουν τα προβλήματα.

Το παράδοξο του ορισμού

Ας υποθέσουμε ότι καταφέρνουμε να ορίσουμε πλήρως τη μετασχηματιστική δημιουργία. Ότι γράφουμε τις συνθήκες κάτω από τις οποίες ένα σύστημα αλλάζει τον ίδιο τον χώρο του.

Τότε ο ορισμός είναι κανόνας. Και ένα σύστημα που ακολουθεί αυτόν τον κανόνα κινείται μέσα σε έναν νέο, μεγαλύτερο χώρο: τον χώρο όλων των μετασχηματισμών που ο κανόνας επιτρέπει. Ό,τι παράγει εκεί είναι εξερεύνηση, όχι μετασχηματισμός.

Ένας πλήρης ορισμός της δημιουργίας θα καταργούσε αυτό που ορίζει.

Ο Κορνήλιος Καστοριάδης το είχε δει. Η δημιουργία, έγραφε, είναι ex nihilo, όχι όμως in nihilo ούτε cum nihilo. Δεν γίνεται στο κενό: πατάει σε ό,τι υπάρχει ήδη, σε υλικό, γλώσσα, θεσμούς. Ούτε γίνεται χωρίς μέσα. Αλλά δεν προκύπτει από αυτά. Η αθηναϊκή δημοκρατία είχε προϋποθέσεις· δεν συνάγεται από αυτές.

Αυτό δεν σημαίνει ότι η δημιουργία είναι μαγεία. Σημαίνει ότι τη συναντάμε από την άλλη πλευρά: εκ των υστέρων. Βλέπουμε ότι ο χώρος άλλαξε. Δεν μπορούμε να πούμε από πριν πώς θα αλλάξει, γιατί αν μπορούσαμε, θα είχε ήδη αλλάξει.

Τι κάνει η έρευνα

Η έρευνα της AI δεν αγνοεί το πρόβλημα. Ένα ολόκληρο πεδίο, η «ανοιχτότητα» (open-endedness), προσπαθεί να φτιάξει συστήματα που δεν σταματούν ποτέ να παράγουν κάτι νέο. Το 2019, το σύστημα POET επινοούσε μόνο του όλο και δυσκολότερα περιβάλλοντα και μάθαινε να τα λύνει, σε έναν κύκλο χωρίς προκαθορισμένο τέλος.

Δύο από τους δημιουργούς του, ο Kenneth Stanley και ο Joel Lehman, είχαν ήδη γράψει ένα βιβλίο με τίτλο που θα μπορούσε να είναι η περίληψη αυτού του άρθρου: Why Greatness Cannot Be Planned. Το μεγάλο, υποστηρίζουν, δεν το φτάνεις στοχεύοντάς το. Το βρίσκεις κυνηγώντας το ενδιαφέρον, χωρίς να ξέρεις πού πας.

Πώς όμως ορίζεις ότι κάτι είναι νέο; Το 2024, ερευνητές της Google DeepMind πρότειναν έναν ορισμό που αξίζει προσοχή για την ειλικρίνειά του. Ένα σύστημα είναι ανοιχτό σε σχέση με έναν παρατηρητή, αν παράγει πράγματα που για αυτόν τον παρατηρητή είναι ταυτόχρονα νέα και κατανοητά. Νέα: που δεν μπορούσε να τα προβλέψει. Κατανοητά: που μπορεί να μάθει από αυτά.

Ο ορισμός δεν λέει τι είναι το νέο καθαυτό. Λέει τι είναι νέο για κάποιον. Είναι η πιο έντιμη παραδοχή του πεδίου: το νέο το ορίζουμε μόνο σε σχέση με όσα ήδη ξέρουμε, άρα πάντα από τη δική μας θέση.

Και εδώ επιστρέφει το πρώτο άρθρο. Αν η μορφή καθορίζει ποιον κόσμο συναντάμε, καθορίζει και τι μας φαίνεται νέο. Η κίνηση 37 ήταν νέα για εμάς. Το νέο ήταν στη δική μας ματιά, όχι στον υπολογισμό του AlphaGo.

Το δεύτερο στρώμα χωρίς το πρώτο

Στο δεύτερο άρθρο είδαμε ότι στον άνθρωπο η εσωτερική πίεση έχει δύο στρώματα. Το πρώτο είναι η ανάγκη. Το δεύτερο είναι η φαντασία, που χτίζει πάνω στην ανάγκη αξίες ικανές να την ξεπεράσουν. Εκεί, στη φαντασία, ο Καστοριάδης εντοπίζει την πηγή της δημιουργίας.

Ένα γλωσσικό μοντέλο είναι κάτι παράξενο απέναντι σε αυτή την εικόνα. Δεν έχει το πρώτο στρώμα· το είδαμε στο τρίτο άρθρο. Είναι όμως φτιαγμένο από το ίζημα του δεύτερου: από τη γλώσσα, όπου κατακάθονται αιώνες ανθρώπινων δημιουργιών. Στο πρώτο άρθρο το είπαμε «το πιο κοντινό και το πιο μακρινό Umwelt». Εδώ η φράση αποκτά βάρος.

Όταν ένα τέτοιο μοντέλο παράγει κάτι που μας εκπλήσσει, τι κάνει; Ανασυνδυάζει δημιουργίες άλλων σε κλίμακα που κανένας άνθρωπος δεν θα μπορούσε; Εξερευνά έναν χώρο τόσο μεγάλο που μοιάζει χωρίς όρια; Ή αλλάζει, έστω λίγο, τον ίδιο τον χώρο;

Η ειλικρινής απάντηση είναι ότι δεν μπορούμε να το κρίνουμε. Όχι επειδή δεν έχουμε αρκετά δεδομένα. Επειδή δεν έχουμε ορισμό με τον οποίο να τα κρίνουμε.

Και το ερώτημα έχει δύο όψεις. Αν η δημιουργία χρειάζεται την ανάγκη από κάτω, όπως η σειρά υποθέτει για τη σημασία, τότε η AI δεν θα δημιουργήσει πριν αποκτήσει κάτι να χάσει. Αν όχι, ίσως δημιουργεί ήδη, και δεν έχουμε τρόπο να το δούμε.

Εδώ βρίσκεται η καρδιά της σειράς. Ρωτάμε αν μια μηχανή μπορεί να κάνει κάτι που δεν ξέρουμε να ορίσουμε ούτε για εμάς. Ξέρουμε τις συνθήκες μέσα στις οποίες γεννήθηκαν η γεωμετρία, η τραγωδία, η δημοκρατία. Δεν ξέρουμε να τις συναγάγουμε από αυτές.

Κλείνοντας

Μπορεί λοιπόν η AI να δημιουργήσει;

Να συνδυάσει, ναι. Να εξερευνήσει, συχνά καλύτερα από εμάς. Να μετασχηματίσει; Δεν ξέρουμε. Και δεν θα το μάθουμε από έναν ορισμό.

Τη δημιουργία την αναγνωρίζουμε μόνο εκ των υστέρων: όταν ο χώρος έχει ήδη αλλάξει και κοιτάμε πίσω προσπαθώντας να καταλάβουμε πώς. Το αν μια μηχανή δημιουργεί δεν θα το κρίνει κάποια θεωρία. Θα το κρίνει ό,τι έρθει μετά.

Αυτό δεν είναι ήττα της σκέψης. Είναι το όριό της, και αξίζει να το ξέρουμε. Όσο κι αν θέλουμε να ορίσουμε τη δημιουργία, ο ορισμός θα έρχεται πάντα ένα βήμα πίσω της.

Η AI απαντά. Εμείς επιλέγουμε. Το νέο, όταν έρθει, δεν θα ρωτήσει κανέναν.

Η σειρά σε τέσσερις προτάσεις

Η μορφή καθορίζει ποιον κόσμο συναντά ένα σύστημα. Η ανάγκη καθορίζει αν κάτι σε αυτόν τον κόσμο έχει σημασία για το ίδιο. Η AI έχει την πρώτη· τη δεύτερη, όχι ακόμα. Και το νέο, από όπου κι αν έρθει, δεν ορίζεται, όσο κι αν το θέλουμε.

Για περαιτέρω ανάγνωση

  • Κορνήλιος Καστοριάδης, Η φαντασιακή θέσμιση της κοινωνίας (1975)
  • Margaret Boden, The Creative Mind: Myths and Mechanisms (1990)
  • Cornelius Castoriadis, World in Fragments (1997), ιδίως το δοκίμιο «Time and Creation»
  • Kenneth Stanley και Joel Lehman, Why Greatness Cannot Be Planned (2015)
  • David Silver κ.ά., «Mastering the game of Go with deep neural networks and tree search», Nature (2016)
  • Rui Wang, Joel Lehman, Jeff Clune και Kenneth Stanley, «Paired Open-Ended Trailblazer (POET)» (2019)
  • Edward Hughes κ.ά., «Open-Endedness is Essential for Artificial Superhuman Intelligence» (2024)