Κανείς δεν μπορεί να κατηγορήσει τον διευθύνοντα σύμβουλο της OpenAI, Σαμ Αλτμαν για έλλειψη φαντασίας. Κάποτε είχε προτείνει την κατασκευή ενός φωτοβολταϊκού πλέγματος γύρω από τον Ηλιο για να τροφοδοτεί τις μελλοντικές ενεργειακές ανάγκες της Τεχνητής Νοημοσύνης.
Η νέα συμφωνία της εταιρείας του με την Broadcom για την παραγωγή ειδικά σχεδιασμένων τσιπ, προσαρμοσμένων στις ανάγκες των μελλοντικών πελατών της OpenAI, θεωρείται από πολλούς άκρως τολμηρή. Ο Αλτμαν έχει πει ότι προκειμένου η εταιρεία του να προσφέρει τις υπηρεσίες τεχνητής νοημοσύνης που θέλουν οι καταναλωτές, τα data centers της θα χρειάζονται τουλάχιστον ένα εξειδικευμένο στην ΑΙ τσιπ ανά χρήστη. Με άλλα λόγια, δισεκατομμύρια τσιπ.
Οι ειδικοί συμμερίζονται αυτή την άποψη. Αν η Τεχνητή Νοημοσύνη αναλάβει όλες τις εργασίες που «ευαγγελίζονται» οι εταιρείες ΑΙ, ο πλανήτης θα χρειαστεί τόσα μικροτσιπ για ΑΙ όσα είναι σήμερα και τα συμβατικά μικροτσιπ, λέει ο Α. Φαρχαντί, CEO του μη κερδοσκοπικού ερευνητικού οργανισμού Allen Institute for AI.
Η Nvidia παραμένει η προεπιλογή όταν οι εταιρείες χτίζουν data centers για να εκπαιδεύσουν τα μοντέλα ΑΙ τους. Ομως τα ειδικά σχεδιασμένα τσιπ θα μπορούν να κάνουν τη διαδικασία παροχής υπηρεσιών ΑΙ –το λεγόμενο “inference” στα αγγλικά– ταχύτερη και φθηνότερη. Αυτό θα μπορούσε να βοηθήσει την OpenAI να εξοικονομήσει χρήματα στην προσπάθειά της να γίνει κερδοφόρα, κάτι από το οποίο σήμερα απέχει πολύ.
Οι πρόσφατες συμφωνίες της OpenAI με τις Broadcom και Nvidia είναι απαραίτητες ώστε η OpenAI να πετύχει τους στόχους της: να εκπαιδεύει τα ικανότερα μοντέλα στον κόσμο –στα τσιπ της Nvidia– και μετά να παραδίδει την παραγωγή τους χωρίς να χρεοκοπήσει –στα τσιπ της Broadcom.
Σίλικον Βάλεϊ
Εδώ και χρόνια η Amazon και η Google χρησιμοποιούν ειδικά τσιπ για τα πολύπλοκα λογισμικά τους και τις υπηρεσίες cloud, και αμφότερες σχεδιάζουν τα δικά τους τσιπ Τεχνητής Νοημοσύνης. Η Meta και η Microsoft ξεκίνησαν πρόσφατα αντίστοιχες προσπάθειες αλλά βρίσκονται ακόμα πιο πίσω.
Για την OpenAI, πιο αποδοτικά chips σημαίνουν μικρότερο κόστος ηλεκτρικής ενέργειας για να προσφέρει υπηρεσίες ΑΙ στους πελάτες.
Η Nvidia σχεδιάζει τα πιο δημοφιλή τσιπ για εκπαίδευση συστημάτων ΑΙ. Το μερίδιό της στην αγορά εκπαίδευσης τέτοιων μοντέλων υπερβαίνει το 70%, βάσει εκτιμήσεων. Αφού όμως «εκπαιδευτεί» ένα μοντέλο ΑΙ, οι ανάγκες για το hardware είναι πολύ διαφορετικές, σημειώνει σε ανάλυσή της η Wall Street Journal.
Ποιες εφαρμογές θα χρησιμοποιούμε στο μέλλον;
Κατά τη φάση του “inference”, τα μοντέλα της OpenAI λειτουργούν καλύτερα σε τσιπ που υποστηρίζουν μνήμες «υψηλού εύρους ζώνης» (high-bandwidth memory). Στις αρχές του μήνα, η εταιρεία ανακοίνωσε συνεργασία με τις δύο κορυφαίες εταιρείες που κατασκευάζουν τέτοιες μνήμες, τη Samsung και την SK Hynix.
Η OpenAI σημειώνει ότι τέτοιου τύπου τσιπ είναι, σε κάποιο βαθμό, ειδικά ως προς τα μοντέλα αλλά και τις εφαρμογές που πιστεύει ότι οι πελάτες της θα χρησιμοποιούν περισσότερο στο μέλλον.
Η OpenAI δεν αποκαλύπτει ποιες είναι αυτές οι μελλοντικές εφαρμογές, αλλά κατά την ανακοίνωση της εταιρείας, ο Αλτμαν υποστήριξε ότι το πρότζεκτ Pulse –που χρησιμοποιεί AI agents για να «σαρώνουν» το διαδίκτυο και να ενημερώνουν κάθε πρωί τους χρήστες σε θέματα που τους ενδιαφέρουν– απαιτεί τόσο πολλή υπολογιστική ισχύ ώστε η εταιρεία πρέπει να περιορίσει τη διάθεσή του αποκλειστικά σε όσους πληρώνουν 200 δολάρια τον μήνα για το πακέτο Pro.
Υπερυπολογιστές Α.Ι. και ο λογαριασμός ρεύματος
Αν και τα ΑΙ τσιπ βρίσκονται στο επίκεντρο της συμφωνίας της OpenAI με την Broadcom, η «μεγαλύτερη εικόνα» αφορά την κατασκευή ολόκληρων υπερυπολογιστών ΑΙ. Ο Αλτμαν έχει πει ότι η συνολική υπολογιστική ισχύς της OpenAI απαιτεί δύο γιγαβάτ. Η συμφωνία με την Broadcom προβλέπει την ανάπτυξη συστημάτων ΑΙ της τάξης των 10 γιγαβάτ, που θα αναπτυχθούν από κοινού από την OpenAI και την Broadcom έως το 2030. Κι αυτό θα αναπτυχθεί ανεξάρτητα από τις συμφωνίες για συστήματα 16 γιγαβάτ που ανακοινώθηκαν τις τελευταίες τρεις εβδομάδες με την AMD και τη Nvidia.
Συνολικά, αυτές οι δεσμεύσεις θα μπορούσαν να απαιτήσουν σχεδόν ένα τρισεκατομμύριο δολάρια και ηλεκτρική ενέργεια διπλάσια από όση καταναλώνει η Νέα Υόρκη.
Η OpenAI δεν είναι η μόνη που «ρουφά» τσιπ και ενέργεια. Τον Σεπτέμβριο, η xAI ανακοίνωσε ότι ο υπερυπολογιστής της «Memphis AI Colossus» έφτασε σε ισχύ τα 1,21 γιγαβάτ. Η Meta έχει λάβει έγκριση για 2,3 γιγαβάτ παραγωγής ισχύος στο υπό κατασκευήν υπερυπολογιστή ΑΙ της στη Λουιζιάνα, με κωδική ονομασία Hyperion. Τον Ιούλιο ο CEO Μαρκ Ζούκερμπεργκ δήλωσε ότι θέτει ως στόχο τα 5 γιγαβάτ.
Ο Αλτμαν χαρακτήρισε την οικοδόμηση υποδομών ΑΙ «το μεγαλύτερο κοινό βιομηχανικό έργο στην ιστορία» και πρόσθεσε ότι αυτή η συμφωνία είναι «σταγόνα στον ωκεανό σε σχέση με το πού πρέπει να φτάσουμε».
Ομως, ένας ακόμη στόχος της συμφωνίας είναι η αποφυγή εξάρτησης από έναν και μόνο προμηθευτή. Το πρότζεκτ «Stargate» της OpenAI, που θα κατασκευαστεί από την Oracle στο Αμπιλιν του Τέξας, προορίζεται για εκπαίδευση, άρα είναι πιθανό να αποτελείται σχεδόν εξ ολοκλήρου από τσιπ της Nvidia. Η OpenAI έχει επίσης δεσμευθεί να αγοράζει μονάδες από την AMD, αλλά αυτά τα τσιπ είναι πιθανό να χρησιμοποιηθούν κυρίως για “inference”.
Οπως λέει ο Τζόρνταν Νάνος, πρώην μηχανικός στη Hewlett Packard Enterprise και μέλος του τεχνικού επιτελείου της εταιρείας έρευνας ημιαγωγών και ΑΙ SemiAnalysis, «η OpenAI κοιτάζει πολύ μακριά στο μέλλον και προσπαθεί να διασφαλίσει ότι θα έχει πρόσβαση σε επαρκή τσιπ».
