O ισχυρότερος υπολογιστής τεχνητής νοημοσύνης στον κόσμο ανήκει στον Έλον Μασκ

Ο Έλον Μασκ σε συνεργασία με την xAI, τη νεοσύστατη εταιρία τεχνητής νοημοσύνης του μεγιστάνα, καθώς και με την βοήθεια της Nvidia και διαφόρων άλλων εταιρειών, ετοίμασαν τον ισχυρότερο υπερυπολογιστή για εκπαίδευση AI μοντέλων στον κόσμο.

Nice work by @xAI team, @X team, @Nvidia & supporting companies getting Memphis Supercluster training started at ~4:20am local time.

With 100k liquid-cooled H100s on a single RDMA fabric, it’s the most powerful AI training cluster in the world!

— Elon Musk (@elonmusk) July 22, 2024

Έλον Μασκ: Πρόκειται για το ισχυρότερο AI training cluster στον πλανήτη

Συγκεκριμένα, το Memphis Supercluster βρίσκεται στην πόλη Μέμφις των ΗΠΑ νοτιοδυτικά της αμερικανικής πολιτείας του Τενεσί και είναι εξοπλισμένο με 100 χιλιάδες NVIDIA H100 κάρτες γραφικών που κάνουν μάλιστα χρήση υδρόψυξης για να διατηρούν χαμηλές θερμοκρασίες και όλες συνδέονται με ένα RDMA fabric.

Κάθε μια από αυτές τις GPUs κοστίζει περίπου 25.000 δολάρια. Αυτό σημαίνει πως μόνο οι GPUs, ανεβάζουν το κόστος του Memphis Supercluster σε πάνω από 2,5 δισεκατομμύρια δολάρια και σύμφωνα με τα λεγόμενα του Έλον Μασκ πρόκειται για το ισχυρότερο AI training cluster που υπάρχει στον πλανήτη. Αυτό σημαίνει πως η υποδομή της xAI είναι πλέον ισχυρότερη από τα αντίστοιχα συστήματα που χρησιμοποιούν οι Google, Microsoft, OpenAI, η Anthropic και όλες οι υπόλοιπες εταιρείες του κλάδου.

I visited xAI and Tesla supercomputer clusters in Memphis & Texas, and was blown away by the rapid rate of progress. It was fascinating to watch Elon & team constantly improve every aspect of the process.

Also, as a human, it was a bit surreal (and humbling) to walk around… pic.twitter.com/pWrTgTjHYI

— Lex Fridman (@lexfridman) July 18, 2024

Ο στόχος της xAI

Ο στόχος είναι πλέον ξεκάθαρος σύμφωνα με τα λεγόμενα του Έλον Μασκ. Η xAI φιλοδοξεί να εκπαιδεύσει την ισχυρότερη AI στον κόσμο από κάθε άποψη, μέχρι τον Δεκέμβριο του 2024.

Για την ιστορία, η xAI διαθέτει και ένα ακόμη cluster/data center για εκπαίδευση AI μοντέλων στο Τέξας των ΗΠΑ, το οποίο επισκέφτηκε πρόσφατα ο ερευνητής και podcaster Lex Fridman.

Elon Musk announces the Memphis supercluster is now operational. A collaboration between @xai , @X and @nvidia. 100,000 liquid-cooled H100 GPU supercluster. It is now the most powerful AI training cluster in the World. The reprocations this will have for FSD, Grok and Bot 🤯 pic.twitter.com/XHCvtrqD1k

— CholeezyLFC (@lizzo7) July 22, 2024