AMD και Intel ενώνονται: Η νέα τεχνολογία ACE αλλάζει τους x86 για AI

Computers

Η AMD και η Intel δημοσίευσαν το whitepaper για το ACE, τη νέα κοινή αρχιτεκτονική AI επιτάχυνσης για όλους τους x86 επεξεργαστές.

Intel / AMD Standard Matrix-Acceleration Architecture

Σύνοψη

  • Η AMD και η Intel παρουσιάζουν το ACE, την κοινή τους αρχιτεκτονική matrix acceleration για x86 επεξεργαστές με έμφαση στα AI workloads.

  • Το νέο instruction set δουλεύει μαζί με το AVX10 και προσφέρει 16x πυκνότερο υπολογισμό σε σχέση με τις σημερινές πράξεις AVX10.

  • Η ενσωμάτωση σε PyTorch, TensorFlow, NumPy και SciPy έχει ήδη ξεκινήσει.

Η AMD και η Intel δημοσίευσαν το επίσημο whitepaper για το ACE (AI Compute Extensions), τη νέα κοινή αρχιτεκτονική επιτάχυνσης πινάκων που θα γίνει το standard για όλους τους επεξεργαστές x86. Η ανακοίνωση αποτελεί το πιο συγκεκριμένο βήμα της συνεργασίας των δύο εταιρειών μέσα από το «x86 Ecosystem Advisory Group».

Τι είναι το ACE και γιατί έχει σημασία

Το ACE είναι ένα σύνολο νέων εντολών που προστίθενται στην αρχιτεκτονική x86 με στόχο τον πολύ πιο γρήγορο πολλαπλασιασμό πινάκων (matrix multiplication). Ο πολλαπλασιασμός πινάκων αποτελεί το βασικό υπολογιστικό μπλοκ για τα νευρωνικά δίκτυα και τα μεγάλα γλωσσικά μοντέλα (LLMs), οπότε είναι κρίσιμος για κάθε σύγχρονο AI workload. Οι σημερινές SIMD επεκτάσεις, όπως το AVX10, μπορούν να κάνουν αυτή τη δουλειά, αλλά έχουν περιορισμούς στην κλιμάκωση και στη πυκνότητα υπολογισμού.

Με βάση το whitepaper, οι δύο εταιρείες αποκαλούν το ACE «Standard Matrix Acceleration Architecture for x86». Η ιδέα είναι ότι ο ίδιος μηχανισμός θα δουλεύει από φορητούς υπολογιστές μέχρι supercomputers, χωρίς οι developers να χρειάζεται να μετακινούν τους AI υπολογισμούς σε εξειδικευμένο hardware.

Τα τεχνικά χαρακτηριστικά

Το ACE συνεργάζεται απευθείας με το AVX10 και προσθέτει μια νέα λειτουργία βασισμένη σε «outer product operation». Σύμφωνα με την ανακοίνωση των AMD και Intel, αυτή η λειτουργία προσφέρει 16 φορές πιο μεγάλη πυκνότητα υπολογισμού σε σύγκριση με την αντίστοιχη πράξη AVX10 multiply-accumulate, καταναλώντας τον ίδιο αριθμό vectors εισόδου.

Τα υποστηριζόμενα data formats για AI είναι:

  • INT8
  • OCP FP8
  • OCP MXFP8
  • OCP MXINT8
  • BF16

Στο επίπεδο λογισμικού, η ενσωμάτωση είναι ήδη σε εξέλιξη και θα καλύψει βιβλιοθήκες deep learning και HPC, εργαλεία Python όπως το NumPy και το SciPy, καθώς και τα δύο μεγάλα frameworks μηχανικής μάθησης, PyTorch και TensorFlow.

Η μεγάλη εικόνα για το x86

Πέρυσι, η συμμαχία ανακοίνωσε τέσσερα βασικά κοινά χαρακτηριστικά: FRED, AVX10, ChkTag και ACE. Από αυτά, το ACE είναι αυτό που στοχεύει αποκλειστικά στην εποχή της τεχνητής νοημοσύνης. Ο CEO της NVIDIA έχει δηλώσει σε προηγούμενη τοποθέτησή του ότι η συμμαχία AMD-Intel ήταν απαραίτητη για να μείνει ζωντανή η αρχιτεκτονική x86, σε μια εποχή όπου οι επιταχυντές AI και η αρχιτεκτονική ARM πιέζουν από όλες τις πλευρές.

Η άποψή μας στο Techblog

Η συνεργασία AMD-Intel σε επίπεδο instruction set είναι κάτι που σπάνια βλέπουμε και δείχνει πόσο σοβαρά παίρνουν την απειλή των εξειδικευμένων AI επιταχυντών. Για τον απλό χρήστη, αυτό σημαίνει ότι τα μελλοντικά laptop και desktop με AMD ή Intel CPU θα μπορούν να τρέχουν τοπικά μοντέλα τεχνητής νοημοσύνης πολύ πιο αποδοτικά, χωρίς ξεχωριστή κάρτα ή NPU. Το πότε ακριβώς θα δούμε τους πρώτους επεξεργαστές με ACE δεν έχει ανακοινωθεί, αλλά η κατεύθυνση είναι πλέον ξεκάθαρη.

Συχνές Ερωτήσεις

Τι είναι το ACE;

Είναι το νέο σύνολο εντολών (AI Compute Extensions) που προσθέτουν AMD και Intel στην αρχιτεκτονική x86 για επιτάχυνση πολλαπλασιασμού πινάκων σε AI εργασίες.

Σε ποιους επεξεργαστές θα εμφανιστεί το ACE;

Σε μελλοντικούς x86 επεξεργαστές της AMD και της Intel, από laptops και desktops μέχρι servers και supercomputers.

Πόσο πιο γρήγορο είναι το ACE σε σύγκριση με το AVX10;

Η outer product λειτουργία του ACE προσφέρει 16 φορές πιο μεγάλη πυκνότητα υπολογισμού από την αντίστοιχη πράξη AVX10 multiply-accumulate.

Ποια AI data formats υποστηρίζει το ACE;

Υποστηρίζει INT8, OCP FP8, OCP MXFP8, OCP MXINT8 και BF16, που είναι τα πιο διαδεδομένα formats σε νευρωνικά δίκτυα και LLMs.

Θα δουλεύει το ACE με τα γνωστά AI frameworks;

Ναι, η ενσωμάτωση είναι ήδη σε εξέλιξη για PyTorch, TensorFlow, NumPy, SciPy και βιβλιοθήκες deep learning και HPC.

Newsletter Techblog
Κάθε Παρασκευή στις 19:00 — smartphones, προσφορές, επιλογές. Χωρίς spam.

Με την εγγραφή σας αποδέχεστε την Πολιτική Απορρήτου.

Σχόλια

Αφήστε μια απάντηση

Η ηλ. διεύθυνση σας δεν δημοσιεύεται. Τα υποχρεωτικά πεδία σημειώνονται με *

Ροή ειδήσεων