Το iPhone 18 Pro τρέχει τοπικά το Bonsai-27B με διπλάσια ταχύτητα από το 17 Pro. Το A20 Pro βοηθά, αλλά τα 12 GB RAM δείχνουν ήδη το όριο.
Το iPhone 18 Pro τρέχει τοπικά, χωρίς σύνδεση στο internet, το μοντέλο τεχνητής νοημοσύνης Bonsai-27B των 27 δισεκατομμυρίων παραμέτρων, όπως έδειξε δοκιμή που δημοσιοποιήθηκε την Κυριακή. Και το κάνει με διπλάσια ταχύτητα από το iPhone 17 Pro.
Πίσω από το άλμα δεν κρύβεται μόνο το A20 Pro.
Δύο Neural Engine και πιο γρήγορη μνήμη
Η διαφορά ξεκινά από το τσιπ, αλλά κρίνεται στη μνήμη. Το A20 Pro είναι το πρώτο στην ιστορία του Apple Silicon με διπλό Neural Engine 16 πυρήνων, φτιαγμένο αποκλειστικά για φορτία AI και με επιδώσεις πάνω από κάθε προηγούμενο SoC. Σε εργασίες νευρωνικών δικτύων, η μέγιστη απόδοσή του (throughput) ξεπερνά ακόμη και την 7πύρηνη GPU του ίδιου τσιπ.
Τα iPhone 18 Pro και 18 Pro Max έχουν 12 GB μνήμης LPDDR5X με δίαυλο 96 bit, αισθητά ταχύτερη από αυτή των iPhone 17 Pro και 17 Pro Max, με εύρος ζώνης ενοποιημένης μνήμης (unified memory) 115,2 GB/s. Ένα γλωσσικό μοντέλο σε κινητό παράγει κείμενο τόσο γρήγορα όσο γρήγορα διαβάζει τα βάρη του από τη μνήμη, γι’ αυτό το εύρος ζώνης μετράει όσο και ο επεξεργαστής.
Η δοκιμή με το Bonsai-27B
Τα πρώτα νούμερα του A20 Pro στο Geekbench ήταν μόνο η αρχή· η δοκιμή του Adrien Grondin δείχνει το τσιπ σε πραγματικό φορτίο AI. Ο Grondin έτρεξε το Bonsai-27B σε iPhone 18 Pro και τα tokens βγαίνουν με ρυθμό που δεν περιμένεις από κινητό, χωρίς κολλήματα και πτώσεις ταχύτητας.
Βοηθά και ο τρόπος που είναι φτιαγμένο. Η πρώτη γενιά Bonsai είναι κβαντισμένη σε 1 bit, δηλαδή ένα bit ανά παράμετρο, και τρέχει άνετα ακόμη και σε συσκευές με 4 GB μνήμης. Με 8 ή 12 GB πάει σφαίρα.
Newsletter Techblog
Κάθε Παρασκευή στις 19:00 — smartphones, προσφορές, επιλογές. Χωρίς spam.
Με την εγγραφή σας αποδέχεστε την Πολιτική Απορρήτου.
Το Bonsai 2 δεν χωράει
Το πρόβλημα εμφανίζεται με τη νεότερη έκδοση του μοντέλου. Σε αναρτήσεις στο X τέθηκε το λογικό ερώτημα: αφού κυκλοφόρησε το Bonsai 2, γιατί να μείνει κανείς στην πρώτη γενιά;
Η απάντηση δεν είναι ευχάριστη. Το Bonsai 2 δεν τρέχει ομαλά στο iPhone 18 Pro επειδή η έκδοσή του με κβαντισμό 2 bit δεν χωράει ολόκληρη στη μνήμη, με αποτέλεσμα πτώση απόδοσης. Ένα μοντέλο 2 bit πιάνει διπλάσιο χώρο από ένα 1 bit με ίδιο αριθμό παραμέτρων, και στα κινητά το ταβάνι το βάζει η RAM, όχι ο επεξεργαστής.
Για μεγαλύτερα και πιο σύνθετα μοντέλα, τα επόμενα iPhone θα χρειαστούν περισσότερη μνήμη.
Η άποψή μας στο Techblog
Το διπλάσιο τέμπο είναι ωραίο νούμερο, όμως το ουσιαστικό είναι άλλο: ένα κινητό μπορεί πλέον να δουλέψει με σοβαρό AI στο αεροπλάνο ή σε χωριό χωρίς σήμα, χωρίς να στέλνει λέξη σε κανέναν server. Το Bonsai 2 δείχνει όμως ότι τα 12 GB είναι ήδη το όριο. Αν η Apple θέλει το on-device AI να βγει από τη ζώνη του demo, η επόμενη γενιά Pro χρειάζεται περισσότερη RAM, όχι απλώς πιο γρήγορο Neural Engine.
Σχόλια