Το iPhone σου γίνεται εργαλείο AI — και δεν χρειάζεται σύνδεση στο internet

Το Bonsai Image 4B της PrismML φέρνει δημιουργία εικόνων AI απευθείας σε iPhone και Mac, χωρίς cloud, με μοντέλα 1-bit και Ternary ανοιχτού κώδικα.

Η startup PrismML κυκλοφόρησε το Bonsai Image 4B, μια οικογένεια μοντέλων δημιουργίας εικόνων σχεδιασμένη να τρέχει εξ ολοκλήρου στη συσκευή του χρήστη — από laptops μέχρι smartphones. Είναι, σύμφωνα με την ίδια την εταιρεία, το πρώτο μοντέλο δημιουργίας εικόνας της κατηγορίας 4B που λειτουργεί απευθείας σε iPhone.

Τι σημαίνει αυτό στην πράξη

Το Bonsai Image 4B δημιουργεί εικόνα 512×512 pixels σε 9,4 δευτερόλεπτα σε iPhone 17 Pro Max και περίπου 6 δευτερόλεπτα σε Mac M4 Pro. Σε σύγκριση, το πλήρες FLUX.2 Klein 4B δεν χωρά καν στη μνήμη του iPhone 17 Pro Max. Σε Mac M4 Pro, η Bonsai έκδοση είναι έως 5,6 φορές πιο γρήγορη από το αντίστοιχο full-precision pipeline. Το συνολικό payload για deployment σε Apple Silicon φτάνει τα 3,42 GB για τη 1-bit και 3,88 GB για την Ternary παραλλαγή, έναντι 15,97 GB του πλήρους μοντέλου.

Αξιόπιστη απόδοση και σε benchmarks

Η συμπίεση δεν θυσιάζει την ποιότητα. Στα benchmarks GenEval, HPSv3 και DPG-Bench, η Ternary παραλλαγή διατηρεί το 95% της απόδοσης του πλήρους FLUX.2 Klein 4B, ενώ η 1-bit εκδοχή φτάνει το 88%. Και τα δύο μοντέλα ξεπερνούν κατά πολύ παλαιότερες λύσεις παρόμοιου μεγέθους, όπως το BK-SDM-Small (42%) και το Stable Diffusion 1.5 (51%). Το Bonsai Image 4B διατίθεται μεανοιχτού κώδικα με άδεια Apache 2.0, ενώ κυκλοφορεί παράλληλα και η εφαρμογή Bonsai Studio για iPhone.

Γιατί η τοπική εκτέλεση κάνει διαφορά

Η δημιουργία εικόνων στο cloud σημαίνει αναμονή, κόστος ανά αίτημα και ανησυχίες για το απόρρητο. Το Bonsai Image 4B αλλάζει αυτή τη δυναμική: μόλις το μοντέλο «χωράει» στη συσκευή, ο χρήστης μπορεί να πειραματιστεί, να επαναλάβει και να αναθεωρήσει προμπτς χωρίς να ξοδεύει χρόνο ή χρήμα σε κάθε αίτημα. Τα δεδομένα παραμένουν αποκλειστικά στη συσκευή, χωρίς αποστολή σε εξωτερικούς servers.

Η άποψή μας στο Techblog

Η PrismML κάνει κάτι που πολλοί θεωρούσαν αδύνατο πριν από ένα χρόνο: παράγωγή εικόνων επαγγελματικής ποιότητας χωρίς σύνδεση στο internet, απευθείας από το κινητό σου. Για όποιον θέλει να δημιουργεί περιεχόμενο χωρίς να στέλνει τα prompts του σε τρίτους, αυτό είναι μια αξιοσημείωτη εξέλιξη. Αν ο ανοιχτός κώδικας και η Apache 2.0 άδεια ελκύσουν την κοινότητα προγραμματιστών, θα δούμε σύντομα ενδιαφέρουσες εφαρμογές να χτίζονται πάνω σε αυτή τη βάση.