[ guide-short · 14.07.2026 ]
התחלתי לחפור לכם על מודלים מקומיים. נכון?
אז בדכ יש שתי אפשרויות להריץ על המחשב - מודלים ממוצעים יהיו 9B.
ומודלים רציניים יותר 27-35 ביליון פרמטרים.
על טלפון בד״כ מריצים מודלים קטנים. כמה ביליונים בודדים של פרמטרים. כי יש גבול למה אפשר להכניס שם.
כזכור לכם, כתבתי פה מאמר על קוונטיזציה. איך ״מכווצים״ מודל כדי שיתאים למערכת עם פחות זיכרון. דיברנו על זה לא מעט.
ועכשיו - שני הדברים משתלבים יחד
מודל ראשון של 27B (סופר חזק!!!)
שרץ על טלפון (קוונטיזציה של 1bit)
ואווו
https://x.com/prismml/status/2077084891284721827?s=46
Today, we’re announcing Bonsai 27B: the first 27B-class model to run on a phone.
Bonsai 27B is the new multimodal flagship of the Bonsai family. Based on Qwen3.6 27B, it brings a new capability tier to local AI: multi-step reasoning, structured tool use, long-context workflows, and coherent agentic loops.
Until now, models in this class have been impractical to deploy locally. A 27B model occupies roughly 54 GB in 16-bit precision, and even a strong 4-bit build is around 18GB - too large for a phone and for most laptops.
Bonsai 27B changes that.
It comes in two variants:
• Ternary Bonsai 27B: 5.9 GB, 1.71 effective bits per weight, optimized for laptop-class quality.
• 1-bit Bonsai 27B: 3.9 GB, 1.125 effective bits per weight, optimized for phone-class footprint.