https://huggingface.co/AngelSlim/Hy3-GGUF

עכשיו אפשר להשמיש אותה על מחשב תומך.

זה זמן טוב להגיד שמחשב מקבוק 128 g מדגם m5 max יריץ אותו טוב ,אחרת גם מחשב עם 64 גיגה זיכרון יג׳עג׳ע בכמה טוקנים לשניה… קצב ממש נמוך.

אני מזכיר שבינתיים הוא חינם לגמרי דרך api ומזכיר שאם כן יש לכם כרטיס מסך חזק אפשר להריץ מודלים לוקלים.