Qwen3.8-27B: הבנצ'מרקים, הגרסאות ללא צנזורה והסיפור האמיתי של AI מקומי

Qwen3.8-27B הוא בדיוק מסוג המודלים שהופכים את ה-AI המקומי למעניין: קטן מספיק כדי לעבור קוונטיזציה ולהתאים לתחנת עבודה אישית מאובזרת היטב, אך שאפתני מספיק כדי להתמודד עם תכנות ברמת מאגר קוד, סוכני טרמינל, שימוש במחשב, הבנת מסמכים ומשימות מקצועיות ממושכות.

הוא גם מבחן מצוין למהירות שבה ארבעה סיפורים נפרדים מסתבכים זה בזה ברשת. ישנו מודל Qwen הרשמי. ישנם גרפי הבנצ’מרקים של Qwen עצמה. ישנן בדיקות מקומיות עצמאיות. וישנן נגזרות צד שלישי “ללא צנזורה”, שפוסטי ההשקה שלהן הפכו לוויראליים ב-X.

הסיפורים האלה חופפים, אך אינם ניתנים להחלפה זה בזה.

הראיות תומכות במסקנה ש-Qwen3.8-27B הוא מודל dense בגודל 27B, בעל יכולות חריגות וניתן להרצה מקומית. הן אינן תומכות בכינוי ה-checkpoint הרשמי “ללא צנזורה”, בהחלת ציוני הבנצ’מרק של BF16 על כל fork שעבר קוונטיזציה, או בהנחה שהסרת סירובים הופכת את המודל לחכם יותר.

ראשית: לשם המדויק של המודל יש חשיבות

השם הקנוני הוא Qwen3.8-27B. המאגר הרשמי של Qwen מתארך את פרסום משקלי ה-27B ל-14 באוגוסט 2026. האיות חשוב, מפני שאפשר לטעות ולפרש “Qwen 3.8 27B” כ-Qwen3-8B — מודל בעל 8 מיליארד פרמטרים מדור קודם.

כרטיס המודל הרשמי מתאר מודל vision-language שעבר post-training, בעל ארכיטקטורת dense ו-27 מיליארד פרמטרים, תחת רישיון Apache-2.0. הניסוח “משקלים פתוחים תחת Apache-2.0” מדויק יותר מ”קוד פתוח לחלוטין”: המשתמשים יכולים להוריד ולשנות את המשקלים תחת רישיון מתירני, אך Qwen לא פרסמה את מערך נתוני האימון המלא ואת תהליך האימון בשלמותו.

מבחינה ארכיטקטונית, זה אינו Transformer רגיל המבוסס כולו על attention. 64 שכבות מודל השפה שלו מסודרות ב-16 קבוצות חוזרות, שבכל אחת מהן שלוש שכבות linear-attention מסוג Gated DeltaNet ואחריהן שכבת full-attention אחת. יש לו ממד חבוי של 5,120, grouped-query attention בבלוקים של full-attention, מקודד ראייה וראש multi-token prediction.

אורך ההקשר המקורי הוא 262,144 טוקנים, ו-Qwen מתעדת הרחבה למיליון טוקנים בעזרת YaRN. זהו גבול יכולת, לא הבטחת זיכרון. Qwen עצמה מזהירה שתצורות YaRN סטטיות נוכחיות עלולות לפגוע באיכות בהקשרים קצרים, ולכן יש להפעיל RoPE scaling רק כאשר הוא באמת נחוץ.

מצב החשיבה מופעל כברירת מחדל. Qwen מציעה רמות מאמץ חשיבה xhigh,‏ medium ו-low, ויכולה לשמר את מצב החשיבה בין תורים. התיעוד שלה מעלה נקודה מעשית במיוחד: הפחתת מאמץ החשיבה עשויה לקצר תור בודד, אך להגדיל את מספר הניסיונות הכושלים והחזרות — ולכן זמן המשימה הכולל עדיין עשוי להתארך.

מה אומרת טבלת הבנצ’מרקים הרשמית

Qwen מדווחת על שיפור רחב לעומת Qwen3.6-27B, במיוחד בסוכני תכנות, עבודה ארוכת-טווח, ציות להוראות ושימוש חזותי במחשב.

אלה תוצאות ש-Qwen מדווחת עליהן, ולא טורניר עצמאי יחיד שנערך בתנאים זהים בכל העמודות. הערות המתודולוגיה הן חלק מהתוצאה:

• מרבית המודלים ב-SWE-bench Pro הורצו מחדש דרך harness של Claude Code בטמפרטורה 1.0,‏ top-p של 0.95 והקשר של 256K. הנתון של Opus הוא הציון הרשמי שדווח לגביו בנפרד.
• Qwen מציינת שמשימות בעייתיות תוקנו לפני הרצות הבסיס החוזרות שלה.
• QwenSWEBench ו-CoWorkBench הם בנצ’מרקים פנימיים.
• QwenSWEBench מדווח על ממוצע משלוש הרצות, עם timeout של שמונה שעות ועד 32,768 טוקני פלט.
• ב-Humanity’s Last Exam נעשה שימוש ב-GPT-4o כשופט, ואילו ב-Vision2Web נעשה שימוש במודל אחר כשופט.
• מספר annotations בבנצ’מרקים החזותיים תוקנו ידנית.

הקריאה הזהירה היא: “Qwen מדווחת על קפיצה דורית גדולה ועל כמה ניצחונות בולטים”. הטבלה אינה מוכיחה ש-”Qwen3.8-27B מנצח את Opus באופן כללי”. באותה טבלה שפורסמה הוא מפסיד ב-Terminal Bench,‏ NL2Repo,‏ GPQA Diamond ו-Humanity’s Last Exam.

בדיקות עצמאיות מצמצמות את היקף הטענה

מחקר קהילתי שניתן לשחזר על RTX 5090 מספק משקל נגד חשוב. על החומרה, הקוונטיזציה, סביבת הריצה ומעטפת הסוכן שבהן נעשה שימוש, Qwen3.8-27B קיבל 56.2% בהרצת Terminal Bench 2.1 מלאה עם k=1 — ולא 73.0 כפי ש-Qwen דיווחה. ובכל זאת, באותה תצורה הוא הקדים את Qwen3.6-27B בתוצאה של 56.2% לעומת 48.3%.

אותו מחקר מצא ש-Qwen3.8 השיג 66.2% ב-SWE-bench Verified, לעומת 69.4% ל-Qwen3.6 — פער שהמחבר רואה כקרוב מספיק כדי להצדיק זהירות. המחקר תיעד timeouts, התנהגות parser, כשלי harness, בחירות sampling ואת הנטייה של המודל להגיש מוקדם יותר.

זו אינה סיבה לפסול את בנצ’מרקי ההשקה. זו הסיבה לבדוק את הפריסה המדויקת. ציון של מודל הוא תוצר של המשקלים, הקוונטיזציה, סביבת הריצה, ה-prompt, הכלים, ה-scaffold, מדיניות ה-timeout, ה-parser ולעיתים גם מודל שופט. שנו מספיק מהמרכיבים האלה — והמספר ישתנה יחד איתם.

Artificial Analysis מציגה זווית נוספת על המודל המתארח. תמונת המצב שלה מ-30 באוגוסט הציבה את Qwen3.8-27B במדד Intelligence Index של 52 עם חשיבה ברמת xhigh, שירד ל-44 ב-medium, ל-43 ב-low ול-35 ללא חשיבה. קצב הפלט שנמדד ב-API של Alibaba עמד על כ-46–56 טוקנים לשנייה בין המצבים. אלה תוצאות של API מתארח, לא בנצ’מרקים מקומיים של GGUF או Apple Silicon, וגם הציונים וגם הדירוגים עשויים להשתנות.

עד כמה “מקומי” הוא מקומי במודל dense בגודל 27B?

משקלי BF16 הרשמיים תופסים כ-55.6GB. ה-checkpoint הרשמי ב-FP8 תופס כ-30.9GB. המרות GGUF קהילתיות של Unsloth נעות מכ-29GB ב-Q8_0, דרך 16.5GB ב-Q4_K_M ו-12GB ב-IQ3_S, ועד 8.4GB ב-IQ2_S. שימוש בראייה מוסיף מקרן חזותי בגודל של כ-0.9GB נוספים.

גודל הקובץ אינו זיכרון בזמן הריצה. KV cache, מצב recurrent, הקצאות מנוע ההסקה, רכיבי הראייה ומערכת ההפעלה — כולם מתחרים על הקיבולת. מודל שנטען אינו בהכרח מודל שיכול להחזיק את אורך ההקשר או את רמת המקביליות הדרושים לכם.

מתכנן קיבולת ה-AI המקומי המעודכן שלנו כולל כעת את גודל ה-Q4 הנצפה של Qwen3.8-27B, אומדן KV ל-full-attention שנגזר מהארכיטקטורה, ואת תצורות Apple M6 ו-M5 Ultra החדשות. השתמשו בו כדי לצמצם את רשימת החומרה, ואז הריצו את הארטיפקט המדויק לפני רכישה או התחייבות לפריסה.

Qwen מתעדת רשמית תמיכה ב-Transformers,‏ vLLM,‏ SGLang ו-TokenSpeed; המאגר שלה מצביע גם על נתיבי llama.cpp/GGUF ו-MLX. התמיכה בפריימוורקים מתפתחת במהירות, ולכן גם את המילה “נתמך” יש לאמת מול היכולות שאתם צריכים: ראייה, YaRN, שימור חשיבה ו-multi-token prediction עשויים להגיע בלוחות זמנים שונים.

המודל ללא צנזורה אינו מהדורה רשמית של Qwen

הסיפור הוויראלי על “Qwen ללא צנזורה” מתייחס ל-checkpoints שעברו שינוי בידי צדדים שלישיים. כדאי להפריד בין ארבעה מונחים:

• משקלים פתוחים פירושם שניתן להוריד את הפרמטרים בכפוף לרישיון.
• ללא צנזורה או abliterated פירושם בדרך כלל שצד שלישי שינה את התנהגות הסירוב.
• Fine-tuned פירושו שאימון נוסף שינה את התנהגות המודל.
• Quantized פירושו שהדיוק המספרי הופחת כדי לשנות את הגודל והביצועים.

מודל יכול להשתייך לכמה מהקטגוריות האלה בו-זמנית, אך אף אחת מהן אינה מילה נרדפת לאחרת.

הנגזרת הבולטת ביותר הגיעה מ-OrcaRouter בגרסאות BF16,‏ FP8,‏ GGUF ו-NVFP4. כרטיס המודל הנוכחי שלה מתאר directional ablation או orthogonalization: זוהה כיוון סירוב ב-residual stream והוא הוסר מהמטריצות שכותבות לתוכו. זהו checkpoint חדש שעבר שינוי התנהגותי, לא הגדרה נסתרת במשקלים הרשמיים של Qwen.

מה באמת הפך לטרנד ב-X

הפוסט בעל המעורבות הגבוהה ביותר שבו צפינו ישירות בנוגע לנגזרת היה פוסט השקת ה-FP8 של OrcaRouter מ-15 באוגוסט. ב-30 באוגוסט הוצגו בעמוד הציבורי שלו כ-7.6 מיליון צפיות, 7,000 לייקים, 657 שיתופים מחדש, 133 תגובות ו-6,500 שמירות. הפוסט הציג את המשקלים ככלי למחקר red teaming ואבטחת AI.

הוויראליות הזו היא תשומת לב אמיתית. היא אינה בנצ’מרק.

נתוני המעורבות דינמיים. החיפוש ב-X דרש התחברות במהלך המחקר, ולכן זו הקבוצה בעלת המעורבות הגבוהה ביותר שבה צפינו ישירות — לא טענה שדירגנו באופן ממצה כל פוסט בפלטפורמה.

גם ההבדל בין משקלים שניתן להוריד לבין API מתארח חשוב. ספק יכול להחיל כללי שימוש מקובל, מסננים, לוגים או בקרות חשבון סביב נגזרת, גם כאשר ל-checkpoint שניתן להוריד יש התנהגות סירוב חלשה יותר.

האם הסרת סירובים מסייעת בעבודה רגילה?

התועלת הלגיטימית הסבירה צרה יותר — ושימושית יותר — מההייפ: פחות סירובי שווא.

עוזר תכנות יכול להיתקל בבקשות לגיטימיות שנראות במבט ראשון כמו חומר מסוכן. למשל: ביקורת של יישום בהרשאה, בחינת הגנות נגד ניצול חולשות, ניתוח קוד חשוד בתוך sandbox, דיון בדפוסי ניצול לרעה בדוח בטיחות, כתיבת מסנני הגנה, או טיפול בטקסט רפואי, משפטי, פוליטי ובדיוני ישיר. מודל זהיר מדי עלול לעצור גם כאשר המשימה מותרת ומוגדרת היטב.

ההערכה המוגבלת של OrcaRouter עצמה מדווחת כי סירובי-יתר על XSTest-safe ירדו מ-5.6% ב-Qwen המקורי ל-0.4% בנגזרת שלה במצב ללא חשיבה. במדגמי היכולת הקטנים שלה חל שינוי של ‎+0.4 ב-MMLU,‏ ‎−0.8 ב-MMLU-Pro,‏ ‎−1.3 ב-GSM8K ו-‎−0.6 ב-CMMLU.

אלה תוצאות שדווחו בידי מעלה המודל, על סמך מדגם קטן וטקסט בלבד, ובחלקן באמצעות מסווג סירובים מבוסס-כללים. בכרטיס מצוין במפורש שהן אינן ברמה הראויה לפרסום מחקרי. הן תומכות בטענה “פחות סביר שהמודל יסרב למדגם הזה”, לא בטענה “המודל חכם יותר”.

ראיות מנגזרות אחרות מחזקות את הגבול הזה. OBLITERATUS מדווחת שהגרסה ששונתה ירדה בכ-2.1 נקודות MMLU, עם ירידה גדולה יותר ב-STEM; הגרסה המקורית והגרסה ששונתה השלימו כל אחת שבע מתוך שמונה משימות מהעולם האמיתי שנבחרו. נגזרת של Jonathan Coletti מדווחת על הרבה פחות סירובים לצד ירידה ממוצעת של כחצי נקודה ביכולת בבדיקות zero-shot מוגבלות, ומציינת במפורש שביצועי תכנות, מתמטיקה, רב-לשוניות, יצירה וראייה לא נבדקו.

המסקנה הסבירה היא ששינוי הסירוב יכול להפחית חיכוך תוך שמירה על חלק גדול — אך לא בהכרח על כול — מהיכולת הכללית. לא הוכח שהוא משפר את נכונות הקוד.

מדוע פחות סירובים עלולים ליצור יותר עבודה הנדסית

התנהגות סירוב היא רק שכבת בטיחות אחת, ולעיתים קרובות שכבה גסה. הסרתה אינה מוסיפה דיוק עובדתי, הרשאה, עקרון ההרשאה המזערית או בידוד כלים. אצל סוכן, פעולה שגויה שבוצעה בצייתנות עלולה לגרום נזק רב יותר מסירוב.

המחקר העצמאי על RTX 5090 לא פרסם הערכת prompt injection עבור Qwen3.8. היעדר הראיה הזה הוא גבול חשוב בפני עצמו: בנצ’מרקים חזקים של תכנות וסוכנים אינם מוכיחים עמידות בפני פלט עוין מכלים. שליטה מקומית הופכת את ה-harness שסביב המודל לחשוב יותר, לא פחות.

לשימוש לגיטימי בסביבת production, שלבו כל נגזרת בעלת שיעור סירוב נמוך עם:

• סביבת ריצה מבודדת וכלים מתוך allowlist;
• ברירות מחדל לקריאה בלבד עבור מאגרי קוד, דפדפנים ומסדי נתונים;
• אישור מפורש לפני שליחת הודעות, הוצאת כסף, שינוי production או מחיקת נתונים;
• provenance ולוגים עבור תוכן שנשלף ופלט של כלים;
• הערכות ברמת המשימה גם להצלחה וגם לתופעות לוואי לא בטוחות;
• שכבת מדיניות נפרדת כאשר משתמשים או הציבור יכולים לשלוח prompts.

המטרה אינה להחזיר מסנן אוניברסלי יחיד. המטרה היא להעביר את השליטה מסירוב אטום בתוך המודל לגבולות מפורשים וניתנים לביקורת סביב המערכת.

המקומות שבהם Qwen3.8-27B באמת משכנע

מקרי השימוש המקומיים החזקים ביותר של המודל הרשמי אינם תלויים ב-fork ללא צנזורה:

עבודה פרטית על מאגרי קוד

אפשר להשאיר מודל 27B קרוב לקוד ולמסמכים קנייניים. השיפור בבנצ’מרקים של תכנות וסוכנים הופך את Qwen למועמד רציני לניתוח issues, יצירת בדיקות, refactoring מוגבל, code review וחיפוש במאגר — בתנאי שהצוות מעריך אותו על ה-stack שלו.

עבודה טכנית מולטי-מודאלית

קלט תמונה ווידאו מקורי מאפשר למודל אחד להסיק מסקנות מצילומי מסך, דיאגרמות, קובצי PDF, מצב ממשק וקוד. הדבר מפחית את נטל האינטגרציה שבהעברת כל משימה חזותית למודל נפרד.

משימות משרדיות ומחקריות ממושכות

השיפור ב-CoWorkBench,‏ JobBench ובציות להוראות מצביע על סינתזת מסמכים, ניתוח משיק לגיליונות אלקטרוניים, ארגון מחקר ו-workflows המונעים בידי כלים. גם כאן, הציונים שפורסמו הם ראיה שכדאי לבדוק — לא התחייבות לרמת שירות.

תקציב חשיבה שניתן לשלוט בו

מאמץ חשיבה ושימור החשיבה מציעים בורר מעשי למשימות שונות. מאמץ נמוך עשוי להתאים לעיצוב פלט או לחילוץ; תכנות מורכב עשוי להצדיק xhigh. מדדו את זמן המשימה המלא ואת שיעור הניסיונות החוזרים, לא רק את מספר הטוקנים בכל תור.

המשכיות לא מקוונת

לאחר התקנת המשקלים וסביבת הריצה, checkpoint מקומי יכול להמשיך לפעול בזמן השבתת API או שינוי מדיניות. המחיר הוא אחריות תפעולית: אחסון המודל, עדכונים, הערכה, אבטחה וחומרה נמצאים כעת בידיכם.

שאלות נפוצות

האם Qwen3.8-27B הוא רשמית ללא צנזורה?

לא. Qwen פרסמה מודל עם משקלים פתוחים תחת Apache-2.0. ה-checkpoints “ללא צנזורה” הם שינויים של צדדים שלישיים, ובהם OrcaRouter ומפרסמים קהילתיים אחרים.

האם ה-fork ללא צנזורה מתכנת טוב יותר?

אין ראיה מהימנה למסקנה הזו. הערכות מוגבלות של נגזרות מראות פחות סירובים לצד ציונים כלליים שנשמרו בקירוב או ירדו במידה מסוימת, וכמה מכרטיסי המודל מציינים במפורש שלא בדקו תכנות.

האם Qwen3.8-27B יכול לרוץ על 16GB?

קובץ שעבר קוונטיזציה אגרסיבית יכול להיות קטן מ-16GB, אך קובץ GGUF הנפוץ מסוג Q4_K_M הוא בגודל של כ-16.5GB עוד לפני מקרן ראייה, cache להקשר, הקצאות סביבת הריצה ומערכת ההפעלה. תכננו סביב 24GB כמינימום מעשי ל-Q4 ואמתו את עומס העבודה המדויק.

האם המודל מנצח את Opus 4.6 Max?

הוא מנצח בכמה שורות בטבלה של Qwen ומפסיד באחרות. harnesses ושיטות דיווח שונים מגבילים גם הם השוואה ישירה. “תחרותי בכמה משימות שפורסמו” הוא ניסוח שניתן להגן עליו; “טוב יותר באופן כללי” אינו כזה.

האם הקשר של 262K מגיע בחינם לאחר שהמשקלים נכנסים לזיכרון?

לא. הקשר צורך זיכרון וחישוב. הקשר ארוך מאוד יכול לשנות באופן מהותי את הקיבולת וה-latency, ו-Qwen מזהירה ש-scaling סטטי להקשר ארוך עלול לפגוע בקלטים קצרים יותר.

השורה התחתונה

Qwen3.8-27B חשוב מפני שהוא דוחס מערך רחב של יכולות סוכניות ומולטי-מודאליות למודל dense שחומרה מקומית יכולה, באופן סביר, להריץ. תוצאות ההשקה של Qwen חזקות מספיק כדי להצדיק הערכה; התוצאות העצמאיות שונות מספיק כדי לדחות מסקנות אוטומטיות.

לנגזרות ללא צנזורה יש חשיבות מסיבה אחרת. הן חושפות ביקוש אמיתי למודלים שאינם מסרבים בטעות לעבודה לגיטימית שנראית רגישה. הפוסטים הוויראליים ב-X מכמתים את הביקוש הזה. הם אינם מוכיחים שיפור ביכולת, ואינם מבטלים את הצורך ב-sandboxing, הרשאות והערכה מדודה ברמת המשימה.

השתמשו ב-checkpoint הרשמי כאשר התנהגותו מתאימה. בדקו נגזרת כאשר סירובי שווא הם צוואר הבקבוק האמיתי. בכל מקרה, העריכו את הקוונטיזציה, סביבת הריצה, הכלים והחומרה המדויקים שיבצעו את העבודה.

מקורות ומתודולוגיה

• המאגר הרשמי של Qwen3.8 וכרונולוגיית ההשקה
• כרטיס המודל הרשמי של Qwen3.8-27B והערות הבנצ’מרקים
• רישיון Apache-2.0 הרשמי
• קובצי FP8 הרשמיים של Qwen3.8-27B
• קובצי GGUF של Qwen3.8-27B מבית Unsloth
• Artificial Analysis: Qwen3.8-27B
• הערכה ניתנת לשחזור על RTX 5090
• כרטיס המודל FP8 ללא צנזורה של OrcaRouter
• הערכת נגזרת OBLITERATUS
• הערכת נגזרת של Jonathan Coletti
• פוסט ההשקה של OrcaRouter בעל המעורבות הגבוהה ב-X

קובצי המודל, כרטיסי המודל, דפי הבנצ’מרקים, המעורבות ב-X והזמינות נבדקו ב-30 באוגוסט 2026. נתונים דינמיים מסומנים כתמונות מצב. תוצאות של ספקים ומעלי מודלים מסומנות לפי המקור שלהן; המחקר המקומי העצמאי מזוהה בנפרד.