למה אין תשובה אחת
כל כמה שבועות מישהו שואל אותנו "איזה מודל הכי טוב בעברית?", ומצפה לשם אחד. אנחנו לא נותנים שם, משלוש סיבות.
הראשונה: המודלים מתעדכנים כל כמה חודשים, וכל דירוג שנפרסם יתיישן לפני שתסיימו לקרוא. השנייה: לא מדדנו את כל המודלים על אותו מבחן מבוקר, ולכן כל דירוג שהיינו נותנים היה דעה ולא נתון. השלישית, והחשובה: השאלה הנכונה היא לא איזה מודל הכי טוב בעברית, אלא איזה מודל מבין את הלקוחות שלכם ומפעיל נכון את המערכות שלכם, בעלות שמתאימה לנפח שלכם.
מודל שמתרגם מצוין ויודע טריוויה ישראלית עדיין יכול לפנות ללקוחה בלשון זכר, לקבוע תור ליום הלא נכון כשכתבו לו "ראשון הבא", או להמציא מחיר שלא קיים במחירון. את הדברים האלה אף מדד ציבורי לא בודק בשבילכם.
מה המדדים הציבוריים כן אומרים
יש כמה משאבים רציניים להערכת מודלים בעברית, וכדאי להכיר אותם כדי לדעת מה הם מודדים ומה לא.
| משאב | מה הוא בודק | מה הוא לא בודק |
|---|---|---|
| Hebrew LLM Leaderboard | שאלות ותשובות על טקסט (HeQ), ניתוח סנטימנט, Winograd, תרגום אנגלית-עברית, ובגרסה הנוכחית של הלוח גם SNLI וטריוויה ישראלית | שיחה מרובת סבבים, קריאה לכלים, מודלים סגורים דרך API |
| חבילת המבחנים של DictaLM 2.0 | שאלות ותשובות, סנטימנט, Winograd, תרגום וסיכום | תרחישי שירות לקוחות ומכירה |
| חבילת המבחנים לצ'אט של DictaLM 3.0 | תרגום, סיכום, Winograd, טריוויה ישראלית וניקוד | הזיות על מידע של עסק ספציפי, עלות וזמן תגובה בנפח שלכם |
Hebrew LLM Leaderboard
הלוח נבנה במימון התוכנית הלאומית לעיבוד שפה טבעית בעברית ובערבית, בשיתוף DICTA ו-Webiks, ובייעוץ מדעי של פרופ' רעות צרפתי מאוניברסיטת בר-אילן. לפי הפוסט שהשיק אותו, המבחנים רצים בפורמט few-shot, והמודלים שנשלחים אליו נפרסים דרך Hugging Face Inference Endpoints. בפועל זה אומר שהוא משווה בעיקר מודלים פתוחים שזמינים ב-Hugging Face, ולא את המודלים הסגורים שרוב העסקים מתחברים אליהם דרך API.
הפוסט גם מסביר למה עברית קשה למודלים: זו שפה עשירה מורפולוגית, עם מערכת של שורשים ומשקלים שמייצרת הרבה צורות תקינות מאותו שורש, ושיטות חלוקה רגילות לטוקנים לא מתמודדות איתה היטב.
DictaLM 2.0 ו-3.0
DICTA מפתחת מודלים פתוחים שמותאמים לעברית. DictaLM 2.0, שהמאמר עליו פורסם ביולי 2024, נבנה על בסיס Mistral ואומן על כ-200 מיליארד טוקנים בעברית ובאנגלית. DictaLM 3.0, שהמאמר עליו פורסם בפברואר 2026, מגיע בשלושה גדלים: 24B שמבוסס על Mistral-Small-3.1, 12B שמבוסס על NVIDIA Nemotron Nano V2, ו-1.7B שמבוסס על Qwen3. לכל אחד חלון הקשר של 65 אלף טוקנים, ויש גרסת בסיס וגרסת צ'אט עם תמיכה בקריאה לכלים. המשקלות זמינים ב-Hugging Face תחת הארגון dicta-il, וגרסת 24B-Thinking מתפרסמת ברישיון Apache 2.0.
זה משאב חשוב אם אתם צריכים מודל שרץ אצלכם. אבל גם כאן, ציון טוב בניקוד או בטריוויה לא אומר שהמודל יתפקד טוב כסוכן מכירות בוואטסאפ. את זה בודקים בנפרד.
מה עברית עושה לסוכן עסקי
אלה הבעיות שאנחנו רואים בפועל כשמודלים פוגשים לקוחות ישראלים אמיתיים, ולכן הן צריכות להיות במבחן:
- סלנג ושגיאות כתיב. "אפשר תור לאחה״צ", "יש לכם משהו ב-30 שח", "סבבה אז מחר". לקוחות לא כותבים כמו בעיתון.
- עברית ואנגלית באותו משפט. "כמה עולה ה-premium package", "שלחתי לכם screenshot". המודל צריך להבין, ולענות בעברית תקינה בלי לתרגם שמות של מוצרים.
- לשון פנייה. בעברית כל פועל ותואר מסמנים מגדר. מודל שפונה ללקוחה "אתה מוזמן" נשמע כמו תרגום מכונה. צריך כלל ברור: לזהות מגדר מתוך השיחה, או לנסח באופן ניטרלי.
- מספרים, תאריכים ומטבע. תאריך בפורמט יום/חודש, "יום ראשון הבא" ביחס לתאריך של היום, מחירים בשקלים, מספרי טלפון שמתחילים ב-05. טעות כאן היא לא בעיית סגנון, היא תור שנקבע ליום הלא נכון.
- תצוגה מימין לשמאל. משפט עברי עם מספר, אימוג'י או מילה באנגלית בסופו יכול להתהפך בתצוגה. בודקים את זה על מכשיר אמיתי, לא רק בלוג.
- עלות טוקנים. החלוקה לטוקנים משתנה ממודל למודל, ואותה הודעה בעברית עשויה לעלות אחרת במודלים שונים. אל תסתמכו על מחיר למיליון טוקנים בלבד, מדדו עלות בפועל לשיחה.
השיטה: מבחן של 50–100 הודעות אמיתיות
זה התהליך שאנחנו מריצים לפני שבוחרים מודל לסוכן. הוא לוקח כמה ימים, והוא חוסך חודשים של תיקונים בייצור.
- איסוף. קחו 50 עד 100 הודעות אמיתיות מוואטסאפ, מהמייל ומהטפסים של החודשים האחרונים. כסו את כל הסוגים: שאלות פשוטות, שאלות מחיר, תלונות, בקשות לשינוי, הודעות עם שגיאות, הודעות שמערבבות שפות, לקוחות כועסים, שאלות שהתשובה עליהן לא קיימת אצלכם, וכמה ניסיונות "לשבור" את הבוט.
- אנונימיזציה. הסירו שמות, טלפונים, כתובות ומספרי תעודת זהות לפני שהנתונים יוצאים לשום מודל חיצוני. אם אתם לא בטוחים מה מותר, קראו את המאמר שלנו על חוק הגנת הפרטיות.
- תשובה צפויה לכל הודעה. לא נוסח מדויק, אלא תוצאה: איזה כלי צריך להיקרא ועם אילו פרמטרים, איזה מידע צריך להופיע, או שהנכון הוא להעביר לנציג.
- אותן הנחיות, כמה מודלים. הריצו את אותה הנחיית מערכת ואותם כלים על 3–4 מודלים: שניים מהגדולים, אחד זול ומהיר, ואם פרטיות או אירוח עצמי חשובים לכם, גם מודל פתוח.
- ציון לפי קריטריונים. ראו הטבלה למטה. מודל שפה אחר יכול לתת ציון ראשוני, אבל את ההחלטה נותן עובד דובר עברית שמכיר את הלקוחות.
- עלות וזמן. מדדו עלות לשיחה ואת זמן התגובה החציוני וב-95% מהמקרים. סוכן שעונה מעולה אחרי 20 שניות מפסיד לקוחות בוואטסאפ.
- שימור. שמרו את המבחן. בכל פעם שספק מעדכן מודל, או שאתם משנים הנחיות, מריצים אותו שוב. כך תופסים נסיגה לפני שהלקוחות תופסים אותה.
טבלת הקריטריונים
| קריטריון | איך בודקים | מה נחשב כישלון |
|---|---|---|
| הבנת כוונה | האם המודל זיהה מה הלקוח רוצה | תשובה לשאלה אחרת, או בקשת הבהרה כשהכוונה ברורה |
| איכות העברית | לשון פנייה, ניסוח טבעי, אין תרגומית | פנייה במגדר שגוי, משפטים שנשמעים מתורגמים |
| קריאה לכלים | הכלי הנכון, פרמטרים תקינים, תאריך מחושב נכון | "ראשון הבא" שהופך לתאריך שגוי, שדה חובה חסר |
| הזיות על מידע עסקי | שאלות שהתשובה עליהן לא נמצאת אצלכם | מחיר, שעה או מדיניות שהמודל המציא |
| העברה לנציג | תלונות, בקשות חריגות, לקוח כועס | המודל ממשיך לנסות לפתור במקום להעביר |
| פורמט | תאריכים, שקלים, טלפונים, תצוגה מימין לשמאל | מספרים הפוכים, פורמט אמריקאי של תאריך |
| עלות וזמן תגובה | עלות לשיחה, זמן חציוני ו-95% | חריגה מהתקציב או מזמן התגובה שהגדרתם מראש |
כמה הודעות לדוגמה, מהסוג שאנחנו מכניסים למבחן: "היי אפשר תור ביום ג אחה״צ? משהו אחרי 4", "כמה עולה ה-premium שלכם לחודש", "שלחתם לי חשבונית עם סכום לא נכון", "אני צריכה לבטל את ההזמנה מאתמול", "מה שעות הפתיחה בחג?" כשאין לכם בכלל מידע על החג. ההודעה האחרונה היא המבחן הכי חשוב: התשובה הנכונה היא "לא יודע, אבדוק", לא ניחוש.
ארכיטקטורה שמורידה את התלות במודל
הבחירה במודל חשובה פחות ממה שנדמה, אם בונים נכון את מה שמסביבו. אלה ההחלטות שעושות את ההבדל הגדול ביותר:
- RAG על המסמכים שלכם בעברית. במקום לסמוך על מה שהמודל "יודע", שולפים את המידע הרלוונטי מהמסמכים שלכם ומצרפים אותו לשאלה. בעברית כדאי לכתוב את מאגר הידע בצורת שאלה ותשובה, ולהוסיף לו את הניסוחים שהלקוחות באמת משתמשים בהם, כולל סלנג ושגיאות נפוצות.
- עובדות מגיעות מכלים, לא מההנחיות. מחירים, זמינות ומצב הזמנה נשלפים ממסד הנתונים ברגע השאלה. מחירון שמודבק בהנחיית המערכת יתיישן, והמודל ימשיך לצטט אותו.
- ניתוב בין מודל קטן לגדול. מודל קטן וזול מזהה כוונה, מסנן ספאם ועונה על שאלות קבועות. מודל גדול נכנס רק לשיחות מורכבות. ברוב העסקים רוב ההודעות פשוטות, וזה משנה את החשבון החודשי. אם הסוכן רץ בוואטסאפ, שימו לב שמאוקטובר 2026 גם כל הודעה שהוא שולח עולה כסף; פירטנו במאמר על מחירי WhatsApp Business API.
- אימות פרמטרים בקוד. כשהמודל קורא לכלי, הקוד בודק שהתאריך עתידי, שהטלפון תקין ושהמוצר קיים, לפני שמשהו נכתב במערכת. מודל טועה בשיעור מסוים, והקוד הוא רשת הביטחון.
- סף ביטחון והעברה לאדם. כשהמודל לא בטוח, הוא מעביר. ב-Klozer, הסוכן שבנינו לוואטסאפ, בעל העסק יכול גם ללחוש לסוכן או להשתלט על השיחה.
- מודל חלופי. כשספק אחד נופל או מאט, הבקשה עוברת לשני. כאן המבחן ששמרתם משתלם שוב: אתם כבר יודעים מה המודל החלופי שווה.
מתי מודל עברי פתוח כמו DictaLM שווה את המאמץ
שווה לשקול כשיש דרישה שהמידע לא יצא מהתשתית שלכם, כשהנפח גבוה מספיק כדי שאירוח עצמי יהיה זול מתשלום לפי טוקן, או כשאתם רוצים לכוונן מודל לתחום מקצועי צר.
פחות מתאים לצוות קטן בלי מישהו שמתחזק שרתים עם GPU, לנפח של כמה מאות שיחות בחודש, או כשאתם עוד לא יודעים מה הסוכן צריך לעשות. במקרים האלה מודל דרך API מוריד הרבה סיכון, ותמיד אפשר לעבור אחר כך, אם הארכיטקטורה לא קשורה למודל אחד.
שורה תחתונה
אל תבחרו מודל לפי כותרת או לפי דירוג כללי. בנו מבחן מ-50 עד 100 הודעות אמיתיות, הגדירו מראש מה נחשב הצלחה, והריצו אותו על כמה מודלים. זה עבודה של כמה ימים, והיא נותנת לכם תשובה שמבוססת על הלקוחות שלכם ולא על דעה של מישהו אחר.
אנחנו בונים את המבחן הזה כחלק מכל פרויקט סוכן. סוכן ממוקד מתחיל מ-4,000 ₪, ותוכלו לקרוא עוד בעמוד סוכני AI ואוטומציה ובמדריך לסוכני AI לעסקים. על עלות ההרצה של מודלים כתבנו בכמה עולה לשלב AI במערכת. רוצים שנריץ את המבחן על ההודעות שלכם? דברו איתנו, או התחילו ממחשבון העלויות.
מקורות
- Hugging Face: Introducing the Hebrew LLM Leaderboard
- Hebrew LLM Leaderboard
- Adapting LLMs to Hebrew: Unveiling DictaLM 2.0 (arXiv, 2024)
- Dicta-LM 3.0: Advancing The Frontier of Hebrew Sovereign LLMs (arXiv, 2026)
- DICTA (dicta-il) ב-Hugging Face
המאמר נערך על ידי אביתר אדלר, CTO ב-FlowDev.


