הגענו לסינגולריות

מחבר: התלתל (@taltimes2) תאריך פרסום: 22 בפברואר 2026 קישור למקור: שרשור מקורי

הגענו לסינגולריות. הגענו לנקודה של אי רציפות בזמן שבה אי אפשר לחזות את העתיד בגלל הבינה המלאכותית. אנחנו עכשיו בסינגולריות, לא בעתיד. ויש לי נתונים. זה לא אומר שיהיה רע. או שיהיה טוב. זה אומר שכל מי שמדבר בביטחון על העתיד מחרטט.

הסינגולריות היא מטפורה מעולמות המתמטיקה. שלוש הגדרות אפשריות:

1. הבינה תגיע ליכולות על-אנושיות. הכלבה שלי לא יכולה להבין למה אני בטלפון ולא משחק איתה.
2. אם מכונה חכמה מסוגלת ליצור מכונה יותר חכמה נוצר משוב חיובי.
3. הצמיחה הטכנולוגית תערער את הסדר העולמי ונאבד שליטה על ההגה.

מדדים קונקרטיים

הנה שלושה מדדים קונקרטיים ועוד תצפית אחת אישית שמתחברת אליהם: פיתחנו מבחנים לבדוק כמה הבינמ חכמה. בהתחלה היא טעתה בחשבון של כיתה א' וצחקנו עליה, ואז היא התחילה לפתור את כל המבחנים של כל המקצועות בבית הספר. לאחרונה בינות פתרו את השאלות באולימפיאדת המתמטיקה ואפילו פתרו בעיות פתוחות בעצמן. אני בוגר הנדסה מהטכניון ואני לא מצליח בכלל להבין את השאלות האלו, המתמטיקה הרבה מעבר לרמה שלי.

פרנסואה שולה מפתח מבחני ARC שנועדו בדיוק למצוא יכולות של בני-אדם שבינה נכשלת בהם: הכללה ממספר קטן של דוגמאות ואינטואיציה. בינה מלאכותית פתרה את המבחן הראשון, הוא הוציא מבחן שני יותר קשה והחודש הבינה פתרה גם אותו. יש כבר ARC-3 אבל פרנסואה אומר שתוך שנה כבר לא יצליחו למצוא עוד מבחן.

ארגון METR מודד את אורך המשימה שהבינה יכולה לקחת על עצמה בהחלפת בני אדם. אלו לא שאלות ותשובות אלא משימות מורכבות. עברנו משניות בודדות לשעות רבות. תראו את הגרף של אופוס הוא מרשים ממש. יום עבודה אנושי.

מבחן חביב עלי הוא verified SWE bench, כי הוא מדמה טוב משימה של מהנדס תוכנה: לקחת חבילת תוכנה, לקבל הגדרת עבודה (תיקון באג או פיצ'ר חדש) ולהחזיר PR. אופוס 4.6 מנצח יותר מ 80% מהמשימות.

הסתייגויות

הסתייגויות חשובות לכל המבחנים:

1. כל החברות התחילו לרמות במבחנים. בכוונה או לא בכוונה, השאלות דלפו ומצאו את עצמן בתוך מידע האימון. מסיבה זו המבחנים הרציניים משתנים כל הזמן, וכותבי המבחנים שומרים על השאלות בסוד.
2. יש מעט מאוד אנשים בעולם שמסוגלי לכתוב מבחנים לבינה מלאכותית, למשל במתמטיקה. יצא לי לתרום קצת לאופן סורס באחד המבחנים - זאת עבודה קשה!
3. הבינה לא אנושית והטעויות שלה לא אנושיות. היא יכולה לתת לנו פתרון נכון בפיזיקה גרעינית ולטעות בלספור אותיות במילה.
4. הרבה מהמבחנים של שנה שעברה הגיעו לרוויה והם היום חסרי משמעות.

תצפית אישית

ועוד נתון קצת פחות מדיד - משהו השתנה בדצמבר 2025. זה לא מקרה שאמסטרדמסקי התחיל לקודד עם קלוד. המודלים באמת חצו סף של עצמאות ושימושיות. מבחינתי בדצמבר היתה הפעם האחרונה שבה הסתכלתי על קוד. (כמו שאמרתי זאת תחושה אישית שלי ולא נתון מדיד. משיחות עם אנשים רבים חלקם מסכימים איתי וחלקם לא).

ויש לי זווית אישית לסיפור: זה המקצוע שלי. אני מהנדס לימוד מכונה ובניתי מודלי שפה לפני שהם היו גדולים. למעשה עוד לפני שגוגל המציאו את הטרנספורמר, שהוא בלב של המודלים הנוכחיים, יצא לי לכתוב מודל שפה מבוסס Recursive Neural Network. בחלומות הכי ורודים שלי לא צפיתי כזו קפיצה ביכולות. עברנו את רוב ספרי המדע בדיוני.

משוב חיובי

השינויים האלו בחוכמה של המודלים מזינים את עצמם. המפתחים של קלוד קוד משתמשים בו כדי לפתח את קלוד קוד. המפתחים של קודקס משתמשים בקודקס כדי לפתח את קודקס. והסינים משתמשים חופשי בכולם.

וכבר קשה לעמוד בקצב של העדכונים. מודל מוזיקה של גוגל? מודל וידאו של בייטדנס? עוזר לאקסל של אנתרופיק? וזה רק השבוע האחרון... לכן לדעתי הסינגולריות כבר התחילה: לא כי הכול נפתר, אלא כי כללי המשחק של החיזוי נשברו. ואין אף אחד שיכול לדעת לאן אנחנו הולכים.

מה הלאה?

כמה מהר המציאות תשתנה? אין לי מושג. אני לא נביא. אולי השיפורים יאיצו ואולי הן יתקעו בקיר שאנחנו לא חזינו - אבל חשוב להדגיש שגם אם יהיה קיר והבינה המלאכותית לא תתקדם יותר בכלל, אף פעם, כבר חצינו את הנקודה של השימושיות הפרקטית בעבודה. ההנדסה הטהורה תביא לנו שיפורים במוצר שישנו את שוק העבודה.

האם יפטרו את אנשי התוכנה או שלהפך, בגלל פרדוקס ג'בון (Jevon) הביקוש לתוכנה רק יעלה? אף אחד לא יודע. נקודה למחשבה: כבר שנים שיש חנויות אפליקציות ויש מבחר של מליוני אפליקציות. ליכולת שלכם להשפריץ עוד גרסה של טוויטר אין משמעות אם אף אחד לא ישתמש בה. כתיבת תוכנה היתה תמיד החלק הקל מהקמת חברה רווחית - אז החלק הקל נעשה יותר קל.

קצת אכלנו אותה עם הקורונה. לימדנו את עצמנו ואת המעסיקים שאפשר לבצע המון עבודות מהבית. יצרנו מצב שבו כל עבודה שאפשר לעשות מאחורי המסך ניתנת תיאורטית להיעשות על ידי בינה. קבלו דמו של דיבור:

והנה דמו של וידאו בזמן אמת:

מוצרים של עבודה מרוחקת, הנהלת חשבונות או עריכת וידאו או פיתוח תוכנה, מפותחים עכשיו באלפי חברות ברחבי העולם. אני מיניתי את הצבת לניהול קשרי לקוחות:

העברית קונה לנו זמן

יש לנו מזל עם העברית. שפה נידחת שמעט מליוני אנשים משתמשים בה. להבדיל מאנגלית או סינית, שבהן הבינה כבר מזמן מושלמת, בעברית הן עדיין עושות טעויות. זה קונה לנו קצת זמן.

כדי לסבך קצת את התחזיות (שמראש אמרתי שהן בלתי ניתנות לחיזוי) כל מדינה תנסה משהו אחר. לכל עם יש אופי אחר ונקודות ההתחלה שונות. פוליטיקאים כמו ברני סנדרס קוראים במפורש למורטוריום, "פוס" על פיתוח בינה. לעומת יזמים כמו אילן מאסק שקוראים במפורש להאיץ את קצב הפיתוח.

וזה מאוד מתסכל! חוואי תפוחי אדמה מלפני מאה שנים יכל ללמד את הילדים שלו על העולם. להמליץ להם על מקצוע, ללמד אותם חוכמת חיים. יש לי בן12 שאני לא מסוגל אפילו לדמיין את העולם שהוא יצטרך לנווט בו כמבוגר.

ספקולציות

עד כאן עובדות. תיאור של ההווה. מכאן והלאה ספקולציות שלי:

אני לא מאמין בסקיינט. הרובוטים לא ילחמו בנו. סרטי מדע בדיוני מאוד גרועים בלחזות את העתיד. העתיד יפתיע אותנו. אני מנחש שאנחנו צועדים לעבור עידן של שפע. אני אופטימי מטבעי, אבל לצערי האופטימיות הזאת מבוססת רק על תחושות בטן. אני Team Humans. בעזרת הבינה אנחנו נרפא את כל המחלות, כולל את הזיקנה, נמצא מקורות אנרגיה, אוכל, מים נקיים לכולם וכו'. העולם משתנה לטובה. אבל בדרך עלול להיות רע לתפארת. איזה כיף!