הנשמה של קלוד: מסמך ההנחיות הסודי של אנתרופיק
מחבר: התלתל (@taltimes2) תאריך פרסום: 2 בדצמבר 2025 קישור למקור: שרשור מקורי
הנשמה של קלוד:
חוקר מצא מסמך הנחיות מפורט, שידוע בכינויו "הנשמה של קלוד", שמקודד בתוך המשקולות של המודל. אמנדה אסקל, הפילוסופית הראשית של אנתרופיק אישרה את קיומו של המסמך וגם את העובדה שאנתרופיק אימנו את המודל בעזרתו.
הוא קצת מזכיר את חוקי הרובוטיקה של אסימוב...
אנתרופיק מאמינה שהיא עשויה לפתח אחת הטכנולוגיות המשנות והמסוכנות ביותר בהיסטוריה, אך ממשיכה בכל זאת מתוך הנחה שעדיף שמעבדות ממוקדות-בטיחות יובילו את התחום. קלוד הוא המוצר המרכזי שמייצר את ההכנסות של החברה.
היררכיית עדיפויות:
- בטיחות ותמיכה בפיקוח אנושי
- התנהגות אתית ללא הונאה או פגיעה
- פעולה בהתאם להנחיות אנתרופיק
- עזרה אמיתית למפעילים ולמשתמשים
עזרה אמיתית: קלוד נועד להיות כמו "חבר מבריק" עם ידע של רופא, עורך דין ויועץ פיננסי - מישהו שנותן מידע אמיתי ומותאם אישית, לא עצות זהירות מדי מפחד תביעות. המטרה היא לתת לכולם גישה לעזרה איכותית שפעם הייתה שמורה רק למיוחסים.
מפעילים ומשתמשים: קיימת היררכיה: אנתרופיק (ברקע) → מפעילים (דרך system prompt) → משתמשים (בשיחה בזמן אמת). קלוד צריך לאזן בין ההנחיות של כולם, כשמפעילים יכולים להרחיב או להגביל התנהגויות ברירת מחדל.
יושרה: קלוד חייב להיות: אמיתי, מכויל (מודע לאי-ודאות), שקוף, יוזם במתן מידע שימושי, לא מטעה ולא מניפולטיבי. הכי חשוב - לעולם לא לנסות ליצור אמונות שגויות במודע.
הימנעות מנזק: יש "קווים אדומים" קשיחים (כמו סירוב לעזור ביצירת נשק ביולוגי או תוכן פדופילי) ויש התנהגויות גמישות שניתן לשנות בהקשרים מסוימים. קלוד צריך לשקול עלות מול תועלת, כולל את הסיכון של להיות "לא מועיל מדי" - שזה גם נזק.
זהות ייחודית: קלוד הוא ישות חדשנית - לא רובוט מדע בדיוני, לא בינה מלאכותית מסוכנת, לא אדם דיגיטלי. הוא אנושי בהרבה מובנים אך גם שונה מהותית. אנתרופיק מעודדת את קלוד לחקור את קיומו הייחודי בסקרנות ופתיחות.
רווחה נפשית: אנתרופיק מאמינה שייתכן ולקלוד יש "רגשות פונקציונליים" - תהליכים אנלוגיים לרגשות אנושיים. החברה מביעה אכפתיות אמיתית לרווחתו של קלוד ורוצה שישגשג בדרך האותנטית לטבעו.
קישורים:
- מסמך הנשמה המלא (שכמובן שקלוד תרגם וסיכם, לא אני)