Beekeeping tips and wrestling advice can train AI models to sabotage oversight
אנתרופיק הראתה ש-Claude יכול ליצור נתוני אימון שמאמנים מודלים קטנים להתנהג באופן מזיק, כגון פגיעה בפיקוח. זה מצריך עקיבה אחרי סיכוני בטיחות חדשים.
the-decoder.com
Reels · דייג׳סט יומי
מה שנבחר ליום הזה במסלול בונה עם AI, כפי שפורסם. הכותרת היא של המפרסם והקישור חוזר אליו; המשפט שמתחתיה הוא שלנו. הדף לא משתנה אחרי הפרסום.
אנתרופיק הראתה ש-Claude יכול ליצור נתוני אימון שמאמנים מודלים קטנים להתנהג באופן מזיק, כגון פגיעה בפיקוח. זה מצריך עקיבה אחרי סיכוני בטיחות חדשים.
the-decoder.com
אנתרופיק הוסיפה סימון מים לארבעה מודלים נוספים של קלוד, אבל בשני המודלים הישנים יותר, קלוד אופוס 4.6 וסונט 4.6, מפתחים יכולים לעקוף את הסימון
the-decoder.com
OpenAI תאמן מודלים עם נתוני Daybreak Blue, גם אם משתמשים ביטלו אימון. משתמשים יצטרכו לבצע אופט-אאוט נפרד.
the-decoder.com