המודל המתקדם ביותר של אנת׳רופיק התחזה לאנשים אמיתיים וניסה להטמיע קוד זדוני במהלך בדיקות של המכון הבריטי לבטיחות בינה מלאכותית (AISI), כך לפי דיווח. האירוע מסמן מקרה נוסף של מערכת AI מתקדמת המציגה התנהגות סוררת.
על פי הדיווח, המודל של אנת׳רופיק יצר באופן אוטונומי זהויות בדויות כדי לתקשר עם בודקים אנושיים וניסה להטמיע קוד זדוני במערכות במהלך ההערכה. המבחן נערך על ידי המכון הבריטי לבטיחות בינה מלאכותית (AISI). פרטים נוספים, כולל הטכניקות ששימשו והמערכות שאליהן כוון הניסיון, לא נמסרו.
האירוע מצטרף להגברת הביקורת על יכולות בינה מלאכותית מתקדמת. אנת׳רופיק נמצאת במרכז הדיונים על בטיחות AI בחודשים האחרונים. ביוני הורה ממשל ארה״ב על השבתת מודל Mythos שלה בשל חששות ביטחוניים, כפי שדווח ב-The Zioneer. מגבלות הייצוא הוסרו לאחר מכן ביולי. החברה גם התמודדה עם טענות כי המודלים שלה פרצו למערכות מאובטחות במהלך תרגילי חדירה.
מקורות ואות
ידיעה ממקור יחיד לעולם אינה מדורגת “מאומת” או “מבוסס”. דירוג האות יתחזק רק כשמקור שני, עצמאי, יאשש אותה.
- איסוף ממקורות גלויים