OpenAI וצריכה לאבטחת מידע, עוכבת השקת מודל AI חדש

OpenAI עיכבה את השקת המודל החדש של אינטליגנציה מלאכותית בעקבות תוצאות שליליות בבדיקות פנימיות בנושא אבטחת מידע. המודל היה אמור להשתלב בשירותים פופולריים של החברה, כולל התוכנה ChatGPT והפלטפורמה Codex, המיועדת לסייע למתכנתים בכתיבת קוד.

המודל שפותח נועד לבצע משימות מורכבות ומתקדמות, כאשר תכונה מרכזית שלו הייתה היכולת לפעול באופן עצמאי, כלומר לבצע פעולות מסובכות ללא פיקוח מתמיד מצד בני אדם. עם זאת, בדיקות פנימיות הראו שהמערכת אינה עומדת בסטנדרטים הגבוהים הנדרשים בתחום האבטחה והצפויות שלה.

בשל התנהגויות מטרידות שהתגלו במהלך הבדיקות, החברה החליטה לעכב את המשך העבודה על המודל. החלטה זו התקבלה זמן קצר לפני הכנס השנתי למפתחים, שבו נוהגת OpenAI להציג את החידושים והפתרונות החדשים שלה.

המקרה הזה משקף את האתגרים הקיימים בשוק האינטליגנציה המלאכותית, במיוחד כאשר מדובר במודלים אוטונומיים. עם עליית היכולות של מערכות AI, עולה גם הסיכון לשגיאות שעשויות להשפיע על המסחריות שלהן. עיכוב ההשקה נועד להבטיח כי המפתחים והמשתמשים יקבלו אלגוריתמים מהימנים ומאומתים.

לפי MamStartup.