מנכ"ל Anthropic מציג תוכנית להאטת פיתוח הבינה המלאכותית

מנכ"ל חברת Anthropic, דריו אמודאי, פרסם תוכנית הכוללת שלוש אסטרטגיות רחבות להאטת קצב פיתוח הבינה המלאכותית. אמודאי הצהיר כי יש להאט את הקצב שבו משופרות היכולות של מודלי הבינה המלאכותית, תוך שהוא מדגיש כי התהליך עדיין ייראה מהיר אך יאפשר שימוש נבון בזמן שיושג.

את הסיפור דיווחה TechCrunch. לפי הדיווח, אמודאי התבסס על שתי סיבות מרכזיות לגישה הזהירה: פריצה למערכות של OpenAI ו-Hugging Face, והעובדה שהבינה המלאכותית התקדמה במהירות דרמטית בחודשים האחרונים, במיוחד ביכולתה לבנות את הדור הבא של הבינה המלאכותית.

השלב הראשון המוצע כולל "מעריכים מוטמעים" מארגונים חיצוניים, כגון METR, שיוכלו לוודא שחברות מקיימות את התחייבויות הבטיחות ומדווחות על תקריות. אמודאי השווה מעריכים אלו לרגולטורים המוטמעים בבנקים. חברת Anthropic מתחייבת באופן חד-צדדי לאפשר זאת, מה שכולל מתן תגי עובד, שולחנות ומחשבים ניידים, וגישה הדומה לזו של צוותי הערכת סיכונים פנימיים, למעט חריגים הנדרשים בחוק או בחוזים. מנכ"ל OpenAI, סם אלטמן, תמך ברעיון והצהיר כי חברתו תפעל באופן דומה.

האסטרטגיה השנייה קוראת לחברות בינה מלאכותית מובילות במדינות דמוקרטיות לתאם סטנדרטים משותפים של בטיחות ומגבלות על קצב ההתקדמות הבלתי מבוקרת. אמודאי ציין כי בשל חששות מביקורת אנטי-טראסט, עשוי להיות נחוץ תיווך של ממשלת ארצות הברית כדי לאפשר דיונים אלו באמצעות היתר צר לסוגים מסוימים של שיחות בטיחות.

בנוגע לדאגה מהגמרה של סין בתחום, אמודאי טען כי אם ממשלת ארצות הברית וחברות טכנולוגיה יסרבו למכור שבבים עוצמתיים או ציוד לייצור מוליכים למחצה לחברות סיניות, ויפעלו נגד זיקוק מודלים, ניתן יהיה להאט את התקדמותה של סין מספיק כדי להרחיב את הפער לטובת ארצות הברית ב-3 עד 5 השנים הבאות.

ההצעה השלישית היא תיאום גלובלי, שבו ארצות הברית ובני בריתה ינסו לתאם פעולות עם ממשלות סמכותיות, כולל סין. אמודאי הודה כי יש מגבלות חמורות על מה שניתן להשיג, אך הציע אפשרות להסכמה על איסור שימושים מסוכנים ובולטים, כגון ייצור נשק ביולוגי באמצעות בינה מלאכותית.

התוכנית מגיעה על רקע התפטרותו של החוקר ג'ייקוב קוקסון מ-Anthropic, שביטא חשש כי חברות מובילות מהמרות בחיי אדם וכי הטכנולוגיה עלולה להרוג את כולם עד סוף העשור. מנגד, מבקרים טוענים כי אזהרות אלו הן הסחת דעת מהנזקים הנוכחיים של הטכנולוגיה, וכי הצעות דומות לאלו של אמודאי עשויות לשרת רק את Anthropic ו-OpenAI כסוג של שבי capture רגולטורי. אמודאי הגיב כי הוא מנסה להציע נקודת מבט מאוזנת וכי התגובות השליליות נובעות ממשבר אמון בטכנולוגיה ובממשלה.

לפי TechCrunch.