מנכ״ל OpenAI מזהיר מפני ריכוז השליטה בבינה מלאכותית בידי גורמים בודדים

מנכ״ל חברת OpenAI, סאם אולטמן, הזהיר כי קיימת סכנה שטכנולוגיית הבינה המלאכותית תימצא בשליטתן של מעט חברות, מודלים או אנשים פרטיים. לדבריו, מצב כזה עלול להשאיר את רוב הצרכנים ללא יכולת להשפיע על הדרך שבה הטכנולוגיה מעצבת את העולם.

במהלך ראיון שנערך במסגרת הפודקאסט של דייוויד סנרה, אמר אולטמן כי החברה שואפת לאפשר לאנשים להשתלט עמוקות על עתידם. הוא הדגיש כי החברה מאמינה בהתפתחות משותפת של החברה והמודלים הטכנולוגיים. בנוסף, הביע אולטמן חשש מפני תרחיש שבו הבינה המלאכותית תיחלץ משליטתם של בני האדם. באופן מפתיע, הוא ציין כי החשש הזה עשוי להאיץ את התרחיש הראשון, בו השליטה מרוכזת בידי מעטים.

אולטמן התייחס גם לתפיסה הרווחת בקרב רבים, לפיה יש צורך להקריב חלק מן החופש למען הבטיחות. הוא ציין כי חששות אלה עלולים להוביל למדיניות מוגברת של הגבלת גישה למודלים פתוחים, אשר מאפשרים למפתחים לשתף, להוריד, לשנות ולהפעיל מודלים של בינה מלאכותית באופן עצמאי.

לפי הדיווח, אולטמן עשוי להתייחס לדברי מנכ״ל חברת Anthropic, דאריו אמודי, אשר הזהיר מפני הסכנות הנשקפות מהתקדמות מהירה של טכנולוגיית הבינה המלאכותית. אמודי אף טען כי מודל החברה החדש, Mythos, מהווה איום ממשי על תחומי סייבר, פיננסים, תשתיות קריטיות וביטחון לאומי. אמודי קרא להגברת מעורבות הממשל בפיקוח על פיתוח הבינה המלאכותית, גישה שאולטמן רואה בה כהחלפת חופש בביטחון.

על פי הדיווח, Anthropic היא החברה הגדולה היחידה שלא חתמה על מכתב תמיכה במודלים פתוחים, אשר נועד לעודד שיתוף ושקיפות בפיתוח טכנולוגיות בינה מלאכותית. OpenAI, מצידה, פרסמה בשנה שעברה שני מודלים פתוחים משלה, אף שלא פרסמה את קוד המקור של מודליה המתקדמים ביותר.

במהלך הראיון ציין אולטמן כי מנהיגי תחום הבינה המלאכותית בארצות הברית טרם הצליחו להדגים כיצד הטכנולוגיה יכולה להעניק לאנשים יותר עצמאות בחייהם. הוא הביע תקווה כי ייווצר גל עצום של הקמת עסקים קטנים, הודות ליכולותיה של הבינה המלאכותית.

לפי ITHome,

לפי ITHome.