חלק מהשמות הגדולים ביותר בבינה מלאכותית הסכימו למסגרת חדשה שמטרתה לשמור על מערכות בינה מלאכותית מתקדמות במהירות, ולסמן רגע משמעותי בדיון על האופן שבו יש לשלוט בטכנולוגיה.
נשיא ארה"ב דונלד טראמפ הודיע ב-29 בספטמבר כי מנהלים מחברות בינה מלאכותית מובילות חתמו על הסכם המכסה את תקני הבטיחות ואת הפיקוח על פיתוח בינה מלאכותית.
החברות המיוצגות כללו [Google](https: www.google.com/?utm source=chatgpt.com), [Meta](https:www.meta.com/?utm source=chat=chatgpt.com), [OpenAI](WEB .com/utm source=chatgpt.com) [WEB .com/ix@x/i m/i]>/i m/i/i/i com/i com/i/i/i com/i com/WEB .com/WEB .com/WEB .com/i m com/WEB .com/i com/i com/WEB ).
ההסכם מגיע כאשר תעשיית הבינה המלאכותית מתמודדת עם בדיקה גוברת בשאלה האם ניתן לפתח מערכות אוטונומיות יותר ויותר, בעוד חברות מתחרות כדי לשחרר מודלים מסוגלים יותר.
על פי העיתונות Associated, ההסכם מרצון כולל התחייבויות הכרוכות בבקרות פנימיות חזקות, ביקורות עצמאיות ותובנות ברמה הלוח.
הפיתוח יכול לעצב את השלב הבא של הדיון העולמי ב-AI, במיוחד משום שארה"ב מעדיפה גישה ממוקדת בחדשנות יחסית, בעוד אירופה עברה לתקנה רחבה יותר.
חברות בינה מלאכותית מסכימות למשטרה
הרעיון המרכזי מאחורי ההסכם הוא שחברות AI ייקחו אחריות רבה יותר להעריך את הסיכונים שנוצרו על ידי המערכות שלהם.
ההסכם קורא לתהליכי בטיחות פנימיים ולסקירות חיצוניות שנועדו לספק בדיקה נוספת של מודלים חזקים יותר ויותר של בינה מלאכותית.
טראמפ תיאר את ההסכם כחייב מבחינה מוסרית ולא כמנדט רגולטורי קונבנציונלי.
סוכנות הידיעות רויטרס דיווחה כי הממשל שוקל הקמת ועדה של 10 חברים לפקח על ההתפתחויות ברחבי תעשיית הבינה המלאכותית. פרטים על הוועדה, כולל הסמכות והחברות הפוטנציאליות שלה, טרם הושלמו.
מנכ"ל בית הנבחרים מייק ג'ונסון אישר בנפרד כי מנהלי תעשיית הבינה המלאכותית חתמו על הסכם בנוגע לסטנדרטים הטכנולוגיים במהלך פגישת הבית הלבן.
עבור עמק הסיליקון, הגישה מרצון יכולה להציע אלטרנטיבה לחקיקה פדרלית מגבילה יותר.
עם זאת, עבור המבקרים, השאלה היא האם חברות מתפתחות הטכנולוגיה יכולות להסדיר את עצמן באופן יעיל ובמקביל להתחרות על לקוחות, השקעה ומנהיגות טכנולוגית.
גוגל, מטא ומנהיגי AI אחרים מצטרפים לשיחות
מספר הדמויות המשפיעות ביותר בטכנולוגיה השתתפו בדיונים.
סנדר פיצ'אי ומארק צוקרברג היו בין המנהלים המעורבים, בעוד שחברות במרכז בום ה-AI החדש היו מיוצגות גם הן.
ההסכם מגיע לרגע רגיש להפליא לתעשייה.
מודלים של בינה מלאכותית הופכים להיות מסוגלים לבצע משימות מורכבות יותר ויותר עם פיקוח אנושי פחות ישיר. הופעתה המהירה של סוכני AI, מערכות המסוגלות לבצע רצף של פעולות ולא רק לענות על שאלות, העצימה חששות לגבי אבטחה ושליטה.
חוקרים ממעבדות בינה מלאכותית מובילות הזהירו בפומבי על מהירות הפיתוח.
סוכנות הידיעות רויטרס דיווחה ב-29 בספטמבר כי חוקרים נוכחיים ולשעבר של OpenAI ו-Google DeepMind העלו חששות לגבי חברות רודף מערכות המסוגלות לשפר את יכולותיהן, בעוד אמצעי בטיחות נאבקים לשמור על הקצב.
חששות אלה נעים מהפרעת עבודה ואיומי אבטחת סייבר לתרחישים חמורים הרבה יותר של מערכות בינה מלאכותית המתנהגות בדרכים שהמפתחים שלהם לא התכוונו להן.
OpenAI עצר מודל על דאגות בטיחות
פרט אחד מהמפגש הבית הלבן הראה כמה ברצינות מתייחסים למעבדות.
מנכ"ל OpenAI, סם אלטמן, אמר כי החברה שלו עצרה את שחרורו של מודל בגלל חששות בטיחות, על פי סוכנות הידיעות AP.
הגילוי מגיע כאשר חברות AI בודקות יותר ויותר מודלים מתקדמים לפני הפריסה הציבורית כדי לקבוע אם הן יכולות להיות מנוצלות לרעה או להתנהג באופן בלתי צפוי.
במקביל, התעשייה מתמודדת עם לחץ מסחרי עצום לנוע במהירות.
OpenAI, Google, Anthropic, Meta וחברות אחרות מוציאות רבות על תשתיות מחשוב ומתחרות על בניית מערכות בינה מלאכותית מסוגלות יותר ויותר.
זה יוצר איזון קשה בין מהירות טכנולוגית לבטיחות.
Nvidia משיקה טכנולוגיה שנועדה להפסיק סוכני AI
ההסכם החדש גם עוקב אחר הודעת אבטחה של בינה מלאכותית גדולה מ-Nvidia.
ב-28 בספטמבר הציגה Nvidia את פלטפורמת בטיחות הסוכן הפתוחה שלה, מערכת אבטחה שנועדה למנוע מסוכני בינה מלאכותית אוטונומיים לבצע פעולות לא מורשיות.
הפלטפורמה כוללת טכנולוגיה המגדירה את מה שסוכן בינה מלאכותית מותר לעשות ורכיב אחר המסוגל לפקח על פעילות חשודה ולהגביל התנהגות מסוכנת פוטנציאלית.
יותר מ-100 ארגונים כבר משתמשים בטכנולוגיה, על פי סוכנות AP.
מנכ"ל Nvidia, ג'נסן הואנג, טען כי ניתן לגשת לביטחונה של בינה מלאכותית באופן חלקי כאתגר הנדסי, עם הגנת תוכנה חזקה יותר המספקת גבולות סביב מערכות אוטונומיות יותר ויותר.
וושינגטון שוקלת גישה שונה מאירופה
הדיון מדגיש גם את ההבדל בין גישות אמריקאיות ואירופיות לבינה מלאכותית.
ממשל טראמפ הדגיש שוב ושוב כי שמירה על מנהיגות טכנולוגית בארה"ב והימנעות מהגבלות שהיא מאמינה שיכולות להאט את החדשנות.
תוכנית הפעולה של הבית הלבן AI מתארת מנהיגות באינטליגנציה מלאכותית כעדיפות לביטחון לאומי, וטוען כי ארה"ב חייבת להישאר לפני המתחרים הגלובליים.
הרגולטורים האירופאים לקחו גישה יותר התערבותית.
באותו יום כמו פגישת ה-AI של הבית הלבן, גוגל מערערת את ההוראות הרגולטוריות של האיחוד האירופי המחייבות אותו לספק גישה גדולה יותר לשירותים מסוימים עבור מפתחי AI ומנועי חיפוש מתחרים.
גוגל טוענת כי הדרישות יכולות לחשוף מידע רגיש למשתמש, בעוד שהנציבות האירופית שומרת על כך שאבטחת הפרטיות המתאימה כלולה.
המחלוקת מוכיחה כיצד ממשלות נאבקות באיזון תחרות, פרטיות, חדשנות וביטחון, כאשר בינה מלאכותית הופכת להיות מוטבעת ברחבי הכלכלה העולמית.
הקרב הבא על רגולציה מלאכותית
ההסכם מרצון אינו מיישב את השאלה הגדולה יותר אם תקנה בינה מלאכותית מחייבת תידרש בסופו של דבר.
במקום זאת, היא מבססת מסגרת מגובה בתעשייה בזמן שבו מחוקקים, חוקרים וחברות טכנולוגיה מתלבטים כמה מהר פיקוח ממשלתי צריך להתפתח.
הרכישות גדלות ככל ש-AI נעה מעבר לטאטבוטים ולסוכנים אוטונומיים המסוגלים לתקשר עם מערכות מחשב, לכתוב תוכנה, לערוך מחקר ולבצע משימות דיגיטליות מורכבות.
בינתיים, וושינגטון נותנת לתעשיית הטכנולוגיה אחריות משמעותית להקמת אמצעי הגנה סביב המוצרים שלה.
בין אם התחייבויות מרצון להוכיח מספיק יכול להיות אחת השאלות של מדיניות הטכנולוגיה של השנים הקרובות.