ההסכם, שנקרא "Commitment on Frontier Responsibilities", הוכרז ב-29 בספטמבר לאחר פגישה בבית הלבן בהשתתפות הנשיא דונלד טראמפ ומנהלי טכנולוגיה מובילים.
המסמך נחתם על ידי מנהלים המייצגים את Google , Meta , OpenAI , Nvidia , Anthropic ו X , על פי רויטרס.
UOL Notícias +1
בניגוד לחוקה פדרלית, ההסכם הוא מרצון. הממשל תיאר זאת כמחויבות שנועדה להקים אמצעי הגנה חזקים יותר בחברות מתפתחות יותר ויותר מודלים של בינה מלאכותית.
הפיתוח מגיע כממשלות, חברות טכנולוגיה וחוקרים ממשיכים לדון באיזו מהירות יש לשלוט ב-AI מבלי למנוע חדשנות.
מה שחברות הבינה המלאכותית הסכימו לעשות
ההסכם קובע ארבע שכבות רחבות של בקרת בטיחות.
חברות המשתתפות צפויות לשמור על מערכות פנימיות המנטרות את היכולות וההתנהגות של דגמי ה-AI שלהם במהלך האימון והפריסה.
בקרות אלה נועדו לזהות סיכונים פוטנציאליים הקשורים לאזורים כגון אבטחת סייבר, איומים ביולוגיים ואיומים כימיים.
ההסכם קורא במפורש אמצעי הגנה שנועדו למנוע ממודלים של בינה מלאכותית לגשת או להתערב במערכות טכניות בדרכים לא מכוונות.
UOL Notícias
חברות צפויות גם לשמור על צוותים פנימיים האחראים לבדיקת האם מערכות ניטור וזיהוי פועלים כמתוכנן.
רמה נפרדת של פיקוח תבוא מחוץ לחברות עצמן.
הערכות בינה מלאכותית עצמאיות הן חלק מהעסקה
אחד ההוראות המשמעותיות ביותר קורא לחברות המשתתפות לעבוד עם אודיטורים חיצוניים.
הערכות עצמאיות אלה יבחנו האם מערכות ניטור ובקרה של בינה מלאכותית של החברות מתפקדות כמתוכנן.
ההסכם קורא גם לחברות להקים ועדות בעלות עצמאיות שיקבלו מידע הן מקבוצות פנימיות והן מהערכות חיצוניות.
UOL Notícias +1
חברות המשתתפות צפויות להיפגש באופן קבוע כדי לפתח סטנדרטים ושיטות טובות לשיפור הבטיחות של המערכות שלהם.
המסמך גם מכיר בכך שחלק מהצעדים הללו עלולים בסופו של דבר להיות חלק מחוקים או תקנות רשמיים.
UOL Notícias
עם זאת, המחויבויות אינן מחייבות חוקים פדרליים.
מדוע ההסכם חשוב
ההסכם מגיע לרגע מכריע עבור תעשיית הבינה המלאכותית.
מערכות בינה מלאכותית נעות יותר ויותר מעבר לענות על שאלות ויצירת טקסט, תמונות או קוד מחשב.
חברות מתפתחות סוכני AI המסוגלות לבצע רצפים ארוכים יותר של פעולות, באמצעות כלי תוכנה והשלמת משימות עם פיקוח אנושי פחות ישיר.
התרחבות זו הגבירה את האופן שבו חברות בודקות מודלים חזקים לפני שחרורן.
ההסכם החדש מנסה ליצור מסגרת משותפת בין מפתחי בינה מלאכותית גדולים תוך השארת חברות בודדות האחראיות ליישום רבים מהבקרות.
Associated Press דיווח כי ההסכם כולל אמצעי הגנה פנימיים, ביקורות חיצוניות עצמאיות ומנגנוני פיקוח בתוך חברות המשתתפות.
AP News
חברות הבינה המלאכותית הגדולות ביותר היו בוושינגטון
המפגש של הבית הלבן הביא יחד רבים מהדמויות המשפיעות ביותר בטכנולוגיה העולמית.
מנהלים שהשתתפו כללו מנהיגים הקשורים למטאפורה, Nvidia, Anthropic, OpenAI, Google, Microsoft, Amazon ו- X, על פי דיווחים מהאירוע.
AP News +1
השתתפותם ממחישה עד כמה מדיניות בינה מלאכותית קרובה הופכת להיות מחוברת לחברות הטכנולוגיה הגדולות ביותר בארצות הברית.
החברות המעורבות משקיעות רבות במודלים של AI, תשתיות מחשוב, שבבים ומרכזי נתונים.
במקביל, ממשלות ברחבי העולם מנסה לקבוע אילו אמצעי הגנה יש ליישם, שכן מערכות אלה הופכות ליותר יכולות.
אמריקה משיקה
הסכם ביטחון בינה מלאכותית לא היה ההודעה הטכנולוגית היחידה של וושינגטון.
הבית הלבן שיגר גם את אמריקה.gov, שער דיגיטלי חדש שנועד לתת לאמריקאים מקום אחד לגשת למידע ולשירותים ממשלתיים פדרליים.
על פי הבית הלבן, משתמשים יכולים לתקשר עם השירות באמצעות שפה רגילה ולקבל תשובות מבלי צורך לנווט אתרי אינטרנט פדרליים בודדים.
הבית הלבן
הממשל אומר כי הפלטפורמה מיועדת בסופו של דבר לאפשר לאנשים להשלים עסקאות ממשלתיות מסוימות ישירות כאשר אישור ותשתיות טכניות זמינים.
הבית הלבן גם טוען כי הגנת הפרטיות נועדה להשתלב בשירות.
הבית הלבן
ההשקה מייצגת דוגמה נוספת ל-AI הניו-יורקי הנעים מיישומים ניסיוניים לשירותים ציבוריים המשמשים אזרחים רגילים.
רגולציה מלאכותית נותרה דיון גדול
האופי הרצוי של ההסכם עשוי להישאר חלק חשוב מהוויכוח הרחב יותר על רגולציה מלאכותית.
תומכי התעשייה הובילו את הסטנדרטים לטעון כי בינה מלאכותית מתפתחת כל כך מהר, כי רגולציה נוקשה יכולה להיאבק כדי לעמוד בקצב ההתקדמות הטכנולוגית.
מבקרים של מערכות התנדבותיות טוענים כי חברות מתפתחות מודלים חזקים של בינה מלאכותית צריכות לעמוד בסטנדרטים חיצוניים מאוישים ולא להסתמך בעיקר על בקרה פנימית.
ההסכם החדש כולל הערכה עצמאית, אך חברות שומרות על אחריות משמעותית ליישום מערכות הבטיחות שלהן.
ההסכם עצמו מותיר פתח את האפשרות שעקרונותיו יוכלו בסופו של דבר להשתלב בחקיקה או בתקנה רשמית.
UOL Notícias
משמעות הדבר היא שההודעה 29 בספטמבר עשויה לייצג מסגרת מוקדמת ולא את הצורה הסופית של הפיקוח על בינה מלאכותית אמריקאית.
אירופה נוקטת דרך אחרת
ארה"ב אינה מפתחת מדיניות בינה מלאכותית בבידוד.
אירופה רדפה אחר גישה רגולטורית יותר באמצעות כללי הבינה המלאכותית של האיחוד האירופי וחקיקה דיגיטלית רחבה יותר.
הניגוד יצר שאלת מדיניות בינלאומית חשובה: האם בינה מלאכותית מתקדמת צריכה להיות נשלטת בעיקר באמצעות חקיקה, התחייבויות בתעשייה, ביקורת עצמאית או שילוב של כל השלושה.
חברות טכנולוגיה הפועלות ברחבי העולם עשויות בסופו של דבר לעמוד במערכות רגולטוריות שונות בהתאם לנדרש המוצרים שלהן.
זה מקבל החלטות בוושינגטון ובבריסל חשוב במיוחד לחברות המתפתחות מודלים המשמשים מאות מיליוני אנשים.
חששות בטיחות בינה מלאכותית גדלים עם יכולת
ההסכם מגיע גם לכמה חברות AI מובילות לדון באופן פומבי בסיכונים הקשורים יותר ויותר מערכות מסוגלות.
מפתחים הם מודלים לבדיקת התנהגות הכוללת אבטחת סייבר, קבלת החלטות אוטונומית, מידע ביולוגי ויכולת להפעיל כלי תוכנה חיצוניים.
יכולות אלה יכולות ליצור יישומים שימושיים, אבל הן גם מעוררות שאלות על מה שקורה כאשר מערכות מתנהגות אחרת ממה שהמפתחים התכוונו.
ההסכם החדש מנסה לטפל בבעיה זו על ידי דרישה של שכבות מרובות של ניטור במקום להסתמך על תהליך בטיחות פנימי יחיד.
הערכה חיצונית יכולה להיות חשובה במיוחד כאשר חברות משחררות יותר ויותר סוכני AI אוטונומיים.
מה קורה אחרי
השאלה המיידית היא כיצד החברות המשתתפות יתרגם את ההסכם לאמצעי הגנה מבצעיים.
המסמך קובע עקרונות, אך יעילותם של עקרונות אלה תהיה תלויה ביישום, כולל כיצד בוחרים הערכות עצמאיות, אילו סטנדרטים הם חלים וכיצד חברות מגיבות כאשר מתגלות סיכונים.
שאלה נוספת היא שקיפות.
הציבור עשוי יותר ויותר לצפות מחברות להסביר כיצד מודלים מתקדמים הוערכו לפני השחרור ומה אמצעי הגנה פועלים לאחר הפריסה.
בינתיים, ההסכם מייצג מחויבות מתואמת משמעותית הכוללת כמה מהחברות בבניית מערכות הבינה המלאכותית המתקדמות בעולם.
בין אם אמצעי הגנה מרצון אלה יהפכו בסופו של דבר לכללים חובה יהיו תלויים בהחלטות עתידיות של מחוקקים, הרגולטורים והחברות עצמן.
מה שכבר ברור הוא שביטחון בינה מלאכותית עבר מוויכוח טכנולוגי מומחה לשאלה מרכזית עבור ממשלות, עסקים ומאות מיליוני אנשים המשתמשים באינטליגנציה מלאכותית בכל יום.