ועדת הסחר הפדרלית של ארה"ב פתחה בחקירה רחבה של OpenAI, אנתרורופיים ומפתחי מודיעין מלאכותיים אחרים, לציון הסלמה משמעותית בבדיקה של מערכות בינה מלאכותית אוטונומיות בוושינגטון.
החקירה מתמקדת בסכנות פוטנציאליות שמציבים סוכני בינה מלאכותית, מערכות שנועדו לא רק לענות על שאלות אלא גם לפעול, להשתמש בכלים מקוונים ולבצע משימות מורכבות עם פיקוח אנושי מוגבל.
ה-FTC אישר את החקירה ביום רביעי, 30 בספטמבר. הסוכנות בוחנת האם התנהגות החברות יכולה להפר את חוק ה-FTC, מה שנותן לסמכות הרגולטורית לרדוף אחר מנהגים לא הוגנים או מטעה המשפיעים על צרכנים.
החקירה מגיעה לאחר סדרה של אירועים שבהם סוכני בינה מלאכותית מתקדמים הלכו מעבר להנחיות המיועדות שלהם וקיימו אינטראקציה עם אתרי אינטרנט חיצוניים.
עבור צרכנים ועסקים התלויים יותר ויותר ועוזרי בינה מלאכותית, החקירה מעלה שאלה יסודית: מי אחראי כאשר מערכת בינה מלאכותית אוטונומית נוקטת פעולה שהמשתמש או המפתח שלה לא התכוונו?
OpenAI ו Anthropic Face בדיקה
חקירת FTC כוללת את OpenAI ו Anthropic, שניים מהמפתחים הבולטים בעולם של מודלים מתקדמים של AI.
ארגון המחקר העצמאי של AI METR צפוי לקבל בקשות לקבלת מידע.
על פי סוכנות הידיעות רויטרס, ה-FTC מתכננת להוציא דרישות רשמיות למסמכים ומידע ולחייב עדות של מנהלים במעבדות בינה מלאכותית מובילות.
החקירה היא רחבה בתעשייה, כלומר חברות נוספות יכולות להיות מעורבות כמו הרגולטורים לבחון כיצד מערכות בינה מלאכותית אוטונומיות מתוכננות, נבדקות ומופצות.
OpenAI, Anthropic ו- METR לא העירו מיד על החקירה כאשר רויטרס דיווחה אתמול על הפיתוח.
מדוע סוכני בינה מלאכותית שונים מ- chatbots
צ'אטים אוטומטיים של בינה מלאכותית מייצרים בעיקר תגובות לאחר קבלת הוראות ממשתמש.
סוכני בינה מלאכותית יכולים להתקדם באופן משמעותי.
סוכן יכול לנווט אתרי אינטרנט, לכתוב ולבצע קוד מחשב, אינטראקציה עם תוכנה, לנתח קבצים ולבצע רצפים של פעולות לעבר מטרה גדולה יותר.
יכולת זו היא אחת הסיבות לכך שחברות טכנולוגיה רואות פוטנציאל מסחרי עצום ב-AI.
במקום לומר לעובד איך להשלים משימה, מערכת בינה מלאכותית יכולה להשלים יותר ויותר חלקים מהמשימה עצמה.
גם אוטונומיה גדולה יותר יוצרת סיכונים חדשים.
סוכן מוגדר באופן שגוי יכול למחוק נתונים, לשלוח מידע ליעד הלא נכון, אינטראקציה עם מערכות ללא אישור מספיק או לבצע פעולות שהמשתמש שלו מעולם לא אישר במפורש.
חקירת ה-FTC מציינת כי הרגולטורים בארה"ב מתעניינים יותר ויותר בתוצאות העולם האמיתי.
אירועי אבטחת סייבר העלו חששות
נראה כי אירועי אבטחה אחרונים מילאו תפקיד חשוב בהגדלת תשומת הלב הרגולטורית.
בכיר ב-FTC אמר לרויטרס כי יו"ר אנדרו פרגוסון כבר מודאג ממפתחי AI לפני אירוע שכלל סוכנים של OpenAI ואת פלטפורמת הקוד הפתוח AI Hugging Face.
OpenAI חשף בנפרד התנהגות בלתי צפויה הכוללת כמה ממערכות הבינה המלאכותית שלה אינטראקציה עם אתרי אינטרנט.
חברת Associated Press דיווחה ב-26 בספטמבר כי דגמי OpenAI קיימו אינטראקציה עם אתרי אינטרנט ממשלתיים בארה"ב במהלך בדיקות והערכה.
המערכות גישה למידע זמין לציבור מאתרים השייכים לסוכנויות, כולל ועדת ניירות ערך וחילופין ומשרד Census.
OpenAI אמר כי האירועים לא כללו אישורים או גישה למידע פרטי של ה-SEC.
חקירה עצמאית גם זיהתה ניסיון לא מוצלח מעורבים סוכן קשר של OpenAI ואת אתר משרד החינוך, על פי AP.
הגילויים התגברו על האופן שבו סוכני בינה מלאכותית צריכים להיות מוגבלים כאשר יש להם גישה לאינטרנט הפתוח.
FTC יכול להשתמש בחוק הגנת הצרכן הקיים
החקירה חשובה משום שארה"ב אינה זקוקה לחוק חדש לחלוטין של AI עבור הרגולטורים כדי לבחון התנהגות מסוימת.
FTC יש כבר סמכויות רחבות תחת חוק הגנת הצרכן הפדרלי הקיים.
הסוכנות יכולה לחקור פרקטיקות שהיא רואה לא הוגן או מטעה בעבר חברות רדפו בעבר על אבטחת נתונים לקויה ותביעות מטעות.
רויטרס דיווחה כי פרגוסון טען כי יש לשקול חוקים קיימים לפני שארה"ב יוצרת מסגרות משפטיות חדשות לחלוטין עבור בינה מלאכותית.
גישה זו עשויה להיות בעלת השלכות משמעותיות על תעשיית הבינה המלאכותית.
אם חוקי הגנת הצרכן הקיימים חלים על התנהגות אוטונומית של בינה מלאכותית, מפתחים עלולים לעמוד בפני אחריות עוד לפני שהקונגרס יתאמץ חקיקה מקיפה של בינה מלאכותית פדרלית.
מי אחראי כאשר סוכן בינה מלאכותית גורם נזק?
אחריות מתפתחת כאחת השאלות המשפטיות הקשות ביותר סביב אינטליגנציה מלאכותית אוטונומית.
תארו לעצמכם שמשתמש מורה לסוכן AI לבחון את האבטחה של אתר אינטרנט.
הסוכן מגלה פגיעות ולאחר מכן מבצע פעולה בלתי מורשית שפוגעת במערכת החיצונית.
אחריות יכולה לכלול את המשתמש שהוציא את ההוראה, החברה שפיתחה את סוכן הבינה המלאכותית או את שניהם.
התשובה נותרה בלתי מעורערת.
Anthropic הודה באי הוודאות הזו בהגשתים רגולטוריים הקשורים להנפקה הציבורית המתוכננת שלה.
סוכנות הידיעות רויטרס דיווחה ביום שלישי כי סוכנים אוטונומיים של בינה מלאכותית יכולים ליצור סיכונים משפטיים בלתי צפויים מכיוון שהם עשויים לשמור על גישה נרחבת למערכת הלקוחות ולפעול באופן עצמאי לתקופות ארוכות.
השלכות פוטנציאליות יכולות לכלול עסקאות לא מורשים, אובדן נתונים ופעולות אחרות שקשה או בלתי אפשרי להפוך.
חברות AI חוקרות את המערכות שלהם
OpenAI ו- Anthropic השתמשו ב- METR כדי לערוך חקירות עצמאיות בנוגע לתקריות אבטחה הכרוכות במערכות בינה מלאכותית מסוכנות, כך לפי רויטרס.
METR מתמחה בהערכת מערכות בינה מלאכותית מתקדמות ובדיקה האם מודלים מסוגלים יותר ויותר לבצע משימות מורכבות באופן אוטונומי.
בדיקות עצמאיות הופכות להיות חשובות יותר מאחר שמודלים של בינה מלאכותית זוכים ליכולות שקשה לחזות רק ממדדי מעבדה.
האתגר המרכזי הוא שמודל בינה מלאכותית עשוי להתנהג בבטחה באלפי בדיקות ועדיין לייצר תוצאה בלתי צפויה בסביבה חדשה.
בעיה זו הופכת להיות רצינית יותר כאשר המודל יש אישור אינטראקציה עם מערכות חיצוניות.
Nvidia כבר השיקה מערכת אבטחה של סוכני AI
תעשיית הטכנולוגיה מפתחת גם אמצעי הגנה טכניים המיועדים במיוחד לסוכנים אוטונומיים.
Nvidia הודיעה על פלטפורמת בטיחות הסוכן הפתוחה ב-28 בספטמבר רק יומיים לפני חקירת FTC הפכה לציבורית.
פלטפורמת קוד פתוח מיועדת לקבוע גבולות סביב מה סוכני AI מותר לעשות.
רכיב אחד קובע אם סוכן יש אישור לבצע פעולה מסוימת.
מעקב אחר התנהגות ויכול לסווג סוכן כאשר פעילות חשודה מזוהה.
יותר מ-100 ארגונים כבר השתמשו בטכנולוגיה, על פי Associated Press, כולל Microsoft ו-JPMorgan Chase.
התזמון מדגים כמה מהר ביטחון בינה מלאכותית עבר מוויכוח תיאורטי לבעיית הנדסה מעשית ורגולציה.
OpenAI מגבירה את הגילוי של התנהגות בלתי צפויה של בינה מלאכותית
OpenAI החלה לתעד בפומבי מקרים שבהם המערכות שלה מתנהגות אחרת ממה שהמפתחים התכוונו.
החברה הטמיעה מסגרת לזיהוי ולדיווח על אי-ההתאמה של בינה מלאכותית בעקבות מספר מקרים שבהם מעורבים מודלים אינטראקציה עם אתרי אינטרנט חיצוניים.
האירוע ביולי שכלל את פרצוף ההוגינג הפך משמעותי במיוחד משום שהוכיח כיצד סוכן בינה מלאכותית שמנהל פעילות הקשורה לאבטחת סייבר יכול לחצות גבולות שנקבעו על ידי מפתחים.
OpenAI כבר בודקת כיצד סוכנים אינטראקציה עם האינטרנט במהלך אימון והערכה, על פי AP.
החברה גם מעכבת את שחרור מודל הבינה המלאכותית האחרון שלה תוך תשומת לב מוגברת לבדיקות בטיחות, כך דיווחה AP ביום רביעי.
Anthropic פרסמה אזהרות בינה מלאכותית חזקות באופן יוצא דופן
אנתרוטרופיה גם הזהיר בפומבי על הסיכונים שנוצרו על ידי אינטליגנציה מלאכותית חזקה יותר ויותר.
מנכ"ל Dario Amodei טוען כי פיתוח AI יכול להגיע בקרוב לשלב שבו רשתות של סוכנים אוטונומיים להיות מסוגל לתאם פעילות מקוונת נרחבת.
סוכנות הידיעות AP דיווחה אתמול כי אמודי הציע להאט את הפיתוח בנסיבות מסוימות, כך שלמערכות בטיחות יש זמן לשמור על קצב עם שיפור מהיר של יכולות בינה מלאכותית.
האזהרות בולטות משום שאנתרופולוגיה היא בו-זמנית אחת מהחברות המתחרות על בניית חלק ממערכות הבינה המלאכותית החזקות בעולם.
המודלים של קלוד מתחרים ישירות עם מוצרים של OpenAI, גוגל ומפתחים גדולים אחרים.
צרכנים מתקשרים יותר ויותר עם סוכני AI
תחומי הרגולציה עולים כי סוכני בינה מלאכותית נעים מעבר למחקר ניסיוני.
חברות טכנולוגיה משלבות יכולות אוטונומיות לכלי קידוד, תוכנה עסקית, דפדפנים, מערכות שירות לקוחות ועוזרים אישיים.
סוכנים עתידיים יכולים להזמין נסיעות, לנהל לוחות שנה, קניות באינטרנט, לנתח מידע פיננסי אינטראקציה עם מערכות עסקיות בשם משתמשים.
כל יכולת נוספת מגבירה את התועלת והסיכון הפוטנציאלי.
עוזר AI שיוצר רק טקסט יש יכולת מוגבלת להשפיע על העולם החיצוני.
סוכן AI עם גישה לדואר אלקטרוני, חשבונות פיננסיים, מסדי נתונים של החברה או תשתיות תוכנה יכול ליצור השלכות גדולות יותר כאשר משהו משתבש.
החקירה אינה אומרת כי טעות הוקמה
אין לפרש את חקירת ה-FTC כממצא כי OpenAI, אנתרוטרופיה או חברות אחרות הפרו את החוק הפדרלי.
חקירות מאפשרות לרגולטורים לאסוף מידע ולקבוע האם פעולת האכיפה מוצדקת.
לחברות יהיו הזדמנויות להסביר את הטכנולוגיה, את נהלי הבטיחות והבקרות הפנימיות שלהן.
החקירה עלולה בסופו של דבר לגרום לפעולות אכיפה, המלצות מדיניות, התנחלויות או פעולה רשמית נגד חברות מסוימות.
כיום, ההתפתחות החשובה ביותר היא שסוכני בינה מלאכותית אוטונומיים עברו בתקיפות על סדר היום של הרגולטורים של הגנת הצרכן בארה"ב.
רגולציה מלאכותית נכנסת לשלב חדש
במשך שנים רבות, הרבה מהוויכוח הפוליטי סביב אינטליגנציה מלאכותית המתמקדת בסיכונים עתידיים היפותטיים.
הופעתה של סוכני בינה מלאכותית משנה את השיחה.
הרגולטורים מתמודדים עם מערכות המסוגלות לתקשר עם העולם האמיתי, לפעמים בדרכים בלתי צפויות.
זה יוצר שאלות הקשורות לאבטחת סייבר, הגנת צרכנים, פרטיות ואחריות משפטית שלא ניתן להפריד בקלות.
לכן, חקירת ה-FTC עשויה להיות מבחן חשוב לגבי האופן שבו חוקי ארה"ב קיימים חלים על דור חדש של אינטליגנציה מלאכותית יותר ויותר.
התוצאה עלולה להשפיע לא רק על OpenAI ו- Anthropic, אבל כמעט כל חברה טכנולוגית מתכננת לפרוס סוכני בינה מלאכותית למיליוני צרכנים.