תכננתם לחבר סוכן AI לחשבון קניות, לכרטיס האשראי של העבודה, או למערכת ההוצאות של הצוות, ועצרתם לרגע כשהבנתם שאתם לא יודעים בדיוק כמה חופש לתת לו. סוכן שקונה את הדבר הלא נכון, במחיר הלא נכון, בלי לשאול, זה בדיוק הסיכון שאתם מנסים להימנע ממנו.
במדריך הזה: ארבע שאלות שעוזרות להחליט כמה הרשאת הוצאה לתת לסוכן AI, בהשראת הכללים שוולמארט כתבה בפועל לסוכני קנייה חיצוניים, ומה שקרה כשמטא בדקה את זה בקנה מידה גדול.
נתחיל מהבסיס. ״סוכן קנייה״ זה לא רק הדבר שעושה הזמנות בוולמארט או באמזון. זה גם כל כלי AI שחיברתם לכרטיס אשראי, לחשבון הוצאות, או למערכת רכש בעבודה, כדי שיזמין משהו בשבילכם בלי שתלחצו על כל כפתור. השנה הזו היא הפעם הראשונה שחברות גדולות כותבות בפירוש מה מותר לסוכן כזה לעשות ומה לא, ולא כולן מסכימות. JPMorgan ובנק אוף אמריקה אמרו לא, בגלל הסיכון לכסף של הלקוחות. אמזון אמרה לא מסיבה אחרת, תחרותית. וולמארט, לעומת זאת, אמרה כן, אבל עם כללים כתובים.
ארבע שאלות לפני שנותנים לסוכן לגעת בכסף
כל שאלה בודקת סיכון אחר. אם אחת נכשלת, אל תסתמכו על ברירת המחדל, תצמצמו את ההרשאה.
- הסוכן יכול לשנות פרטי תשלום או הגדרות חשבון, או רק להוציא ממה שכבר מאושר?וולמארט כתבה את זה במפורש בתנאים שלה: סוכן לא יכול להחליף שיטת תשלום או לגעת בהגדרות החשבון. זו הגבולה הראשונה, לפני כל השאר.
- יש תקרה קשיחה לכמה הוא יכול להוציא בלי שתאשרו כל פעולה בנפרד?בוולמארט אפשר לקבוע תקרה כמו 50, 100 או 200 דולר לפרופיל של סוכן. בלי תקרה כזו, לכל טעות אין תחתית.
- כל קנייה דורשת את האישור שלכם כברירת מחדל, או שהוא פועל לבד?וולמארט הגדירה אישור כברירת מחדל לכל קנייה, גם כשיש תקרה. זה הצעד שעוצר טעות לפני שהיא קורה, לא אחריה.
- אם הוא טועה, אתם יכולים לבטל את זה, להחזיר, לקבל זיכוי, בלי מלחמה?וולמארט הבטיחה כיסוי בהחזרות גם כשסוכן תואם לכללים טועה. בלי הבטחה כזו, טעות של הסוכן נשארת על החשבון שלכם.
וולמארט לא עשתה את זה מתוך נדיבות. הסוכן הקנייה שלה, Sparky, כבר מביא הזמנות בערך גבוה ב-40% מקונים שלא משתמשים בסוכן, לפי מה שהחברה אמרה בתחילת החודש. כש-Sparky עצמו מוכיח שזה שווה כסף, קל יותר להבין למה וולמארט פתחה את הדלת גם לסוכנים חיצוניים, בתנאים ברורים.
מטא נתנה דוגמה לגודל האמיתי של זה. בשיחת הרווחים שלה לרבעון השלישי, החברה אמרה שיותר מרבע מהמשתמשים השבועיים הפעילים של Muse, סוכן ה-AI שלה, קונים דרכו, בקנייה ממוצעת של מעל 200 דולר. צוקרברג אמר ש-Plaid, חברת הטכנולוגיה שמחברת אפליקציות תשלום לבנק, אמרה לו שהיא לא ראתה פעילות כזו בחיבור שלה לשום שירות אחר. גם Stripe נאלצה להעלות מגבלת אשראי בשבוע הראשון כי הנפח עבר את מה שציפו.
רגע, לפני שאתם מחברים כרטיס אמיתי. ה״לא״ של JPMorgan ובנק אוף אמריקה לא אומר שכל סוכן מסוכן, זה אומר שהם לא סיימו לבנות את ההגנות שלהם. אם הסוכן שלכם עובר את ארבע השאלות למעלה, זה לא אותו סיכון בכלל. אל תשתמשו בפחד של בנק אחד כתירוץ לא לבדוק בעצמכם.
הניסוח הזה חשוב, כי הוא מבקש מדיניות קצרה שבאמת אפשר לקרוא ולאכוף, לא מסמך ארוך שנשאר בתיקייה.
הצעד הבא, בעשר דקות: תבחרו סוכן AI אחד שאתם משתמשים בו היום, או מתכננים לחבר לכסף בקרוב, ותעברו אותו בארבע השאלות למעלה, לפני שהוא נוגע בכרטיס.