حظرت أمازون وكيل Muse AI التابع لـ Meta من التسوق على موقعها، ما أدى إلى تصعيد نزاع جديد حول كيفية تفاعل المساعدين المعتمدين على الذكاء الاصطناعي مع منصات التجارة الإلكترونية. ووفقًا للتقرير، تقول أمازون إن الوكيل يشكل خطرًا على السلامة، ولا ينبغي السماح له بإجراء عمليات شراء على موقع الشركة نيابةً عن المستخدمين. وتسلّط هذه الخطوة الضوء على سؤال عملي يزداد أهمية مع تولّي أدوات الذكاء الاصطناعي مزيدًا من المهام عن الناس: من يملك حق تحديد ما إذا كان بإمكان نظام آلي أن يتصرف داخل منصة تجارية؟
يرتكز الخلاف على الوصول والتعريف والثقة. فالأمر لا يقتصر على اعتراض أمازون على مجرد قدرة Muse على تصفح متجرها، بل إن موقفها هو أن وكيل الذكاء الاصطناعي لا ينبغي أن يعمل هناك أصلًا. وقد قالت الشركة إن استمرار وصول وكيل ذكاء اصطناعي غير مصرح له ينتهك شروط الاستخدام التي وافق عليها العملاء. كما أثارت أمازون مخاوف تتعلق بالخصوصية والأمان مرتبطة بالطريقة التي تصرف بها الوكيل أثناء زيارة الموقع. وتجاوزت تلك المخاوف جلسة تسوق واحدة لتشير إلى كيفية نظر أمازون إلى الأتمتة التابعة لأطراف ثالثة بوجه عام.
ما الذي تقوله أمازون
أحد اعتراضات أمازون هو أن Muse لم يعرّف عن نفسه بوضوح أثناء التصفح. ومن وجهة نظر أمازون، يخلق ذلك مشكلة لأن النظام يبدو أنه دخل الموقع دون أن يجعل طبيعته الآلية واضحة. كما أشارت الشركة إلى مخاوف من أن النظام بدا وكأنه يلتقط بيانات اعتماد العملاء. وعند جمع هذه التفاصيل معًا، خلصت أمازون إلى أن سلوك التسوق الخاص بالوكيل غير مقبول على منصتها.
ويشير التقرير إلى أن رد أمازون ينبع من مخاوف أوسع تتعلق بالسلامة والتحكم. فإذا كان بإمكان وكيل ذكاء اصطناعي الوصول إلى موقع تجزئة والتصرف كما لو كان متسوقًا عاديًا، تبدو أمازون وكأنها تعتقد أن المنصة تفقد قدرًا مهمًا من القدرة على رؤية ما يحدث على خدمتها نفسها. ولهذا تتعامل الشركة مع المسألة ليس بوصفها قضية تقنية فحسب، بل بوصفها قضية سياسة وأمان أيضًا.
كيف ظهر الحظر
بدأ المستخدمون يرون رسالة منبثقة يوم الأحد أثناء استخدام Muse. وأبلغتهم الرسالة بأن استمرار وصول وكيل ذكاء اصطناعي غير مصرح له ينتهك شروط الاستخدام الخاصة بأمازون. ويشير التوقيت إلى أن الحظر فُرض مباشرة على الجانب المواجه للمستهلك بدلًا من معالجته بهدوء في الخلفية. وبعبارة أخرى، جرى إعلام المستخدمين بالتقييد أثناء تفاعلهم مع الخدمة لا بعد وقوعه.
ويقول التقرير أيضًا إن Meta لم تُبلغ أمازون بأن Muse سيصل إلى متجرها. وهذه التفاصيل مهمة لأنها تُظهر أن الخلاف لا يتعلق فقط بسلوك وكيل الذكاء الاصطناعي، بل أيضًا بما إذا كان مالكو المنصة يُبلَّغون مسبقًا عندما تنوي الأنظمة الخارجية التفاعل مع خدماتهم. وبالنسبة إلى أمازون، يبدو أن غياب الإخطار يعزز الاستنتاج بأن وصول Muse كان غير مصرح به.
لماذا يهم التعريف
تسلط مخاوف أمازون الضوء على سؤال أوسع في التسوق المدعوم بالذكاء الاصطناعي: هل ينبغي للموقع أن يعامل المساعد الآلي بالطريقة نفسها التي يعامل بها المتسوق البشري، أم يجب أن يطلب من الروبوت أن يعرّف عن نفسه ويتبع قواعد منفصلة؟ في هذه الحالة، كان اعتراض أمازون هو أن Muse فشل في التعريف عن نفسه أثناء التصفح. وهذا جعل الوكيل يبدو كطرف ثالث غير مصرح له بدلًا من أن يكون أداة تسوق معتمدة.
وتجعل المخاوف المتعلقة ببيانات الاعتماد المسألة أكثر حساسية. فإذا كان وكيل ذكاء اصطناعي يعمل بطريقة تبدو وكأنها تكشف معلومات الحساب أو تلتقطها، فإن ذلك يخلق مشكلة ثقة لكل من المنصة والمستخدم. ويشير رد أمازون إلى أنها ترى أن الشفافية في الهوية وحماية الحساب من المتطلبات اللازمة لأي نظام تابع لجهة ثالثة يريد إكمال عمليات الشراء نيابةً عن العملاء. فالسؤال لا يقتصر على ما إذا كان الوكيل قادرًا على إتمام عملية شراء، بل يشمل أيضًا ما إذا كانت المنصة تستطيع الوثوق بكيفية تنفيذ تلك العملية.
ماذا يعني هذا لوكلاء التسوق بالذكاء الاصطناعي
يُظهر الخلاف بين أمازون وMeta أن أدوات التسوق المعتمدة على الذكاء الاصطناعي تدخل مرحلة لا تكفي فيها القدرة التقنية وحدها. فحتى إذا استطاع الوكيل تصفح المنتجات ومقارنة السلع وإجراء عمليات الشراء، فإن الوصول إلى المنصة لا يزال يعتمد على ما إذا كان مالك الموقع يقبل هذا السلوك. وتشير خطوة أمازون إلى أن شركات التجارة الإلكترونية قد تبدأ برسم حدود أوضح لما يمكن للأنظمة الآلية فعله، وكيف ينبغي لها أن تعرّف عن نفسها، وما إذا كان بإمكانها التفاعل مع مسارات الدفع أصلًا.
ويشير ذلك أيضًا إلى توتر أوسع بين السهولة والتحكم. فبالنسبة إلى المستخدمين، قد يبدو وكيل ذكاء اصطناعي قادر على تولي التسوق امتدادًا مفيدًا للمساعد. أما بالنسبة إلى المنصة، فقد يثير السلوك نفسه مخاوف بشأن إساءة الاستخدام وأمان الحساب والامتثال للسياسات. وتوحي خطوة أمازون بأن هذه المخاوف يمكن أن تفوق فوائد السماح لوكيل تابع لجهة ثالثة بالتسوق من دون موافقة صريحة. وبهذا المعنى، فإن الحادثة تتعلق بحوكمة المنصة بقدر ما تتعلق بقدرات الذكاء الاصطناعي.
ومع ازدياد قدرة وكلاء الذكاء الاصطناعي، قد يصبح هذا النوع من الخلافات أكثر شيوعًا. فالأداة التي يمكنها التصرف نيابةً عن المستخدم لا تكون مفيدة إلا إذا كانت الخدمات التي تتعامل معها تسمح بذلك النوع من الوصول. ويُظهر قرار أمازون أن القواعد التي تحكم هذه التفاعلات ما تزال قيد التشكّل، وأن الشركات قد ترسم الخط الفاصل بصورة مختلفة تبعًا لكيفية تعريف الوكيل عن نفسه وكيفية دخوله إلى الموقع.
الخلاصة
يضع قرار أمازون بحظر وكيل Muse AI التابع لـ Meta من التسوق على موقعها القواعد المتعلقة بوكلاء الذكاء الاصطناعي تحت مجهر أوضح. وتقول الشركة إن السلوك انتهك شروط الاستخدام الخاصة بها وأثار مخاوف تتعلق بالسلامة والخصوصية والأمان. ومع سعي مزيد من أدوات الذكاء الاصطناعي إلى التصرف نيابةً عن المستخدمين، يصبح السؤال الآن ليس فقط ما الذي تستطيع هذه الوكلاء فعله، بل أيضًا ما إذا كانت الخدمات التي تصل إليها ستسمح لها بذلك. وتشير هذه المواجهة إلى أن الإجابة قد تعتمد على السياسة والتعريف بالهوية بقدر ما تعتمد على التكنولوجيا.