أفادت الشركة بأن خاصية “خادم البروكسي” القائمة على الذكاء الاصطناعي ظهرت في الإصدار رقم 26220.7262 من النظام، ويمكن للمستخدمين تفعيلها يدويًا من خلال قسم مكونات الذكاء الاصطناعي.
عند تفعيل هذه الميزة، يعرض النظام على الفور رسالة تحذيرية تؤكد أنها تجريبية وقد تؤثر سلبًا على أداء الجهاز، بدءًا من الأخطاء في الاستجابات وصولًا إلى حدوث اضطرابات في سلوك النظام.
أوضحت مايكروسوفت أن نموذج اللغة البرمجية الذي تعتمد عليه خاصية “خادم البروكسي” لا يزال غير مكتمل، وقد يؤدي في بعض الأحيان إلى تقديم إجابات تبدو صحيحة ولكنها في الواقع غير دقيقة، وذلك بسبب نقص بيانات التدريب أو سوء فهم السياق أو عوامل أخرى.
يشير خبراء التقنية إلى أن بعض المخترقين قد بدأوا بالفعل في اختبار طرق لاستهداف هذه التقنيات الجديدة المعتمدة على الذكاء الاصطناعي.
من بين السيناريوهات المحتملة التلاعب الخفي بالتعليمات داخل الخادم، من خلال تضمين أوامر ضارة في المستندات أو عناصر الواجهة، والتي يمكن للذكاء الاصطناعي تنفيذها تلقائيًا.
في مثل هذه الحالات، قد يتمكن الخادم نظريًا من تثبيت برامج ضارة أو تسريب بيانات حساسة.
تعد مايكروسوفت بتعزيز الحماية من خلال إضافة صلاحيات أكثر دقة وحواجز ضد الهجمات الإلكترونية المحتملة، وتنصح في الوقت الحالي بتشغيل هذه الميزة التجريبية فقط للأشخاص الذين يفهمون المخاطر المرتبطة بها. (آرم نيوز)
