ألغيت تتمتع Microsoft بوصول عام إلى عدد من أدوات تحليل الوجه التي تعمل بالذكاء الاصطناعي والمعروفة باسم Azure Face، بما في ذلك الأداة التي تدعي التعرف على مشاعر الشخص من مقاطع الفيديو والصور.
تعكس الإجراءات الجهود التي يبذلها كبار مزودي الخدمات السحابية لكبح جماح التقنيات الحساسة بأنفسهم، حيث يواصل المشرعون في الولايات المتحدة وأوروبا تقييم الحدود القانونية الشاملة.
انتقد الخبراء أدوات التعرف على المشاعر، قائلين إنه من غير العلمي مساواة الشكل الخارجي للعاطفة بالشكل الداخلي. تختلف أيضًا تعبيرات الوجه التي يُعتقد أنها عامة باختلاف المجموعات السكانية.
ومنذ العام الماضي على الأقل، تقوم Microsoft بة ما إذا كانت أنظمة التعرف على المشاعر متجذرة في العلم. القرار الجديد جزء من إصلاح شامل لسياسات الشركة بشأن أخلاقيات الذكاء الاصطناعي.
تؤكد معايير الذكاء الاصطناعي المسؤولة المحدثة للشركة على المساءلة لمن يستخدم خدماتها والمزيد من الإشراف البشري على مكان تطبيق هذه الأدوات.
هذا يعني أن Microsoft تحد من الوصول إلى بعض ميزات خدمات التعرف على الوجه بينما تزيل الأخرى تمامًا.
يجب على المستخدمين التقدم لاستخدام Azure Face للتعرف على الوجه مع إخبار Microsoft كيف وأين يتم نشر أنظمتهم.
تظل بعض حالات الاستخدام الأقل ضررًا (مثل تعتيم الوجوه تلقائيًا في الصور ومقاطع الفيديو) مفتوحة.
تعمل الشركة أيضًا على إنهاء قدرة Azure Face على تحديد سمات مثل الجنس والعمر والابتسامة وشعر الوجه والشعر والمكياج.
وقالت الشركة “سلط الخبراء الضوء على عدم وجود إجماع علمي حول تحديد العواطف، والتحديات في كيفية تعميم الاستدلالات عبر حالات الاستخدام، والمناطق والتركيبة السكانية، وتنامي مخاوف الخصوصية بشأن هذا النوع من القدرة”.
ستتوقف الشركة عن تقديم هذه الميزات للعملاء الجدد اعتبارًا من 21 يونيو. تم إلغاء وصول العملاء الحاليين في 30 يونيو 2023.
مايكروسوفت تحد من التعرف على الوجوه
أوقفت Microsoft وصول الجمهور إلى هذه الميزات. لكنها استمرت في استخدامه في منتجها المسمى Seeing AI. يستخدم هذا التطبيق رؤية الكمبيوتر لوصف العالم للأشخاص ذوي الإعاقة البصرية.
وقالت مايكروسوفت “أدوات مثل التعرف على المشاعر يمكن أن تكون ذات قيمة عند استخدامها في مجموعة من سيناريوهات الوصول الخاضعة للرقابة”.
ميزة Custom Neural Voice، التي تسمح للعملاء بإنشاء أصوات AI بناءً على تسجيلات لأشخاص حقيقيين، كانت لها أيضًا قيود مماثلة.
وأوضحت الشركة أن الأداة لديها إمكانات كبيرة في التعليم وإمكانية الوصول والترفيه. لكن من السهل تخيل كيف يمكن استخدامها لانتحال صفة المتحدثين بشكل غير لائق وخداع المستمعين.
تقيد Microsoft الوصول إلى الميزة لإدارة العملاء والشركاء، مع ضمان المشاركة النشطة للمتحدث عند إنشاء صوت اصطناعي.