أفضل منتجات الذكاء الاصطناعي لا تُقصي الناس، بل تضعهم في المكان الصحيح. إليك كيف تقرّر MedGAN متى يعمل الذكاء الاصطناعي وحده، ومتى يقترح، ومتى يجب أن يقرّر الإنسان.
الأتمتة الكاملة نادرًا ما تكون الهدف الصحيح
عندما تبدأ الشركات مع الذكاء الاصطناعي، يسعى كثير منها إلى الأتمتة الكاملة: أن يتولّى النظام كل شيء من البداية إلى النهاية. يبدو ذلك فعّالًا، لكنه في الواقع غالبًا أسرع طريق لفقدان الثقة.
الذكاء الاصطناعي يخطئ، ولأخطائه في عالم الأعمال عواقب: مرشّح يُرفض، أو إجابة خاطئة لعميل، أو رقم غير صحيح في تقرير. والمنتجات التي تنجح هي التي تضع الناس في المكان الصحيح، لا التي تُقصيهم. وكمدير منتجات للذكاء الاصطناعي، يُعدّ تحديد هذا المكان من أهم قرارات التصميم التي أتخذها.
يُسمّى هذا النهج الذكاء الاصطناعي بإشراف بشري (Human-in-the-loop). إليك معناه، وكيف نطبّقه في MedGAN.
ما معنى الذكاء الاصطناعي بإشراف بشري
الذكاء الاصطناعي بإشراف بشري نهج في التصميم يراجع فيه الناس عمل نظام الذكاء الاصطناعي أو يصحّحونه أو يعتمدونه في نقاط أساسية، بدلًا من أن يعمل الذكاء الاصطناعي وحده بالكامل. فالإنسان جزء من العملية منذ التصميم، لا مكابح طوارئ تُضاف لاحقًا.
وهذا ليس دليلًا على ضعف الذكاء الاصطناعي، بل هو طريقة لمواءمة مستوى الأتمتة مع مستوى المخاطر، وطريقة ليتحسّن النظام باستمرار: فكل تصحيح يجريه شخص يصبح إشارة لتطوير المنتج.
ثلاثة مستويات من الاستقلالية
نصمّم كل ميزة ذكاء اصطناعي على أحد ثلاثة مستويات، بحسب كلفة الخطأ.
الذكاء الاصطناعي يعمل وحده
للمهام منخفضة المخاطر وكبيرة الحجم، حيث يكون الخطأ رخيصًا وسهل الإصلاح. مثال: تصنيف الرسائل الواردة وتوجيهها. يعمل الذكاء الاصطناعي، ويراجع الناس عيّنة من النتائج.
الذكاء الاصطناعي يقترح والإنسان يقرّر
للمهام التي يستطيع الذكاء الاصطناعي إنجاز معظمها، لكن يجب أن يؤكّدها شخص. مثال: صياغة ردّ أو إعداد قائمة مختصرة بالمرشّحين. يعتمد الشخص النتيجة أو يعدّلها أو يرفضها بنقرة واحدة.
الإنسان يقرّر والذكاء الاصطناعي يساعد
للقرارات عالية المخاطر ذات الأثر القانوني أو المالي أو الشخصي. مثال: قرار التوظيف النهائي. يجمع الذكاء الاصطناعي المعلومات ويلخّصها، لكن القرار يبقى لشخص.
| المستوى | متى تستخدمه | مثال |
|---|---|---|
| الذكاء الاصطناعي يعمل وحده | مخاطر منخفضة، حجم كبير، سهل التراجع | توجيه تذاكر الدعم |
| الذكاء الاصطناعي يقترح والإنسان يقرّر | مخاطر متوسطة، والذكاء الاصطناعي ينجز معظم العمل | صياغة الردود، وإعداد القوائم المختصرة |
| الإنسان يقرّر والذكاء الاصطناعي يساعد | مخاطر عالية أو أثر حساس | قرارات التوظيف أو الائتمان النهائية |
يمكن أن يستخدم المنتج الواحد المستويات الثلاثة معًا. المهم أن يكون الاختيار مقصودًا، مهمة بمهمة.
خمس قواعد لتصميم ذكاء اصطناعي جدير بالثقة
١. أظهِر طريقة الوصول إلى النتيجة
يثق الناس بما يستطيعون التحقق منه. وضّح سبب وصول الذكاء الاصطناعي إلى نتيجته: الأدلة التي استخدمها، أو أجزاء المستند التي اعتمد عليها، أو العوامل التي بُني عليها التقييم.
٢. اجعل التصحيح سهلًا جدًا
إذا كان تجاوز الذكاء الاصطناعي يستغرق وقتًا أطول من أداء المهمة يدويًا، فسيتوقف الناس عن استخدامه. يجب أن يكون التعديل أو الاعتماد أو الرفض خطوة واحدة.
٣. أظهِر عدم اليقين
عندما لا يكون الذكاء الاصطناعي متأكدًا، يجب أن يقول ذلك ويحوّل الحالة إلى شخص. فالنظام الذي يعرف حدوده أجدر بالثقة بكثير من نظام واثق دائمًا.
٤. سلّم الحالة مع سياقها
عند انتقال حالة إلى شخص، مرّر كل شيء: المحادثة، والبيانات، وما جرّبه الذكاء الاصطناعي بالفعل. لا ينبغي أن يبدأ أحد من الصفر.
٥. تعلّم من كل تصحيح
تعامل مع كل تعديل بشري كملاحظة. ومع الوقت، يجب أن تزداد الحالات التي يتولاها الذكاء الاصطناعي وحده، بأمان.
كيف يبدو ذلك في منتجاتنا
- MedGAN Support يجيب وحده عن أسئلة العملاء الروتينية، ويحوّل الحالات الأصعب أو الحساسة إلى الفريق مع المحادثة كاملة.
- MedGAN Align يراجع المتقدّمين ويشرح توصياته بكلمات واضحة، لكن قرار التوظيف يبقى دائمًا لشخص.
- MedGAN Atlas يشرح ما تغيّر في بياناتك ولماذا، ليتمكّن متّخذو القرار من التحقق من التفسير قبل التصرّف.
ويسري التفكير نفسه في تطوير الذكاء الاصطناعي المخصّص لدينا. ولمعرفة المزيد عن طريقة عمل الأنظمة المستقلة، اقرأ دليلنا عن الذكاء الاصطناعي الوكيل.
ابدأ بإشراف أكبر، ثم امنح الاستقلالية تدريجيًا
نصيحتنا لكل عميل واحدة: أطلق المنتج بمراجعة بشرية أكثر مما تظن أنك تحتاج، وقِس عدد مرات اتفاق الناس مع الذكاء الاصطناعي، ثم وسّع استقلاليته كلما زادت الأدلة. فالثقة تُكتسب على مراحل، والأرقام تخبرك متى تكون كل مرحلة آمنة. ونشرح كيف تتابع هذه الأرقام في كيف تقيس نجاح منتجات الذكاء الاصطناعي.
إذا كنت تصمّم منتج ذكاء اصطناعي وتريد تحقيق التوازن الصحيح، تحدّث مع فريقنا.
الأسئلة الشائعة
ما هو الذكاء الاصطناعي بإشراف بشري؟
هو نهج في التصميم يراجع فيه الناس عمل نظام الذكاء الاصطناعي أو يصحّحونه أو يعتمدونه في نقاط أساسية، بدلًا من أن يعمل وحده بالكامل. ويواءم الأتمتة مع المخاطر، ويستخدم التصحيحات البشرية لتحسين النظام.
متى يجب أن يعمل الذكاء الاصطناعي دون مراجعة بشرية؟
في المهام منخفضة المخاطر وكبيرة الحجم، حيث تكون الأخطاء رخيصة وسهلة التراجع، مثل توجيه تذاكر الدعم. وحتى في هذه الحالة، يجب أن يراجع شخص عيّنة منتظمة من النتائج.
هل يجعل الإشراف البشري الذكاء الاصطناعي أبطأ؟
ليس عندما يُصمَّم جيدًا. فالحالات الروتينية تعمل تلقائيًا، ولا يتدخّل الناس إلا حيث يضيف حكمهم قيمة. والتصحيحات السهلة بخطوة واحدة تُبقي العملية سريعة.
كيف تستخدم MedGAN مبدأ الإشراف البشري؟
تحدّد MedGAN، شركة الذكاء الاصطناعي للمؤسسات ومقرها عمّان في الأردن، مستوى استقلالية لكل مهمة بحسب المخاطر. وتشرح منتجاتها طريقة وصولها إلى النتائج، وتُظهر عدم اليقين، وتسلّم القرارات الحساسة إلى الناس مع السياق كاملًا.
