أبوظبي تنظّم الذكاء الاصطناعي الصحي على امتداد دورة حياته، لا عند الإطلاق فقط.

ينظَّم المعيار في أربعة أجزاء، اثنان منها يتعلقان بكيفية بناء النظام وبما يُسمح له أن يتعلم منه.

الأسس الجوهرية لكل أنظمة الذكاء الاصطناعي

يحمل كل نظام ذكاء اصطناعي خطّ أساس بصرف النظر عن وظيفته. وعملياً يعني ذلك معرفة الغرض من النظام، ومن يملكه، وما يجوز له أن يقرّره وما لا يجوز، والقدرة على إظهار ذلك كله عند الطلب.

إدارة البيانات للذكاء الاصطناعي

هنا يلتقي امتثال الذكاء الاصطناعي بالعمل على البيانات. والأسئلة المهمة بسيطة: من أين جاءت بيانات التدريب أو الاسترجاع، وهل كان استخدامها لهذا الغرض قانونياً، وهل يحترم الاسترجاع صلاحيات النظام المصدر، وهل تستطيع أن تقول ما رآه النموذج.

الاسترجاع الذي يُسطّح الصلاحيات هو الإخفاق الأكثر تكراراً في ما نراه. فنظام يفهرس كل شيء ويجيب من أي شيء سيُظهر سجلاً لم يكن الطبيب الطالب مخوَّلاً بالاطلاع عليه، وسيفعل ذلك بصمت.

يضع المعيار عملية لإدارة مخاطر الذكاء الاصطناعي المسؤول كتخصّص قائم بذاته، بدل إدراج الذكاء الاصطناعي في سجل المخاطر العام.

ما يطلبه ذلك من أي نشر

• غرض ونطاق معلنان لكل نظام ذكاء اصطناعي، مع تدوين القرارات المسموح له بالتأثير فيها.
• إشراف بشري موضوع حيث يكون الأثر أكبر، بمراجع مُسمّى بالاسم لا بدور نظري.
• مراقبة بعد الإطلاق، لأن نموذجاً أدّى جيداً في التحقق قد ينحرف مع تغيّر مجتمع المرضى.
• سجل لما قرّره النظام وعلى أي أساس، محفوظ مدةً تكفي للتحقيق.
• مسار محدّد لسحب النظام أو إخراجه من الخدمة، ودليل على اتباعه.

تأطير دورة الحياة مهم هنا. فالإخراج من الخدمة داخل النطاق صراحةً، ولا يخطط له أحد تقريباً، وهكذا يترك نموذج مُتقاعد تمثيلاته وسجلاته خلفه.

الجزء الرابع من المعيار هو الثقافة المعرفية بالذكاء الاصطناعي، وهو الذي يحتاج أشخاصاً لا هندسة.

الطبيب الذي لا يعرف بماذا يمكن الاعتماد على النظام وبماذا لا يمكن هو إخفاق في الضوابط، لا فجوة تدريب. والأمر نفسه ينطبق على إداري يلصق سجل مريض في روبوت محادثة عام لأن أحداً لم يخبره أن ذلك واجب الإبلاغ.

ما نقدّمه

• جلسات بالعربية والإنجليزية، بسجلات حضور وإتمام يمكن إخراجها.
• محتوى مخصّص بحسب الدور: الأطباء، والإداريون، وتقنية المعلومات، والتنفيذيون الذين يعتمدون توريد الذكاء الاصطناعي.
• ما تفعله أنظمتك المنشورة فعلاً، يُدرَّس على أنظمتك لا على أمثلة عامة.
• متى يجب التصعيد، وما يُعدّ حادثة.
• الاستخدام الآمن وغير الآمن لأدوات الذكاء الاصطناعي العامة، مع تجسيد الأثر على حماية البيانات.

يقترن هذا بالتزام التوعية الأمنية في معيار ADHICS، وهو متطلب منفصل. وحيث ينطبق الاثنان، نقدّمهما كبرنامج واحد لا كبرنامجين متقاطعين.

نبني أنظمة ذكاء اصطناعي صحية وفق هذا المعيار، ونرفع عمليات النشر القائمة إلى مستواه.

لنظام جديد

غرض ونطاق محدّدان قبل البناء، واسترجاع يراعي الصلاحيات، ونقاط تحقق بشرية على المُخرَجات ذات الأثر، وتسجيل تدقيق لكل استعلام مرتبط بهوية موثَّقة، ومسار إخراج من الخدمة مُصمَّم لا مُرتَجَل.

لشيء يعمل بالفعل

1. جرد كل نظام مدعوم بالذكاء الاصطناعي قيد الاستخدام، بما فيه منتجات المورّدين التي لم يصنّفها أحد كذكاء اصطناعي.
2. تقييم كل منها مقابل أجزاء المعيار الأربعة، وقول ما لا يتماسك بصراحة.
3. المعالجة، بدءاً بالاسترجاع المراعي للصلاحيات وتسجيل التدقيق، لأنهما الإخفاقان ذوا الأثر على المرضى.
4. إرساء عملية إدارة المخاطر والمراقبة، بمسؤولين مُسمّين.
5. تقديم برنامج الثقافة المعرفية، بسجلات.

اربط كل متطلب بوثيقة دائرة الصحة الحالية لا بملخّص، بما في ذلك ملخّصنا. فللمعيار مدة مراجعة سنة واحدة وجهة اتصال في مكتب حوكمة البيانات للاستفسارات، والنسخة مهمة.