السغروشني حول الذكاء الاصطناعي في الصحة:”لا نحتاج إلى إيقاف السيارة بل إلى قانون للسير”

أكد عمر السغروشني، رئيس اللجنة الوطنية لمراقبة حماية المعطيات ذات الطابع الشخصي (CNDP)، على أهمية اعتماد مقاربة متوازنة للذكاء الاصطناعي في مجال الصحة، تقوم على مواكبة الابتكار الرقمي، مع ضرورة إخضاع تطوره لمبادئ الشفافية والأمن والتكوين والأخلاقيات، مشددا على أن الثقة تشكل ركيزة أساسية لضمان الاستخدام المسؤول لهذه التكنولوجيات، سواء تعلق الأمر بثقة المريض في حماية معطياته الشخصية، أو ثقة المهني في الأدوات التي يستخدمها، أو الثقة الجماعية في المؤسسات المكلفة بضمان الاستخدام المسؤول للتكنولوجيات.

جاء ذلك خلال مداخلته في المؤتمر الدولي العاشر للجمعية المغربية لطب المستعجلات (SMMU)، المنعقد بالرباط خلال الفترة الممتدة من 15 إلى 17 أكتوبر 2026. حيث أبرز أن الذكاء الاصطناعي يمثل تطورا كبيرا بالنسبة للمنظومة الصحية، بالنظر إلى قدرته على تحليل آلاف المعطيات في بضع ثوان، مما يتيح آفاقا لتحسين المعرفة بالمريض وتسريع التشخيص ودعم اتخاذ القرار الطبي.

وشدد السغروشني خلال كلمته حول موضوع “الذكاء الاصطناعي والمعطيات الصحية: الابتكار دون فقدان الثقة”، على أن هذا التقدم لا ينبغي رفضه من حيث المبدأ، موضحا أن الخطر المتمثل في وقوع حادث لا يبرر التخلي عن السيارة، بل يستدعي وجود قانون للسير للحد من المخاطر. وبالطريقة نفسها، فإن استخدام الذكاء الاصطناعي في مجال الصحة يتطلب إطارا تنظيميا وأخلاقيا ملائما، بما يتيح مواكبة الابتكار بدلا من عرقلته، مع ضمان سلامة المرضى وجودة الرعاية الصحية.

واعتبر رئيس اللجنة الوطنية أن الثقة تشكل عنصرا أساسيا في إدماج الذكاء الاصطناعي في الممارسات الطبية، مميزا بين ثقة المريض، الذي يجب أن يكون مطمئنا إلى أن معطياته الشخصية محمية وتُستخدم لمصلحته، وثقة مهني الصحة الذي يجب أن يكون قادرا على فهم النتائج التي تنتجها أدوات الذكاء الاصطناعي وتقييمها ومناقشتها. مؤكدا أن الذكاء الاصطناعي لا ينبغي أن يحل محل الحكم الطبي، أو أن يفرض قرارا صادرا عن نظام غامض، بل يجب أن يظل أداة للمساعدة على اتخاذ القرار، تكون نتائجها قابلة للتفسير ومدمجة في التفكير السريري للفريق المعالج.

“السيادة الرقمية لا تقتصر على موقع المعطيات أو تخزينها، بل تشمل أيضا الحفاظ على التحكم في استخدامها.”

إلى ذلك، توقف السغروشني عند المخاطر المرتبطة بـ”الصندوق الأسود” للخوارزميات، مبرزا أن سرعة معالجة المعطيات لا تضمن بمفردها ملاءمة التشخيص. إذ أنه من الضروري فهم المعطيات التي دُرِّبت عليها الخوارزميات، ومدى تمثيلها للسكان المعنيين، وملاءمة النماذج للسياق السريري الذي تُستخدم فيه. كما شدد على ضرورة تمكين المهنيين من معرفة حدود هذه الأدوات وتفسير نتائجها والتحقق من مدى ملاءمتها للحالات التي يواجهونها، حتى يكون كل قرار مدعوم بالذكاء الاصطناعي قابلا للتفسير والمناقشة داخل الفريق الطبي، مع الإبقاء على المسؤولية البشرية في صميم التكفل بالمريض.

السيادة الرقمية

وفيما يتعلق بحماية المعطيات والسيادة الرقمية، ذكّر رئيس اللجنة الوطنية بأن السيادة الرقمية لا تقتصر على موقع المعطيات أو تخزينها، بل تشمل أيضا الحفاظ على التحكم في استخدامها، وفي التكنولوجيات المعتمدة وكذا في القرارات المترتبة عنها.

 وأبرز أن المعطيات الصحية تشكل موردا أساسيا للبحث والابتكار وتحسين الممارسات الطبية، غير أن استغلالها يجب أن يحترم التحديد الواضح للغاية من المعالجة، وتناسب جمع المعطيات مع الاحتياجات، وأمن المعلومات وسريتها، والتحكم في الولوج إليها، فضلا عن الشفافية بشأن استخدامها واحترام المتطلبات المتعلقة بالموافقة وحماية حقوق المرضى والمواطنين والمهنيين.

وفي السياق ذاته، أكد السيد السغروشني أهمية التقييس في توفير إطار مرجعي مشترك لمختلف الفاعلين، من خلال قواعد مشتركة وأساليب عمل متناسقة ومتطلبات موحدة لضمان جودة استخدام الأدوات الرقمية والذكاء الاصطناعي وسلامتها وملاءمتها. كما أبرز أن التكوين يشكل تحديا رئيسيا، يستدعي تمكين الأشخاص المشاركين في تصميم الأدوات الرقمية أو تدبيرها أو استخدامها من الكفاءات الملائمة لمسؤولياتهم، محذرا من الحالات التي قد يتعرض فيها أشخاص لم يتلقوا تكوينا كافيا للتلاعب من طرف الذكاء الاصطناعي أو من طرف فاعلين آخرين ذوي نوايا سيئة.

إطار أخلاقي

وأبرز رئيس اللجنة الوطنية ضرورة إيجاد توازن بين تشجيع الابتكار والبحث، والحفاظ على الحريات الفردية وحقوق المرضى، وضمان سلامة المعالجات وجودتها، وتحميل الفاعلين مسؤولياتهم، وإتاحة تطور الممارسات ضمن إطار أخلاقي مشترك.

“التعاون والعمل المشترك يشكلان شرطين أساسيين لنجاح إدماج الذكاء الاصطناعي في القطاع الصحي”

وفيما يخص توظيف المعطيات الصحية لأغراض البحث العلمي، أكد السغروشني أهميتها في تحسين فهم الأمراض، وتطوير المعارف الطبية وابتكار حلول جديدة، مع التشديد على أن تقاسمها يجب أن يراعي الغاية المنشودة وسياق الاستخدام والضمانات الضرورية. كما تطرق إلى الصعوبات التي تواجهها المشاريع التي تجمع بين الخبراء الطبيين والباحثين وعدة مؤسسات، ولا سيما فيما يتعلق بالولوج إلى المعطيات وإعدادها لأغراض البحث، مذكرا بضرورة التمييز بين المعطيات المستخدمة في إطار الرعاية الصحية وتلك الموظفة لأغراض علمية، من خلال تحديد منهجية ملائمة لكل مشروع.

وفي هذا الإطار، أبرز رئيس اللجنة الوطنية أن التعاون والعمل المشترك يشكلان شرطين أساسيين لنجاح إدماج الذكاء الاصطناعي في القطاع الصحي، مشددا على أن القواعد المطبقة على المجال الرقمي في هذا القطاع لا يمكن وضعها فقط من الأعلى إلى الأسفل، بل يجب بناؤها بمشاركة مهنيي الصحة والباحثين ومؤسسات التقنين وباقي الفاعلين المعنيين. كما أكد أهمية اعتماد منهجية مشتركة في مشاريع التعاون، تقوم على تحديد الإشكالية والأهداف وشروط الولوج إلى المعطيات وكيفيات التعاون، بما يتيح فهم الإكراهات ووضع حلول ملائمة لمختلف الحالات.

وبالنظر إلى خصوصيات طب المستعجلات، الذي يقوم على اتخاذ قرارات سريعة في حالات غالبا ما تكون معقدة، أبرزت المداخلة أهمية الاستفادة من قدرة الذكاء الاصطناعي على تحليل معطيات متعددة، بما يساعد المهنيين على تحديد حالة المريض بشكل أدق وتوجيه التكفل به. غير أن استخدام هذه التكنولوجيات، وفق السغروشني، يستلزم إيلاء اهتمام خاص لموثوقية النتائج وتفسيرها السريري ومدى ملاءمتها للمرضى المعنيين، مع الحرص على أن تعزز الأدوات الرقمية قدرات الفريق الطبي، وألا تخلق اعتمادا على توصيات يستحيل تفسيرها أو التحقق منها.