بين تسارع استخدامات الذكاء الاصطناعي في المجال الصحي وتنامي رهانات حماية المعطيات ذات الطابع الشخصي، يطرح الانتقال من المبادرات الفردية إلى استخدام مؤطَّر ومسؤول تحديات جديدة أمام المؤسسات ومهنيي الصحة. حول هذه الرهانات، يحاور منصة ثقتنا البروفيسور أحمد غسان الأديب، عميد كلية محمد السادس للطب بمراكش، وأستاذ التعليم العالي في التخدير والإنعاش وطب المستعجلات، رئيس الجمعية المغربية لطب المستعجلات (SMMU)، والمدير التنفيذي للكرسي الأكاديمي «الذكاء الاصطناعي، الصحة والبيداغوجيا»، للوقوف عند شروط ابتكار صحي يجمع بين النجاعة، وحماية المعطيات، والثقة.
:تضطلعون بأدوار متعددة، بصفتكم طبيبا ممارسا وأكاديميا ومسؤولا مؤسساتيا. كيف تتكامل هذه الزوايا المختلفة عند تقييم استخدام الذكاء الاصطناعي في مجال الصحة؟
تدفعني الأدوار المختلفة التي أضطلع بها إلى النظر في استخدام الذكاء الاصطناعي من زوايا متعددة.
فمن زاويتي كطبيب ، أطرح دائما السؤال نفسه: هل ستُسهم أداة الذكاء الاصطناعي هذه فعلا في تحسين الرعاية الصحية؟ وهل ستتيح تشخيصا أسرع، وتحسّن مآل المريض، وتعزّز السلامة من خلال الحد من بعض الأخطاء؟ أم أنها ستتيح لنا، بفضل السرعة التي تنجز بها بعض المهام، توفير مزيد من الوقت للمهني كي يخصصه للعلاقة الإنسانية وللمريض؟
أما من الزاوية الأكاديمية، فأولي اهتماما كبيرا للطريقة التي نُكوّن بها مهنيي الصحة المستقبليين. إذ ينبغي أن نعلّمهم فهم الإمكانات التي يتيحها الذكاء الاصطناعي في تنظيم المعرفة والتعلّم واكتساب المهارات، وفي الوقت نفسه تمكينهم من إدراك حدوده، بما في ذلك الهلوسات، والتحيزات، ومخاطر الثقة المفرطة، والاشكالات المحتملة في استخداماته البيداغوجية.
ومن موقعي كمسؤول مؤسساتي، ينصب اهتمامي على الكيفية التي يمكن من خلالها حكامة استخدامات الذكاء الاصطناعي، بما يضمن حماية معطيات المرضى ومعطيات المؤسسة على حد سواء، وصون سيادتنا الصحية والرقمية، وضمان قابلية التتبع والأمن والامتثال، فضلا عن استدامة هذه الاستخدامات.
“ينبغي أن تتحول حماية المعطيات تدريجيا إلى ممارسة تلقائية لدى المهني، على غرار احترام السر المهني أو التحقق من هوية المريض.”
— أحمد غسان الأديب
:تؤكدون أن حماية المعطيات ليست عائقا أمام الابتكار في مجال الصحة، بل شرطا لنجاحه. كيف يمكن ترسيخ هذه المقاربة لدى الممارسين بالمغرب، وجعلها جزءا من ممارساتهم؟
نعم، أنا مقتنع بذلك شخصيا. وأعتقد، بداية، أنه ينبغي تجاوز التصادم المصطنع بين الابتكار والحماية.
فمهنيّو الصحة بات بإمكانهم اليوم الوصول بسهولة كبيرة إلى أدوات الذكاء الاصطناعي، وهم يستخدمونها بالفعل، سواء في المجال الرقمي أو، بشكل متزايد، في مختلف مهامهم المهنية اليومية. وإذا لم توفر لهم المؤسسة إطارا واضحا وبدائل آمنة، فلن تختفي هذه الاستخدامات، بل قد تتزايد بصورة غير رسمية وأقل وضوحا، وبالتالي تصبح أكثر صعوبة من حيث المراقبة والتأطير.
لذلك، أرى أن أفضل سبيل لإقناع الممارسين ينبغي أن يكون عمليا بالدرجة الأولى، من خلال توضيح القواعد وتبسيطها، والاستعانة بالتكوين لشرح المخاطر، وكذلك لتعلّم الاستخدام السليم لهذه الأدوات، والأهم من ذلك توفير حلول مؤسساتية آمنة وسلسة وسهلة الاستخدام.
وينبغي أن تتحول حماية المعطيات تدريجيا إلى ممارسة تلقائية لدى المهني، على غرار احترام السر المهني أو التحقق من هوية المريض، وألا يُنظر إليها باعتبارها عبئا إداريا إضافيا.
:كيف يمكن الانتقال من «الاستخدام الفردي» إلى «الابتكار المؤطر» للذكاء الاصطناعي في مجال الصحة، مع الحفاظ على حماية المعطيات ذات الطابع الشخصي؟
أعتقد أن التغيير الأول ينبغي أن يكون مؤسساتيا. فعلينا الانتقال من مبادرات فردية أو جماعية، قد تكون مفيدة للغاية لكنها غالبا ما تظل معزولة ومتفرقة، إلى استخدامات معروفة ومقيّمة وآمنة وخاضعة للإشراف.
ويقتضي ذلك تحديد الغايات على المستوى المؤسساتي والتنظيمي، وتحديد المعطيات التي يمكن استخدامها، والمسؤوليات، والأهم من ذلك مستويات المخاطر. كما ينبغي تحديد كيفيات استضافة المعطيات، وما يرتبط بذلك من رهانات السيادة، وشروط قابلية التتبع، وآليات التدقيق، فضلا عن مسألة محورية تتمثل في موقع المصادقة البشرية ضمن استخدام هذه الأدوات.
فمن البديهي أن الاستخدامات لا تنطوي جميعها على المستوى نفسه من المخاطر. إذ إن إنشاء دعامة بيداغوجية عامة لا يعادل تحليل معطيات طبية أو تقديم مساعدة في اتخاذ قرار سريري. ولذلك، ينبغي أن تكون الحكامة متناسبة مع مستوى المخاطر.
وعندما يكون أحد الاستخدامات جديرا بالاستكشاف على المستوى المؤسساتي، فإنني أؤمن كثيرا بمنطق التجريب التدريجي: نبدأ ضمن نطاق محدود، ثم نقيس ونؤمّن ونصحح، وبعد ذلك فقط يمكن التفكير في الانتقال المحتمل إلى استخدام أوسع نطاقاً.
وهنا تحديدا تكمن أهمية آليات التجريب المؤطَّر من قبيل «البيئة التنظيمية التجريبية» ( Sandbox) التي تتيح اختبار استخدام محدد داخل بيئة محدودة وآمنة وقابلة للتتبع والرجوع عنها، قبل التفكير في تعميمه.
:إلى جانب تسريب المعطيات في حد ذاته، ما أبرز الانزلاقات التي تثير قلقكم بشأن الاستخدام غير المنظم للذكاء الاصطناعي في مجال الصحة؟
نعم، ينطوي تسريب المعطيات على تداعيات كبرى تتعلق بالخصوصية والسر المهني والسيادة، ولذلك فهو بطبيعة الحال تحدّ أساسي. لكنه لا يمثل سوى جانب من المشكلة.
ما يثير قلقي بشكل خاص هو التداعيات التي قد تترتب على استخدام أدوات الذكاء الاصطناعي في التكفل بالمرضى، وفي نهاية المطاف على تشخيص حالتهم الصحية. ويتمثل الخطر الأول في الثقة المفرطة في الأداة، وهو ما يُعرف أحيانا بـ«تحيز الأتمتة – Biais d’automatisation». فقد يميل المهني إلى قبول إجابة لمجرد أنها صادرة عن نظام للذكاء الاصطناعي، من دون إعمال حكمه السريري بالقدر الكافي. والحال أنه، بالنظر إلى تحيزات النماذج، وجودة معطيات التدريب، والحدود الملازمة لهذه الأدوات، قد يؤدي ذلك إلى خطأ في التشخيص أو وصف علاج غير ملائم، أو إغفال عنصر مهم أثناء الاستجواب الطبي أو الفحص السريري، بما قد تترتب عنه آثار ضارة بالمريض.
هناك أيضا التحيزات الكامنة في النماذج نفسها. فقد جرى تطوير عدد كبير من النماذج الحالية انطلاقا من فئات سكانية وأنظمة صحية تختلف كثيرا عن واقعنا. وبالتالي، فإنها لا تراعي بالضرورة بعض الخصوصيات الجينية والفيزيولوجية والوبائية، فضلا عن الخصوصيات الاجتماعية والثقافية للسياق المغربي. وقد يؤثر ذلك بصورة مباشرة في مدى ملاءمة الإجابات المقدمة، بما ينطوي ليس فقط على مخاطر الخطأ، وإنما أيضا على احتمال إحداث بعض أوجه التفاوت في التكفل الصحي أو تعميقها.
كما ينبغي النظر إلى المسألة على مستوى النظام المعلوماتي للمستشفى. فعندما تُستخدم أدوات متعددة من دون حكامة مشتركة أو قابلية للتشغيل البيني، تُطرح إشكالات تتعلق بإعادة الاستخدام الثانوي للمعطيات، ومخاطر إعادة تحديد هوية أصحابها، وغياب قابلية التتبع، وتشتت الممارسات.
وأخيرا، ثمة خطر آخر أراه أكثر صمتا، ويتمثل في التجريد التدريجي للعلاقة العلاجية من بعدها الإنساني باسم الفعالية. إذ بدأت تظهر في بعض الخطابات والمشاريع فكرة مفادها أن الروبوتات والذكاء الاصطناعي قد تحل تدريجيا محل جانب مهم من الحضور البشري إلى جانب المرضى. وفي تقديري، ينبغي أن يكون الهدف عكس ذلك تماما.
“الذكاء الاصطناعي ينبغي أن يُستخدم لتوفير مزيد من الوقت للمهنيين والمرضى وللعلاقة الإنسانية، لا ليحل محل هذه العلاقة.”
:عمليا، كيف يمكن لغياب حماية المعطيات أو ضعفها أن يهدد، على المدى البعيد، نشر حلول الذكاء الاصطناعي في مجال الصحة؟
إنه سؤال بالغ الأهمية. نعيش اليوم في المغرب مرحلة تستدعي بناء رصيد حقيقي من الثقة في المنظومة الصحية. ويتزامن ذلك مع إصلاح مهم يشمل حكامة جديدة ومؤسسات جديدة، من بينها الهيئة العليا للصحة (HAS) والمجموعات الصحية الترابية. وفي هذا السياق، تكتسي الثقة أهمية أكبر.
فلا يمكن لأي ابتكار في مجال الصحة أن يتطور بشكل مستدام من دون هذا الرصيد من الثقة. وإذا ساور المرضى شك بشأن الكيفية التي تُستخدم بها معطياتهم أو تحفظ أو تتبادل، فمن الطبيعي أن يصبحوا أكثر ترددا في إتاحتها للمنظومة الصحية.
وبالمثل، إذا كان مهنيو الصحة لا يعرفون كيف ستُستخدم المعطيات التي يقومون بإدخالها، ومن يمكنه الولوج إليها، وفي أي ظروف، وكيف يمكن إعادة استخدامها مستقبلا، فسيترددون بدورهم في اعتماد أدوات الذكاء الاصطناعي.
وهناك عنصر أساسي آخر، يتمثل في أن المؤسسة التي لا تتحكم في جودة معطياتها ولا في حكامتها فهي تُضعف بشكل مباشر جودة الذكاء الاصطناعي نفسه.
نحن بحاجة، بطبيعة الحال، إلى أدوات ذكاء اصطناعي متينة وموثوقة وذات أداء عال. لكن قبل الحديث عن جودة الخوارزميات، ينبغي أولا الحديث عن جودة وحكامة المعطيات التي تغذيها.
“نحن بحاجة، بطبيعة الحال، إلى أدوات ذكاء اصطناعي متينة وموثوقة وذات أداء عال. لكن قبل الحديث عن جودة الخوارزميات، ينبغي أولا الحديث عن جودة وحكامة المعطيات التي تغذيها”
— أحمد غسان الأديب
:إلى جانب الآليات المؤسساتية والترسانة التنظيمية المعتمدة في المغرب، ما الدور الذي ينبغي أن يضطلع به مهنيو الصحة في اليقظة اليومية إزاء المخاطر المرتبطة باستخدام الذكاء الاصطناعي في المجال الصحي؟
بطبيعة الحال، يضطلع مهنيو الصحة بدور محوري وحاسم. فالتنظيم وأنظمة الأمن أمران لا غنى عنهما، لكنهما لن يعوضا أبدا اليقظة اليومية للمهنيين.
وينبغي أولا تكوين هؤلاء المهنيين وإشراكهم ومواكبتهم، حتى يتمكنوا من استيعاب أدوات الذكاء الاصطناعي واستخدامها بمسؤولية.
وتتجسد هذه اليقظة أيضا في ممارسات بسيطة: عدم إدخال معطيات تسمح بتحديد هوية الأشخاص في أدوات غير مرخص بها، والتحقق من الإجابات التي ينتجها الذكاء الاصطناعي، والتبليغ عن الحوادث أو الاختلالات، واحترام قواعد الولوج وفهم حدود الأداة المستخدمة.
غير أن هذه المسؤولية ليست فردية فحسب. فالمؤسسة التي تختار أداة معينة وتجيز استخدامها وتتبناها، يتعين عليها بدورها تنظيم حكامتها وأمنها وتقييمها وشروط استخدامها. ولا يمكنها تحميل المهني الذي يستخدمها كامل المخاطر المرتبطة بها. لكن الأهم هو أن يظل المهني مسؤولا عن حكمه وتقديره.
والمبدأ الذي أدافع عنه شخصيا بسيط للغاية: الذكاء الاصطناعي يساعد، والمهني يقرر.
لذلك، ينبغي ألا تتحول المصادقة البشرية إلى مجرد إجراء شكلي، بل يجب أن تظل مرحلة فعلية للمراجعة والتقييم النقدي.
:كيف يُسهم البعد البيداغوجي لكرسي”الذكاء الاصطناعي والصحة والبيداغوجيا” في إعداد مهنيي الصحة المستقبليين للاستخدام المسؤول للذكاء الاصطناعي وحماية المعطيات ذات الطابع الشخصي؟
نعم، ربما يكون هذا أحد أهم الرهانات. فما دمنا نتحدث عن تكوين المهنيين، فلا يمكننا انتظار أن يصبح الطلبة أطباء أو ممرضين أو مهنيين في مجال الصحة حتى نبدأ الحديث معهم عن الذكاء الاصطناعي والأخلاقيات وحماية المعطيات.
فهذه كفايات ينبغي تطويرها في مرحلة مبكرة، من خلال بناء ثقافة رقمية وثقافة في مجال الذكاء الاصطناعي. ويتعين على مهنيي المستقبل فهم كيفية اشتغال هذه الأدوات، والقدرة على مساءلتها والتحقق من مصادرها والتعرف على تحيزاتها وحماية المعطيات، والأهم من ذلك الحفاظ على استقلاليتهم الفكرية.
ويندرج كرسي «الذكاء الاصطناعي، الصحة والبيداغوجيا» تحديدا ضمن هذه الرؤية؛ إذ لا يهدف فقط إلى التكوين على استخدام الذكاء الاصطناعي، وإنما، قبل كل شيء، إلى التكوين على حسن استخدامه. كما يوسع نطاق هذا التفكير ليشمل التكوين والبحث والحكامة والتقييم.
وفي جامعة محمد السادس لعلوم الصحة، يجري إدماج هذا البعد تدريجيا ضمن المناهج والبرامج التكوينية. كما طورنا منصة ‘Inteligis UM6SS’ الموجهة إلى الطلبة والأساتذة على حد سواء، والتي تشكل إحدى الترجمات العملية لهذه الرؤية على المستوى البيداغوجي. وتُستكمل هذه المقاربة ببرامج للتكوين والمواكبة تشرف عليها فرقنا وأطرنا التدريسية.
فالرهان البيداغوجي ليس تكوين مهنيين يعتمدون على الذكاء الاصطناعي، وإنما نقلهم تدريجيا من موقع مستهلكي الذكاء الاصطناعي إلى موقع الفاعلين المسؤولين، القادرين على فهم الأدوات ومساءلتها وتقييمها، والإسهام مستقبلا في تطوير الأدوات التي سيستخدمونها، مع الحفاظ على التفكير النقدي والاستقلالية والمسؤولية، قانونيا وأخلاقيا.
:ما الرسالة التي توجهونها إلى حاملي مشاريع الذكاء الاصطناعي في مجال الصحة، ممن قد ينظرون إلى حماية المعطيات ذات الطابع الشخصي باعتبارها قيدا أمام الحاجة الملحّة إلى الابتكار؟
بكل صراحة، أقول لهم إنني مقتنع بأن حماية المعطيات ليست عقبة ينبغي تجاوزها من أجل التقدم بشكل أسرع، بل هي، على العكس، مكوّن من مكونات جودة الابتكار نفسه.
وأتفهم تماما شعورهم بأن كل شيء يتطور بوتيرة متسارعة، وأن سباق الابتكار شديد، لا سيما أنهم شباب متحمسون وقد يميلون أحيانا إلى الاستعجال. لكن ينبغي ألا ننسى أن أي حل، مهما كان متفوقا من الناحية التقنية، إذا لم يحمِ المعطيات بالشكل الكافي، أو ظلت المسؤوليات المرتبطة به غير واضحة، أو تعذر إخضاعه للتدقيق، فسيواجه صعوبة كبيرة في كسب ثقة المرضى والمهنيين والمؤسسات على نحو مستدام.
لذلك، من الأفضل إدماج هذه المتطلبات منذ مرحلة التصميم، وفق مبدأ «حماية الحياة الخاصة منذ التصميم» (Privacy by Design) إلى جانب الأمن، وتقليص المعطيات إلى الحد الضروري، وقابلية التتبع، والإشراف البشري والتقييم.
وإذا كان لا بد من الاحتفاظ برسالة واحدة، فهي أن الابتكار المستدام حقا ليس الابتكار الأسرع، وإنما الابتكار القادر على إثبات قيمته، والتحكم في مخاطره، وكسب الثقة اللازمة لاعتماده على نطاق أوسع.
Pr. Ahmed Rhassane El Adib : “Protéger les données, c’est construire la confiance dont l’IA en santé a besoin pour durer
Alors que les professionnels de santé s’approprient déjà l’intelligence artificielle, comment passer d’usages individuels à une innovation gouvernée ? Clinicien, universitaire et responsable institutionnel, Pr Ahmed Rhassane EL ADIB, Doyen de la Faculté Mohammed VI de Médecine de Marrakech et directeur exécutif de la Chaire « IA, Santé & Pédagogie» de l’UM6SS, plaide pour une approche pragmatique: règles claires, outils sécurisés, formation des futurs professionnels et validation humaine systématique. À ses yeux, à l’heure de la réforme du système de santé marocain, la protection des données n’est pas une contrainte administrative, mais le socle de la confiance des patients, des praticiens et des institutions. Entretien.
: Vous portez plusieurs casquettes (clinicien, universitaire et responsable institutionnel). Comment ces différentes perspectives se complètent-elles lorsqu’il s’agit d’évaluer l’usage de l’IA en santé ?
Mes différentes casquettes me poussent à regarder l’utilisation de l’intelligence artificielle à travers plusieurs angles de vue.
Si je prends d’abord mon angle de clinicien, je me pose toujours la même question : est-ce que cet outil d’IA va réellement améliorer le soin ? Est-ce qu’il va permettre un diagnostic plus rapide, améliorer le pronostic du patient, renforcer la sécurité en réduisant certaines erreurs ? Ou est-ce qu’il va surtout nous permettre, grâce à la rapidité de certaines tâches qu’il peut accomplir, de restituer du temps au professionnel pour la relation humaine et pour le patient
Sous l’angle universitaire, je m’intéresse énormément à la manière dont nous formons les futurs professionnels de santé. Il faut leur apprendre à comprendre les possibilités offertes par l’intelligence artificielle dans la structuration de la connaissance, l’apprentissage et l’acquisition des compétences, mais aussi à en connaître les limites : les hallucinations, les biais, les risques de surconfiance et les dérives possibles dans les usages pédagogiques.
Enfin, sous l’angle du responsable institutionnel, je m’intéresse à la façon dont nous pouvons gouverner les usages de cette intelligence artificielle : protéger les données des patients comme celles de l’institution, préserver notre souveraineté sanitaire et numérique, assurer la traçabilité, la sécurité, la conformité et, bien entendu, la soutenabilité de ces usages.
Je pense donc que l’intelligence artificielle en santé ne peut pas être évaluée uniquement par sa performance technologique. Elle doit être évaluée par rapport à sa valeur clinique, sa valeur humaine et sa valeur organisationnelle.
:Vous confirmez que la protection des données n’est pas un frein à l’innovation en santé, mais une condition de sa réussite. Comment faire en sorte que cette approche soit assimilée, voire adoptée, par les praticiens sous nos latitudes ?
Oui, personnellement, j’en suis convaincu. Je pense d’abord qu’il faut sortir d’une opposition artificielle entre innovation et protection.
De toute façon, les professionnels de santé ont aujourd’hui un accès très facile aux outils d’intelligence artificielle et ils les utilisent déjà, que ce soit dans le numérique ou, de plus en plus, dans différentes tâches de leur quotidien professionnel. Si l’institution ne leur propose pas un cadre clair et des alternatives sécurisées, ces usages ne vont pas disparaître. Au contraire, ils risquent de se multiplier, mais de manière plus informelle, moins visible et donc beaucoup plus difficile à contrôler.
Pour moi, la meilleure manière de convaincre les praticiens doit donc être très pragmatique. Il faut clarifier et simplifier les règles, utiliser la formation pour expliquer les risques, mais aussi pour apprendre à utiliser correctement les outils, et surtout proposer des solutions institutionnelles sécurisées, ergonomiques et faciles à utiliser.
“La protection des données doit progressivement devenir un réflexe professionnel, au même titre que le secret médical ou l’identitovigilance, et non être perçue comme une contrainte administrative supplémentaire”
Pr . Ahmed Rhassane El Adib —
:Comment assurer le passage de « l’usage individuel » à « l’innovation gouvernée » de l’IA en santé tout en préservant la protection des données à caractère personnel ?
Merci beaucoup pour cette question qui, dans la continuité de ce que je viens de dire, est centrale et essentielle.
Je pense que le premier changement doit être institutionnel. Il faut passer d’initiatives individuelles ou de groupes, certes très utiles, mais souvent isolées et éparpillées, à des usages qui soient connus, évalués, sécurisés et supervisés.
Cela suppose de définir, de façon institutionnelle et régalienne, les finalités, les données qui peuvent être utilisées, les responsabilités, mais aussi et surtout les niveaux de risque. Il faut également préciser les modalités d’hébergement, avec les enjeux de souveraineté que cela implique, les conditions de traçabilité, les mécanismes d’audit, et comme point crucial, la place de la validation humaine dans l’utilisation de ces outils.
En effet, tous les usages ne présentent évidemment pas le même niveau de risque. Générer un support pédagogique générique n’est pas équivalent à analyser des données médicales ou à proposer une aide à la décision clinique. La gouvernance doit donc être proportionnée au niveau de risque.
Et lorsqu’un usage mérite d’être exploré de manière institutionnelle, je crois beaucoup à une logique d’expérimentation progressive : commencer dans un périmètre limité, mesurer, sécuriser, corriger, puis seulement ensuite envisager un éventuel passage à une utilisation à plus grande échelle.
C’est notamment tout l’intérêt des dispositifs d’expérimentation encadrée, de type sandbox : tester un usage précis dans un environnement limité, sécurisé, traçable et réversible avant d’envisager sa généralisation.
:Au-delà de la fuite pure des données, quelles sont pour vous les dérives les plus préoccupantes d’un usage non réglementé de l’IA en santé ?
Oui, la fuite des données a des implications majeures en matière d’intimité, de secret professionnel et de souveraineté. C’est donc évidemment un enjeu essentiel. Mais ce n’est effectivement qu’une partie du problème.
Personnellement, je suis particulièrement préoccupé par les conséquences que peut avoir l’utilisation des outils d’IA sur la prise en charge et, finalement, sur le pronostic des patients. Le premier risque est celui de la surconfiance dans l’outil, ce qu’on appelle parfois le biais d’automatisation. Le professionnel peut être tenté d’accepter une réponse simplement parce qu’elle a été produite par une intelligence artificielle, sans exercer suffisamment son propre jugement clinique. Or, entre les biais des modèles, la qualité des données d’entraînement et les limites intrinsèques de ces outils, cela peut conduire à une erreur diagnostique, à une prescription inadaptée ou encore à négliger un élément important de l’interrogatoire ou de l’examen clinique, avec des conséquences potentiellement préjudiciables pour le patient.
Il y a également les biais contenus dans les modèles eux-mêmes. Beaucoup de modèles actuels ont été développés à partir de populations et de systèmes de santé très différents des nôtres. Ils ne prennent donc pas nécessairement en compte certaines spécificités génétiques, physiologiques, épidémiologiques, mais aussi socioculturelles de notre contexte marocain. Cela peut avoir un impact direct sur la pertinence des réponses proposées, avec un risque non seulement d’erreur, mais aussi de créer ou d’amplifier certaines inégalités de prise en charge.
Il faut aussi raisonner à l’échelle du système d’information hospitalier. Lorsque plusieurs outils sont utilisés sans gouvernance commune et sans interopérabilité, se posent les questions de la réutilisation secondaire des données, du risque de réidentification, du manque de traçabilité et de la fragmentation des pratiques.
Enfin, il existe à mes yeux un risque plus silencieux : celui de déshumaniser progressivement la relation de soin au nom de l’efficacité. On voit apparaître, dans certains discours et certains projets, l’idée que les robots et l’intelligence artificielle pourraient progressivement remplacer une partie importante de la présence humaine auprès des patients. Pour moi, l’objectif devrait être exactement inverse.
L’intelligence artificielle devrait être utilisée pour restituer du temps aux professionnels, aux patients et à la relation humaine, et non pour remplacer cette relation.
:Concrètement, en quoi l’absence ou la faiblesse de la protection des données peut-elle compromettre, à terme, le déploiement même des solutions d’IA en santé ?
C’est une question extrêmement intéressante. Au Maroc, nous vivons aujourd’hui une période où il existe un véritable capital confiance à construire autour du système de santé. Nous sommes en même temps au cœur d’une réforme importante, avec une nouvelle gouvernance, de nouvelles institutions, la Haute Autorité de Santé et les Groupements Sanitaires Territoriaux. Dans ce contexte, la confiance devient encore plus essentielle.
Aucune innovation en santé ne peut durablement se développer sans ce capital confiance. Si les patients doutent de la manière dont leurs données sont utilisées, conservées ou partagées, ils seront naturellement plus réticents à les confier au système.
De la même manière, si les professionnels de santé ne savent pas quelle utilisation sera faite des données qu’ils renseignent, qui peut y accéder, dans quelles conditions et comment elles pourront éventuellement être réutilisées, ils hésiteront eux aussi à adopter les outils d’intelligence artificielle.
Il y a également un autre élément fondamental : lorsqu’une institution ne maîtrise ni la qualité ni la gouvernance de ses données, elle fragilise directement la qualité de l’intelligence artificielle elle-même.
Si je devais donc résumer simplement : bien entendu, nous avons besoin d’outils d’IA robustes, crédibles et performants.
“Avant de parler de la qualité des algorithmes, il faut d’abord parler de la qualité, de la gouvernance et de la protection des données qui les alimentent”
Pr. Ahmed Rhassane El Adib
:Au-delà des dispositifs institutionnels et de l’arsenal réglementaire mis en place au Maroc, quel rôle les professionnels de santé doivent-ils jouer dans la vigilance quotidienne face à ces risques liés à l’usage de l’IA en santé ?
Bien entendu, les professionnels de santé jouent un rôle central et déterminant. La réglementation et les systèmes de sécurité sont indispensables, mais ils ne remplaceront jamais la vigilance quotidienne des professionnels.
Il faut d’abord que ces professionnels soient formés, impliqués et accompagnés, afin qu’ils puissent s’approprier les outils d’intelligence artificielle et les utiliser de manière responsable.
Cette vigilance passe ensuite par des comportements simples : ne pas introduire de données identifiantes dans des outils non autorisés, vérifier les réponses produites par l’intelligence artificielle, signaler les incidents ou les anomalies, respecter les règles d’accès et comprendre les limites de l’outil utilisé.
Cette responsabilité n’est d’ailleurs pas uniquement individuelle. L’institution qui choisit, autorise et déploie un outil doit elle-même organiser sa gouvernance, sa sécurité, son évaluation et les conditions de son utilisation. Elle ne peut pas transférer l’ensemble du risque sur le professionnel qui l’utilise.
Mais surtout, le professionnel doit rester responsable de son jugement.
Le principe que je défends personnellement est très simple : l’intelligence artificielle assiste, le professionnel décide.
La validation humaine ne doit donc jamais devenir une simple formalité. Elle doit rester une véritable étape de contrôle critique.
:Comment la dimension pédagogique de la Chaire contribue-t-elle à préparer les futurs professionnels de santé à un usage responsable de l’IA et à la protection des données à caractère personnel ?
Oui, c’est probablement l’un des enjeux les plus importants. Puisque nous venons de parler de la formation des professionnels, nous ne pouvons pas attendre que les étudiants deviennent médecins, infirmiers ou professionnels de santé pour commencer à leur parler d’intelligence artificielle, d’éthique ou de protection des données.
Ce sont des compétences qu’il faut développer très tôt, à travers une véritable littératie numérique et en intelligence artificielle. Les futurs professionnels doivent comprendre comment fonctionnent ces outils, savoir les questionner, vérifier les sources, reconnaître leurs biais, protéger les données et surtout conserver leur autonomie intellectuelle.
La Chaire « IA, Santé & Pédagogie » s’inscrit précisément dans cette logique : former non seulement à utiliser l’intelligence artificielle, mais surtout à bien l’utiliser. Elle porte cette réflexion à un niveau plus large de formation, de recherche, de gouvernance et d’évaluation.
Au sein de l’UM6SS, cette dimension est progressivement intégrée dans les curricula et les programmes de formation. Nous avons également développé Inteligis UM6SS, une plateforme destinée à la fois aux étudiants et aux enseignants, qui constitue l’une des traductions opérationnelles de cette vision sur le terrain pédagogique. Cette démarche est complétée par des actions de formation et d’accompagnement portées par nos équipes et nos enseignants.
L’enjeu pédagogique n’est pas de produire des professionnels dépendants de l’intelligence artificielle. Il est au contraire de les faire progressivement passer d’une posture de consommateurs de l’IA à celle d’acteurs responsables, capables de comprendre, questionner, évaluer et, demain, contribuer à créer les outils qu’ils utiliseront, tout en conservant leur esprit critique, leur autonomie et leur responsabilité, à la fois juridique et éthique.
:Quel message adresseriez-vous aux porteurs de projets d’IA en santé qui seraient tentés de considérer la protection des données à caractère personnel comme une contrainte face à l’urgence de l’innovation ?
En toute franchise, je leur dirais que je suis convaincu que la protection des données n’est pas un obstacle à contourner pour aller plus vite. C’est au contraire une composante de la qualité même de leur innovation.
Je comprends parfaitement qu’ils aient le sentiment que tout va très vite, que la course à l’innovation est intense, et qu’ils soient jeunes, enthousiastes et parfois impatients. Mais il ne faut pas oublier qu’une solution techniquement brillante, qui ne protège pas correctement les données, dont les responsabilités restent floues ou qui ne peut pas être auditée, aura beaucoup de difficultés à gagner durablement la confiance des patients, des professionnels et des institutions.
Il vaut donc mieux intégrer ces exigences dès la conception : privacy by design, sécurité, minimisation des données, traçabilité, supervision humaine et évaluation.
