نشر الذكاء الاصطناعي في مراسلة المرضى من دون أن يتحوّل إلى مسؤولية قانونية

معظم ما كُتب عن الامتثال في الذكاء الاصطناعي الصحي مكتوب بمستوى من التجريد لا يفيد أحدًا — مبادئ عن الشفافية والإنصاف لا يمكن التحقق منها بعد ظهر يوم ثلاثاء. هذا الدليل نقيض ذلك: قائمة ضوابط يمكنك تطبيقها، والتحقق منها في نظامك، وعرضها على من يسأل.

الضابط 1: حدّ سريري صارم، يُطبَّق قبل تشغيل النموذج

أهم ضابط على الإطلاق هو قاعدة تحدّد ما يُسمح للنظام بالإجابة عنه، تُطبَّق بتصنيف الموضوع قبل أن يُطلب من النموذج اللغوي إنتاج أي شيء. ليست تعليمة في الموجّه. وليست حدًّا لدرجة الثقة. بل قرار توجيه.

ولهذا الترتيب سبب محدد. النموذج الذي يُؤمر «لا تقدّم نصيحة طبية» سيقدّمها مع ذلك حين يُصاغ السؤال ببراءة، لأن التعليمة تتنافس مع ضغط الرغبة في المساعدة. أما مصنّف الموضوع الذي يوجّه كل ما له شكل عَرَض أو دواء أو تشخيص أو مضاعفة إلى قائمة الموظفين فيُخرج النموذج من القرار تمامًا.

دوّن هذه الفئات بوصفها سياسة للعيادة، لا إعدادًا لدى المزوّد. المزوّد ينفّذ سياستك ولا يؤلّفها. وإن لم يستطع المزوّد أن يريك الفئات بصيغة مقروءة ويتيح لك تغييرها، فأنت لا تتحكم في الحدّ.

الضابط 2: الاعتماد على المصدر، بحيث يكون لكل إجابة أصل

كل ردّ يرسله النظام ينبغي أن يكون قابلًا للتتبع إلى مادة مصدرية معتمدة بعينها. هذا هو الضابط الذي يصنع الفرق بين «مساعدنا قال على الأرجح شيئًا معقولًا» وسؤال له إجابة.

عمليًا، يعني هذا استرجاعًا من مستنداتك أنت، مع تخزين المقطع المسترجَع إلى جانب الرسالة المرسلة. حين يعترض مريض على ما قيل له، تفتح المحادثة وتقرأ البطاقة. وحين يلاحظ طبيب إجابة خاطئة، يصلح البطاقة فتتغيّر كل إجابة لاحقة — وهذه أيضًا، بالمناسبة، الطريقة التي يتحسّن بها النظام.

• كل رسالة صادرة تُخزَّن ومعها المصدر المسترجَع، بشكل دائم.
• لكل بطاقة معرفة مالك محدد بالاسم وتاريخ مراجعة، والبطاقات السريرية يعتمدها طبيب قبل الاستخدام.
• تغيير أي بطاقة يُسجَّل مع من غيّرها ومتى.
• حين لا يجد الاسترجاع شيئًا فوق حدّ الثقة، يمتنع النظام بدل أن يجيب — ويُسجَّل الامتناع فجوةً في المعرفة.

الضابط 3: موافقة محددة ومسجَّلة وقابلة للسحب

الموافقة على المراسلة ليست الموافقة على العلاج، والموافقة على تذكيرات المواعيد ليست موافقة على التسويق. والأنظمة في المنطقة تلتقي عند التوقعات نفسها: محددة الغرض، وحرّة، ومسجَّلة، وسحبها بسهولة منحها.

• اذكر القناة بالاسم. «قد نتواصل معك» أضعف من «سنرسل تذكيرات المواعيد ورسائل العناية اللاحقة عبر واتساب».
• افصل الاتصالات السريرية عن الترويجية، بموافقتين منفصلتين.
• سجّل الصياغة المعروضة والتاريخ والقناة — لا عمودًا من نعم/لا يفقد معناه حين تُعدَّل الاستمارة.
• اعرضها بالعربية والإنجليزية، وعامل الموافقة بأيٍّ منهما على أنها صحيحة بالقدر نفسه.
• احترم السحب بأي صياغة وبأي لغة ومن أول طلب، وسجّله.

الإفصاح للمريض بأنه يتحدث إلى مساعد آلي ينتمي إلى هنا أيضًا. تشترطه عدة سياسات للمنصات، ويتوقعه عدد متزايد من المنظّمين، و— الحجة العملية — لا يكلّف شيئًا. المرضى الذين يعرفون أنهم يتحدثون إلى مساعد يطلبون إنسانًا حين يريدونه، وهذه هي النتيجة التي تريدها.

الضابط 4: تعامل مع البيانات تستطيع وصفه في صفحة واحدة

أربعة أسئلة. إن لم تستطع الإجابة عنها كلها بخصوص نشرك أنت، فتلك هي الفجوة.

1. 01أين تقع البيانات فعليًا؟

   سمِّ المنطقة الجغرافية لمخزن المحادثات وقاعدة المعرفة والنسخ الاحتياطية. «السحابة» ليست إجابة. وإن كان منظّمك أو مجموعة مستشفياتك تشترط تخزينًا داخل المنطقة، فيجب أن يكون ذلك تعاقديًا لا إعدادًا افتراضيًا.

2. 02من يستطيع قراءة محادثة مريض؟

   عدّد الأدوار، بما فيها أدوار المزوّد. مكتب الاستقبال والطاقم السريري والإداريون ينبغي أن يروا أشياء مختلفة. ووصول دعم المزوّد ينبغي أن يتطلب سببًا موثّقًا ويترك أثرًا.

3. 03كم مدة الاحتفاظ بها؟

   حدّد فترة احتفاظ لكل صنف من البيانات وطبّقها آليًا. المحادثات والمرفقات والتفريغات النصية قد تستحق فترات مختلفة. الاحتفاظ إلى أجل غير مسمى لأن أحدًا لم يختر رقمًا هو الحال الشائعة والأصعب في الدفاع عنها.

4. 04هل تُستخدم في تدريب النماذج؟

   احصل على هذا في العقد لا في ردّ من الدعم الفني. الإجابة التي تريدها أن محادثات المرضى لا تُستخدم أبدًا في تدريب نماذج مشتركة، وأن أي استخدام من جانب المزوّد لتحسين نشرك أنت يكون اختياريًا وقابلًا للوصف.

الضابط 5: سجلّ تدقيق يعيد بناء المحادثة

الاختبار سيناريو. يشتكي مريض، بعد أربعة أشهر من الواقعة، أن عيادتك أخبرته بأن علاجًا ما آمن له. هل تستطيع أن تقدّم: كل رسالة في تلك المحادثة بترتيبها؛ وأيّها أرسله البرنامج وأيّها أرسله موظف محدد بالاسم؛ والمادة المصدرية خلف كل ردّ آلي؛ والنقطة التي حُوّلت عندها ولماذا؛ ومن قرأها بعد ذلك؟

إن كان الجواب نعم، فالذكاء الاصطناعي في منظومة مراسلتك رصيد في ذلك النزاع لا عبء — فالسجل أكمل مما كانت أي مكالمة هاتفية ستنتجه. وإن كان الجواب لا، فالأتمتة أزالت المساءلة بدل أن تضيف طاقة. لا موقف وسطًا هنا، والأمر تحدده كليًا خيارات اتُّخذت عند النشر.

أسئلة المزوّد التي تستحق أن تُطرح كتابةً

• هل يمكننا رؤية قواعد الموضوعات التي تقرر ما لن يجيب عنه الوكيل، وتعديلها؟
• أرني رسالة مرسلة والمقطع المصدري الذي خلفها بالضبط، داخل واجهة المنتج.
• ماذا يفعل النظام حين لا يُرجع الاسترجاع شيئًا ذا صلة؟
• في أي منطقة جغرافية ستعيش بياناتنا، وهل ذلك تعاقدي؟
• هل تُستخدم محادثاتنا يومًا في تدريب النماذج، نماذجنا أو نماذج أي طرف آخر؟
• من في شركتكم يستطيع قراءة محادثات مرضانا، وبأي إجراء، وهل يُسجَّل ذلك؟
• ما سياسة الاحتفاظ، وهل نستطيع ضبطها لكل صنف من البيانات؟
• هل نستطيع تصدير كل شيء — المحادثات وقاعدة المعرفة وسجلّ التدقيق — بصيغة مقروءة، عند الطلب وعند إنهاء التعاقد؟
• ما إجراؤكم حين يبلّغ عميل أن الوكيل قال شيئًا خاطئًا؟
• ماذا يحدث للمحادثات التي تُحوَّل خارج ساعات العمل؟

الحوكمة التي تبقيه يعمل

ضوابط النشر تتآكل. ثلاث عادات تبقيها حيّة، ولا يتطلب أيٌّ منها لجنة.

• مراجعة أسبوعية للتحويلات. يقرأ شخص من الطاقم السريري تحويلات الأسبوع. التحويلات المتكررة في موضوع معلوماتي واحد تعني بطاقة معرفة ناقصة؛ والتحويلات المتكررة في مواضيع سريرية تعني أن الحدّ يعمل.
• مراجعة ربع سنوية للبطاقات. البطاقات تتقادم بصمت. الأسعار والموظفون والبروتوكولات وأسماء المنتجات تتغيّر. والبطاقات التي تجاوزت تاريخ مراجعتها ينبغي أن تتوقف عن كونها قابلة للاسترجاع بدل أن تستمر في الإجابة.
• مسار للحوادث. حين يقول الوكيل شيئًا خاطئًا، يوجد شخص محدد بالاسم، واستجابة معرَّفة، وسجلّ مكتوب لما تغيّر. ستحتاجه مرة في السنة على الأقل.