خطر خطاهای هوش مصنوعی در تشخیص بیماری‌ها / سیستم سلامت آماده است؟

به گزارش خبرنگار پایگاه خبری مهندسی پزشکی(موپنا)، آیا سیستم‌های سلامت برای مواجهه با خطاهای هوش مصنوعی در تشخیص بیماری‌ها آمادگی دارند؟ این سوالی است که لزوم بازنگری در پروتکل‌های نظارتی و حقوقی را بیش از پیش نمایان می‌کند؛ چرا که در صورت بروز خطای تشخیص توسط الگوریتم‌ها، ابهام بزرگی در مورد «مسئولیت نهایی» (پزشک یا توسعه‌دهنده نرم‌افزار) وجود دارد.

در یک پرونده‌ای که در فلوریدا مطرح شده است، ادعا شده که هوش مصنوعی در تأخیر در تشخیص سرطان یک بیمار نقش داشته است. این موضوع بار دیگر توجه‌ها را به پرسشی جلب کرده که مدت‌هاست مدیران حوزه سلامت می‌پرسند: وقتی فناوری بخشی از فرآیند تشخیص می‌شود، مسئولیت خطاهای احتمالی بر عهده چه کسی خواهد بود؟

گرچه تصمیم‌گیری درباره جزئیات این پرونده به دادگاه سپرده شده، اما این شکایت به چالش‌های حقوقی و عملی که پیرامون مراقبت‌های مبتنی بر هوش مصنوعی هستند، بازتابی تازه می‌دهد و نشان می‌دهد که بیمارستان‌ها با گسترش استفاده از این فناوری باید برای مدیریت چنین موضوعاتی آماده شوند.

ریک گروفسکی، وکیل متخصص در دعاوی حقوقی پزشکی، معتقد است که مراکز درمانی باید انتظار دعاوی مرتبط با هوش مصنوعی را داشته باشند و برای مقابله با آن‌ها برنامه‌ریزی کنند. به گفته او، هرچند فناوری جدید است، اما اصول حقوقی حاکم بر مسئولیت حرفه‌ای تغییر چندانی نکرده‌اند.

آنچه در حال تغییر است، حجم اطلاعات تولید شده توسط سیستم‌های هوش مصنوعی، شمار سازمان‌های دخیل در پیاده‌سازی این فناوری و انتظارات مرتبط با نظارت بر عملکرد آن‌ها است.

از نظر گروفسکی، پزشکان همچنان در مرکز ارزیابی‌های مربوط به مسئولیت قرار دارند زیرا دادگاه‌ها انتظار دارند که آنها قضاوت پزشکی مستقل را اعمال کنند.

“یک ابزار هوش مصنوعی تنها یکی از ورودی‌های تصمیم‌گیری است و نمی‌تواند جایگزین قضاوت مستقل پزشکی شود. اگر یک پزشک بدون اعمال قضاوت بالینی مستقل به توصیه اشتباه ابزار هوش مصنوعی تکیه کند، مسئولیت عمدتاً بر عهده پزشک و بیمارستان خواهد بود.”

با این حال، بیمارستان‌ها نمی‌توانند مسئولیت را به طور کامل به پزشکان منفرد واگذار کنند. گروفسکی بر این باور است که در آینده، بسیاری از موارد حقوقی شامل چندین طرف دفاعی خواهد بود، چرا که تصمیم‌های سازمانی نیز نقش مهمی در چگونگی استفاده هوش مصنوعی در مراقبت از بیماران دارند.

مسئولیت مشترک

مراکز درمانی مسئولیت انتخاب محصولات هوش مصنوعی، ارزیابی کارایی آنها، آموزش مناسب کارکنان و پایش عملکرد پس از استقرار این سیستم‌ها را بر عهده دارند. این تصمیم‌ها پیش از مواجهه با بیمار گرفته می‌شوند.

“به همین دلیل، وقتی تشخیصی اشتباه است، علت آن صرفاً مربوط به یک طرف نیست،” گروفسکی توضیح می‌دهد. گاهی یک پزشک ممکن است به صورت بیش از حد به هوش مصنوعی تکیه کند، در حالی که بیمارستان ابزاری را به او ارائه داده که به درستی ارزیابی نشده یا آموزش‌های کافی برای استفاده از آن فراهم نشده است.”

در چنین شرایطی، گروفسکی پیش‌بینی می‌کند که دادگاه‌ها مسئولیت را بین پزشکان و سازمان‌های درمانی تقسیم خواهند کرد، نه اینکه تمام مسئولیت به یک پزشک که با بیمار تعامل داشته است واگذار شود.

همچنین، شرکت‌های توسعه‌دهنده هوش مصنوعی ممکن است بیشتر در کانون توجه قرار گیرند. به طور کلی، شرکت‌های نرم‌افزاری مدعی هستند که محصولاتشان فقط برای کمک به تصمیم‌گیری طراحی شده‌اند و مسئولیت تصمیمات بالینی ندارند. با این حال، گروفسکی معتقد است این دفاع در مواردی که نقص محصول باعث آسیب به بیماران شده است، کمتر متقاعدکننده خواهد بود.

او به مواردی اشاره می‌کند که در آن داده‌های آموزشی مدل‌های هوش مصنوعی جمعیت‌های خاص را به طور مناسب نمایندگی نکرده‌اند و باعث شده این مدل‌ها در تشخیص بیماری‌های مرتبط با این گروه‌ها ناکارآمد باشند. در این موارد، مدعیان ممکن است ادعاهای حقوقی مرتبط با قصور یا مسئولیت محصول را مستقیماً علیه شرکت‌های توسعه‌دهنده مطرح کنند، چرا که “عیب مستقیماً مربوط به خود محصول است.”

چالش مستندسازی

به شکل تناقض‌آمیز، هوش مصنوعی ممکن است هم مستندسازی بالینی را بهبود ببخشد و هم موجب افزایش مسئولیت حقوقی شود.

گروفسکی می‌گوید: “اگر یک پزشک هشداری صحیح از سیستم هوش مصنوعی را نادیده بگیرد، مستندات موجود علیه او عمل می‌کند. این سیستم هشدار را ثبت کرده و پزشک باید توضیح دهد که چرا آن را نادیده گرفته است.”

برعکس، دفاع بر اساس اینکه “کامپیوتر این توصیه را داده بود” قبول نخواهد شد، چرا که قانون هنوز انتظار قضاوت مستقل از پزشک دارد.

برای مراکز درمانی، این امر یک معادله دشوار را ایجاد می‌کند. پزشکان نمی‌توانند بدون تفکر توصیه‌های هوش مصنوعی را قبول کنند و همچنین نمی‌توانند بدون دلیلی معتبر هشدارهای معتبر را نادیده بگیرند.

گروفسکی اشاره به نوعی تعصب ناشی از خودکارسازی دارد که شاید نگرانی جدی‌تری در بلندمدت باشد. او می‌گوید وقتی نرم‌افزار بیشتر مواقع به درستی عمل ‌کند، پزشکان ممکن است نسبت به آن کمتر شکاک شوند، اما همین اعتماد بیش از حد ممکن است در موارد نادر خطا منجر به عواقب جدی شود.

“سازمان‌هایی که بیشتر در معرض خطر هستند، آن‌هایی هستند که این ابزارها را گسترده استفاده کرده‌اند، اما راهنمایی شفافی به پزشکان درباره زمان استفاده یا پرسش درباره نتایج این ابزارها ارائه نکرده‌اند.”

حاکمیت پیش از استقرار

گروفسکی تاکید می‌کند که پیشگیری حقوقی باید پیش از پیاده‌سازی هوش مصنوعی آغاز شود.

او پیشنهاد می‌دهد که بیمارستان‌ها باید سوابق کاملی از ارزیابی محصولات هوش مصنوعی، داده‌های مورد استفاده برای آموزش، اعتبارسنجی میان جمعیت‌های مختلف و عملکرد قابل اندازه‌گیری آن‌ها پیش از استقرار بالینی نگهداری کنند.

همچنین، حاکمیت و نظارت بر نحوه استفاده از ابزارهای هوش مصنوعی باید به طور دقیق مستندسازی شود. تصمیم‌گیری درباره استفاده از هر ابزار، تخصیص مسئولیت‌ها و روش‌های نظارت بر عملکرد پس از استقرار نیز اهمیت دارند.

گروفسکی همچنین بر اهمیت آموزش تاکید می‌کند و می‌گوید: “آموزش پزشکان نباید به یک دوره کاربری نرم‌افزار محدود شود. آن‌ها باید با محدودیت‌ها و نقاط ضعف ابزارها آشنا شوند تا بدانند چه زمانی به نتایج اعتماد کنند و زمان‌هایی که نتایج را باید مورد تردید قرار دهند.”

آمادگی برای دعاوی حقوقی آینده

استفاده گسترده از هوش مصنوعی در فرآیندهای بالینی ممکن است نگرانی‌هایی درباره مسئولیت قانونی برای کسانی که از این ابزارها استفاده می‌کنند، یا حتی برای کسانی که از آن‌ها دوری می‌کنند، به همراه داشته باشد.

گروفسکی پیش‌بینی می‌کند که در آینده دعاوی حقوقی ناشی از استفاده بیش از حد یا عدم استفاده از هوش مصنوعی مطرح خواهد شد. برخی پرونده‌ها ممکن است شامل پزشکانی باشند که توصیه‌های نادرست را پذیرفته‌اند، و برخی ممکن است پزشکانی را شامل شوند که هشدارهای درست سیستم را نادیده گرفته‌اند.

او باور دارد که با گذشت زمان، ممکن است تغییر دیگری رخ دهد؛ به این صورت که یک ابزار تشخیصی مبتنی بر هوش مصنوعی به استاندارد مراقبتی پذیرفته شده تبدیل شود و سازمان‌هایی که این ابزارها را اتخاذ نمی‌کنند، با نظارتی مشابه به عدم اجرای دیگر شیوه‌های درمانی معتبر مواجه شوند.

برای مدیران اجرایی فناوری اطلاعات، مدیران پزشکی دیجیتال و دیگر رهبران حوزه سلامت دیجیتال، اولویت اصلی باید آماده‌سازی باشد.

گروفسکی توصیه می‌کند که “پیش از بروز مشکل، سوابق مستند و سیستم‌های نظارتی ایجاد کنید.” ابزارها را با استفاده از داده‌های جمعیتی خود سازمان اعتبارسنجی کنید، رهبری بالینی و مدیریت ریسک را از ابتدا درگیر کنید، کارکنان را به‌طور کامل آموزش دهید و بیماران را از نقش هوش مصنوعی در مراقبت از آن‌ها آگاه کنید.

با گسترش نقش هوش مصنوعی در تشخیص، تصویربرداری، مستندسازی و ارزیابی بیماران، گروفسکی معتقد است که حاکمیت نباید از نوآوری عقب بماند. او می‌گوید، هرچند دادگاه‌ها در نهایت بسیاری از استانداردهای حقوقی را تعریف خواهند کرد، اما سازمان‌هایی که اکنون نظارت قوی، مستندسازی شفاف و اجرای دقیق این ابزارها را آغاز کنند، در مواجهه با دعاوی آینده بهتر آماده خواهند بود.

انتهای پیام/