پیامد‌های قانون هوش مصنوعی اروپا بر شرکت‌های فناوری پزشکی

قانون هوش مصنوعی توسعه، استقرار و استفاده از سیستم‌های هوش مصنوعی در اتحادیه اروپا را تنظیم می‌کند و هدف آن ایجاد یک محیط نظارتی منظم و سازگار برای سیستم‌های هوش مصنوعی است.

شایان ذکر است که قانون هوش مصنوعی اروپا اولین مقررات جهانی است که به طور خاص هوش مصنوعی را هدف قرار می دهد و بستر مناسبی را برای حاکمیت بین المللی هوش مصنوعی ایجاد می کند.

در این مقاله، پیامدهای قانون هوش مصنوعی را در بخش Medtech تحلیل می‌کنیم و به برخی از چالش‌های کلیدی پیش روی سازندگان دستگاه‌های پزشکی و شرکای آن‌ها در مطابقت دادن محصولات خود با قانون هوش مصنوعی می‌پردازیم.

پیشینه قانون هوش مصنوعی

قانون هوش مصنوعی پیشنهاد شده توسط کمیسیون اروپا در آوریل 2021 (آوریل تا مه 1400)، پس از چندین دور مذاکرات فشرده در 13 مارس 2024 (23 مارس 1402) توسط پارلمان اروپا و در 21 مه 2024 (1 ژوئن) توسط پارلمان اروپا تصویب شد. شورای اتحادیه اروپا

در 12 ژوئیه 2024، اتحادیه اروپا متن نهایی قانون هوش مصنوعی را در مجله رسمی اتحادیه اروپا (OJEU) منتشر کرد.

قانون هوش مصنوعی 20 روز بعد اجرایی شد. این قانون پس از دو سال در تاریخ 2 آگوست 2026 (11 اوت 1405) به جز برخی از الزامات آن که مشمول دوره های انتقالی طولانی تری هستند، به طور کامل اجرا می شود.

محدوده قانون هوش مصنوعی

قانون هوش مصنوعی برای اعمال طیف گسترده ای از صنایع از جمله مراقبت های بهداشتی، فناوری پزشکی، خدمات مالی و محصولات مصرفی طراحی شده است.

این قانون نه تنها در مورد نهادهای مستقر در اتحادیه اروپا اعمال می‌شود، بلکه دارای دامنه فراسرزمینی است و بر نهادهای غیر اتحادیه اروپا که سیستم‌ها یا محصولات هوش مصنوعی را در اتحادیه اروپا بازاریابی، استقرار یا استفاده می‌کنند، تأثیر می‌گذارد.

همچنین برای طیف گسترده ای از فعالان اقتصادی فعال در زنجیره تامین هوش مصنوعی، از جمله ارائه دهندگان محصولات هوش مصنوعی، واردکنندگان، توزیع کنندگان و تولیدکنندگان اعمال می شود.

هر یک از این فعالان اقتصادی بر اساس قانون هوش مصنوعی در زنجیره تامین وظایفی خواهند داشت. تولیدکنندگان تجهیزات پزشکی ممکن است بر اساس قانون AI به ارائه دهندگان سیستم های هوش مصنوعی تبدیل شوند. اگر یک دستگاه پزشکی مشمول قانون هوش مصنوعی باشد، همه شرکای زنجیره تامین آن باید از الزامات قانون جدید هوش مصنوعی پیروی کنند.

رویکرد مبتنی بر ریسک و برنامه

قانون هوش مصنوعی رویکردی مبتنی بر ریسک برای تنظیم هوش مصنوعی دارد و سیستم‌ها را به ریسک‌های غیرقابل قبول، زیاد، متوسط ​​و کم طبقه‌بندی می‌کند.

سیستم‌هایی که ریسک‌های غیرقابل قبولی دارند، ممنوع هستند، در حالی که سیستم‌هایی که در دسته‌های ریسک بالا، متوسط ​​و پایین قرار می‌گیرند، به تناسب خطراتی که دارند، مشمول مقررات با شدت‌های متفاوت هستند.

تعهدات فعالان اقتصادی با توجه به سطح ریسک سیستم هوش مصنوعی متفاوت است. هدف از این تعهدات ایجاد تعادل بین نیاز به نوآوری و نیاز به محافظت از کاربران در برابر آسیب های احتمالی مرتبط با هوش مصنوعی است.

اگر سیستم هوش مصنوعی به عنوان یک عنصر ایمنی یک محصول استفاده شود یا اگر سیستم هوش مصنوعی یک محصول باشد، اگر تحت پوشش قانون هماهنگ‌سازی اتحادیه باشد، دستگاه‌های پزشکی مجهز به هوش مصنوعی می‌توانند تحت تعریف یک قرار بگیرند. سیستم هوش مصنوعی پرخطر

در این مورد، دستگاه پزشکی مبتنی بر هوش مصنوعی در محدوده قانون AI و همچنین MDR (مقررات دستگاه پزشکی) یا IVDR (مقررات دستگاه پزشکی تشخیصی آزمایشگاهی) قرار می‌گیرد.

جدول زمانی اجرای قانون هوش مصنوعی در تجهیزات پزشکی: 2 آگوست 2027 (11 اوت 1406)

همانطور که در بالا ذکر شد، قانون هوش مصنوعی OJEU در 12 ژوئیه 2024 منتشر شد، در 2 اوت 2024 لازم الاجرا خواهد شد و از 2 اوت 2026 به طور کامل قابل اجرا خواهد بود.

سیستم ها یا روش های ممنوعه هوش مصنوعی باید تا 2 فوریه 2025 از بازار حذف شوند.

دفتر هوش مصنوعی موظف است حداکثر تا 2 مه 2025 (12 مه 1404) یک آیین نامه اجرایی ایجاد کند تا ارائه دهندگان سیستم های هوش مصنوعی بتوانند با الزامات قابل اجرا تعیین شده در قانون هوش مصنوعی مطابقت داشته باشند.

دستگاه‌های پزشکی که واجد شرایط سیستم‌های هوش مصنوعی پرخطر هستند، یک سال دیگر (تا 2 اوت 2027) فرصت خواهند داشت تا با الزامات قابل‌اجرا برای سیستم‌های پرخطر مطابقت داشته باشند.

آمادگی تولیدکنندگان در مورد برنامه زمانبندی کلیدی خواهد بود. سازندگان تجهیزات پزشکی اکنون باید ارزیابی کنند که آیا قانون هوش مصنوعی در مورد آنها اعمال می شود یا خیر.

2 آگوست 2027 (11 اوت 1406) بسیار دور به نظر می رسد، اما تجربه نشان می دهد که آماده شدن برای قوانین جدید نیازمند زمان و منابع برای تغییر سیستم مدیریت کیفیت، تغییر سیستم مدیریت ریسک، آموزش، افزودن کارکنان جدید و غیره است.

به عنوان مثال، ماده 10 قانون هوش مصنوعی مستلزم آن است که سیستم های هوش مصنوعی با استفاده از مجموعه داده های با کیفیت بالا برای آموزش، تأیید و آزمایش توسعه داده شوند.

این الزام باید امروز مورد توجه قرار گیرد تا از عدم انطباق قابل توجه توسط سازمان های اطلاع رسانی سازنده در سه سال آینده یا بیشتر جلوگیری شود.

ارزیابی انطباق

برای جلوگیری از تکرار، قانون هوش مصنوعی اروپا امکان ارزیابی انطباق یک واحد تحت MDR یا IVDR را فراهم می کند. این خبر خوبی است و به این معنی است که شرکت‌های medtech می‌توانند اسناد فنی و سیستم مدیریت کیفیت خود را تحت قوانین AI و MDR یا IVDR توسط مرجع اطلاع‌رسانی بررسی کنند.

با این حال، این ارزیابی انطباق مشترک ممکن است همیشه در عمل ممکن نباشد:

انتخاب بر اساس قانون هوش مصنوعی: نهادهای گزارش‌دهنده MDR/IVDR باید تحت قانون AI منصوب شوند تا بتوانند این ارزیابی انطباق مشترک را ارائه دهند.

همه سازمان‌های خبری ممکن است بخواهند تحت قانون هوش مصنوعی برچسب‌گذاری نشوند، زیرا اگر چنین کنند، ممکن است روند آن‌طور که انتظار می‌رود سریع پیش نرود.

همچنین ممکن است یک تولیدکننده مجبور باشد با یک سازمان تحت قوانین MDR/IVDR و سازمان دیگری تحت قوانین هوش مصنوعی اروپا کار کند. این به معنای انجام دو ارزیابی انطباق با دو سازمان مختلف است.

کارمندان هوش مصنوعی: ماده 43 قانون AI به نهادهای گزارش‌دهنده MDR/IVDR اجازه می‌دهد تا در صورت داشتن شرایط خاصی مانند استقلال و یکپارچگی حرفه‌ای، بر ارزیابی‌های انطباق هوش مصنوعی نظارت کنند. این الزامات قبلاً برای تعیین MDR/IVDR آنها ارزیابی شده است و بنابراین باید به راحتی برای آنها تکمیل شود.

با این حال، آنها همچنین باید دارای کارکنان اداری، فنی، حقوقی و علمی با تجربه و دانش از انواع سیستم های هوش مصنوعی برای انجام ارزیابی های انطباق باشند.

با توجه به این واقعیت که همه سازمان ها و تولیدکنندگان به طور همزمان به دنبال افرادی با تجربه هوش مصنوعی خواهند بود، فرآیند استخدام می تواند پیچیده باشد. مجدداً، انتصاب آنها بر اساس قانون AI ممکن است به تعویق بیفتد، اگر نهادهای آگاه نتوانند بلافاصله کارکنان مناسب را استخدام کنند.

مدت زمان ارزیابی انطباق: امروزه، ارزیابی انطباق دستگاه‌های پزشکی تحت MDR یا IVDR می‌تواند فرآیندی طولانی و پرهزینه باشد.

در حالی که صنعت به دنبال راه‌حل‌هایی برای کارآمدتر کردن فرآیند علامت‌گذاری CE فعلی است، اما این نگرانی وجود دارد که معرفی قانون هوش مصنوعی بار اضافی را بر بازرسی‌های انجام شده توسط آژانس‌های اطلاع‌رسانی اضافه کند و بر زمان‌بندی‌های مورد نیاز تأثیر منفی بگذارد.

با توجه به حجم کاری فعلی برخی از آژانس های گزارش دهی MDR/IVDR، نمی توان چنین خطر بالقوه ای را نادیده گرفت.

توصیه های ما

برای آماده شدن برای اجرای قانون هوش مصنوعی، توصیه می کنیم که سازندگان تجهیزات پزشکی مراحل اساسی زیر را در نظر بگیرند:

تعیین میزان کاربرد قانون هوش مصنوعی: شرکت های فناوری پزشکی باید تعیین کنند که آیا قانون هوش مصنوعی در مورد دستگاه های پزشکی آنها اعمال می شود یا خیر.

شرکت ها همچنین باید نقش نظارتی ای که تحت قانون هوش مصنوعی ایفا می کنند (ارائه دهنده، توزیع کننده یا واردکننده) و تعهدات مرتبط با آنها را ارزیابی کنند.

روش ارزیابی: تعدادی از تعهدات تحت قانون AI در حال حاضر برای شرکت های medtech اعمال می شود، با این حال، برخی از الزامات تحت قانون AI برای بخش medtech کاملا جدید هستند. لازم است الزامات قانون هوش مصنوعی را با الزامات موجود در MDR/IVDR به دقت مقایسه کنید تا نیازها و شکاف های جدید در برآوردن این نیازها شناسایی شوند.

به روز رسانی رویه های داخلی و اسناد فنی: در صورت نیاز، شرکت‌های medtech باید برای بازنگری و به‌روزرسانی سیستم مدیریت کیفیت، اسناد فنی و رویه‌های نظارت پس از عرضه به بازار اقدامات لازم را انجام دهند تا با الزامات قانون AI مطابقت داشته باشند.

اطمینان حاصل کنید که کارکنان مناسب در سازمان خود دارید. در غیر این صورت، جذب هدفمند افراد دارای تخصص هوش مصنوعی باید در نظر گرفته شود. آموزش کارکنان نیز مهم خواهد بود.

دسترسی و استفاده از مجموعه داده های قابل اعتماد مطابق با قانون هوش مصنوعی: در طول ارزیابی انطباق دستگاه‌های پزشکی مجهز به هوش مصنوعی، سازمان‌های آگاه ممکن است به این مجموعه داده دسترسی داشته باشند. بنابراین ضروری است که شرکت‌های medtech که قصد آموزش، گواهی و آزمایش دستگاه‌های پزشکی مجهز به هوش مصنوعی را دارند، این کار را در حالی انجام دهند که الزامات حاکمیت داده در قانون AI را در نظر بگیرند.

پیشرفت‌های جدید شرکت‌های medtech باید بر اساس تحولات کمیسیون اروپا یا دفتر جدید اتحادیه اروپا برای هوش مصنوعی نظارت شود.