زمان تخمینی مطالعه: 4 دقیقه
اگر چه هوش مصنوعی در سلامت چشم انداز بسیار خوبی را وعده داده است، اما فشار برای رگولاتوریها در سراسر جهان افزایش یافته است، زیرا ابزارهای هوش مصنوعی نتایج بالقوه مضری را از خود نشان میدهند.
قبل از اینکه یک دارو توسط سازمان غذا و داروی ایالات متحده (FDA) تایید شود، باید هم ایمنی و هم کارایی آن را نشان داده شود. با این حال، FDA برای تایید نیازی به درک مکانیسم اثر دارو ندارد. این پذیرش نتایج بدون توضیح این سوال را مطرح میکند که آیا فرآیند تصمیم گیری “جعبه سیاه” یک مدل هوش مصنوعی ایمن و موثر باید به طور کامل توضیح داده شود تا تاییدیه FDA تضمین شود؟ این موضوع یکی از بسیاری از موارد بحثی بود که در روز دوشنبه، 4 دسامبر 2023، در جریان کنفرانس MIT عبداللطیف جمیل برای یادگیری ماشینی در سلامت (کلینیک جمیل) هوش مصنوعی و سیاست تنظیم مقررات سلامت مطرح شد، که باعث ایجاد یک سری بحثها و جدلهایی در بین اساتید، رگولاتوریهای ایالات متحده، اتحادیه اروپا و نیجریه و همچنین کارشناسان صنعت در مورد تنظیم هوش مصنوعی در سلامت شد.
همانطور که یادگیری ماشین به سرعت در حال تکامل است، عدم اطمینان در مورد اینکه آیا رگولاتوریها میتوانند ادامه دهند و احتمال تاثیرات مضر را کاهش دهند و در عین حال تضمین کنند که کشورهای مربوطه در نوآوری رقابتی باقی میمانند یا خیر، وجود دارد. برای ترویج محیط گفتگوی صریح و آزاد، حضور در رویداد کلینیک جمیل برای 100 نفر از شرکت کنندگان که از طریق اجرای قانون چتم هاوس در حال مناظره بودند، تنظیم شد تا به سخنرانان اجازه ناشناس ماندن برای بحث در مورد نظرات و استدلالهای بحث برانگیز بدون ذکر منبع داده شود.
هدف کلینیک جمیل به جای میزبانی رویدادی برای ایجاد سر و صدا در مورد هوش مصنوعی در سلامت، ایجاد فضایی برای آگاه نگه داشتن قانونگذاران از پیشرفتهترین پیشرفتهای هوش مصنوعی بود، در حالی که به متخصصان دانشکده و صنعت اجازه میداد رویکردهای جدید یا متفاوتی را برای نظارت پیشنهاد کنند و یا چارچوبهایی برای هوش مصنوعی در سلامت را به ویژه برای استفاده از هوش مصنوعی در محیط های بالینی و در توسعه دارو ارائه دهند.
نقش هوش مصنوعی در پزشکی بیش از هر زمان دیگری امروزه مشهود است، زیرا این صنعت با کمبود نیروی کار پس از همهگیری، افزایش هزینهها و همچنین نرخ بالای فرسودگی شغلی و استعفاها دست و پنجه نرم میکند. در میان متخصصان مراقبتهای بهداشتی یکی از سخنرانان پیشنهاد کرد که اولویتها برای استقرار هوش مصنوعی بالینی باید بیشتر بر ابزارهای عملیاتی متمرکز شود تا تشخیص و درمان بیمار. یکی دیگر از شرکتکنندگان به «فقدان واضح آموزش در همه مؤلفهها – نه فقط در میان جوامع توسعهدهنده و سیستمهای مراقبت بهداشتی، بلکه در مورد بیماران و رگولاتوریها» اشاره کرد. با توجه به اینکه پزشکان اغلب کاربران اصلی ابزارهای هوش مصنوعی بالینی هستند، تعدادی از پزشکان حاضر از قانونگذاران درخواست کردند که قبل از اقدام با آنها مشورت کنند.
در دسترس بودن دادهها یک مسئله کلیدی برای اکثر محققان هوش مصنوعی حاضر در جلسه بود. آنها از کمبود داده برای کارآمدی ابزارهای هوش مصنوعی ابراز تاسف کردند. بسیاری از آنها با موانعی مانند ممنوعیت دسترسی به مالکیت معنوی یا کمبود مجموعه دادههای بزرگ و با کیفیت روبرو بودند. یکی از سخنرانان در این رویداد خاطرنشان کرد: «توسعهدهندگان نمیتوانند میلیاردها دلار برای ایجاد داده هزینه کنند، اما FDA میتواند. یک عدم قطعیت قیمتی وجود دارد که میتواند منجر به سرمایهگذاری کم در هوش مصنوعی شود.» سخنرانان اتحادیه اروپا از توسعه سیستمی حمایت کردند که دولتها را ملزم میکند دادههای بهداشتی را برای محققان هوش مصنوعی در دسترس قرار دهند.
در پایان این رویداد یک روزه، بسیاری از شرکتکنندگان پیشنهاد طولانیتر کردن بحث را دادند و از مراقبت انتخابی و محیط بسته ستایش کردند، که فضای منحصر به فردی را برای بحثهای باز و سازنده در مورد مقررات هوش مصنوعی در سلامت ایجاد کرد. پس از تایید رویدادهای بعدی آینده، کلینیک جمیل کارگاههای دیگری با ماهیت مشابه ایجاد خواهد کرد تا شتاب را حفظ کند و رگولاتوریها را در جریان آخرین تحولات در این زمینه نگه دارد.