هوش‌مصنوعی؛ سفید، سیاه، خاکستری
استانداردهای جدید پزشکی برای استفاده از ابزارهای تشخیصی نوین
هوش‌مصنوعی به عنوان یکی از بهترین ابزارهای تشخیص بیماری‌ها به‌خصوص بیماری‌های ناشناخته شناسایی شده است. هوش‌مصنوعی در سال‌های اخیر توانایی‌هایش را در تشخیص سرطان‌های مختلف نشان داده و این موضوع مشخص می‌کند صنعت پزشکی همانند دیگر صنایع از این فناوری بهره‌مند بوده است. بسیاری از پزشکان در سراسر دنیا، اعتیاد به مواد مخدر را بیماری می‌دانند. آیا هوش‌مصنوعی توانایی تشخیص اعتیاد را به عنوان یک بیماری دارد؟ سایت خبری تکنولوژی ریویو به‌تازگی مقاله‌ای را منتشر کرده و در آن توضیح می‌دهد که هوش‌مصنوعی توانایی تشخیص اعتیاد به مواد مخدر به ویژه روغن مار را دارد. براساس اعلام این سایت خبری دستورالعمل‌هایی به وجود آمده که اطمینان می‌دهند تحقیقات هوش‌مصنوعی پزشکی می‌تواند اعتیاد به موادمخدر و نوع داروی مصرفی را تشخیص دهد. با همه این تفاسیر، استانداردهایی برای استفاده از هوش‌مصنوعی در پزشکی مطرح شده که نشان می‌دهد این فناوری آنقدرها هم قابل اعتماد نیست. چرایی این موضوع را در این گزارش با یکدیگر مرور می‌کنیم.
یک کنسرسیوم بین‌المللی از متخصصان پزشکی اولین استانداردهای رسمی را برای آزمایش‌های بالینی هوش مصنوعی معرفی کرده که می‌تواند آینده پزشکی را دگرگون کند. این حرکت در زمانی انجام می‌شود که هیاهوهای زیادی اطراف هوش مصنوعی پزشکی وجود دارد. در حال حاضر ادعاها و استدلال‌های تایید‌نشده‌ای در مورد کارایی برخی ابزارهاي هوش‌مصنوعی وجود دارد. اگر ادعاهایی که در خصوص کاربردهای هوش‌مصنوعی ارائه می‌شوند درست نباشند، اعتماد مردم به هوش‌مصنوعی از بین می‌رود.
صنعت پزشکی به ابزارهای نوینی چون هوش‌مصنوعی نیازمند است، به همین خاطر باید استانداردهایی برای انجام آزمایش‌هاي بالینی و تولید دارو اعمال شود. این استاندارد جدید درباره آزمایش‌هاي بالینی با ابزارهایی چون هوش‌مصنوعی پایه‌گذاری شد. استاندارد تازه استفاده از آزمایش‌هاي بالینی با هوش‌مصنوعی در مجلاتی چون مجله پزشکی طبی، مجله پزشکی بریتانیا و لانست منتشر شد.
هوش مصنوعی، ابزار محققان در تشخیص
استانداردهای جدید دو مجموعه دستورالعمل در مورد چگونگی انجام آزمایش‌هاي بالینی و گزارش آنها را ارائه می‌کند. بر این اساس آزمایش‌هايی که قبلا در سراسر جهان برای تولید دارو، آزمایش‌های تشخیصی و سایر موارد استفاده می‌شود، گسترش می‌یابد. این موضوع به پژوهشگران هوش‌مصنوعی اجازه می‌دهد تا با پزشکان در ارتباط باشند و با کمک یکدیگر مسائل را پیش ببرند. در غیر این‌صورت، مداخلات پزشکی محققان هوش‌مصنوعی نادیده گرفته می‌شود؛ چراکه اکنون زمان مناسبی برای افزایش مهارت‌های تشخیص پزشکی است و نمی‌توان بر مبنای ادعاها کاری کرد. پژوهشگران باید مهارت‌های مورد نیاز برای استفاده از ابزار هوش مصنوعی، محیط ارزیابی هوش‌مصنوعی، جزئیات نحوه تعامل انسان با هوش‌مصنوعی، تجزیه و تحلیل موارد خطا و موارد دیگر را توصیف کنند.
شاید از خودتان بپرسید چرا نگاه پزشکان به هوش‌مصنوعی منفی است و چرا استدلال‌های دانشمندان هوش‌مصنوعی اهمیت دارد؟ جوابی که جامعه پزشکی به این سوالات می‌دهد این است که آزمایش‌های کنترلشده تصادفی مطمئن‌ترین روش برای اثبات اثربخشی و ایمنی یک روش درمانی یا بالینی است. آزمایش‌های کنترلشده هم عمل پزشکی و هم خط مشی بهداشت را پایه‌ریزی می‌کنند. اما اطمینان به این آزمایش‌ها بستگی به عواملی چون پیروی محققان از رهنمودهای دقیق نحوه انجام آزمایش و گزارش‌شان دارد. در چند سال گذشته، بسیاری از ابزارهای جدید هوش‌مصنوعی در مجلات پزشکی تولید و توصیف شده‌اند، اما مقایسه و ارزیابی اثربخشی آنها سخت بوده است. دلیل دشواری مقایسه و ارزیابی اثربخشی ابزارهای جدید هوش‌مصنوعی تفاوت در کیفیت طرح‌های آزمایشی آنهاست. در ماه مارس۲۰۲۰، پژوهشی در BMJ هشدار داد که تحقیقات ضعیف و ادعاهای اغراق‌آمیز در مورد چگونگی امکانات هوش‌مصنوعی در تجزیه و تحلیل تصاویر پزشکی برای میلیون‌ها بیمار خطرناک است.
تیغ دولبه هوش مصنوعی
گاهی اعتماد به هوش‌مصنوعی اتفاقات خوشایندی را رقم می‌زند و در مواردی هوش‌مصنوعی جان انسان‌ها را به خطر می‌اندازد. مشکلی که بسیاری از پژوهشگران با آن دست‌وپنجه نرم می‌کنند، اعتماد و تعصب بیش‌ازاندازه به فناوری است. هوش‌مصنوعی که توانایی تشخیص سرطان‌های پیشرفته را داراست، در برخی موارد عملکرد مناسبی ندارد دلیل این موضوع نداشتن اطلاعات مناسب درخصوص بیماری است. بدون یادگیری ماشین و الگوهای درست، هوش‌مصنوعی قادر به تجزیه و تحلیل نخواهد بود. از طرفی نبود استانداردهای مناسب باعث حضور عده‌ای کلاهبردار در صنعت هوش‌مصنوعی و پزشکی شده است.
فقدان استانداردهای مشترک در زمینه هوش‌مصنوعی و پزشکی به شرکت‌های خصوصی این امکان را داده است که بدون آزمایش دقیق و دارا بودن از تأثیر مناسب در سایر رشته‌ها دخالت کنند. برخی از این شرکت‌ها وارد صنعت پزشکی شده‌اند و مدعی تشخیص بیماری‌ها از طریق هوش‌مصنوعی هستند. این افراد و شرکت‌ها در مورد اثربخشی هوش‌مصنوعی خود سر و صدا می‌کنند.
لاف‌زدن درباره توانایی هوش مصنوعی در پزشکی و تشخیص بیماری
آنچه تکنولوژی هوش مصنوعی را از تکنولوژی‌های قدیمی در مراقبت‌های مرتبط با سلامت متمایز می‌کند، توانایی کسب اطلاعات، پردازش آن و ارائه خروجی به‌طور دقیق به کاربر نهایی است. هوش مصنوعی این عملیات را با استفاده از الگوریتم‌های یادگیری ماشین انجام می‌دهد که می‌تواند الگوها را در رفتار تشخیص دهد و منطق خود را ایجاد کند. برای کاهش خطا، الگوریتم هوش مصنوعی نیاز دارد تا بارها مورد آزمایش قرار گیرد. الگوریتم‌های هوش مصنوعی به دو روش متفاوت از انسان‌ها رفتار می‌کنند: ۱. اگر شما فقط هدف را به آن بدهید، الگوریتم نمی‌تواند به تنهایی خودش را متناسب با آن تنظیم کند. ۲. الگوریتم‌ها جعبه سیاه هستند؛ الگوریتم‌ها می‌توانند نتیجه را بسیار دقیق پیش‌بینی کنند اما نه علت و نه دلیل.
هدف اولیه برنامه‌های کاربردی هوش مصنوعی مرتبط با سلامت، تحلیل روابط بین تکنیک‌های پیشگیری یا درمان و نتایج بیماران است. اما برنامه‌های هوش مصنوعی به شیوه‌هایی مانند فرایندهای تشخیص، توسعه پروتکل درمان، توسعه دارو، پزشکی شخصی و نظارت و مراقبت از بیمار، اعمال شده‌است.
وقتی درباره کلاهبرداران صنعت هوش مصنوعی حرف می‌زنیم ممکن است به فکرتان نرسد که شرکت‌های بزرگ را هم در این دسته بگذارید. در حالی که فقط شرکت‌های کوچک نیستند که نسبت به فناوری‌هایشان لاف می‌زنند. شرکت
Babylon Health یکی از شرکت‌های شناخته شده در حوزه بهداشت دیجیتال است. این شرکت که دفتر مرکزی‌اش در انگلستان قرار دارد، سال ۲۰۱۸ به خاطر چت‌بات هوش‌مصنوعی‌اش مورد انتقاد قرار گرفت؛ زیرا این شرکت اعلام کرده بود تشخیصی که چت‌بات هوش‌مصنوعی‌اش اعلام می‌کند با پزشکان انسانی مطابقت دارد و پزشکان با انجام آزمایشی ثابت کردند استدلال‌های این چت‌بات گمراه کننده است.
این شرکت بهداشت دیجیتالی تنها شرکتی نیست که مدعی برتری محصول هوش‌مصنوعی خود است. مدتی است که توسعه‌دهندگان ادعا می‌کنند هوش‌مصنوعی پزشکی عملکردی بهتر از انسان دارد و پزشکان قابلیت‌های کمتری از هوش‌مصنوعی دارند. این روند روز به روز توسعه می‌یابد و فاجعه زمانی اتفاق می‌افتد که بیماری همه‌گیری مثل کووید- ۱۹ شیوع پیدا می‌کند. در ابتدای ورود این بیماری نیز تبلیغات گسترده‌ای برای چت‌بات‌های هوش‌مصنوعی شد و برخی شرکت‌ها مدعی برتری این چت‌بات‌ها شدند. اگرچه نمی‌توان به طور کلی هوش‌مصنوعی و خدماتش را در علم پزشکی و تشخیص‌های بالینی نادیده گرفت ولی اعتماد بیش از حد به فناوری نیز معضلاتی را به همراه دارد. در حال حاضر شرکت‌های خدمات پزشکی که ابزارهای هوشمند تولید می‌کنند رقابتی تنگاتنگ را برای جلب توجه ابزارهایشان آغاز کرده‌اند. به نظر می‌رسد در بیشتر موارد ارزیابی هوش‌مصنوعی در داخل و در شرایط مطلوب انجام می‌شود.
وعده‌ای که پزشکان و شرکت‌های تولیدکننده ابزارهای سلامت دیجیتال برپایه هوش‌مصنوعی می‌دهند این است که هوش مصنوعی نمی‌تواند پزشکان انسانی را شکست دهد و به عنوان رقیب قدرتمندی با پزشکان برابری کند. ولی هوش‌مصنوعی می‌تواند عملکرد پزشکان را سریع‌تر کند و در بهبود بیماران همچون دستیاری کنار پزشکان باشد. البته در برخی موارد هم هنوز شبهاتی درباره قدرت بیشتر هوش‌مصنوعی وجود دارد. به عنوان مثال، در ماه گذشته اولین ارزیابی مستقل از یک ابزار تشخیصی هوش‌مصنوعی منتشر شد که نشان از عملکرد خوب آن ابزار داشت. مقاله منتشر شده نشان می‌داد که در تشخیص سرطان با استفاده از ابزار هوشمند ماموگرافی، هوش‌مصنوعی عملکرد بهتری نسبت به انسان داشته است.
این مطالعه نشان داد که ابزاری که توسط Lunit AI ساخته شده و در بیمارستان‌های خاصی در کره‌جنوبی آزمایش شده بهتر از رادیولوژیست‌ها عمل می‌کند و تشخیص دقیق‌تری می‌دهد. البته این ابزار به شیوه دیگری نیز آزمایش شد. این ابزار و یک پزشک با همکاری هم توانستند تشخیص دقیق‌تری را اعمال کنند. با تفکیک خوب و بد هوش‌مصنوعی در صنعت پزشکی به این نتیجه می‌رسیم که استانداردهای جدید ارزیابی مستقل را آسان تر می‌کند و در نهایت منجر به تولید هوش‌مصنوعی پزشکی بهتر و قابل اعتمادتر می‌شود.