نتایج یک تحقیق تازه در دانشگاه آکسفورد نشان میدهد اتکا به چتباتهای هوش مصنوعی برای دریافت توصیههای پزشکی میتواند کاربران را در مسیرهای اشتباه و حتی خطرناک قرار دهد این پژوهش هشدار میدهد که هوش مصنوعی برخلاف تصور عمومی هنوز ابزار قابل اعتمادی برای تصمیمگیریهای حساس پزشکی نیست.
بررسی انجامشده که گزارش آن توسط بی بی سی منتشر شده نشان میدهد مدلهای زبانی هوش مصنوعی در مواجهه با علائم پزشکی واقعی پاسخهایی ناپایدار و گاه متناقض ارائه میکنند.
ربکا پین پزشک و پژوهشگر ارشد این مطالعه میگوید
مشکل اصلی از جایی شروع میشود که کاربران تشخیص اولیه بیماری یا ضرورت مراجعه به پزشک را به چتباتها میسپارند تصمیمی که میتواند پیامدهای جدی داشته باشد.
در این پژوهش حدود ۱۳۰۰ داوطلب در سناریوهای پزشکی شبیهسازیشده قرار گرفتند از سردردهای شدید گرفته تا خستگی غیرعادی پس از زایمان بخشی از این افراد برای تصمیمگیری از چتباتهای هوش مصنوعی کمک گرفتند و گروه دیگر از روشهای معمول مانند جستوجوی اینترنتی استفاده کردند نتایج نشان داد گروهی که به هوش مصنوعی متکی بودند نهتنها تصمیمهای دقیقتری نگرفتند بلکه در بسیاری موارد دچار سردرگمی بیشتری شدند.
یکی از مشکلات کلیدی که پژوهشگران به آن اشاره میکنند نحوه ارائه پاسخ توسط چتباتهاست این سیستمها معمولاً چند احتمال مختلف را همزمان مطرح میکنند بدون آنکه مشخص کنند کدام گزینه فوریت بیشتری دارد
آدام مهدی از پژوهشگران این پروژه، توضیح میدهد
کاربران معمولاً اطلاعات پزشکی خود را مرحلهبهمرحله و ناقص وارد میکنند و همین موضوع باعث میشود هوش مصنوعی تصویر درستی از وضعیت بیمار نداشته باشد.
چرا مشاوره پزشکی با چتباتها خطرناک است؟
تحلیل دادهها نشان داد نوعی اختلال ارتباطی دوطرفه میان کاربر و هوش مصنوعی وجود دارد کاربران نمیدانند چه اطلاعاتی برای یک ارزیابی پزشکی مهم است و در مقابل، پاسخهای چتباتها بهشدت به شیوه طرح سؤال وابسته است پژوهشگران تأکید میکنند که حتی پیشرفتهترین مدلهای هوش مصنوعی هم در تعامل واقعی با افراد غیرمتخصص دچار خطا میشوند.
این موضوع زمانی نگرانکنندهتر میشود که بدانیم هوش مصنوعی در آزمونهای استاندارد پزشکی معمولاً عملکرد قابل قبولی دارد اما در شرایط واقعی و روزمره دقت آن بهطور محسوسی کاهش پیدا میکند به همین دلیل استفاده از چتباتها برای تصمیمگیری درباره مراجعه به پزشک، درمان خانگی یا تماس با اورژانس میتواند ریسک بالایی داشته باشد.
امبر چایلدز پژوهشگر دانشگاه ییل، معتقد است چتباتها ناخواسته همان سوگیریهایی را بازتولید میکنند که سالها در نظام سلامت وجود داشته است به گفته او این سیستمها بر پایه دادههایی آموزش دیدهاند که خودشان کامل و بینقص نیستند و همین مسئله کیفیت توصیههای پزشکی را محدود میکند.
در عین حال برخی کارشناسان اشاره میکنند که نسخههای تخصصیتر هوش مصنوعی در حوزه پزشکی که بهتازگی توسط شرکتهایی مانند OpenAI و Anthropic توسعه یافتهاند ممکن است نتایج متفاوتی داشته باشند بااینحال اجماع کلی بر این است که بدون قوانین نظارتی شفاف و چارچوبهای ایمنی سختگیرانه، استفاده عمومی از هوش مصنوعی برای مشاوره پزشکی میتواند تهدیدی جدی برای سلامت افراد باشد.
نتایج کامل این تحقیق در نشریه علمی Nature Medicine منتشر شده است.
