راز پنهان هوش مصنوعی فاش شد؛ تشخیص سرطان چگونه به نژاد و جنسیت بیمار وابسته است؟

برخلاف پزشکان انسان که با دیدن یک اسلاید بافت‌شناسی فقط به دنبال نشانه‌های بیماری هستند و نمی‌توانند سن یا نژاد بیمار را حدس بزنند، هوش مصنوعی سیگنال‌های بیولوژیکی بسیار ظریفی را شناسایی می‌کند که به ویژگی‌های فردی بیمار مرتبط است.

رسمی شد | واریز سود سهام عدالت فردا 30 آذر 1404

این مطالعه بر روی ۴ مدل رایج هوش مصنوعی و بیش از ۲۸,۰۰۰ تصویر بافت‌شناسی انجام شد.

محققان دریافتند که در ۲۹ درصد از وظایف تشخیصی، تفاوت دقت (تبعیض) بین گروه‌های مختلف وجود دارد.

برای مثال، مدل‌ها در تشخیص دقیق زیرنوع‌های سرطان ریه در بیماران سیاه‌پوست و مردان، و همچنین سرطان سینه در بیماران جوان‌تر دچار مشکل بودند.

چرا این تبعیض رخ می‌دهد؟

۱. داده‌های نابرابر: دسترسی به نمونه‌های بافتی برخی گروه‌ها آسان‌تر است، در نتیجه هوش مصنوعی روی داده‌های یک گروه خاص (مثلاً سفیدپوستان) بیشتر تمرین کرده و در مورد بقیه ضعیف‌تر عمل می‌کند.

۲. تفاوت در میزان شیوع: برخی سرطان‌ها در نژادها یا سنین خاص شایع‌ترند و هوش مصنوعی یاد می‌گیرد که برای آن گروه‌ها دقیق‌تر عمل کند.

۳. میان‌برهای ژنتیکی: هوش مصنوعی تفاوت‌های مولکولی ظریف بین نژادها یا جنسیت‌ها را شناسایی کرده و به جای تمرکز بر خود بیماری، از این تفاوت‌ها به عنوان «میان‌بر» برای تشخیص استفاده می‌کند که در نهایت منجر به خطا در گروه‌های اقلیت می‌شود.

محققان برای حل این مشکل، سیستمی به نام فیر-پَث را ابداع کردند. این روش بر پایه تکنیکی به نام «یادگیری مقابله‌ای» استوار است. این سیستم به هوش مصنوعی آموزش می‌دهد که فقط بر روی تفاوت‌های بین «انواع سرطان» تمرکز کند و تفاوت‌های مربوط به «ویژگی‌های فردی» (دموگرافیک) را نادیده بگیرد.

استفاده از این روش باعث شد شکاف عملکردی و تبعیض در مدل‌ها تا ۸۸ درصد کاهش یابد، بدون اینکه نیاز به جمع‌آوری مجدد داده‌های کلان باشد.

این تحقیق ثابت کرد که حتی اگر نام و مشخصات بیمار را از سیستم حذف کنیم، هوش مصنوعی باز هم می‌تواند آن‌ها را حدس بزند. بنابراین، برای داشتن یک درمان عادلانه، باید مدل‌ها را طوری تربیت کرد که عمداً نسبت به این ویژگی‌ها «نابینا» شوند.

منبع: خبر فوری