راهکار پژوهشگران دانشگاه تهران برای امنیت هوش مصنوعی در MRI مغز

پژوهشگران دانشگاه تهران با طراحی چارچوبی جدید مبتنی بر یادگیری فدرال، راهکاری برای افزایش امنیت و پایداری سامانه‌های هوش مصنوعی در تحلیل تصاویر MRI مغز ارائه کردند.

به گزارش خبرگزاری مهر به نقل از دانشگاه تهران، پژوهشگران دانشگاه تهران در پژوهشی منتشرشده در مجله Scientific Reports، چارچوبی با عنوان OptiGradTrust طراحی کرده‌اند که با هدف افزایش مقاومت و اعتمادپذیری هوش مصنوعی در تحلیل تصاویر MRI مغز توسعه یافته است.

یادگیری فدرال یکی از روش‌های جدید در هوش مصنوعی است که به مراکز مختلف، از جمله مراکز درمانی و پژوهشی، امکان می‌دهد بدون انتقال اطلاعات خام بیماران، در آموزش یک مدل هوش مصنوعی مشترک مشارکت کنند. در این روش، داده‌های اصلی در محل خود باقی می‌مانند و تنها اطلاعات حاصل از آموزش و به‌روزرسانی مدل میان مراکز و سامانه مرکزی مبادله می‌شود. این ویژگی می‌تواند به حفظ حریم خصوصی بیماران کمک کند.

با این حال، استفاده از این روش با چالش‌هایی همراه است. تفاوت میان دستگاه‌های تصویربرداری، روش‌های تصویربرداری، ویژگی‌های بیماران و میزان و کیفیت داده‌های موجود در هر مرکز می‌تواند باعث شود داده‌های مراکز مختلف با یکدیگر تفاوت زیادی داشته باشند. از سوی دیگر، ممکن است یک مرکز به‌دلیل خطاهای فنی، کیفیت پایین داده‌ها یا حتی رفتار عمدی، اطلاعات نامناسبی را در روند آموزش مدل وارد کند. این مسئله می‌تواند عملکرد مدل نهایی را کاهش دهد و در کاربردهای حساس پزشکی اهمیت بیشتری پیدا می‌کند.

برای مقابله با این مشکل، پژوهشگران چارچوب OptiGradTrust را ارائه کرده‌اند. این چارچوب به جای آنکه به اطلاعات ارسالی هر مرکز به‌طور یکسان اعتماد کند، آنها را از شش جنبه مختلف بررسی می‌کند. میزان شباهت اطلاعات آموزشی با الگوی مورد انتظار، میزان هماهنگی آن با اطلاعات سایر مراکز، اندازه تغییرات ایجادشده در مدل، میزان سازگاری اطلاعات و سهم هر مرکز در بهبود عملکرد مدل از جمله شاخص‌هایی هستند که در این ارزیابی مورد استفاده قرار گرفته‌اند.

در ادامه، یک سازوکار مبتنی بر یادگیری تقویتی و شبکه‌های توجه، نتایج این بررسی‌ها را برای تعیین میزان اعتماد به اطلاعات ارسالی هر مرکز ترکیب می‌کند. به این ترتیب، اطلاعات مراکزی که رفتار غیرعادی یا مشکوک دارند، تأثیر کمتری بر مدل نهایی خواهند داشت. این چارچوب همچنین با استفاده از یک روش بهینه‌سازی طراحی‌شده برای شرایط ناهمگون و مخرب، تلاش می‌کند پایداری روند آموزش را حفظ کند.

پژوهشگران برای ارزیابی چارچوب پیشنهادی، آن را روی چند مجموعه داده از جمله MNIST، CIFAR-10، مجموعه داده MRI مربوط به بیماری آلزایمر و مجموعه داده بالینی OASIS آزمایش کردند.

نتایج نشان داد این روش در شرایطی که داده‌های مراکز مختلف با یکدیگر تفاوت دارند نیز عملکرد مناسبی دارد. در مجموعه داده MRI مربوط به آلزایمر، در شرایط ناهمگونی داده‌ها، چارچوب پیشنهادی به دقت 95 درصد دست یافت؛ در حالی که روش‌های مقایسه شده مانند FLGuard، FLTrust و FLAME به‌ترتیب دقت‌های پایین‌تری داشتند.

یکی از اهمیت‌های این پژوهش، ترکیب دو موضوع مهم در هوش مصنوعی پزشکی، یعنی حفظ حریم خصوصی و افزایش امنیت مدل است. در چارچوب پیشنهادی، اطلاعات خام MRI بیماران در اختیار سایر مراکز قرار نمی‌گیرد و مراکز تنها در فرایند آموزش مدل مشترک مشارکت می‌کنند. در عین حال، سامانه تلاش می‌کند اطلاعات غیرعادی یا مخرب را پیش از تأثیرگذاری جدی بر مدل شناسایی و وزن آنها را کاهش دهد.

با وجود نتایج به‌دست‌آمده، نویسندگان تأکید کرده‌اند که این پژوهش هنوز به معنای آمادگی روش برای استفاده بالینی نیست. به‌ویژه، تعداد نمونه‌های مورد استفاده در ارزیابی بالینی OASIS محدود بوده و نتایج این بخش صرفاً به‌عنوان اثبات مفهوم در نظر گرفته شده است. بنابراین، برای ارزیابی نهایی عملکرد این چارچوب، آزمایش آن روی مجموعه‌ داده‌های بزرگ‌تر و چندمرکزی مانند ADNI و UK Biobank و همچنین بررسی حملات پیچیده‌تر ضروری است.

این مقاله با عنوان «Byzantine robust federated learning for heterogeneous brain MRI using multisignal gradient fingerprinting and adaptive trust aggregation»، با همکاری محمد کرمی، دانشجوی کارشناسی ارشد دانشکده برق و کامپیوتر، فاطمه قاسمی و حامد کبریایی از اعضای هیئت علمی دانشکده مهندسی برق و کامپیوتر دانشگاه تهران در مجله Scientific Reports منتشر شده است. برای دسترسی به این مقاله اینجا کلیک کنید.