توضیحات کلی در مورد Explainable AI (XAI)

توضیحات کلی در مورد Explainable AI (XAI)

توجه: این نوشته حاصل ساعت ها جستجو بوده و به عنوان یک انتقال تجربه برای پژوهشگران فعال در حوزه اقتصاد مفید می باشد.

این روش به مجموعه‌ای از روش‌ها و تکنیک‌ها اشاره دارد که هدف آن‌ها افزایش شفافیت و تفسیرپذیری مدل‌های هوش مصنوعی (AI) و یادگیری ماشین (ML) است. در مدل‌های پیچیده مانند شبکه‌های عصبی عمیق، تصمیم‌گیری‌ها اغلب مانند “جعبه سیاه” (black-box) هستند، یعنی نمی‌توان به راحتی فهمید چرا مدل یک خروجی خاص تولید کرده است. XAI این مشکل را حل می‌کند و به کاربران کمک می‌کند تا اعتماد بیشتری به مدل‌ها داشته باشند، به ویژه در حوزه‌های حساس مانند اقتصاد، مالی، بهداشت و حقوق. با توجه به پیشرفت‌های سال ۲۰۲۵، XAI نه تنها برای رعایت مقررات (مانند GDPR در اروپا) ضروری است، بلکه در کاربردهای اقتصادی مانند تحلیل روابط بین اقتصاد سایه (shadow economy) و شاخص‌های توسعه مالی، کمک می‌کند تا روابط علت و معلولی را بهتر درک کنیم. منبع

دو روش محبوب در XAI عبارتند از SHAP (SHapley Additive exPlanations) و LIME (Local Interpretable Model-agnostic Explanations). در ادامه، جزئیات هر کدام را همراه با مزایا، معایب و کاربردها در اقتصاد بررسی می‌کنم

جزئیات روش SHAP

چگونه کار می‌کند؟ SHAP بر اساس نظریه بازی (game theory) و مقادیر Shapley (از اقتصاددان فیلیپ Shapley) بنا شده است. این روش هر ویژگی (feature) ورودی مدل را به عنوان یک “بازیکن” در نظر می‌گیرد و محاسبه می‌کند که هر ویژگی چقدر به پیش‌بینی نهایی مدل کمک کرده است. SHAP توضیحات محلی (برای هر نمونه داده) و کلی (برای کل مدل) ارائه می‌دهد. برای مثال، در یک مدل رگرسیون برای پیش‌بینی اندازه اقتصاد سایه، SHAP نشان می‌دهد که کدام شاخص مالی (مانند FDI یا واردات) بیشترین تأثیر را داشته است. در سال ۲۰۲۵، SHAP اغلب با مدل‌های پیچیده مانند XGBoost یا شبکه‌های عصبی ترکیب می‌شود تا توضیحات دقیق‌تری ارائه دهد. منبع

مزایا:

• دقت بالا و سازگاری: SHAP توضیحات محلی و کلی را به طور همزمان ارائه می‌دهد و نتایج آن پایدارتر از روش‌های دیگر است.
• تفسیر علت و معلولی: کمک می‌کند تا روابط پیچیده را کشف کنیم، مانند اینکه چگونه افزایش واردات (% of GDP) می‌تواند اقتصاد سایه را کاهش دهد.
• انطباق با مدل‌های مختلف: model-agnostic است و روی هر مدلی (از خطی تا عمیق) کار می‌کند.
• حمایت از رعایت مقررات: در اقتصاد، برای شفافیت مدل‌های مالی مفید است و bias را کاهش می‌دهد. منبع

معایب:

• محاسباتی سنگین: محاسبه مقادیر Shapley زمان‌بر است، به ویژه برای داده‌های بزرگ.
• پیچیدگی درک: نیاز به دانش فنی برای تفسیر نتایج دارد.
• حساسیت به تقریب: در نسخه‌های سریع‌تر (مانند Kernel SHAP)، دقت ممکن است کمی کاهش یابد. منبع

کاربرد در اقتصاد: در تحلیل اقتصادی، SHAP برای توضیح مدل‌های پیش‌بینی استفاده می‌شود. مثلاً در مطالعات ۲۰۲۵، از SHAP برای بررسی تأثیر نوآوری سبز روی عملکرد شرکت‌ها (مانند پاکستان) یا در امور مالی برای افزایش شفافیت مدل‌های پیش‌بینی ریسک استفاده شده است. منبع

جزئیات روش LIME

چگونه کار می‌کند؟ LIME یک مدل ساده و محلی (مانند رگرسیون خطی) را اطراف یک پیش‌بینی خاص ایجاد می‌کند. این روش داده‌های ورودی را perturb (تغییر کوچک) می‌دهد، مدل اصلی را روی آن‌ها اجرا می‌کند و سپس یک مدل ساده برای توضیح آن پیش‌بینی می‌سازد. LIME model-agnostic است و بیشتر روی توضیحات محلی تمرکز دارد. در سال ۲۰۲۵، LIME اغلب برای توضیحات واقعی‌زمان (real-time) در سیستم‌های تولیدی استفاده می‌شود، مانند پیش‌بینی‌های اقتصادی. منبع

مزایا:

• سادگی و سرعت: توضیحات محلی را سریع تولید می‌کند و نیاز به محاسبات سنگین ندارد.
• انعطاف‌پذیری: برای مدل‌های پیچیده مناسب است و می‌تواند توضیحات بصری (مانند گراف‌ها) ارائه دهد.
• کاربرد در تولید: در سیستم‌های واقعی‌زمان، مانند پیش‌بینی‌های مالی، مفید است و اعتماد کاربران را افزایش می‌دهد.
• کاهش bias: کمک می‌کند تا نابرابری‌ها در مدل‌های اقتصادی شناسایی شوند. منبع

معایب:

• ناپایداری: توضیحات محلی ممکن است با تغییرات کوچک در داده‌ها تغییر کنند.
• عدم توضیح کلی: بیشتر محلی است و برای درک کلی مدل ضعیف‌تر از SHAP عمل می‌کند.
• حساسیت به نمونه‌برداری: کیفیت توضیح بستگی به نحوه perturb داده‌ها دارد و ممکن است نادرست باشد. منبع

کاربرد در اقتصاد: LIME در مطالعات مالی ۲۰۲۵ برای توضیح پیش‌بینی‌های مدل‌های ML استفاده می‌شود، مانند تحلیل عملکرد شرکت‌ها یا پیش‌بینی ریسک. منبع

مقایسه SHAP و LIME

• دقت و پایداری: SHAP دقیق‌تر و پایدارتر است، در حالی که LIME سریع‌تر اما ناپایدارتر. منبع
• توضیح محلی vs کلی: LIME بیشتر محلی است، SHAP هر دو را پوشش می‌دهد.
• کاربرد: در اقتصاد، SHAP برای تحلیل کلی روابط (مانند تأثیر بلندمدت توسعه مالی روی shadow economy) بهتر است، در حالی که LIME برای موارد خاص مفیدتر. مطالعات ۲۰۲۵ نشان می‌دهند که ترکیب این دو (hybrid) بهترین نتایج را می‌دهد. منبع

نویسنده: محمدعلی عرب پور