هوش مصنوعی قابل توضیح(XAI)به روش‌ها و تکنیک‌هایی گفته می‌شود که فرآیند تصمیم‌گیری سامانه‌های هوش مصنوعی (به‌ویژه مدل‌های پیچیده مانند شبکه‌های عصبی عمیق) را برای انسانشفاف، قابل‌تفسیر و قابل‌فهممی‌کنند.در بسیاری از سیستم‌های هوش مصنوعی مدرن–مانند شبکه‌های عصبی–پیش‌بینی‌ها یا دسته‌بندی‌ها اغلب به‌عنوان «جعبه سیاه» شناخته می‌شوند، زیرا مشخص نیستچرامدل به یک خروجیXAIخاص رسیده است.این مشکل را با ارائه‌ی بینشی درباره:

·چگونگی عملکرد داخلی مدل(تفسیر کلی یاglobal)

·چرایی یک تصمیم خاص(تفسیر محلی یاlocal)

اهداف اصلی هوش مصنوعی قابل توضیح:

1.شفافیت–نشان دادن اینکه مدل چگونه داده‌ها را پردازش کرده و به خروجی می‌رسد.

2.اعتماد–افزایش اطمینان کاربران به تصمیمات هوش مصنوعی.

3.پاسخ‌گویی–امکان بررسی خطاها، سوگیری‌ها یا مسائل اخلاقی توسط انسان.

4.عدالت–تسهیل در شناسایی و اصلاح تبعیض در الگوریتم‌ها.

تکنیک‌های رایج درXAI

·اهمیت ویژگی‌ها(نشان دادن اینکه کدام متغیرها بیشترین تأثیر را بر نتیجه داشته‌اند)

·نقشه‌های برجستگی(Saliency Maps)(برجسته‌سازی بخش‌های مهم تصویر که باعث پیش‌بینی شده‌اند).

·توضیحات خلاف‌واقع(Counterfactuals)–نشان دادن اینکه با تغییرات کوچک در ورودی چه نتیجه‌ی متفاوتی به دست می‌آمد.

در این نشست با دکتر امید ویسی؛ دانشجوی دکتری رشتهHCIدانشگاه تورنتوهمراه می‌شویم تا در خصوصXAIو کاربرد آن در صنعت برای ما توضیحاتی جامع ارایه دهد

جناب آقای امید ویسی