ارزیابی استفاده از هوش مصنوعی در سیستم های تصمیم گیرنده ارگان های دولتی

چکیده

"ارزیابی" همیشه یک چالش اساسی در توسعه نرم افزارهای مبتنی بر هوش مصنوعی (AI) به دلیل پیچیدگی فنی نرم افزار و فرآیندهای پیچیده اجتماعی – فنی موجود درآن، بوده است. پیشرفت های اخیر در یادگیری ماشین (ML) که توسط شبکه های عصبی عمیق امکان پذیر شده است ، چالش ارزیابی چنین نرم افزارهاییی را به دلیل ماهیت مبهم این محصولات مصنوعی مبتنی بر ML ، تشدید کرده است. یک موضوع مهم کلیدی ، توانایی (ناتوانی) این سیستم ها در تولید توضیحات مفید در مورد خروجی هایشان است و ما معتقدیم که مسائل توضیح و ارزیابی به طور تنگاتنگی با هم مرتبط هستند. این مقاله عناصر یک سیستم AI مبتنی بر ML را در زمینه برنامه های تصمیم گیری بخش دولتی (PSD) شامل هوش مصنوعی و انسانی مدل سازی می کند ، و در ارزیابی و توضیح، این عناصر را بر خلاف مسائل ترسیم می کند و نحوه ارتباط این دو را نشان می دهد. ما با توجه به مدل خود تعدادی مدل کاربرد PSD متداول را در نظر می گیریم و مجموعه ای از موضوعات اصلی مرتبط با توضیح و ارزیابی را در هر مورد شناسایی می کنیم. در نهایت ، ما چندین استراتژی را برای ترویج پذیرش گسترده تر فناوری های AI / ML در PSD پیشنهاد می کنیم ، به طوری که هر کدام بر اساس تمرکز بر عناصر مختلف مدل ما تفکیک می شوند ، و به سیاست گذاران PSD اجازه می دهد رویکردی که متناسب با زمینه و نگرانی های آنها باشد، انتخاب کنند.