تصمیم گیری خودکار

در قانون هوش مصنوعی 2024 اروپا، نظارت انسانی همچون یک اقدام حفاظتی اصلی برای اپراتورهای هوش مصنوعی تأکید شده است. کمیسیون اروپا با پیشنهاد قانون جدید، الزام دقیق و جامع نظارت انسانی بر سیستم های هوش مصنوعی را مطرح کرده است. در ایران، قانون مدونی برای نظارت انسان بر هوش مصنوعی وجود ندارد؛ اما با استفاده از موادی مانند مواد 7 و 12 قانون مسئولیت مدنی، ماده 333 قانون مدنی، مواد 69 و 112 قانون دریایی و ماده 15 قانون بیمه اجباری 1395، می توان موضع قانون گذار را در این زمینه مشخص کرد. این مقاله به سؤالاتی مانند چه چیزی باید نظارت شود، چه زمانی نظارت لازم است و چه کسی باید نظارت را انجام دهد، پاسخ می دهد. همچنین، به ابهامات و شکاف های قانون جدید هوش مصنوعی و پیامدهای اعتماد بیش ازحد به ارائه دهندگان برای ایمن سازی زیرساخت نظارتی سیستم های هوش مصنوعی پرخطر اشاره می کند. این نوشتار با بررسی کتب و مقالات موجود و تجزیه وتحلیل آن ها، ساختاربندی شده است و پس از تعمق و غور در منابع موجود به این نتیجه می رسد که نه ماده 14 قانون جدید هوش مصنوعی اروپا و نه قوانین ایران، جزئیات زیادی در مورد آنچه که ناظر انسانی در هنگام اجرای نظارت باید در نظر بگیرد یا توجه خود را به آن معطوف کند، بیان نمی کند. همچنین، نشان داد که فضای زیادی برای ارائه دهندگان باقی خواهد ماند تا تعیین کنند، جزئیات مربوط به چه داده هایی را بایستی به ناظران انسانی ارائه دهند. نتیجه گیری های مشابهی در مورد «زمان» اعمال نظارت انجام شد. ارائه دهندگان باید اطمینان حاصل کنند که کاربران در هر زمان ممکن است، فرایندهای سیستم را قطع یا لغو کنند.

تحولات نوین در حوزه هوش مصنوعی و فناوری های نوظهور، مفهوم سنتی عدالت قضائی را با دگرگونی های اساسی روبه رو ساخته است. ظهور پدیده هایی چون دادگاه های متاورسی، سیستم های قضائی خودمختار و عدالت غیرمتمرکز مبتنی بر وب 3، الگوواره جدیدی با عنوان «عدالت الگوریتمی» را پدید آورده است. این پژوهش با رویکرد توصیفی تحلیلی ضمن مطالعه تطبیقیِ نظام های قضائی پیشتاز، به واکاوی چالش ها و فرصت های گذار از عدالت انسان محور به عدالت داده محور پرداخته است. یافته ها نشان می دهد علی رغم کارایی قابل توجه سیستم های هوشمندِ قضائی، مسائلی همچون وجود تبعیض الگوریتمی، چگونگی حفظ حریم خصوصی اطلاعاتی و حمایت از داده شخصی همچنین مسائل مربوط به مشروعیت، مسئولیت و شفافیت در تصمیم گیری ها، مستلزم راهکارهای حقوقی   فنی نوآورانه است. در این راستا و در جهت نظام مندسازی جریان عدالت الگوریتمی از یک سو تدوین چارچوب های قانونی و از سویی دیگر بهره مندی از سازوکار اجرایی و نظارتی ضروری است. درنهایت این پژوهش با ارائه مدلی تلفیقی برای همکاری انسان و ماشین در فرایند قضائی، چارچوبی نوین برای تضمین عدالت در عصر الگوریتم ها را پیشنهاد می کند که می تواند در مسیر رفع و تقلیل چالش های موجود مورد توجه قرار گیرد.