تصمیمهای خودکار هر روز گستردهتر میشوند، اما مسئولیت خطا همچنان مسئلهای انسانی و حقوقی است
خطای الگوریتم؛ مسئولیت انسان
محمد جواد اصغری
تصور کنید سامانهای هوشمند، درخواست دریافت وام فردی را رد کند، رزومه متقاضی یک شغل را کنار بگذارد یا در یک فرایند اداری، پروندهای را در اولویت پایینتری قرار دهد. فرد متضرر ممکن است حتی نداند چه عاملی به این تصمیم منجر شده است. اگر تصمیم بر اساس اطلاعات نادرست، معیارهای نامناسب یا الگویی تبعیضآمیز گرفته شده باشد، اعتراض به آن باید متوجه چه کسی شود؟ سازنده نرمافزار، سازمان استفادهکننده، مدیر تصمیمگیرنده یا خود سامانه؟
این پرسش با گسترش هوش مصنوعی از محدوده بحثهای فنی خارج شده و به یکی از مسائل مهم حقوق عمومی و حکمرانی تبدیل شده است. هرچه تصمیمهای الگوریتمی بیشتر بر زندگی مردم اثر بگذارند، ضرورت تعیین مسئولیت نیز افزایش مییابد. مسئله فقط این نیست که یک سامانه چقدر دقیق کار میکند؛ مهم است بدانیم دقت آن چگونه سنجیده شده، چه کسانی از خطاهایش آسیب میبینند و آیا امکان بازبینی تصمیم وجود دارد یا نه.
یکی از دشواریهای تصمیمگیری الگوریتمی، فاصله میان پیچیدگی فنی و فهم عمومی است. ممکن است سازمانی از مدلی استفاده کند که حتی متخصصان آن نیز نتوانند بهسادگی توضیح دهند چرا در یک مورد مشخص به نتیجهای خاص رسیده است. این وضعیت به معنای آن نیست که تمام مدلهای پیچیده الزاماً غیرقابلاعتمادند؛ اما نشان میدهد صرف برخورداری از عملکرد آماری مناسب، برای استفاده از یک سامانه در تصمیمهای حساس کافی نیست. در مواردی که حقوق، فرصت شغلی یا دسترسی افراد به خدمات اساسی تحت تأثیر قرار میگیرد، امکان توضیح، بررسی و اعتراض اهمیت ویژهای پیدا میکند.
مسئله دیگر، پراکندگی مسئولیت در زنجیره تولید و استفاده از فناوری است. توسعهدهنده ممکن است مدل را طراحی کند، شرکت دیگری دادهها را آماده سازد و یک سازمان از خروجی آن برای تصمیمگیری استفاده کند. هر طرف میتواند بخشی از مسئولیت را به دیگری ارجاع دهد. اما از نگاه فردی که متضرر شده، این تقسیم پیچیده وظایف نباید به بنبست در پیگیری حق منجر شود. مسئولیت باید بر اساس نقش واقعی هر بازیگر، میزان کنترل او بر سامانه و وظایفی که بر عهده داشته، روشن شود.
راهحل، کنارگذاشتن هوش مصنوعی از تمام تصمیمهای مهم نیست. در برخی کاربردها، این ابزارها میتوانند به افزایش سرعت، شناسایی الگوها و کاهش خطاهای انسانی کمک کنند. اما استفاده مسئولانه از آنها نیازمند ارزیابی پیش از اجرا، پایش مستمر، ثبت تصمیمها و سازوکاری روشن برای رسیدگی به شکایتهاست. همچنین باید مشخص باشد که چه زمانی تصمیم الگوریتمی صرفاً یک پیشنهاد است و چه زمانی عملاً نتیجه نهایی را تعیین میکند.
در این میان، نظارت انسانی نیز نباید به امضایی تشریفاتی تبدیل شود. اگر کارمند یا مدیر تنها خروجی سامانه را تأیید کند، بیآنکه اختیار، دانش یا زمان کافی برای بررسی آن داشته باشد، حضور انسان لزوماً خطر را کاهش نمیدهد. نظارت مؤثر مستلزم امکان مخالفت با پیشنهاد ماشین و پاسخگویی در برابر تصمیم نهایی است.
حکمرانی هوش مصنوعی از جایی آغاز میشود که سازمانها بپذیرند کارایی فنی، جایگزین مسئولیت حقوقی و اخلاقی نیست. هر سامانهای که بر زندگی مردم اثر میگذارد باید در چارچوبی به کار گرفته شود که حقوق افراد، حدود اختیار سازمانها و راههای اعتراض را مشخص کند.
الگوریتم میتواند در تصمیمگیری مشارکت داشته باشد، اما نباید به پناهگاهی برای فرار از پاسخگویی تبدیل شود. اگر تصمیمی به نام یک سازمان اجرا میشود، آن سازمان نمیتواند صرفاً با اشاره به پیچیدگی نرمافزار، مسئولیت پیامدهایش را از خود دور کند. فناوری ممکن است شیوه تصمیمگیری را تغییر دهد؛ ضرورت پاسخگویی را نه.




