اعتماد به هوش مصنوعی نه با شیفتگی به فناوری شکل می‌گیرد و نه با ترس از آن؛ معیار، شواهد و امکان نظارت است
هوش مصنوعی؛ اعتماد به الگوریتم
محمد جواد اصغری
هوش مصنوعی می‌تواند پاسخی دقیق، منظم و متقاعدکننده ارائه دهد؛ آن‌قدر متقاعدکننده که گاهی فراموش می‌کنیم روان‌بودن یک پاسخ با درست‌بودن آن یکسان نیست. این ویژگی، یکی از چالش‌های مهم استفاده عمومی از سامانه‌های هوشمند است. انسان‌ها معمولاً به اطلاعاتی که با اطمینان بیان می‌شوند اعتماد بیشتری نشان می‌دهند، اما در فناوری، ظاهر مطمئن یک خروجی تضمینی برای صحت آن نیست.
الگوریتم‌ها در بسیاری از کاربردها توانایی قابل‌توجهی در تحلیل حجم بزرگی از داده‌ها و شناسایی الگوها دارند. استفاده از این توانایی در حوزه‌هایی مانند پیش‌بینی تقاضا، شناسایی برخی خطاها یا کمک به تحلیل اسناد می‌تواند مفید باشد. با این حال، هر سامانه‌ای برای هدفی مشخص طراحی می‌شود و عملکرد آن به کیفیت داده‌ها، شیوه آموزش، شرایط استفاده و معیارهایی بستگی دارد که برای سنجش موفقیت انتخاب شده‌اند. مدلی که در یک محیط عملکرد مناسبی دارد، ممکن است در محیطی دیگر به نتایج ضعیف‌تری برسد.
این نکته در تصمیم‌های حساس اهمیت بیشتری پیدا می‌کند. اگر یک سامانه برای مرتب‌سازی اسناد یا پیشنهاد مسیر مطالعه به کار رود، پیامد خطای آن با خطایی که بر تشخیص پزشکی، ارزیابی اعتبار مالی یا فرصت استخدام اثر می‌گذارد، یکسان نیست. بنابراین، اعتماد نباید ویژگی ثابتی تلقی شود که یک ابزار یا دارد یا ندارد. میزان اتکا به سامانه باید با توجه به نوع کاربرد، پیامدهای احتمالی خطا و امکان بررسی مستقل خروجی تعیین شود.
یکی از خطاهای رایج در استفاده از هوش مصنوعی، تبدیل پاسخ اولیه به نتیجه نهایی است. کاربر پرسشی مطرح می‌کند، پاسخ را دریافت می‌کند و به دلیل انسجام ظاهری آن، جست‌وجو را متوقف می‌سازد. این رفتار ممکن است در امور کم‌اهمیت هزینه زیادی نداشته باشد، اما در مسائل حرفه‌ای و عمومی می‌تواند به انتشار اطلاعات نادرست یا تصمیم‌گیری نامناسب منجر شود. هرچه پیامد تصمیم جدی‌تر باشد، ضرورت بررسی منابع، مقایسه پاسخ‌ها و استفاده از نظر متخصصان نیز بیشتر می‌شود.
از سوی دیگر، نباید اعتماد را صرفاً با الزام به توضیح کامل تمام جزئیات فنی برابر دانست. برخی مدل‌ها پیچیده‌اند و توضیح همه مراحل تولید خروجی برای کاربران عادی ممکن نیست. با این حال، می‌توان اطلاعات کاربردی‌تری ارائه کرد: سامانه برای چه هدفی ارزیابی شده، در چه شرایطی ممکن است خطا کند، چه محدودیت‌هایی دارد و در صورت بروز مشکل چه سازوکاری برای بازبینی وجود دارد. شفافیت مؤثر الزاماً به معنای افشای تمام جزئیات فنی نیست؛ به معنای فراهم‌کردن اطلاعات لازم برای تصمیم آگاهانه است.
سازمان‌ها نیز باید از اعتماد بی‌قیدوشرط به خروجی سامانه‌ها پرهیز کنند. استفاده از یک مدل باید با آزمون‌های متناسب با کاربرد واقعی، پایش مداوم و بررسی عملکرد آن در گروه‌ها و شرایط مختلف همراه باشد. همچنین لازم است مشخص شود چه کسی اختیار توقف یا اصلاح فرایند را دارد. سامانه‌ای که در شرایط تازه دچار افت عملکرد می‌شود، نباید صرفاً به دلیل موفقیت گذشته همچنان بدون بازبینی به کار گرفته شود.
در سطح عمومی، آموزش سواد هوش مصنوعی نیز اهمیت دارد. شهروندان باید بدانند که این ابزارها نه منابعی بی‌خطا هستند و نه الزاماً در تمام شرایط گمراه‌کننده. نگاه واقع‌بینانه، مستلزم شناخت هم‌زمان قابلیت‌ها و محدودیت‌هاست. نه ردکردن همه خروجی‌ها منطقی است و نه پذیرش آن‌ها بدون بررسی.
اعتماد در دنیای فناوری، نتیجه تبلیغات یا جذابیت محصول نیست؛ حاصل عملکرد قابل‌سنجش، شفافیت متناسب و امکان پاسخ‌خواهی است. اگر قرار است الگوریتم‌ها در تصمیم‌های مهم زندگی ما نقش بیشتری داشته باشند، باید بتوانیم نه‌فقط از آن‌ها استفاده کنیم، بلکه عملکردشان را نیز زیر سؤال ببریم. اعتماد واقعی جایی شکل می‌گیرد که پرسیدن و بررسی‌کردن، نشانه ضعف تلقی نشود؛ بلکه بخشی از استفاده درست از فناوری باشد.
