چرا گاهی اوقات پاسخ‌های هوش مصنوعی دچار اشتباه می‌شود؟

3.1 فرمول‌بندی نامشخص و سوالات چندپهلو

بسیاری از خطاهای هوش مصنوعی ریشه در نحوه طرح سوال دارد. کاربران گاهی سوالاتی می‌پرسند که خودشان به طور کامل آن را در ذهن شفاف نکرده‌اند، یا آن را به گونه‌ای مبهم و کلی بیان می‌کنند که امکان تفسیرهای بسیار متفاوت وجود دارد. برای مثال، سوال “در مورد جنگ اطلاعات بده” آنقدر گسترده و فاقد بافت است که سیستم نمی‌داند کاربر به کدام جنگ از صدها جنگ تاریخ بشر، به کدام جنبه (سیاسی، نظامی، اجتماعی) و با چه عمقی از اطلاعات علاقه دارد. در چنین مواردی، مدل مجبور است یک تفسیر “میانگین” یا “محتمل‌ترین” را انتخاب کند که ممکن است با نیاز کاربر فاصله زیادی داشته باشد.

سوالات چندپهلو نیز چالش بزرگی ایجاد می‌کنند. سوالی مانند “آیا باید سرمایه‌گذاری کنم؟” بدون هیچ زمینه‌ای درباره نوع سرمایه‌گذاری، میزان سرمایه، افق زمانی، تحمل ریسک کاربر و شرایط اقتصادی، عملاً غیرقابل پاسخ دقیق است. هوش مصنوعی ممکن است با فهرست کردن مزایا و معایب کلی سرمایه‌گذاری پاسخ دهد، اما نمی‌تواند توصیه شخصی و دقیقی ارائه کند. اگر کاربر انتظار چنین توصیه‌ای را داشته باشد، ممکن است پاسخ را ناکارآمد یا اشتباه تلقی کند. در واقع، سیستم اغلب فرض می‌کند که سوال به اندازه کافی مشخص است، در حالی که در عمل چنین نیست.

حتی تغییر کوچکی در کلمات سوال می‌تواند پاسخ کاملاً متفاوتی ایجاد کند. این حساسیت بالا به فرمول‌بندی، نشان می‌دهد که درک سیستم از معنای سوال چقدر شکننده و وابسته به ظاهر متن است. یک انسان می‌تواند از دل سوالات مختلف، مقصود یکسان کاربر را استخراج کند، اما هوش مصنوعی ممکن است با تغییر یک کلمه، موضوع را کاملاً عوض شده ببیند و در مسیر متفاوتی قرار گیرد. این امر اهمیت پرسیدن سوالات دقیق، واضح و دارای بافت کافی را نشان می‌دهد.

3.2 درخواست برای پیش‌بینی آینده و قضاوت‌های ارزشی

هوش مصنوعی در تحلیل الگوهای گذشته و حال مبتنی بر داده‌های موجود توانایی دارد، اما پیش‌بینی قطعی آینده، به ویژه در امور پیچیده انسانی و اقتصادی، خارج از توانایی ذاتی آن است. با این حال، کاربران اغلب سوالاتی مانند “قیمت سهام شرکت X فردا چقدر خواهد شد؟” یا “آیا فلان تکنولوژی در 10 سال آینده جهان را متحول می‌کند؟” را مطرح می‌کنند. در مواجهه با چنین سوالاتی، سیستم ممکن است بر اساس روندهای تاریخی و اخبار تحلیل‌شده، سناریوهای محتمل را برشمارد، اما اگر کاربر پاسخ را به عنوان یک پیش‌بینی قطعی بپذیرد، در معرض خطای بزرگ قرار گرفته است.

حوزه دیگر که مستعد خطاست، قضاوت‌های ارزشی، اخلاقی یا سلیقه‌ای است. سوالاتی مانند “بهترین فیلم تاریخ کدام است؟”، “آیا کار الف اخلاقی بود؟” یا “کدام سبک موسیقی از همه بهتر است؟” پاسخی عینی و مبتنی بر داده‌های خنثی ندارند. پاسخ هوش مصنوعی به چنین سوالاتی، انعکاسی از دیدگاه‌های رایج، نقدهای موجود و الگوهای گفتاری در داده‌های آموزشی خواهد بود. ممکن است دیدگاه یک فرهنگ، نسل یا گروه خاص را منعکس کند و به عنوان “حقیقت مطلق” ارائه شود. این می‌تواند برای کاربری که به دنبال یک نظر شخصی معتبر است گمراه‌کننده باشد، زیرا سیستم فاقد عقیده، احساس یا تجربه زیسته واقعی است.

در این موارد، هوش مصنوعی اغلب سعی می‌کند با بیان نظرات مختلف و پرهیز از جانبداری مطلق پاسخ دهد، اما حتی این تلاش نیز می‌تواند تحت تأثیر تعصبات موجود در داده‌ها باشد. وظیفه کاربر هوشمند این است که بداند از چنین سیستمی نمی‌توان برای دریافت یک حکم اخلاقی نهایی یا پیش‌بینی قطعی آینده استفاده کرد، و پاسخ‌های دریافتی را صرفاً به عنوان گردآوری اطلاعات از منابع موجود، و نه بیشتر، در نظر بگیرد.