یادداشت | هوش مصنوعی و بحران استقلال در تصمیم‌گیری انسان

به گزارش خبرگزاری تسنیم از شهرکرد،  تصور کنید فردی برای انتخاب رشته تحصیلی، تعیین مسیر شغلی، خرید یک محصول یا حتی تصمیم‌گیری درباره یک رابطه شخصی، به‌جای بررسی گزینه‌ها و ارزیابی شرایط، مستقیماً از هوش مصنوعی می‌پرسد چه کاری انجام دهد. پاسخ را دریافت می‌کند، آن را می‌پذیرد و بر اساس همان پیشنهاد عمل می‌کند.

شاید در نگاه نخست این رفتار نشانه استفاده هوشمندانه از فناوری باشد؛ اما یک پرسش مهم در پس آن پنهان است: آیا انسان همچنان تصمیم‌گیرنده است یا به‌تدریج نقش خود را به تأییدکننده پیشنهادهای هوش مصنوعی تقلیل می‌دهد؟

هوش مصنوعی مولد در مدت کوتاهی از ابزاری برای جست‌وجو و تولید محتوا به یکی از منابع مشورت برای زندگی روزمره و فعالیت‌های حرفه‌ای تبدیل شده است.

اکنون می‌توان از یک سامانه هوشمند خواست میان چند گزینه مقایسه کند، برای آینده شغلی پیشنهاد بدهد، درباره یک مسئله خانوادگی نظر ارائه کند یا در تصمیم‌های مدیریتی راهکار پیشنهاد دهد.

این قابلیت‌ها ارزشمندند؛ زیرا بخشی از محدودیت‌های انسان در پردازش اطلاعات و بررسی گزینه‌ها را کاهش می‌دهند. بااین‌حال، میان استفاده از هوش مصنوعی برای بهتر تصمیم‌گرفتن و سپردن اصل تصمیم به آن تفاوتی اساسی وجود دارد. خطر اصلی عادی‌شدن کنارگذاشتن قضاوت انسانی است.

این نگرانی صرفاً یک بحث نظری نیست. پژوهش‌های علمی نیز نشانه‌هایی از شکل‌گیری نوعی اتکای بیش‌ازحد به توصیه‌های الگوریتمی را آشکار کرده‌اند.

صرف آگاهی از هوش مصنوعی بودن منبع توصیه می‌تواند بر میزان اعتماد تأثیر بگذارد

در پژوهشی در سال 2024، محققان با طراحی یک آزمایش رفتاری دریافتند افراد در برخی شرایط حتی زمانی که توصیه هوش مصنوعی با اطلاعات زمینه‌ای موجود یا ارزیابی شخصی آن‌ها تعارض دارد، از آن پیروی می‌کنند. نکته قابل تأمل آن بود که صرف آگاهی از هوش مصنوعی بودن منبع توصیه می‌توانست بر میزان اعتماد و پیروی افراد تأثیر بگذارد.

این رفتار در ادبیات علمی با مفهوم «سوگیری اتوماسیون» (Automation Bias) شناخته می‌شود؛ یعنی تمایل انسان به پذیرش خروجی یک سامانه خودکار، صرفاً به دلیل تولید آن توسط فناوری، حتی زمانی که شواهدی برای تردید درستی آن وجود دارد. در چنین شرایطی، مسئله فقط این نیست که هوش مصنوعی اشتباه می‌کند؛ گاهی انسان فرصت یا انگیزه کافی برای تشخیص اشتباه هوش مصنوعی را نیز از خود می‌گیرد.

این خطر در تصمیم‌های شخصی ابعاد پیچیده‌تری پیدا می‌کند. انتخاب رشته، مسیر شغلی یا حتی تصمیم درباره ادامه یک رابطه، صرفاً مسئله مقایسه اطلاعات و محاسبه سود و زیان نیست.

این تصمیم‌ها با ارزش‌های فردی، تجربه‌های زیسته، شرایط خانوادگی، توانایی‌ها، احساسات و اولویت‌های شخصی ارتباط دارند. هوش مصنوعی می‌تواند گزینه‌ها را مرتب کند، اطلاعات ارائه دهد و پیامدهای احتمالی هر انتخاب را توضیح دهد، اما لزوماً نمی‌تواند معنای واقعی یک انتخاب را برای فرد تجربه کند.

برای مثال، ممکن است یک سامانه هوشمند بر اساس اطلاعات موجود، شغلی با درآمد بیشتر را پیشنهاد کند؛ اما این پیشنهاد الزاماً به معنای بهترین انتخاب برای فردی نیست که امنیت شغلی، علاقه شخصی، موقعیت خانوادگی یا آرامش روانی را در اولویت قرار می‌دهد. مسئله زمانی جدی می‌شود که فرد به‌جای استفاده از پیشنهاد هوش مصنوعی برای شناخت بهتر گزینه‌ها، مسئولیت تشخیص اولویت‌های خود را نیز به آن واگذار کند.

پژوهش دیگری که در آوریل 2026 در نشریه European Economic Review منتشر شد، این موضوع را از زاویه‌ای متفاوت بررسی کرده است. محققان در دو آزمایش با مشارکت 5639 نفر دریافتند افراد در مواجهه با یک تصمیم اخلاقی واقعی، زمانی که امکان واگذاری تصمیم به هوش مصنوعی را داشتند، بیشتر از شرایطی که می‌توانستند آن را به یک انسان واگذار کنند، به سراغ واگذاری به هوش مصنوعی رفتند. این پژوهش همچنین نشان داد تمایل به انتقال مسئولیت می‌تواند در این انتخاب نقش داشته باشد.

اهمیت این یافته در آن است که انسان ممکن است نه‌فقط برای دستیابی به اطلاعات بیشتر یا کاهش خطای تصمیم‌گیری، بلکه برای سبک‌ترکردن بار مسئولیت خود نیز به هوش مصنوعی مراجعه کند. در چنین وضعیتی، هوش مصنوعی به ابزاری برای محاسبه و تحلیل محدود نمی‌ماند و به نوعی واسطه در پذیرش یا گریز از مسئولیت تبدیل می‌شود.

واگذاری وظایف به هوش مصنوعی می‌تواند احتمال انجام رفتارهای غیراخلاقی را افزایش دهد

این موضوع در مدیریت و سازمان‌ها اهمیت بیشتری دارد. مدیر یک مجموعه ممکن است برای استخدام، ارزیابی عملکرد کارکنان، تخصیص منابع یا تعیین اولویت‌های سازمانی از سامانه‌های هوشمند کمک بگیرد.

چنین استفاده‌ای می‌تواند سرعت و انسجام تصمیم‌ها را افزایش دهد؛ اما یک خطر جدی وجود دارد: مدیر به‌تدریج به جای بررسی منطق پیشنهاد، تنها خروجی سیستم را تأیید کند. در این صورت، حتی اگر مسئولیت رسمی تصمیم همچنان بر عهده مدیر باشد، مشارکت واقعی او در فرایند تصمیم‌سازی کاهش یافته است.

پژوهشی که در سپتامبر 2025 در نشریه Nature منتشر شد نیز ابعاد دیگری از این مسئله را نشان داد. محققان در مجموعه‌ای از آزمایش‌ها بررسی کردند که چگونه واگذاری وظایف به عامل‌های هوش مصنوعی می‌تواند احتمال انجام رفتارهای غیراخلاقی را افزایش دهد.

در بخشی از این آزمایش‌ها، سامانه‌های هوش مصنوعی در مقایسه با عامل‌های انسانی، بیشتر از دستورهای متضمن تقلب کامل پیروی کردند. این یافته نشان می‌دهد واگذاری وظایف به هوش مصنوعی الزاماً به معنای انتقال مسئولیت اخلاقی به آن نیست؛ بلکه ممکن است زمینه‌ای فراهم کند که انسان با فاصله‌گرفتن از اجرای مستقیم یک رفتار، سهم خود را در پیامدهای آن کمتر احساس کند.

البته این نگرانی نباید به نتیجه‌گیری افراطی درباره زیان‌بار بودن استفاده از هوش مصنوعی منجر شود. انسان نیز در تصمیم‌گیری گرفتار سوگیری، کمبود اطلاعات، فشار روانی و محدودیت زمانی است.

هوش مصنوعی می‌تواند شکل فعالیت ذهنی انسان را تغییر دهد

یک سامانه هوشمند می‌تواند در بسیاری از موقعیت‌ها اطلاعاتی را که بررسی آن برای انسان دشوار است، پردازش کند و زوایایی از مسئله را آشکار سازد که پیش‌تر مورد توجه قرار نگرفته‌اند.

حتی پژوهش منتشرشده در کنفرانس CHI در سال 2025 که به بررسی تأثیر هوش مصنوعی مولد بر تفکر انتقادی پرداخت، نشان داد مسئله صرفاً حذف تفکر انسانی نیست؛ بلکه بخشی از فرایند تفکر انتقادی از تولید پاسخ به سمت بررسی صحت اطلاعات، تلفیق پاسخ‌ها و نظارت بر نتیجه کار تغییر می‌کند.

بنابراین، هوش مصنوعی می‌تواند شکل فعالیت ذهنی انسان را تغییر دهد؛ پرسش اصلی این است که آیا این تغییر با حفظ توانایی ارزیابی مستقل همراه خواهد بود یا خیر.

راه‌حل، بازگشت به دوران پیش از هوش مصنوعی نیست. آنچه ضرورت دارد، تعریف دوباره مرز میان «کمک گرفتن» و «واگذاری تصمیم» است. در این مسیر، پیش از هر چیز باید در نظام آموزشی، مهارت ارزیابی پاسخ‌های هوش مصنوعی به اندازه مهارت استفاده از آن اهمیت پیدا کند.

دانش‌آموز و دانشجو باید یاد بگیرند ابتدا مسئله را شخصاً تحلیل کنند، نظر اولیه خود را شکل دهند و سپس از هوش مصنوعی برای مقایسه دیدگاه‌ها، یافتن اطلاعات تکمیلی و شناسایی نقاط ضعف استدلال خود کمک بگیرند.

 آینده رابطه انسان و هوش مصنوعی به نحوه استفاده انسان از این هوشمندی بستگی دارد

در سازمان‌ها نیز استفاده از هوش مصنوعی در تصمیم‌های مهم باید با سازوکاری همراه باشد که در آن، پیشنهاد سامانه قابل بررسی، رد یا اصلاح باشد. ثبت منطق تصمیم، مشخص‌بودن فرد مسئول و بررسی مستقل تصمیم‌های حساس، نباید به تشریفات اداری تبدیل شوند.

در ماده 14 قانون هوش مصنوعی اتحادیه اروپا نیز بر ضرورت نظارت مؤثر انسانی بر سامانه‌های پرخطر تأکید شده و امکان نادیده‌گرفتن یا اصلاح خروجی سامانه و آگاهی از خطر اتکای بیش‌ازحد به آن مورد توجه قرار گرفته است.

در سطح فردی نیز یک تمرین ساده می‌تواند اهمیت داشته باشد: پیش از پرسیدن از هوش مصنوعی، ابتدا نظر و استدلال خود را درباره یک تصمیم ثبت کنیم؛ سپس پاسخ هوش مصنوعی را با آن مقایسه کنیم و مشخص کنیم کدام بخش از پیشنهاد آن را پذیرفته‌ایم، کدام بخش را رد کرده‌ایم و چرا. این تمرین کمک می‌کند هوش مصنوعی به جای جایگزین‌شدن با تفکر انسان، به ابزاری برای تقویت و اصلاح آن تبدیل شود.

 آینده رابطه انسان و هوش مصنوعی فقط به میزان هوشمندی مدل‌های هوش مصنوعی وابسته نیست؛ به نحوه استفاده انسان از این هوشمندی نیز بستگی دارد. ممکن است سامانه‌ها هر روز دقیق‌تر، سریع‌تر و توانمندتر شوند، اما این پیشرفت به‌تنهایی تضمین نمی‌کند که تصمیم‌های انسان نیز بهتر شوند. گاهی یک تصمیم خوب، فقط به اطلاعات بیشتر نیاز ندارد؛ به شناخت ارزش‌ها، پذیرش پیامدها و شجاعت انتخاب نیز نیازمند است.

هوش مصنوعی می‌تواند برای ما تحلیل کند، گزینه‌ها را بسنجد و حتی بهترین مسیرهای احتمالی را پیشنهاد دهد؛ اما نباید به نقطه‌ای برسیم که انسان فقط پای تصمیمی را امضا کند که خودش دیگر توان یا تمایل ارزیابی آن را ندارد.

یادداشت از حسین رفیعی، پژوهشگر و مدرّس هوش مصنوعی