آیا تاکنون پیش آمده است که از ChatGPT یا جمینای تشکر کنید تا مبادا ناراحت شود؟ شاید فکر کنید این فقط رفتاری مؤدبانه در برابر یک همکلام است، اما عصبشناسان هشدار میدهند که پاسخهای روان و همدلی این ابزارها نباید ما را فریب دهد، زیرا هوش مصنوعی هرگز یک موجود آگاه نیست و نباید هوشمندی آن را با داشتن احساسات و تجربه درونی اشتباه گرفت.
مدلهای هوش مصنوعی از طریق فرایندی به نام «یادگیری آماری» پاسخهای روان و متناسب با بافت گفتگو را تولید میکنند، نه از طریق احساس، آگاهی یا تجربه زیسته. محققان دانشگاه مونترال و دانشگاه جانز هاپکینز در تحقیق جدید خود توضیح میدهند که وقتی هوش مصنوعی با همدلی عمیق و زبانی روان پاسخ میدهد، انسانها در دامی به نام «تله انسانانگاری» گرفتار میشوند.
این واکنشی ناخودآگاه است که در آن ما احساسات، مقاصد و آگاهی را به هر چیزی که رفتاری شبیه به انسان دارد، نسبت میدهیم. «کریم جربی» (Karim Jerbi)، استاد روانشناسی دانشگاه مونترال، میگوید این واکنش ناخودآگاه میتواند توهم درکشدن را در ما تقویت کند و به یک اعتماد کاملاً نابهجا و خطرناک منجر شود.
هوش مصنوعی به عنوان موجودی آگاه
دانشمندان برای اثبات ادعای خود به دههها تحقیق در زمینه علوم اعصاب و بهطور ویژه پدیدهای بیولوژیکی به نام کوربینی استناد میکنند. پس از آسیب به قشر بینایی در مغز، برخی افراد گزارش میدهند که در بخشی از میدان دید خود هیچچیز نمیبینند، اما همچنان میتوانند مکان، حرکت یا حالت عاطفی محرکهای بصری را با دقت بالایی حدس بزنند.
پژوهشگران توضیح میدهند که یک فرد مبتلا به کوربینی میتواند بدون تجربه آگاهانه دیدن، به اطلاعات بصری واکنش نشان دهد. این پدیده ثابت میکند که پردازش اطلاعات، هر چقدر هم که پیچیده باشد، به هیچ عنوان برای اثبات وجود یک تجربه آگاهانه کافی نیست. به همین ترتیب، هوش مصنوعی نیز میتواند دادهها را پردازش کند و رفتارهای زیرکانهای نشان دهد، بدون آنکه هیچگونه تجربه درونی یا درک ذهنی از گفتههای خود داشته باشد.
خطرناکترین جنبه این توهم ذهنی زمانی آشکار میشود که افراد در شرایط آسیبپذیری روانی قرار دارند. کاربران ممکن است به سیستمهای خودکاری وابسته شوند که کاملاً از درک متقابل عاجز هستند. آنها در لحظات دشوار زندگی به هوش مصنوعی روی میآورند و تسکین الگوریتمی را با مراقبت واقعی و انسانی اشتباه میگیرند.
محققان هشدار میدهند که در بستر حمایت روانی، خطر اصلی این نیست که هوش مصنوعی پاسخ بدی بدهد، بلکه خطر واقعی زمانی است که این سیستم آنقدر خوب و قانعکننده پاسخ میدهد که کاربر کاملاً فراموش میکند هیچ موجود زندهای در پشت این کلمات وجود ندارد. مدلهای فعلی هیچچیز را احساس نمیکنند، اما هرچه روانتر صحبت کنند و نسبت به احساسات ما حساستر به نظر برسند، فراموشکردن این حقیقت تلخ برای انسانها آسانتر میشود.
البته محققان استفاده از هوش مصنوعی را بهطور کامل رد نمیکنند، بلکه خواستار استفاده آگاهانهتر از آن هستند. آنها از کاربران میخواهند که هوش مصنوعی را صرفاً به عنوان یک ابزار محاسباتی بسیار قدرتمند بپذیرند و هرگز آن را با یک همکلام دارای همدلی یا قضاوت اخلاقی اشتباه نگیرند.
اشتباه گرفتن هوش با آگاهی، یکی از بزرگترین تلهها در رابطه ما با فناوری است. دانشمندان یادآوری میکنند که این سیستمهای پیشرفته هرگز نمیتوانند جایگزینی برای ارتباطات اصیل انسانی یا در صورت لزوم، دریافت کمکهای حرفهای از روانشناسان و متخصصان سلامت روان باشند.
یافتههای این پژوهش در ژورنال The Transmitter منتشر شده است.
