پدیده «زباله‌کاری» در شرکت‌ها؛ چگونه هوش مصنوعی کیفیت خروجی کارکنان را کاهش می‌دهد؟

پذیرش همه‌جانبه هوش مصنوعی مولد توسط شرکت‌ها، آن‌ها را با بحران مخربی روبه‌رو کرده است که شاید بتوانیم نام آن را «زباله‌کاری» (Workslop) بگذاریم. مدیرانی که با هدف افزایش بهره‌وری، کاهش وابستگی به نیروی انسانی و راضی نگه‌داشتن سرمایه‌گذاران به این ابزارها روی آورده بودند، اکنون متوجه شده‌اند که این فناوری همانند موریانه دانش سازمانی آن‌ها را به فروپاشی رسانده و کیفیت خروجی کارکنان را کاهش داده است.

کارشناسان هاروارد بیزینس ریویو می‌گویند سازمان‌ها در دوران هوش مصنوعی به «زوال دانش» رسیده‌اند؛ وضعیتی که در آن کارمندان مهارت‌های خود را فراموش می‌کنند و فرایندهای سازمان روبه‌زوال می‌روند.

این مارپیچ نزولی و خطرناک زمانی آغاز می‌شود که کارمندان برای تولید محتوا، قوه تفکر خود را به هوش مصنوعی واگذار می‌کنند و خروجی‌هایی ظاهراً صیقل‌خورده اما بی‌کیفیت تحویل می‌دهند. زمانی که سایر همکاران متوجه این موضوع می‌شوند، آن‌ها نیز به‌جای بررسی دقیق، از هوش مصنوعی برای خواندن و پاسخ‌دادن استفاده می‌کنند.

در نتیجه این چرخه معیوب، خطاهای هوش مصنوعی روی هم انباشته می‌شوند، اعتماد به اطلاعات از بین می‌رود و کارمندان مجبور می‌شوند زمان بسیار بیشتری را نسبت به گذشته، صرف کشف خطاهای ناشی از توهم هوش مصنوعی کنند. اصرار مدیران بر استفاده از این فناوری، حتی باعث کاهش روحیه نیروی کار شده است.

تأثیر هوش مصنوعی بر دانش کارکنان و سازمان‌ها

حضور مدل‌های زبانی بزرگ در تمام مراحل جذب نیرو، اعتماد به فرایند استخدام و تحقیقات را به پایین‌ترین حد در تاریخ رسانده است. درحال‌حاضر، دپارتمان‌های منابع انسانی از هوش مصنوعی برای نوشتن شرح وظایف شغلی استفاده می‌کنند. در مقابل، کارجویان نیز رزومه‌های خود را با هوش مصنوعی و براساس کلمات کلیدی بهینه می‌کنند. سپس مجدداً هوش مصنوعی شرکت، این رزومه‌ها را غربال و حتی مصاحبه‌های رباتیک برگزار می‌کند.

گزارش‌ها نشان می‌دهند که کارجویان در حین مصاحبه نیز پنهانی از این ابزارها برای تولید پاسخ‌های بی‌نقص اما کلیشه‌ای استفاده می‌کنند. این فاجعه در حوزه‌های علمی و پزشکی نیز رخ می‌دهد. حجم مقالات تولیدشده توسط هوش مصنوعی بسیار افزایش یافته و حتی کیفیت نگارش در نشریات معتبر افت کرده است. همچنین حدود ۴۰ درصد از پزشکان مراقبت‌های اولیه در آمریکا از این ابزارها برای ثبت مکالمات بیماران استفاده می‌کنند که تکیه بیش‌ازحد بر آن‌ها می‌تواند به خطاهای پزشکی و از دست‌رفتن مهارت‌های بالینی پزشکان منجر شود.

سازمان‌ها در برخورد با محتوای تولیدشده توسط هوش مصنوعی با سه مسئله اساسی و خطرناک روبه‌رو هستند:

• مسئله اول، راستی‌آزمایی اطلاعات است. جداکردن فکت‌ها از توهمات هوش مصنوعی به یک فرایند بسیار زمان‌بر و نیازمند نیروی انسانی تبدیل شده است که عملاً تمام مزایای بهره‌وری این فناوری را خنثی می‌کند.
•  مسئله دوم، اعتبارسنجی ارزش افزوده انسانی است. مشتریان حاضر نیستند برای گزارش‌ها یا مشاوره‌هایی که توسط هوش مصنوعی نوشته شده‌اند، هزینه‌های کلان پرداخت کنند. وکلایی که از این ابزارها برای استناد به پرونده‌های جعلی استفاده کرده‌اند، توسط قضات جریمه شده‌اند و مجلات علمی نیز مقالات مبتنی بر هوش مصنوعی را رد می‌کنند.
•  مسئله سوم، پدیده خطرناک آنتروپی یا فروپاشی مدل است. زمانی که حجم زیادی از داده‌های تولیدشده توسط هوش مصنوعی در اینترنت پخش می‌شود، مدل‌های بعدی برای آموزش خود از همین داده‌های مصنوعی استفاده می‌کنند. این «درون‌آمیزی» باعث می‌شود که خروجی‌ها با هر چرخه، بیشتر از حقیقت فاصله بگیرند و سیستم‌ها به تدریج دچار فروپاشی شوند.

مدیران چگونه باید سازمان خود را از این بحران نجات دهند؟

برای جلوگیری از زوال دانش و زباله‌کاری، مدیران کسب‌وکارها باید رویکردی هدفمند و استراتژیک اتخاذ کنند. اولین قدم، ردیابی دقیق منشأ داده‌های بدون ساختار است؛ به این معنا که سازمان‌ها باید دقیقاً بدانند کدام اطلاعات توسط انسان تولید شده و کدام بخش‌ها خروجی هوش مصنوعی هستند.

قدم دوم، محدودکردن استفاده از هوش مصنوعی است. مدیران باید به‌جای اجازه‌دادن به کارجویان برای ارسال رزومه‌های نوشته‌شده با هوش مصنوعی، از فرم‌های ساختاریافته برای دریافت اطلاعات واقعی استفاده کنند.

علاوه‌براین، کسب‌وکارها باید درک کنند که استفاده از مدل‌های عمومی ارزش افزوده چندانی ایجاد نمی‌کند و آن‌ها برای موفقیت حتماً باید مدل‌های اختصاصی خود را بر اساس داده‌های انحصاری شرکت آموزش دهند.