شرکت OpenAI اعلام کرد کمیته ایمنی و امنیت مستقل می‌شود تا بتواند به‌دلیل نگرانی‌های ایمنی از عرضه مدل‌ها جلوگیری کند. این اقدام همراه تغییری بزرگ انجام می‌شود: «سم آلتمن»، مدیرعامل شرکت، دیگر بخشی از کمیته ایمنی نیست.
به گزارش سایت رسمی OpenAI، «زیکو کولتر»، مدیر بخش یادگیری ماشین در دانشگاه کارنگی ملون، ریاست کمیته ایمنی و امنیت جدید (SSC) شرکت OpenAI را برعهده خواهد داشت. دیگر اعضای کلیدی این کمیته عبارت‌اند از «آدام دآنجلو»، مدیر اجرایی Quora، «پل ناکاسون» ژنرال بازنشسته ارتش ایالات متحده، و «نیکول سلیگمن»، مشاور عمومی شرکت سونی.
این کمیته جدید جایگزین کمیته ایمنی و امنیت قبلی می‌شود که ژوئن 2024 تشکیل شده بود و سم آلتمن نیز یکی از اعضای آن بود. کمیته قبلی موظف بود توصیه‌هایی درمورد تصمیمات حیاتی ایمنی و امنیتی برای پروژه‌ها و عملیات OpenAI ارائه دهد.
وظایف کمیته ایمنی شرکت OpenAI
اکنون مسئولیت‌های SSC فراتر از توصیه‌کردن خواهد بود. این کمیته صلاحیت نظارت بر ارزیابی‌های ایمنی مدل‌های اصلی و عرضه مدل‌ها را خواهد داشت. مهم‌تر از همه، کمیته این قدرت را دارد که انتشار مدل‌های جدید هوش مصنوعی را تا زمانی که به اندازه کافی به نگرانی‌های ایمنی رسیدگی نشود، عقب بیندازد.
این تجدید ساختار به‌دنبال یک دوره بررسی دقیق درمورد تعهد OpenAI به حفظ ایمنی هوش مصنوعی انجام می‌شود. این شرکت در گذشته به‌دلیل انحلال تیم Superalignment و خروج پرسنل کلیدی متمرکز بر ایمنی، با انتقاداتی روبه‌رو شده بود. به نظر می‌رسد حذف آلتمن از کمیته ایمنی تلاشی برای رفع نگرانی‌ها درمورد تضاد منافع احتمالی در نظارت بر ایمنی شرکت است.
دیگر وظایف کمیته ایمنی شرکت OpenAI عبارت است از برنامه‌هایی برای تقویت اقدامات امنیتی، افزایش شفافیت درمورد کار و همکاری با سازمان‌های خارجی. این شرکت قبلاً برای همکاری با مؤسسات ایمنی هوش مصنوعی ایالات متحده و بریتانیا در زمینه خطرات و استانداردهای ایمنی درحال ظهور حوزه هوش مصنوعی به توافق رسیده بود.
شرکت OpenAI اعلام کرد کمیته ایمنی و امنیت مستقل می‌شود تا بتواند به‌دلیل نگرانی‌های ایمنی از عرضه مدل‌ها جلوگیری کند. این اقدام همراه تغییری بزرگ انجام می‌شود: «سم آلتمن»، مدیرعامل شرکت، دیگر بخشی از کمیته ایمنی نیست.
به گزارش سایت رسمی OpenAI، «زیکو کولتر»، مدیر بخش یادگیری ماشین در دانشگاه کارنگی ملون، ریاست کمیته ایمنی و امنیت جدید (SSC) شرکت OpenAI را برعهده خواهد داشت. دیگر اعضای کلیدی این کمیته عبارت‌اند از «آدام دآنجلو»، مدیر اجرایی Quora، «پل ناکاسون» ژنرال بازنشسته ارتش ایالات متحده، و «نیکول سلیگمن»، مشاور عمومی شرکت سونی.
این کمیته جدید جایگزین کمیته ایمنی و امنیت قبلی می‌شود که ژوئن 2024 تشکیل شده بود و سم آلتمن نیز یکی از اعضای آن بود. کمیته قبلی موظف بود توصیه‌هایی درمورد تصمیمات حیاتی ایمنی و امنیتی برای پروژه‌ها و عملیات OpenAI ارائه دهد.
وظایف کمیته ایمنی شرکت OpenAI
اکنون مسئولیت‌های SSC فراتر از توصیه‌کردن خواهد بود. این کمیته صلاحیت نظارت بر ارزیابی‌های ایمنی مدل‌های اصلی و عرضه مدل‌ها را خواهد داشت. مهم‌تر از همه، کمیته این قدرت را دارد که انتشار مدل‌های جدید هوش مصنوعی را تا زمانی که به اندازه کافی به نگرانی‌های ایمنی رسیدگی نشود، عقب بیندازد.
این تجدید ساختار به‌دنبال یک دوره بررسی دقیق درمورد تعهد OpenAI به حفظ ایمنی هوش مصنوعی انجام می‌شود. این شرکت در گذشته به‌دلیل انحلال تیم Superalignment و خروج پرسنل کلیدی متمرکز بر ایمنی، با انتقاداتی روبه‌رو شده بود. به نظر می‌رسد حذف آلتمن از کمیته ایمنی تلاشی برای رفع نگرانی‌ها درمورد تضاد منافع احتمالی در نظارت بر ایمنی شرکت است.
دیگر وظایف کمیته ایمنی شرکت OpenAI عبارت است از برنامه‌هایی برای تقویت اقدامات امنیتی، افزایش شفافیت درمورد کار و همکاری با سازمان‌های خارجی. این شرکت قبلاً برای همکاری با مؤسسات ایمنی هوش مصنوعی ایالات متحده و بریتانیا در زمینه خطرات و استانداردهای ایمنی درحال ظهور حوزه هوش مصنوعی به توافق رسیده بود.
