مجلس سنا ایالات متحده لایحه جدیدی را پیشنهاد کرده است که با الزام ایجاد پایگاه داده‌ای برای ثبت تمام نقض‌های سیستم‌های هوش مصنوعی، به‌دنبال ردیابی مسائل امنیتی این حوزه است.
براساس گزارش ورج، لایحه مذکور که «قانون هوش مصنوعی امن» نام دارد، توسط «مارک وارنر» (D-VA) و «تام تیلیس» (R-NC)، دو سناتور آمریکایی معرفی شده است و با وجود آن، یک مرکز امنیت هوش مصنوعی در آژانس امنیت ملی ایجاد خواهد شد. این مرکز در مورد تکنیک‌هایی برای یادگیری نحوه دستکاری سیستم‌های هوش‌مصنوعی که لایحه از آن به‌عنوان «ضد-هوش مصنوعی» یاد کرده است، تحقیق خواهد کرد. همچنین برای جلوگیری از استفاده از این تکنیک‌ها، دستوراتی را ایجاد خواهد کرد.
ایجاد پایگاه‌داده‌ای از نقض‌های هوش مصنوعی
علاوه بر این، مؤسسه ملی استانداردها و فناوری (NIST) و آژانس امنیت سایبری و امنیت زیرساخت با وجود این لایحه، مجبور به ایجاد پایگاه‌داده‌ای از نقض‌های هوش مصنوعی هستند.
لایحه پیشنهادی بر تکنیک‌هایی برای مقابله با هوش‌مصنوعی تمرکز دارد و آن‌ها را به‌عنوان مسمومیت داده‌ها، حملات فرار، حملات مبتنی بر حریم خصوصی و حملات سوء استفاده طبقه‌بندی می‌کند.
مسمومیت داده به روشی گفته می‌شود که در آن در داده‌های یک مدل هوش مصنوعی از کدهایی استفاده می‌شود تا خروجی آن تخریب شود. از این رویکرد برای جلوگیری از کپی آثار هنری توسط مدل‌های هوش مصنوعی تولیدکننده تصویر استفاده می‌شود. حملات فرار نیز داده‌های مطالعه‌شده توسط مدل‌های هوش مصنوعی را تغییر می‌دهند تا مدل گیج شود.
در همین رابطه، روز گذشته در گزارشی گفته شده بود که هشت نشریه آمریکایی در شکایتی علیه مایکروسافت و OpenAI ادعا کردند که بدون پرداخت غرامت یا کسب اجازه، از مطالب آن‌ها برای آموزش مدل‌های هوش‌مصنوعی استفاده شده است.
«قانون هوش مصنوعی امن» حالا باید تأییدیه‌های یک کمیته را دریافت کند تا در نهایت توسط مجلس سنا ایالات متحده تصویب شود.
مجلس سنا ایالات متحده لایحه جدیدی را پیشنهاد کرده است که با الزام ایجاد پایگاه داده‌ای برای ثبت تمام نقض‌های سیستم‌های هوش مصنوعی، به‌دنبال ردیابی مسائل امنیتی این حوزه است.
براساس گزارش ورج، لایحه مذکور که «قانون هوش مصنوعی امن» نام دارد، توسط «مارک وارنر» (D-VA) و «تام تیلیس» (R-NC)، دو سناتور آمریکایی معرفی شده است و با وجود آن، یک مرکز امنیت هوش مصنوعی در آژانس امنیت ملی ایجاد خواهد شد. این مرکز در مورد تکنیک‌هایی برای یادگیری نحوه دستکاری سیستم‌های هوش‌مصنوعی که لایحه از آن به‌عنوان «ضد-هوش مصنوعی» یاد کرده است، تحقیق خواهد کرد. همچنین برای جلوگیری از استفاده از این تکنیک‌ها، دستوراتی را ایجاد خواهد کرد.
ایجاد پایگاه‌داده‌ای از نقض‌های هوش مصنوعی
علاوه بر این، مؤسسه ملی استانداردها و فناوری (NIST) و آژانس امنیت سایبری و امنیت زیرساخت با وجود این لایحه، مجبور به ایجاد پایگاه‌داده‌ای از نقض‌های هوش مصنوعی هستند.
لایحه پیشنهادی بر تکنیک‌هایی برای مقابله با هوش‌مصنوعی تمرکز دارد و آن‌ها را به‌عنوان مسمومیت داده‌ها، حملات فرار، حملات مبتنی بر حریم خصوصی و حملات سوء استفاده طبقه‌بندی می‌کند.
مسمومیت داده به روشی گفته می‌شود که در آن در داده‌های یک مدل هوش مصنوعی از کدهایی استفاده می‌شود تا خروجی آن تخریب شود. از این رویکرد برای جلوگیری از کپی آثار هنری توسط مدل‌های هوش مصنوعی تولیدکننده تصویر استفاده می‌شود. حملات فرار نیز داده‌های مطالعه‌شده توسط مدل‌های هوش مصنوعی را تغییر می‌دهند تا مدل گیج شود.
در همین رابطه، روز گذشته در گزارشی گفته شده بود که هشت نشریه آمریکایی در شکایتی علیه مایکروسافت و OpenAI ادعا کردند که بدون پرداخت غرامت یا کسب اجازه، از مطالب آن‌ها برای آموزش مدل‌های هوش‌مصنوعی استفاده شده است.
«قانون هوش مصنوعی امن» حالا باید تأییدیه‌های یک کمیته را دریافت کند تا در نهایت توسط مجلس سنا ایالات متحده تصویب شود.
مجلس سنا ایالات متحده لایحه جدیدی را پیشنهاد کرده است که با الزام ایجاد پایگاه داده‌ای برای ثبت تمام نقض‌های سیستم‌های هوش مصنوعی، به‌دنبال ردیابی مسائل امنیتی این حوزه است.
براساس گزارش ورج، لایحه مذکور که «قانون هوش مصنوعی امن» نام دارد، توسط «مارک وارنر» (D-VA) و «تام تیلیس» (R-NC)، دو سناتور آمریکایی معرفی شده است و با وجود آن، یک مرکز امنیت هوش مصنوعی در آژانس امنیت ملی ایجاد خواهد شد. این مرکز در مورد تکنیک‌هایی برای یادگیری نحوه دستکاری سیستم‌های هوش‌مصنوعی که لایحه از آن به‌عنوان «ضد-هوش مصنوعی» یاد کرده است، تحقیق خواهد کرد. همچنین برای جلوگیری از استفاده از این تکنیک‌ها، دستوراتی را ایجاد خواهد کرد.
ایجاد پایگاه‌داده‌ای از نقض‌های هوش مصنوعی
علاوه بر این، مؤسسه ملی استانداردها و فناوری (NIST) و آژانس امنیت سایبری و امنیت زیرساخت با وجود این لایحه، مجبور به ایجاد پایگاه‌داده‌ای از نقض‌های هوش مصنوعی هستند.
لایحه پیشنهادی بر تکنیک‌هایی برای مقابله با هوش‌مصنوعی تمرکز دارد و آن‌ها را به‌عنوان مسمومیت داده‌ها، حملات فرار، حملات مبتنی بر حریم خصوصی و حملات سوء استفاده طبقه‌بندی می‌کند.
مسمومیت داده به روشی گفته می‌شود که در آن در داده‌های یک مدل هوش مصنوعی از کدهایی استفاده می‌شود تا خروجی آن تخریب شود. از این رویکرد برای جلوگیری از کپی آثار هنری توسط مدل‌های هوش مصنوعی تولیدکننده تصویر استفاده می‌شود. حملات فرار نیز داده‌های مطالعه‌شده توسط مدل‌های هوش مصنوعی را تغییر می‌دهند تا مدل گیج شود.
در همین رابطه، روز گذشته در گزارشی گفته شده بود که هشت نشریه آمریکایی در شکایتی علیه مایکروسافت و OpenAI ادعا کردند که بدون پرداخت غرامت یا کسب اجازه، از مطالب آن‌ها برای آموزش مدل‌های هوش‌مصنوعی استفاده شده است.
«قانون هوش مصنوعی امن» حالا باید تأییدیه‌های یک کمیته را دریافت کند تا در نهایت توسط مجلس سنا ایالات متحده تصویب شود.
مجلس سنا ایالات متحده لایحه جدیدی را پیشنهاد کرده است که با الزام ایجاد پایگاه داده‌ای برای ثبت تمام نقض‌های سیستم‌های هوش مصنوعی، به‌دنبال ردیابی مسائل امنیتی این حوزه است.
براساس گزارش ورج، لایحه مذکور که «قانون هوش مصنوعی امن» نام دارد، توسط «مارک وارنر» (D-VA) و «تام تیلیس» (R-NC)، دو سناتور آمریکایی معرفی شده است و با وجود آن، یک مرکز امنیت هوش مصنوعی در آژانس امنیت ملی ایجاد خواهد شد. این مرکز در مورد تکنیک‌هایی برای یادگیری نحوه دستکاری سیستم‌های هوش‌مصنوعی که لایحه از آن به‌عنوان «ضد-هوش مصنوعی» یاد کرده است، تحقیق خواهد کرد. همچنین برای جلوگیری از استفاده از این تکنیک‌ها، دستوراتی را ایجاد خواهد کرد.
ایجاد پایگاه‌داده‌ای از نقض‌های هوش مصنوعی
علاوه بر این، مؤسسه ملی استانداردها و فناوری (NIST) و آژانس امنیت سایبری و امنیت زیرساخت با وجود این لایحه، مجبور به ایجاد پایگاه‌داده‌ای از نقض‌های هوش مصنوعی هستند.
لایحه پیشنهادی بر تکنیک‌هایی برای مقابله با هوش‌مصنوعی تمرکز دارد و آن‌ها را به‌عنوان مسمومیت داده‌ها، حملات فرار، حملات مبتنی بر حریم خصوصی و حملات سوء استفاده طبقه‌بندی می‌کند.
مسمومیت داده به روشی گفته می‌شود که در آن در داده‌های یک مدل هوش مصنوعی از کدهایی استفاده می‌شود تا خروجی آن تخریب شود. از این رویکرد برای جلوگیری از کپی آثار هنری توسط مدل‌های هوش مصنوعی تولیدکننده تصویر استفاده می‌شود. حملات فرار نیز داده‌های مطالعه‌شده توسط مدل‌های هوش مصنوعی را تغییر می‌دهند تا مدل گیج شود.
در همین رابطه، روز گذشته در گزارشی گفته شده بود که هشت نشریه آمریکایی در شکایتی علیه مایکروسافت و OpenAI ادعا کردند که بدون پرداخت غرامت یا کسب اجازه، از مطالب آن‌ها برای آموزش مدل‌های هوش‌مصنوعی استفاده شده است.
«قانون هوش مصنوعی امن» حالا باید تأییدیه‌های یک کمیته را دریافت کند تا در نهایت توسط مجلس سنا ایالات متحده تصویب شود.
