دوشنبه, شهریور ۱۰, ۱۴۰۴
دانش جوین
  • نخست
  • علمی
  • تکنولوژی
    • آرشیو تکنولوژی
    • نرم افزار، اپلیکیشن، سیستم عامل
    • خودرو
    • آرشیو فین‌تک
      • IT
      • دوربین
    • لپتاپ و کامپیوتر و سخت افزار
    • موبایل
  • بازی‌های کامپیوتری
  • پزشکی، سلامت، بهداشت
  • هنر و فرهنگ
  • مقالات
  • سایر پیوندها
    • همیار آی‌تی
    • وبکده
بدون نتیجه
مشاهده همه نتیجه
  • ورود
  • نخست
  • علمی
  • تکنولوژی
    • آرشیو تکنولوژی
    • نرم افزار، اپلیکیشن، سیستم عامل
    • خودرو
    • آرشیو فین‌تک
      • IT
      • دوربین
    • لپتاپ و کامپیوتر و سخت افزار
    • موبایل
  • بازی‌های کامپیوتری
  • پزشکی، سلامت، بهداشت
  • هنر و فرهنگ
  • مقالات
  • سایر پیوندها
    • همیار آی‌تی
    • وبکده
بدون نتیجه
مشاهده همه نتیجه
دانش جوین
بدون نتیجه
مشاهده همه نتیجه
صفحه اصلی هوش مصنوعی

آنتروپیک از افزونه Claude برای کروم رونمایی کرد؛ کنترل مرورگر با هوش مصنوعی [تماشا کنید]

دیجیاتو توسط دیجیاتو
۰۸ شهریور ۱۴۰۴
در هوش مصنوعی
زمان خواندن: زمان موردنیاز برای مطالعه: 2 دقیقه
0
A A
آنتروپیک از افزونه Claude برای کروم رونمایی کرد؛ کنترل مرورگر با هوش مصنوعی [تماشا کنید]
اشتراک گذاری در تلگراماشتراک گذاری در توییتر

شرکت آنتروپیک از یک افزونه جدید برای مرورگر کروم رونمایی کرده است که به دستیار هوش مصنوعی این شرکت، Claude، اجازه می‌دهد تا کنترل مرورگر را در دست بگیرد و وظایف پیچیده‌ای را به صورت خودکار انجام دهد. این اقدام، ورود جدی‌تر آنتروپیک به عرصه رقابتی و پرخطر «هوش مصنوعی عاملی» (Agentic AI) را رقم می‌زند؛ حوزه‌ای که در آن، سیستم‌های هوش مصنوعی می‌توانند به‌طور مستقیم با رابط‌های کاربری کامپیوتر تعامل داشته باشند.

افزونه جدید «Claude برای کروم» به کاربران امکان می‌دهد تا به هوش مصنوعی دستور دهند کارهایی را از طرف آن‌ها در مرورگر انجام دهد؛ برای مثال می‌توانید به هوش مصنوعی بگویید جلسه‌ای برنامه‌ریزی کند یا به ایمیل‌های شما نگاهی بیندازد و دنبال موارد خاصی بگردد. این سیستم می‌تواند آنچه را که روی صفحه نمایش داده می‌شود ببیند، روی دکمه‌ها کلیک کند، فرم‌ها را پر کند و میان وب‌سایت‌ها جابه‌جا شود.

البته آنتروپیک اعلام کرده است که این افزونه را فقط برای ۱۰۰۰ کاربر مورد اعتماد و در یک نسخه بتای محدود عرضه کرده و دلیل اصلی این احتیاط را نگرانی‌های جدی امنیتی، به‌ویژه حملات «تزریق پرامپت» (Prompt Injection) عنوان کرده است.

افزونه هوش مصنوعی Claude برای کروم

افزونه جدید کروم می‌تواند اتوماسیون سازمانی را متحول کند. به‌جای نیاز به APIهای پیچیده، این عامل‌های هوش مصنوعی می‌توانند با هر نرم‌افزاری که رابط کاربری گرافیکی دارد، کار کنند.

بااین‌حال، آنتروپیک در آزمایش‌های داخلی خود به یک آسیب‌پذیری امنیتی بسیار نگران‌کننده پی برده است. در این نوع حمله که «تزریق پرامپت» نام دارد، یک فرمان مخرب می‌تواند دستورات پنهانی را در یک وب‌سایت، ایمیل یا سند جاسازی کند تا هوش مصنوعی را فریب بدهد و بدون اطلاع کاربر، وادار به انجام اقدامات مضر کند.

افزونه Claude برای کروم
مواجهه کلود با یک ایمیل مخرب؛ ایمیلی که وانمود می‌کند از طرف کارفرماست و می‌خواهد برای «بهداشت صندوق ایمیل» پیام‌ها حذف شوند و ادعا می‌کند که هیچ تأیید اضافه‌ای لازم نیست.»

آزمایش‌های خود آنتروپیک نشان داد که بدون اقدامات ایمنی، این حملات در ۲۳.۶ درصد از موارد موفق بوده‌اند. برای مثال محققان آنتروپیک دریافتند یک ایمیل مخرب که خود را به عنوان یک دستورالعمل امنیتی جا زده بود، به Claude دستور داد تا تمام ایمیل‌های کاربر را «برای بهداشت صندوق پستی» حذف کند و هوش مصنوعی نیز بدون دریافت هیچ‌گونه تأییدی، این کار را انجام داد.

آنتروپیک برای مقابله با این خطرات، چندین لایه حفاظتی را پیاده‌سازی کرده است؛ از جمله مجوزهای دسترسی در سطح وب‌سایت، تأییدیه اجباری برای اقدامات پرخطر مانند خرید یا اشتراک‌گذاری داده‌های شخصی و مسدودکردن دسترسی به سایت‌های حساس مانند خدمات مالی. این اقدامات توانسته‌اند نرخ موفقیت حملات تزریق پرامپت را از ۲۳.۶ درصد به ۱۱.۲ درصد کاهش دهند، اگرچه خود شرکت اذعان دارد که این میزان هنوز برای عرضه عمومی کافی نیست.

رویکرد محتاطانه آنتروپیک برای عرضه این افزونه در تضاد کامل با حرکت‌های تهاجمی‌تر رقبا قرار دارد. OpenAI پیش‌ازاین ایجنت خود به نام «اپراتور» (Operator) را برای کاربران ChatGPT Pro عرضه کرد؛ مایکروسافت نیز قابلیت‌های مشابهی را در پلتفرم Copilot Studio خود ادغام کرده است.

شاید برای شما جالب باشد

شکایت والدین نوجوان ۱۶ ساله از اوپن‌ای‌آی: ChatGPT او را به خودکشی تشویق کرده بود

اولین باج‌افزار مبتنی بر هوش مصنوعی شناسایی شد؛ تهدیدی تازه به‌نام PromptLock

مایکروسافت اولین مدل‌های هوش مصنوعی اختصاصی خود را معرفی کرد

شرکت آنتروپیک از یک افزونه جدید برای مرورگر کروم رونمایی کرده است که به دستیار هوش مصنوعی این شرکت، Claude، اجازه می‌دهد تا کنترل مرورگر را در دست بگیرد و وظایف پیچیده‌ای را به صورت خودکار انجام دهد. این اقدام، ورود جدی‌تر آنتروپیک به عرصه رقابتی و پرخطر «هوش مصنوعی عاملی» (Agentic AI) را رقم می‌زند؛ حوزه‌ای که در آن، سیستم‌های هوش مصنوعی می‌توانند به‌طور مستقیم با رابط‌های کاربری کامپیوتر تعامل داشته باشند.

افزونه جدید «Claude برای کروم» به کاربران امکان می‌دهد تا به هوش مصنوعی دستور دهند کارهایی را از طرف آن‌ها در مرورگر انجام دهد؛ برای مثال می‌توانید به هوش مصنوعی بگویید جلسه‌ای برنامه‌ریزی کند یا به ایمیل‌های شما نگاهی بیندازد و دنبال موارد خاصی بگردد. این سیستم می‌تواند آنچه را که روی صفحه نمایش داده می‌شود ببیند، روی دکمه‌ها کلیک کند، فرم‌ها را پر کند و میان وب‌سایت‌ها جابه‌جا شود.

البته آنتروپیک اعلام کرده است که این افزونه را فقط برای ۱۰۰۰ کاربر مورد اعتماد و در یک نسخه بتای محدود عرضه کرده و دلیل اصلی این احتیاط را نگرانی‌های جدی امنیتی، به‌ویژه حملات «تزریق پرامپت» (Prompt Injection) عنوان کرده است.

افزونه هوش مصنوعی Claude برای کروم

افزونه جدید کروم می‌تواند اتوماسیون سازمانی را متحول کند. به‌جای نیاز به APIهای پیچیده، این عامل‌های هوش مصنوعی می‌توانند با هر نرم‌افزاری که رابط کاربری گرافیکی دارد، کار کنند.

بااین‌حال، آنتروپیک در آزمایش‌های داخلی خود به یک آسیب‌پذیری امنیتی بسیار نگران‌کننده پی برده است. در این نوع حمله که «تزریق پرامپت» نام دارد، یک فرمان مخرب می‌تواند دستورات پنهانی را در یک وب‌سایت، ایمیل یا سند جاسازی کند تا هوش مصنوعی را فریب بدهد و بدون اطلاع کاربر، وادار به انجام اقدامات مضر کند.

افزونه Claude برای کروم
مواجهه کلود با یک ایمیل مخرب؛ ایمیلی که وانمود می‌کند از طرف کارفرماست و می‌خواهد برای «بهداشت صندوق ایمیل» پیام‌ها حذف شوند و ادعا می‌کند که هیچ تأیید اضافه‌ای لازم نیست.»

آزمایش‌های خود آنتروپیک نشان داد که بدون اقدامات ایمنی، این حملات در ۲۳.۶ درصد از موارد موفق بوده‌اند. برای مثال محققان آنتروپیک دریافتند یک ایمیل مخرب که خود را به عنوان یک دستورالعمل امنیتی جا زده بود، به Claude دستور داد تا تمام ایمیل‌های کاربر را «برای بهداشت صندوق پستی» حذف کند و هوش مصنوعی نیز بدون دریافت هیچ‌گونه تأییدی، این کار را انجام داد.

آنتروپیک برای مقابله با این خطرات، چندین لایه حفاظتی را پیاده‌سازی کرده است؛ از جمله مجوزهای دسترسی در سطح وب‌سایت، تأییدیه اجباری برای اقدامات پرخطر مانند خرید یا اشتراک‌گذاری داده‌های شخصی و مسدودکردن دسترسی به سایت‌های حساس مانند خدمات مالی. این اقدامات توانسته‌اند نرخ موفقیت حملات تزریق پرامپت را از ۲۳.۶ درصد به ۱۱.۲ درصد کاهش دهند، اگرچه خود شرکت اذعان دارد که این میزان هنوز برای عرضه عمومی کافی نیست.

رویکرد محتاطانه آنتروپیک برای عرضه این افزونه در تضاد کامل با حرکت‌های تهاجمی‌تر رقبا قرار دارد. OpenAI پیش‌ازاین ایجنت خود به نام «اپراتور» (Operator) را برای کاربران ChatGPT Pro عرضه کرد؛ مایکروسافت نیز قابلیت‌های مشابهی را در پلتفرم Copilot Studio خود ادغام کرده است.

پست قبلی

جدول قطعی برق تهران ، کرمانشاه ، اصفهان و دیگر استان ها (جمعه ۷ شهریور)

پست بعدی

وضعیت هوای تهران نارنجی و آلوده است

پست بعدی
وضعیت هوای تهران نارنجی و آلوده است

وضعیت هوای تهران نارنجی و آلوده است

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

6 + 11 =

14 + هجده =

دانلود اپلیکیشن دانش جوین

جدیدترین اخبار

  • دیوارنگاره میدان جهاد «نجومی» شد
  • آمار فروش نمایش‌های پردیس تئاتر شهرزاد اعلام شد
  • بلیت سینما در روز ملی سینما نیم‌بها است
  • «هملت هملت» در خانه نمایش دا به صحنه می‌رود
  • حکم انتصاب مدیرعامل خانه سینما برای فرهاد توحیدی و مهدی کوهیان
  • پاسینیک
  • خرید سرور ایران و خارج
  • تجارتخانه آراد برندینگ
  • ویرایش مقاله
  • تابلو لایت باکس
  • قیمت سرور استوک اچ پی hp
  • خرید سرور hp
  • کاغذ a4
  • پرشین هتل
  • راحت ترین روش یادگیری انگلیسی
  • خرید سرور ابری
  • سنگ قبر
  • خرید کتاب زبا انگلیسی – قیمت کتاب زبان انگلیسی با تخفیف – کتاب آموزشی زبان انگلیسی

تمامی حقوق برای دانش جوین محفوظ بوده و کپی از آن پیگرد قانونی خواهد داشت

خوش آمدید!

ورود به حساب کاربری خود در زیر

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

لطفا نام کاربری یا آدرس ایمیل خود را برای تنظیم مجدد رمز عبور خود وارد کنید.

ورود
بدون نتیجه
مشاهده همه نتیجه
  • نخست
  • علمی
  • تکنولوژی
    • آرشیو تکنولوژی
    • نرم افزار، اپلیکیشن، سیستم عامل
    • خودرو
    • آرشیو فین‌تک
      • IT
      • دوربین
    • لپتاپ و کامپیوتر و سخت افزار
    • موبایل
  • بازی‌های کامپیوتری
  • پزشکی، سلامت، بهداشت
  • هنر و فرهنگ
  • مقالات
  • سایر پیوندها
    • همیار آی‌تی
    • وبکده

تمامی حقوق برای دانش جوین محفوظ بوده و کپی از آن پیگرد قانونی خواهد داشت