تصاویر اصلاح‌شده با Magic Editor گوگل، واترمارک هوش مصنوعی دریافت می‌کنند

گوگل فوتوز درحال اضافه کردن واترمارک دیجیتال SynthID به تصاویری است که با استفاده از ویژگی هوش مصنوعی Magic Editor ویرایش شده‌اند. به گفته‌ی گوگل، این قابلیت از هفته‌ی جاری ارائه می‌شود و هدف آن این است که کاربران بتوانند به‌راحتی تشخیص دهند که یک تصویر با ابزار بازآفرینی در Magic Editor دستکاری شده است.

SynthID سیستم واترمارکینگ توسعه‌یافته توسط تیم دیپ‌مایند گوگل است که برچسب متادیتای دیجیتال را مستقیماً در تصاویر، ویدئوها، صداها و متون قرار می‌دهد تا مشخص شود که این محتوا با ابزارهای هوش مصنوعی ایجاد شده یا تغییر یافته است.

واترمارک SynthID پیش‌تر برای تصاویری که به‌طور کامل با مدل تبدیل متن‌ به‌ تصویر Imagen گوگل تولید شده‌اند، اعمال می‌شد. شرکت‌های دیگری نیز سیستم‌های مشابهی توسعه داده‌اند، مانند Content Credentials که ادوبی برای آثار ایجاد یا ویرایش‌شده با برنامه‌های Creative Cloud خود اعمال می‌کند.

هرچند ابزارهای ویرایش هوش مصنوعی ذاتاً مخرب نیستند، اما Magic Editor می‌تواند بدون هیچ نشانه‌ی آشکاری از ویرایش هوش مصنوعی، مواردی مانند سقوط‌ بالگردها، مواد مخدر و حتی اجساد را در تصاویر ایجاد کند. البته، گوگل از اکتبر گذشته (آبان) شروع به برچسب‌گذاری تصاویر ویرایش‌شده با هوش مصنوعی در توضیحات فایل در گوگل‌فوتوز کرده است.

به‌روزرسانی جدید واترمارکینگ برای حل مشکلات استفاده‌ی مخرب از هوش مصنوعی ارائه شده، اما با چند چالش روبه‌رو است. SynthID تغییری بصری در تصویر ایجاد نمی‌کند و تنها با استفاده از یک ابزار تشخیص هوش مصنوعی اختصاصی که بخشی از قابلیت «درباره‌ی این تصویر» در گوگل است، قابل شناسایی خواهد بود.

همچنین گوگل اعلام کرده که برخی از ویرایش‌های ایجادشده توسط Magic Editor ممکن است آنقدر جزئی باشند که SynthID قادر به تشخیص و برچسب‌گذاری آن‌ها نباشد.

درحالی‌که فناوری واترمارکینگ می‌تواند مفید باشد، برخی کارشناسان این حوزه معتقدند که به‌تنهایی برای احراز هویت محتوای تولیدشده با هوش مصنوعی در مقیاس گسترده کافی نیست و به ترکیبی از روش‌های مختلف برای تشخیص دقیق‌تر نیاز خواهد بود.