آشکارسازهای هوش مصنوعی، اگرچه یک ویژگی بالقوه مفید هستند، اما در حال حاضر دردسرساز هستند. ابزارهایی مانند ZeroGPT دوست دارند مثبت کاذب و منفی کاذب زیادی ایجاد کنند. با این حال، نیاز به یک آشکارساز هوش مصنوعی واقعاً قابل اعتماد واقعی است و به همین دلیل است که تلاشها در این راستا ادامه دارد. گوگل آشکارساز مخصوص به خود را دارد، اگرچه هنوز نمیتوانید از آن استفاده کنید.
گوگل به تازگی SynthID Detector را معرفی کرده است، یک پورتال تأیید جدید که برای شناسایی محتوای ایجاد شده با استفاده از ابزارهای هوش مصنوعی آن، مانند Gemini، مدل تولید تصویر Imagen یا مدل تولید ویدیوی Veo طراحی شده است. آشکارساز SynthID با اسکن رسانههای آپلود شده برای یک واترمارک دیجیتال نامحسوس، که SynthID نیز نامیده میشود، کار میکند. گوگل در حال توسعه این فناوری واترمارکگذاری است تا مستقیماً در محتوای تولید شده توسط مدلهای هوش مصنوعی خود، از جمله Gemini (متن و چندوجهی)، Imagen (تصاویر)، Lyria (صوتی) و Veo (ویدئو) جاسازی شود. طبق گفته این شرکت، بیش از 10 میلیارد قطعه محتوا قبلاً با استفاده از این سیستم واترمارکگذاری شدهاند. بنابراین، این یک ابزار ساخته شده توسط گوگل است که به دنبال آن واترمارک میگردد و به شما میگوید که آیا چیزی توسط هوش مصنوعی تولید شده است یا خیر.
وقتی فایلی را – چه تصویر، آهنگ صوتی، ویدیو یا سند متنی – در پورتال SynthID Detector آپلود میکنید، به اطراف نگاه میکند تا ببیند آیا این واترمارک جاسازی شده وجود دارد یا خیر. و اگر وجود داشته باشد، پورتال نشان میدهد که محتوا احتمالاً توسط هوش مصنوعی تولید شده است و در برخی موارد، بخشهای خاصی را که واترمارک به طور برجستهتری در آنها تشخیص داده شده است، برجسته میکند. برای مثال، در فایلهای صوتی، میتواند بخشهایی را که حاوی واترمارک هستند، مشخص کند و برای تصاویر، میتواند مناطقی را که به احتمال زیاد امضای دیجیتال در آنها وجود دارد، نشان دهد.
چیزی که هنوز در مورد این روش دوست ندارم این است که به نظر میرسد هنوز هم حدس و گمان زیادی انجام میدهد. این آشکارساز میتواند در مورد بخشهای خاصی «مطمئن» نباشد، که برای یک روش واترمارکگذاری ظاهراً قابل اعتماد که میتواند در برابر تغییرات و اصلاحات مقاومت کند، نشانه خوبی نیست. درست همانطور که میتواند در مورد برخی از بیتها مطمئن نباشد، میتواند واترمارکی را در جایی که وجود ندارد تشخیص دهد، یا ممکن است در تشخیص چیزی که توسط هوش مصنوعی تولید شده است، شکست بخورد. به نظر من، این روش بیشتر مستعد مثبت کاذب است تا منفی کاذب، اما مثبت کاذب هنوز هم میتواند یک مشکل باشد. با این حال، مطمئنم که همچنان بهبود خواهد یافت. یک ابزار شخص ثالث مانند این ممکن است در حال حاضر مطمئنترین راه برای فهمیدن اینکه آیا چیزی توسط هوش مصنوعی تولید شده است یا خیر، باشد، اما من نمیگویم که هنوز یک روش ۱۰۰٪ قابل اعتماد و مطمئن برای تشخیص همه آنها وجود دارد.
این آشکارساز در حال حاضر به صورت دسترسی اولیه برای تعداد کمی از افراد در دسترس است و پس از آن به صورت محدود برای روزنامهنگاران، متخصصان رسانه و محققان از طریق لیست انتظار در دسترس قرار خواهد گرفت.
چیزی که هنوز در مورد این روش دوست ندارم این است که به نظر میرسد هنوز هم حدس و گمان زیادی انجام میدهد. این آشکارساز میتواند در مورد بخشهای خاصی «مطمئن» نباشد، که برای یک روش واترمارکگذاری ظاهراً قابل اعتماد که میتواند در برابر تغییرات و اصلاحات مقاومت کند، نشانه خوبی نیست. درست همانطور که میتواند در مورد برخی از بیتها مطمئن نباشد، میتواند واترمارکی را در جایی که وجود ندارد تشخیص دهد، یا ممکن است در تشخیص چیزی که توسط هوش مصنوعی تولید شده است، شکست بخورد. به نظر من، این روش بیشتر مستعد مثبت کاذب است تا منفی کاذب، اما مثبت کاذب هنوز هم میتواند یک مشکل باشد. با این حال، مطمئنم که همچنان بهبود خواهد یافت. یک ابزار شخص ثالث مانند این ممکن است در حال حاضر مطمئنترین راه برای فهمیدن اینکه آیا چیزی توسط هوش مصنوعی تولید شده است یا خیر، باشد، اما من نمیگویم که هنوز یک روش ۱۰۰٪ قابل اعتماد و مطمئن برای تشخیص همه آنها وجود دارد.
مطلب مرتبط:
این آشکارساز در حال حاضر به صورت دسترسی اولیه برای تعداد کمی از افراد در دسترس است و پس از آن به صورت محدود برای روزنامهنگاران، متخصصان رسانه و محققان از طریق لیست انتظار در دسترس قرار خواهد گرفت.
