پرش به محتوای اصلی

موضوع

اصالت محتوا

C2PA, watermarking, deepfake detection, provenance

۵۳۰ مقاله منتشر شده

آموزش کاربردی

امتیاز اعتماد داده در برابر متدهای نظارتی سنتی برای شناسایی ریسک‌های عملیاتی

سیستم‌های نظارتی سنتی اغلب ریسک‌های ناشی از داده‌های قدیمی یا تأییدنشده را نادیده می‌گیرند. امتیاز اعتماد داده (Data Trust Scoring) با ایجاد یک لایه قابلیت‌سنجی بر اساس منشأ و…

۴ دقیقه خواندن

نشان‌گذاری متنی باعث کاهش ایمنی و دقتِ فراخوانی ابزار در مدل‌های زبانی شد

پژوهشی جدید نشان می‌دهد واترمارک‌های SynthID-Text باعث ایجاد «انحراف نمونه‌گیری» می‌شوند که دقت عامل‌های هوش مصنوعی را در استفاده از ابزارها کاهش داده و فیلترهای ایمنی را تضعیف…

۶ دقیقه خواندن۱
آموزش کاربردی

«استانداردی جدید برای اصالت»؛ ادعای Pangram در شناسایی مدل‌های پیشرو

پلتفرم Pangram ابزاری را معرفی کرد که ادعا می‌کند در تشخیص محتوای تولیدشده توسط ۲۶ مدل پیشرو، دقتی نزدیک به ۱۰۰٪ دارد. این سیستم با ترکیب تحلیل متن و تصویر، استانداردهای جدیدی را…

۲ دقیقه خواندن۱
زندگی با AIتأییدنشده · منبع منفرد

توهم Gemini منجر به افشای جعل هویت یک توسعه‌دهنده در لینکدین شد

یک توسعه‌دهنده متوجه شد مدل Gemini گوگل به‌طور نادرست ادعا می‌کند او پروفایل لینکدین دارد. بررسی‌ها نشان داد یک حساب جعلی با استخراج پست‌های فنی او، در حال جعل هویت و تصاحب اعتبار…

۲ دقیقه خواندن

«هویت‌های جعلی سیستم‌های احراز هویت را دور می‌زنند»؛ چالش جدید Yardstik

شرکت Yardstik هشدار می‌دهد که باندهای کلاهبرداری با استفاده از هوش مصنوعی زاینده، هویت‌های انسانی جعلی می‌سازند که سیستم‌های احراز هویت سنتی را دور می‌زنند. این شرکت اکنون از مدل…

۱۰ دقیقه خواندن۳

شبکه ۲۸ اپلیکیشن دوست‌یابی با استفاده از Claude کاربران را فریب داد

آنتروپیک یک شبکه گسترده از اپلیکیشن‌های کلاهبرداری را شناسایی کرد که با ترکیب مدل‌های زبانی و نیروی کار ارزان، هویت‌های جعلی ساخته بودند. این سیستم با هدف استخراج پول از کاربران…

۷ دقیقه خواندن۲
آموزش کاربردی

ابزارهای انسانی‌ساز متن نمی‌توانند خلأ محتوایی پیش‌نویس‌های AI را پر کنند

ابزارهای انسانی‌ساز (Humanizers) تنها ساختار جملات را صیقل می‌دهند اما قادر به تزریق استدلال یا جزئیات به متن نیستند. درک این تفاوت مانع از آن می‌شود که نویسندگان، متن «روان‌تر»…

۳ دقیقه خواندن۲

اپل با امضاهای کوانتومی اصالت عکس‌های آیفون ۱۸ پرو را تضمین می‌کند

اپل برای مقابله با جعل‌های عمیق، سیستمی در سطح سخت‌افزار برای آیفون ۱۸ پرو معرفی کرد که اصالت عکس را بدون افشای هویت عکاس تأیید می‌کند. این فناوری با ایجاد یک «نگاتیو دیجیتال» و…

۱۵ دقیقه خواندن۱
آموزش کاربردی

Rhyter Times با مکانیزم تأیید منابع، تکرار عبارات محتاطانه در اخبار AI را حذف

پلتفرم Rhyter Times سیستمی را پیاده کرده است که لحن نوشتار هوش مصنوعی را بر اساس تعداد منابع مستقل تنظیم می‌کند. این رویکرد باعث می‌شود در خبرهای تأییدشده، عبارات مبهم و محتاطانه…

۲ دقیقه خواندن۲