موضوع
C2PA, watermarking, deepfake detection, provenance
۴۳۴ مقاله منتشر شده
تولید محتوای سوءاستفاده‌گرانه با هوش مصنوعی در یک سال ۱۳۲۵ درصد رشد کرده است. توسعه‌دهندگان اکنون باید برای تشخیص جعل‌ها، از شناسایی کلی چهره به سمت مقایسه‌ی هندسی دقیق ۱ به ۱…
شرکت Warner Music Group برای ردیابی نحوه‌ی استفاده از آثار هنرمندان در مدل‌های هوش مصنوعی، استارتاپ Sureel AI را خرید. این فناوری با ایجاد یک «DNA دیجیتال» برای هر آهنگ، مسیر را…
پژوهشی جدید نشان می‌دهد شفافیت بیش از حد در گزارش‌های AI می‌تواند نتیجه معکوس داشته باشد و اعتماد مخاطب را کاهش دهد. کاربران به‌جای توضیحات مفصل، تعاملات «جزئیات در صورت تقاضا» و…
پژوهشگران یک خط‌لوله تفسیرپذیری ابداع کردند که نشان می‌دهد مدل‌های تشخیص جعل عمیق صوتی، حتی با دقت مشابه، بر اساس معیارهای متفاوتی تصمیم می‌گیرند. این یافته‌ها نشان می‌دهد که…
یک بازرسی جامع از ۳۹ مجموعه‌داده‌ی گفتار جعلی، فقدان متادیتای جمعیتی و تداخل شدید منابع را آشکار کرد. این نقص‌ها باعث تورم مصنوعی در معیارهای دقت شده و ارزیابی عدالت‌محور در…
یک استراتژی آموزشی جدید به نام آموزش ارجاع‌افزا (RAT) دقت تشخیص صدای جعل‌شده را به‌طور قابل‌توجهی افزایش داده است. این روش ثابت می‌کند که استفاده از مراجع گوینده در زمان آموزش،…
گوگل قابلیت ترجمه صوتی هم‌زمان را برای بیش از ۷۰ زبان در Gemini 3.5 فعال کرد. این ابزار با حفظ لحن و ضرب‌آهنگ گوینده، سدهای زبانی را در Google Meet و اپلیکیشن Translate از بین…
پژوهشگران نوع جدیدی از حملات به نام «تزریق پرامپت مغزی» را شناسایی کرده‌اند که از طریق اختلال در سیگنال‌های عصبی، عامل‌های BCI-LLM را به کنترل درمی‌آورد. این مطالعه ثابت می‌کند که…
پژوهشگران روشی را کشف کرده‌اند که اجازه می‌دهد پیام‌های مخفی ۳۲ بیتی را بدون تغییر در وزن‌های مدل، تنها با دستکاری بذرهای تصادفی در خروجی‌های LLM جای‌گذاری کنند. این متد حتی بدون…
پژوهشگران یک «شکاف منشأ» در عامل‌های هوش مصنوعی شناسایی کرده‌اند که اجازه می‌دهد درخواست‌های مضر در قالب فایل‌های به‌ظاهر بی‌خطر پنهان شوند. متد جدید CFD با دور زدن فیلترهای متنی،…
پروژه‌ی متن‌باز جدیدی با نام Souls Only، با جداسازی بایت‌های ذخیره‌شده از نویسه‌های بصری، متن‌ها را برای انسان قابل خواندن و برای ربات‌های جمع‌آوری داده (Scrapers) به صورت نویز…
قانون جدید تأیید سن در ایالت آیووا، توسعه‌دهندگان را مجبور به استقرار خطوط لوله‌ی پیچیده‌ی بیومتریک می‌کند. این موضوع تضاد فنی شدیدی میان حفظ حریم خصوصی کاربر و الزام قانونی برای…