عکس و ویدیوی جعلیِ هوش مصنوعی را چطور تشخیص دهیم
هوش مصنوعی حالا میتواند عکس، ویدیو و صدای جعلیِ باورپذیر بسازد که در شبکههای اجتماعی و پیامرسانها سریع پخش میشود — برای فریب، شایعه یا کلاهبرداری. تشخیصِ این جعلها حالا یک…
۳ دقیقه خواندن۴
موضوع
اصالت محتوا
C2PA, watermarking, deepfake detection, provenance
۴۱۷ مقاله منتشر شده
گزارش کاربران: سیستم هوش مصنوعی Roblox با ترفندهای ساده دور زده میشود
پلتفرم Roblox سیستم دستهبندی سنی حسابها را در سطح جهانی اجباری کرد تا دسترسی به محتوا و چت را کنترل کند. با این حال، گزارشها نشان میدهند که سیستم تأیید سن مبتنی بر هوش مصنوعی…
۲ دقیقه خواندن۱
درون چارچوب training-free برای تحلیل دقیقتر جعلهای صوتی
پژوهشگران چارچوبی بدون نیاز به آموزش (training-free) طراحی کردهاند که با ترکیب هوش مصنوعی قابلتوضیح (XAI) و مدلهای چندوجهی، دقت تشخیص جعل عمیق صوتی را ۴۵٪ افزایش میدهد. این…
۱ دقیقه خواندن۱
هوش مصنوعی و تکلیفِ درسی: مرزِ کمکگرفتن و تقلب کجاست
دانشجوها از هوش مصنوعی برای درس کمک میگیرند؛ پس پرسشِ واقعی این نیست که «آیا استفاده کنم» بلکه «چطور، بهشکلِ درست». مرز این است: هوش مصنوعی بهعنوانِ معلمِ خصوصی (توضیح،…
۴ دقیقه خواندن
چگونه ابزارهای سنتز هوش مصنوعی ۱۰ میلیون رایدهنده را به دموکراسی بازگرداندند؟
هوش مصنوعی تنها تهدیدی برای انتخابات نیست، بلکه ابزاری برای بازسازی دموکراسی است. از پاکسازی لیستهای رایدهندگان تا پیشبینی بیخانمانی، این فناوری مدیریت دولتی را از یک ساختار…
۹ دقیقه خواندن۳
مطالعه استونی: دقت ۹۵.۲ درصدی Claude Fable 5 در شناسایی پروپاگاندای روسیه
یک بنچمارک جدید از ۶۰ مدل نشان میدهد که سری Claude در رد پروپاگاندای روسیه پیشتاز است. در مقابل، عملکرد ضعیف Mistral ادعای این شرکت فرانسوی بهعنوان جایگزین اروپایی و قابلاعتماد…
۲ دقیقه خواندن۱
جریمه ۱۵ میلیون یورویی برای SaaSها: چهار الزام شفافیت اتحادیه اروپا تا ۲۰۲۶
ارائهدهندگان خدمات ابری (SaaS) که کاربر اروپایی دارند، باید تا ۲ اوت ۲۰۲۶ اعلانهای شفافیت هوش مصنوعی را در رابط کاربری خود پیاده کنند. عدم افشای تعاملات با AI و محتواهای مصنوعی…
۴ دقیقه خواندن
چرا شناسایی چهره دیگر برای مقابله با اخاذیهای هوش مصنوعی زاینده کافی نیست؟
تولید محتوای سوءاستفادهگرانه با هوش مصنوعی در یک سال ۱۳۲۵ درصد رشد کرده است. توسعهدهندگان اکنون باید برای تشخیص جعلها، از شناسایی کلی چهره به سمت مقایسهی هندسی دقیق ۱ به ۱…
۳ دقیقه خواندن۱
چرا Warner Music به جای شکایت از هوش مصنوعی، به دنبال DNA آهنگهاست؟
شرکت Warner Music Group برای ردیابی نحوهی استفاده از آثار هنرمندان در مدلهای هوش مصنوعی، استارتاپ Sureel AI را خرید. این فناوری با ایجاد یک «DNA دیجیتال» برای هر آهنگ، مسیر را…
۲ دقیقه خواندن
معمای شفافیت: چگونه افشای جزئیات هوش مصنوعی به «الگوهای تاریک» تبدیل میشود؟
پژوهشی جدید نشان میدهد شفافیت بیش از حد در گزارشهای AI میتواند نتیجه معکوس داشته باشد و اعتماد مخاطب را کاهش دهد. کاربران بهجای توضیحات مفصل، تعاملات «جزئیات در صورت تقاضا» و…
۱ دقیقه خواندن
چرا دقت یکسان در تشخیص جعل عمیق، حاصل سیگنالهای متفاوتی است؟
پژوهشگران یک خطلوله تفسیرپذیری ابداع کردند که نشان میدهد مدلهای تشخیص جعل عمیق صوتی، حتی با دقت مشابه، بر اساس معیارهای متفاوتی تصمیم میگیرند. این یافتهها نشان میدهد که…
۱ دقیقه خواندن
تداخل دادهای در ۳۹ مجموعهداده؛ دلیل متورم شدن دقت تشخیص جعل عمیق صوتی
یک بازرسی جامع از ۳۹ مجموعهدادهی گفتار جعلی، فقدان متادیتای جمعیتی و تداخل شدید منابع را آشکار کرد. این نقصها باعث تورم مصنوعی در معیارهای دقت شده و ارزیابی عدالتمحور در…
۱ دقیقه خواندن