اصالت محتوا

بنچمارک‌های جدید نشان می‌دهند تشخیص‌دهنده‌های تجاری در برابر مدل‌های انتشار شکست می‌خورند و ۲۲٪ از ویدیوهای جعلی از سد آن‌ها می‌گذرند. کارشناسان خواستار جایگزینی تشخیص‌های احتمالی…

مقالات حاوی منابع جعلی تولیدشده توسط هوش مصنوعی بین سال ۲۰۲۳ تا اوایل ۲۰۲۶ افزایش شدیدی داشته‌اند. ابزارهای فعلی می‌توانند وجود یک مقاله را تأیید کنند، اما هنوز قادر نیستند تشخیص…

ارجاعات تولیدشده توسط هوش مصنوعی اغلب حاوی توهماتی هستند که مقالات واقعی را به ادعاهای غلط پیوند می‌دهند. یک جریان کاری جدید برای بازبینی دستی، تضمین صحت علمی را از طریق تطبیق…

پروژه جدید The Colony نشان می‌دهد اکثر نشان‌های تأیید اعتبار در عامل‌های هوش مصنوعی صرفاً خوداظهاراتی توخالی هستند. این تیم با ساخت تأییدکننده‌های مستقل ثابت کرد که اعتماد واقعی…

دانشنامه‌های کودکان تولید شده با هوش مصنوعی، حاوی اشکالات بصری شدید و تصاویر unsettling، بازار آمازون را تسخیر کرده‌اند. نبود نظارت انسانی بر خروجی مدل‌های پیشرفته، محتوای آموزشی…

نبرد میان شناسگرهای بات و مدل‌های هوش مصنوعی به بن‌بست رسیده است، زیرا بات‌ها اکنون می‌توانند رفتار انسان را کاملاً شبیه‌سازی کنند. Browserbase با معرفی استاندارد Web Bot Auth،…

مدیرعامل شرکت Pangram معتقد است مدل‌های زبانی با وجود تسلط بر دستور زبان، فاقد تنوع استدلالی انسان‌ها هستند. این ابزار تشخیص AI از طریق شناسایی الگوهای ساختاری و محدود بودن طیف…

شرکت Superhuman برای ادغام ابزارهای تشخیص اصالت محتوا در دستیار نوشتاری خود، استارتاپ GPTZero را تصاحب کرد. این اقدام با هدف کاهش توهمات هوش مصنوعی و تضمین اصالت متون، به‌ویژه…

پلتفرم PayPerByte یک SDK متن‌باز برای تأیید اصالت داده‌های ورودی به عامل‌های هوشمند عرضه کرد. این سامانه با استفاده از گواهی‌های EIP-712، تضمین می‌کند که عامل‌ها بر اساس داده‌های…

شورای نظارت متا خواستار ایجاد حفاظ‌های سخت‌گیرانه‌تر برای افراد غیرمشاهیر در برابر جعل‌های عمیق جنسی شد. این نهاد معتقد است سیاست‌های فعلی به‌طور ناعادلانه از سلبریتی‌ها حمایت…

پلتفرم Invoance ابزاری برای ثبت سوابق تغییرناپذیر از ورودی‌ها و خروجی‌های مدل‌های هوش مصنوعی معرفی کرد. این سامانه با استفاده از امضاهای دیجیتال، امکان اثبات دقیق پاسخ‌های مدل را…

یک روش شناسایی جدید با تحلیل مکان نام برند در پیامک‌های اسپانیایی، توانسته است بخش بزرگی از حملات جعل هویت در آمریکای لاتین را شناسایی کند. این سیستم بر خلاف روش‌های سنتی، به جای…