پرش به محتوای اصلی

موضوع

اصالت محتوا

C2PA, watermarking, deepfake detection, provenance

۵۳۰ مقاله منتشر شده

آموزش کاربردی

پروژه MyZubster: جایگزینی توهمات هوش مصنوعی با شواهد قابل راستی‌آزمایی

پروژه MyZubster با ایجاد یک اکوسیستم متن‌باز، هوش مصنوعی را از جایگاه «منبع حقیقت» به یک «ابزار تفسیر» تغییر می‌دهد. این سیستم با اتصال حسگرهای اینترنت اشیا و زنجیره بلوک‌چین،…

۵ دقیقه خواندن۲

درون سازوکار ARCOS Labs برای ردیابی چهره‌های محافظت‌شده در مدل‌های مولد

نلسون چو با تأسیس ARCOS Labs لایه‌ای از تأیید فنی را برای شناسایی بازتولید آثار دارای کپی‌رایت توسط مدل‌های مولد ایجاد کرده است. این شرکت با استفاده از ابزارهای تحلیل آماری، میزان…

۱۲ دقیقه خواندن۱

کمپین میلیون دلاری اسرائیل برای مسموم‌سازی داده‌های مدل‌های زبانی

یک اندیشکده جعلی با حمایت دولت اسرائیل از تکنیک «بهینه‌سازی موتورهای زاینده» برای تزریق روایت‌های سیاسی به داده‌های آموزشی هوش مصنوعی استفاده کرد. این عملیات نشان می‌دهد که میدان…

۱۰ دقیقه خواندن۱
زندگی با AI

تصاویر جعلی حیوانات؛ ابزاری برای کلاهبرداری و تخریب اعتماد دیجیتال

گسترش محتوای مصنوعی حیوانات، از طرح‌های کلاهبرداری برای یافتن حیوانات گم‌شده تا جعل مستندات حیوانات آزاردیده، در حال تخریب اعتماد کاربران به تصاویر واقعی است. این پدیده باعث ایجاد…

۶ دقیقه خواندن۱

مطالعهٔ MIT: اتکای به چت‌بات‌ها دقت تشخیص اخبار جعلی را ۱۵٪ کاهش داد

وابستگی بیش از حد به هوش مصنوعی برای راستی‌آزمایی اخبار، منجر به ایجاد «پارادوکس وابستگی» شده است. این پدیده در حالی که در ابتدا دقت کاربر را بالا می‌برد، در بلندمدت توانایی تفکر…

۲ دقیقه خواندن۱

دیوید بوکانان: اکسپلویت‌های روت امضای C2PA اندروید را دور می‌زنند

دیوید بوکانان ثابت کرد که مدل اعتماد C2PA در اندروید از طریق اکسپلویت‌های روت و حملات سخت‌افزاری قابل دور زدن است. این نقص به مهاجمان اجازه می‌دهد تصاویر تولیدشده توسط هوش مصنوعی…

۹ دقیقه خواندن۳
آموزش کاربردی

امتیاز اعتماد به داده؛ حلقهٔ گمشده در نظارت بر سیستم‌های هوش مصنوعی

مانیتورینگ‌های استاندارد تنها رفتار مدل را رصد می‌کنند و از سلامت داده‌های ورودی غافل‌اند. امتیاز اعتماد به داده با کمی‌سازی منشأ، تازگی و حاکمیت داده‌ها، این شکاف امنیتی را پر…

۳ دقیقه خواندن
آموزش کاربردی

اتوماسیون B-Roll در تبلیغات AI با استفاده از پرامپت‌های مبتنی بر بینایی

یک خط لوله تولید ویدیو در سه مرحله، جایگذاری دستی نماهای برش (B-roll) را با تولید خودکار و مبتنی بر تحلیل بصری جایگزین کرد. این سیستم با تحلیل فریم‌های صحنه اصلی، نور و محیط را در…

۷ دقیقه خواندن
آموزش کاربردی

جایگزینی درصد احتمال با فهرست الگوهای متنی در تشخیص متون هوش مصنوعی

پروژه متن‌باز ai-writing-markers به‌جای ارائه درصد احتمال تولید متن توسط AI، فهرستی شفاف از الگوهای زبانی و تکرارهای رایج مدل‌ها را ارائه می‌دهد. این ابزار با شناسایی «ردپاهای»…

۹ دقیقه خواندن

روسیه با استفاده از ChatGPT یک اندیشکدهٔ جعلی اسرائیلی ساخت

اوپن‌ای‌آی یک عملیات نفوذ روسیه را متوقف کرد که با استفاده از هوش مصنوعی، یک اندیشکدهٔ جعلی برای ترویج روایت‌های کرملین ساخته بود. اگرچه اثرگذاری فعلی این کمپین محدود بود، اما…

۳ دقیقه خواندن۲

درون چالش‌های امنیتی قابلیت Computer Use در مدل‌های آنتروپیک

شرکت آنتروپیک قابلیت‌های کنترل کامپیوتر را برای عموم منتشر کرد، اما حوادث امنیتی اخیر نشان می‌دهد که بدون یک لایهٔ تأیید مستقل، اجرای خودکار گردش‌های کاری در محیط‌های عملیاتی ریسک…

۵ دقیقه خواندن