پرش به محتوای اصلی
پرش به محتوای مقاله

نقشهٔ حافظهٔ مدل‌ها؛ ابزاری برای سنجش میزان حضور انسان‌ها در وزن‌های AI

·۲۹ خرداد ۱۴۰۵۱ دقیقه مطالعه۳ بازدید
تصویری از وب‌سایت «In the Weights» که نشان می‌دهد مدل‌های هوش مصنوعی چه اطلاعاتی از شما دارند.
تصویری از وب‌سایت «In the Weights» که نشان می‌دهد مدل‌های هوش مصنوعی چه اطلاعاتی از شما دارند.
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

جایگزینی تحلیل کیفی با یک معیار عددی (Score) برای سنجش میزان تثبیت یک موجودیت انسانی در پارامترهای داخلی مدل، به‌جای تکیه بر پاسخ‌های متنی ساده.

اگر یک چهرهٔ شناخته‌شده یا متخصص یک حوزهٔ خاص هستید، احتمالاً همین حالا به یک مقدار عددی در دل یک شبکهٔ عصبی تبدیل شده‌اید. وب‌سایت In the Weights که در ۱۹ ژوئن ۲۰۲۶ راه‌اندازی شد، به شما اجازه می‌دهد بررسی کنید آیا نام شما به‌طور دائمی در وزن‌ها (Weights) — یعنی همان تنظیمات داخلی که تعیین می‌کنند مدل چه چیزی را به‌ یاد آورد — مدل‌های زبانی بزرگ ذخیره شده است یا خیر.

بسیاری از سامانه‌های هوش مصنوعی برای یافتن حقایق به‌روز از جست‌وجوی وب استفاده می‌کنند، اما دانش «ذخیره‌شده» در میلیاردها پارامتری قرار دارد که مدل طی مرحلهٔ آموزش آموخته است. مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — هر آنچه را که در این وزن‌ها ثبت شده باشد، بدون نیاز به اینترنت می‌داند. این ابزار که توسط جویی فلین (Joey Flynn) و توماس دیمسون (Thomas Dimson)، کارکنان سابق OpenAI ساخته شده، این حضور را با پرس‌وجو از مدل‌های مختلف و اختصاص یک امتیاز قوت quantify می‌کند. این رویکرد برای درک دقیق‌تر کیفیت پاسخ‌دهی مدل‌ها کاربرد دارد، درست مانند آنچه در گزارش BenchLM برای مقایسه عملکرد Claude Opus 4.8 و GPT-5.5 مشاهده کردیم.

تصویری از وب‌سایت «In the Weights» که اطلاعات جمع‌آوری‌شده توسط مدل‌های هوش مصنوعی را نمایش می‌دهد.

همان‌طور که در تحلیل قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، دسترسی به لایه‌های درونی مدل‌ها همیشه چالش‌برانگیز بوده است. طبق اعلام سازندگان این پروژه، سیستم امتیازدهی یک سلسله‌مراتب واضح از شهرت دیجیتال را فاش می‌کند:

  • نمادهای جهانی مثل موتزارت، شکسپیر و تیلور سویفت بالاترین امتیاز یعنی ۹۹۶ را دارند.
  • افراد کمتر شناخته‌شده امتیازات بسیار پایین‌تری می‌گیرند؛ برای مثال، گزارشگران این سایت امتیازاتی بین ۱۷۵ و ۲۶۲ کسب کردند.
  • حضور در مدل‌های کوچک‌تر، مانند نسخه‌های میلیاردی Llama شرکت متا، نشان‌دهنده سطح بالاتری از ارتباط است؛ چون این مدل‌ها فضای ذخیره‌سازی محدودی دارند و فقط موارد حیاتی را نگه می‌دارند. این بهینه‌سازی در مدل‌های کوچک‌تر، مسیری را می‌گشاید که اجرای عامل‌های هوش مصنوعی محلی را بدون نیاز به سخت‌افزارهای صنعتی ممکن می‌سازد.

تصویری از وب‌سایت «In the Weights» که اطلاعات جمع‌آوری‌شده توسط مدل‌های هوش مصنوعی را نمایش می‌دهد.

به گزارش این وب‌سایت، برای یک متخصص، «ردپای هوش مصنوعی» دیگر فقط یک پروفایل لینکدین نیست، بلکه این است که آیا داده‌های او به اندازه کافی بر مجموعه آموزش مدل اثر گذاشته تا مدل او را به‌خاطر بسپارد. این موضوع بحث را از حریم خصوصی داده‌ها به «حضور در وزن‌ها» تغییر می‌دهد؛ واقعیتی که در آن برخی افراد به‌طور مؤثر در جهان‌بینی AI کدگذاری شده‌اند.

با این حال، سازندگان ابزار هشدار می‌دهند که این امتیازات کامل نیستند. توهم (Hallucination) — وقتی مدل با اطمینان چیزی می‌گوید که اصلاً وجود ندارد، شبیه دوستی که خاطره‌ای را اشتباه تعریف می‌کند — می‌تواند جزئیات بیوگرافی جعلی بسازد. همچنین نام‌های تکراری مدل را گیج می‌کنند و غلط‌های املایی در پرس‌وجو، امتیاز فرد را به‌شدت کاهش می‌دهند.

گام بعدی شما

  • نام خود یا همکارانتان را در پلتفرم تست کنید تا جایگاهتان را در جدول رده‌بندی ارتباط جهانی ببینید.
  • بررسی کنید که آیا تخصص شما در مدل‌های کوچک‌تر (SLM) ثبت شده یا فقط در مدل‌های غول‌پیکر حضور دارید.
  • تغییرات امتیاز خود را در نسخه‌های جدیدتر مدل‌ها رصد کنید تا بفهمید داده‌های جدیدتر چه اثری بر «خاطره» مدل دارند.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است؛ برای درک اینکه این وزن‌ها چگونه روی تراشه‌ها قرار می‌گیرند، به تحلیل ما درباره‌ی حافظه‌های HBM مراجعه کنید.

چرا این موضوع مهم است؟

این ابزار با تکیه بر اعتبار تیم توسعه‌دهنده (کارکنان سابق OpenAI)، مفهوم جدیدی از اثرگذاری دیجیتال را تعریف می‌کند. این موضوع نشان می‌دهد که کدام داده‌ها در دنیای AI «باقی‌مانده» (Persistent) هستند و کدام ones صرفاً از طریق بازیابی موقت دیده می‌شوند.

تأثیر برای ایران

در حال حاضر اثر مستقیمی بر کاربران ایرانی ندارد و بیشتر ابزاری برای تحلیلگران داده و پژوهشگران مدل‌های بنیادی است.

·نگاه ما
تحریریه دات‌هوش

این ابزار را باید گذاری از «حق به پشتیبانی داده» به «حق حضور در مدل» دانست. وقتی حضور یک فرد در وزن‌های مدل به یک معیار سنجش تبدیل شود، احتمالاً شاهد ظهور استراتژی‌های جدیدی برای «تزریق شهرت» به مجموعه‌های آموزشی مدل‌های آینده خواهیم بود تا متخصصان جایگاه خود را در حافظهٔ مدل‌های بنیادی تثبیت کنند.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.