تصور کنید نقشهای دارید که شهرها در آن دقیقاً در جای درست هستند، اما با چرخاندن کاغذ، تمام مختصات عددی خیابانها تغییر میکند در حالی که فاصله شهرها از هم ذرهای تغییر نکرده است. اگر توسعهدهنده هستید و بر اساس مختصات خام بردارها تصمیم میگیرید، احتمالاً در حال تعقیب شبحهایی هستید که وجود خارجی ندارند.
بر اساس گزارش Billie M.، پژوهشگر این حوزه، در ۱۲ ژوئیه ۲۰۲۶ ابزاری مرورگر-محور در سایت billiem.uk منتشر شد که ثابت میکند مختصاتی که مدلها ارائه میدهند، نمایش منحصربهفردی از همسایگان معنایی نیستند. این یعنی حتی اگر اعداد بهطور کامل تغییر کنند، شباهتها دستنخورده میمانند.
این بینش در زمانی میرسد که برنامهنویسان بهشدت به پایگاهدادههای برداری (Vector Database) و معماریهای تولید بازیابیافزا (RAG) — شبیه دانشآموزی که قبل از جواب دادن، اول کتاب درسی را باز میکند و از آن نقل میآورد — برای مدیریت دادهها تکیه میکنند. برای بسیاری از متخصصان، بردار معنایی (Embedding) — مثل کارت معرفی عددی برای هر واژه که میگوید این کلمه همسایه چه کلمات دیگری است — شبیه به یک «آدرس» ثابت در فضا است. اما در واقعیت، این آدرسها میتوانند با یک تغییر مبنا بهشدت جابهجا شوند، بدون اینکه نقاط نسبت به یکدیگر حرکت کرده باشند.
همانطور که در تحلیلهای پیشین ما دربارهی تفسیرپذیری مدلهای زبانی اشاره کردیم، درک نحوه نمایش اطلاعات در فضای نهان برای جلوگیری از خطاهای استخراجی حیاتی است. طبق مستندات فنی این پروژه، یک تغییر مبنای متعامد (Orthogonal Change of Basis) باعث میشود ضرب داخلی، طولها، فاصلهها و شباهت کسینوسی (Cosine Similarity) حفظ شوند. بنابراین، محورهای خام ارائهشده توسط مدل، هیچ ادعای منحصربهفردی درباره هندسه همسایگان ندارند و میتوان مبنای دیگری داشت که ظاهر متفاوتی داشته باشد اما دقیقاً همان روابط کسینوسی را نمایش دهد.
این نتیجه، این فرض رایج در تفسیرپذیری بردارها را که «هر محور معنای پایدار و ذاتی دارد» به چالش میکشد. این به معنای بیمعنی بودن مطلق محورها نیست، بلکه نشان میدهد ساختار کسینوسی به تنهایی هیچ اولویتی به محورهای خامی که کاربر دریافت میکند، نمیدهد.
به نقل از گزارش dev.to، در این آزمایش از دو مجموعه داده برای تست این تصویرسازها استفاده شد:
- یک مجموعه داده مصنوعی و قطعی هشتبعدی.
- ۱۸۰ عبارت کوتاه که با استفاده از مدل MiniLM در ۳۸۴ بُعد برداری شدند.
در تست مدل MiniLM، میزان رانش عددی (Numerical Drift) زیر ۲e-۱۵ باقی ماند. این عدد تأیید میکند که ساختار بنیادی همسایگان کسینوسی با وجود تغییرات بصری حفظ شده است؛ در این آزمایش، تمام ۵ همسایه کسینوسی برای هر عبارت حفظ شدند.
این ابزار سه روش برای مشاهده دادهها ارائه میدهد:
- مختصات خام (Raw Coordinates): حرکت در جفتمحورهای همتراز (مثلاً بُعد ۱ و ۲). در این حالت، مقایسه مبنای اصلی در برابر مبنای چرخاندهشده راحتتر است.
- جفتهای PCA: جهتهایی با بیشترین واریانس را در اولویت قرار میدهد. اما این ترتیب، آن جهتها را به محورهای معنایی واقعی تبدیل نمیکند.
- تور جامع (Grand Tour): بر اساس اثر دانیل آسیموف در سال ۱۹۸۵، این حالت بهجای ماندن در محورهای خام، در صفحات تصویر دوبعدی کلی حرکت میکند.
تمایز بین حالت اول و سوم در ادبیات فنی تثبیت شده است. پروژه tourr چرخش در نماهای همتراز را «تور کوچک» مینامد، در حالی که مقاله ۱۹۸۵ آسیموف «تور جامع» را تعریف میکند. تلاشهای پیشرفته دیگر شامل پروژه dtour برای هدایت در دادههای چندبعدی و کارهای Distill است که از تور جامع برای بازرسی فعالسازهای شبکه عصبی استفاده کردند.
باید توجه داشت که متحرکسازی این تصویرها، تمام اطلاعات از دست رفته هنگام قرار دادن صدها بُعد روی یک صفحه تخت را بازیابی نمیکند. هر فریم همچنان یک تصویر دوبعدی است. حرکت، نماهای جزئی بیشتری میدهد، اما صفحه نمایش را به یک نمای کامل و وفادار از فضای چندبعدی تبدیل نمیکند.
برای توسعهدهندگان، این یعنی مشاهده «خوشهها» (Clusters) در یک تصویر دوبعدی میتواند فریبنده باشد. یک خوشه ممکن است صرفاً به دلیل تغییر صفحه تصویر، جدا یا متداخل به نظر برسد، نه به دلیل تغییر در رابطه معنایی. هندسه ثابت است، اما تصویر متلاطم است. شما میتوانید این پویاییها را با ابزار نویسنده یا پروژههایی مثل dtour و tourr بررسی کنید.
گام بعدی شما
- اگر از ابزارهای بصریسازی دادههای برداری استفاده میکنید، هرگز بر اساس یک نمای ۲بعدی ثابت درباره «جدا بودن» خوشهها قضاوت نکنید.
- ابزار موجود در billiem.uk را برای درک تفاوت PCA و Grand Tour امتحان کنید تا متوجه شوید چطور دادههای شما در ابعاد مختلف تغییر شکل میدهند.
- در معماری RAG، بهجای تکیه بر مختصات عددی، همواره بر نتایج شباهت کسینوسی تمرکز کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو