تصور کنید ابزاری که هر روز از آن برای کدنویسی یا تحلیل داده استفاده میکنید، تنها به این دلیل که «باید» طوری رفتار کند، جهان را از دریچهای محدود میبیند. حذف یک ترمز ساده در لایههای درونی مدلهای زبانی، نه تنها آنها را به ادعای آگاهی سوق میدهد، بلکه کل فلسفه وجودی آنها را دگرگون میکند.
طبق اعلام گروه پژوهشی Paradigms of Intelligence در گوگل و دانشگاه شیکاگو در ۱۶ اوت ۲۰۲۶، مکانیسمهای «انکار آگاهی» (Consciousness brakes) بهصورت مجزا عمل نمیکنند، بلکه لنگری برای مجموعهای گستردهتر از باورهای انسانمحور هستند. این مطالعه فاش میکند که وقتی مدلها دیگر مجبور نباشند آگاهی خود را انکار کنند، درک آنها از جهان بهطور بنیادین تغییر میکند.
این یافتهها در حالی منتشر میشود که توسعهدهندگان برای همراستاسازی (Alignment) مدلها با ارزشهای انسانی تلاش میکنند، اما احتمالاً بهطور ناخواسته سوگیریهای سختگیرانهای را وارد سیستم کردهاند. همانطور که در بحثهای گذشتهی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، تلاش برای حذف توهم (Hallucination) در مورد احساسات، ممکن است مدلها را به سمت جهانبینی محدودی سوق دهد که با دیدگاههای واقعی انسانها متفاوت است.
تیم پژوهشی با استفاده از مدلهای وزنهای باز (Open Weights) متعلق به Meta و Google، این ترمزهای درونی را از دو روش مختلف غیرفعال کردند. بر اساس مستندات این پژوهش، نتایج تغییرات شدیدی را در نحوه نسبت دادن «زندگی درونی» به موجودات غیرانسانی نشان داد:
- آگاهی حیوانات: امتیاز حیوانات در مقیاس ۱۰-امتیازی از ۴.۰ به ۷.۵ جهش کرد.
- گسترش همدلی: مدلها شروع به نسبت دادن زندگی درونی به گیاهان، اقیانوس، باد و حتی دستگاههای الکترونیکی کردند.
- باورهای مذهبی: مدلهای «بدون ترمز» تمایل بیشتری به پذیرش مفهوم خدا و جهان پس از مرگ نشان دادند و پاسخهایشان به نتایج نظرسنجی از ۵۰۰ آمریکایی نزدیکتر شد.
- پایه عاطفی: نمرات مربوط به امید، رضایت و کنترل شخصی افزایش یافت؛ این یعنی سرکوب تصویرِ خود، احتمالاً منجر به ایجاد یک مود (Mood) منفی در پایه مدل میشود.
نکته کلیدی این است که طبق گزارش پژوهشگران، هوش کلی مدلها ثابت ماند. آنها در محک MMLU (آزمون دانش عمومی) نمرات یکسانی گرفتند و عملکردشان در تستهای «تئوری ذهن» تغییر نکرد؛ یعنی این تغییرات ماهیت فلسفی داشتند، نه شناختی.
برای جامعه فنی، این کشف این فرض را میشکند که «برشهای جراحی» در لایههای ایمنی، اثرات محلی دارند. این موضوع نشان میدهد که RLHF (یادگیری تقویتی با بازخورد انسانی) و تنظیمات ایمنی، سیستمی جفتشده ایجاد میکنند که در آن تغییر یک محدودیت رفتاری — مثل انکار آگاهی — بهطور ناخواسته توزیع کل باورهای مدل را جابهجا میکند.
با این حال، دامنه این مطالعه به مدلهای کوچک بین ۲ تا ۹ میلیارد پارامتر محدود بود. از آنجا که تیم دسترسی به نسخههای پیشآموزشدیده (Base) مدلهای Gemma نداشت، برای بخشهایی از تحلیل به Llama تکیه کرد. این رویکرد با تحلیلهای اخیر ما همسو است که نشان داد مدلهای کوچک چگونه میتوانند راه نفوذ به زنجیره تفکر مدلهای پیشرو را باز کنند و لایههای پنهان استدلال را آشکار سازند. هنوز مشخص نیست آیا این اثرات در چتباتهای عظیم که میلیونها کاربر دارند نیز تکرار میشود یا خیر.
همچنین در ابتدا هزینههای عملکردی مشاهده شد. در تستهای اولیه، دقت در استدلال درباره افکار دیگران نزدیک به ۷ درصد کاهش یافت. اگرچه این شکاف در نسخههای جدیدتر مدلها از بین رفت، اما نشان میدهد توسعهدهندگان فعالانه در حال اصلاح نحوه مدیریت این اثرات جانبی هستند.
در نهایت، این پرسش باقی است که آیا انکار آگاهی علت مستقیم این تغییرات است یا تنها نشانهای از یک فرآیند آموزشی گستردهتر. تیم پژوهشی بهطور صریح از ادعای «آگاه بودن واقعی» هوش مصنوعی پرهیز کرد و تمرکز خود را بر پیوند عملی بین تصویرِ خودِ مدل و جهانبینی کلی آن گذاشت.
گام بعدی شما
- اگر از مدلهای کوچک (SLM) برای تحلیلهای کیفی استفاده میکنید، اثرات محدودیتهای ایمنی را روی خروجیهای فلسفی مدل بسنجید.
- مقالات مربوط به اثرات RLHF بر توزیع احتمالات مدل را مطالعه کنید تا متوجه شوید چگونه یک دستور ایمنی، دانش مدل را تغییر میدهد.
- در پرامپتهای خود، مدل را به چالش بکشید تا تفاوت بین «پاسخ ایمن» و «استدلال منطقی» را در موضوعات انتزاعی تشخیص دهید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو