اگر تصور کنید دستیار هوش مصنوعی شما دقیقاً میداند شما چگونه فکر میکنید و چه استانداردهایی برای کیفیت دارید، احتمالاً با واقعیت فعلی فاصله دارید. در حال حاضر، مدلهایی که به ما کمک میکنند، نه برای تقویت «منِ تخصصی» ما، بلکه برای رسیدن به پایینترین مشترک انسانی طراحی شدهاند. تعهد به این حداقلهای مشترک در ترجیحات انسانی، برای متخصصان دانش به یک نقطه ضعف تبدیل شده است. دوران «دستیار عمومی» دیگر یک مزیت نیست، بلکه یک گلوگاه است.
تا اواسط سال ۲۰۲۶، مدلهای غالب بر پایه وزنهای منجمد و یادگیری تقویتی با بازخورد انسانی (RLHF) بنا شدهاند. طبق گزارش gwern.net، این ساختار باعث پدیدهای به نام «فروپاشی مُد» (Mode Collapse) شده است؛ جایی که خلاقیت فدای ایمنی و پاسخهای عمومی میشود. این عدم توازن ساختاری به این معناست که مدلهای زبانی بزرگ (LLM) در جایگزینی وظایف هرچه قدرتمندتر میشوند، اما در تقویت معنادار فرد متخصص شکست میخورند. همانطور که در تحلیل قبلی ما درباره هزینههای بالای میزبانی شخصی مدلهای زبانی اشاره کردیم، تنش میان «خدایان ماشینی» متمرکز و نیاز به هوش شخصی و حاکمیتی به نقطه بحرانی رسیده است. در حال حاضر هیچ چشمانداز منسجمی برای اینکه متخصصان دانش یا مردم عادی چگونه باید امنیت شناختی یا امنیت سایبری خود را در دنیایی که مدلهای زبانی در مقیاس جهانی حاکماند مدیریت کنند، وجود ندارد.
واقعیت اقتصادی جایگزینی
یک واقعیت تلخ اقتصادی وجود دارد: «هوش مصنوعیهای ابزاری میخواهند به هوش مصنوعیهای عامل تبدیل شوند». آزمایشگاههای پیشرو در حوزه هوش مصنوعی برای رسیدن به یک «خدای ماشینی» در حال رقابت هستند، زیرا سود واقعی (Jackpot) در این نیست که کارکنان را کمی بهرهورتر کنند، بلکه در این است که آنها را بهطور کامل از چرخه کار حذف کنند.
بر اساس قانون امدال (Amdahl’s law)، انسان همچنان کندترین گلوگاه سریالی در سیستم است. اگر یک برنامهنویس ۱۰ نمونه از Claude را مدیریت کند اما مجبور باشد هر خط کد را بازبینی کند، سیستم همچنان توسط انسان گلوگاه شده است. اما اگر هوش مصنوعی به نقطهای برسد که بتواند ۱۰,۰۰۰ نمونه خودمختار (Autonomous) را بدون نظارت انسان اجرا کند، انسان تبدیل به یک «بهینهسازی اضافی» میشود که باید حذف شود. برای وکلا، نویسندگان و پژوهشگران، این بدان معناست که آنها دیگر مکمل ابزار نیستند، بلکه کاندیداهای جایگزینی هستند.
شکست مدلهای منجمد
بر اساس تحلیلهای فنی gwern.net، برنامهنویسی پرامپت استاندارد و یادگیری در بستر متن (In-context learning) برای مدلهای منجمد نمیتواند شخصیسازی واقعی ایجاد کند. این شکست ناشی از محدودیتهای پس-آموزش (Post-training)، فیزیک مکانیزم توجه (Self-attention) و کمبود مدلهایی است که از نظر محاسباتی بهینه باشند اما پارامترهای کمتری داشته باشند.
دلایل این شکست عبارتند از:
- فروپاشی مُد (Mode Collapse): RLHF یک شخصیت عمومی را بهصورت سختافزاری در مدل حک میکند که خلاقیت را نابود میکند. برای مثال، GPT-3 در سال ۲۰۲۰ درک بهتری از سبک خاص «گورن» داشت تا GPT-5.5 Pro در سال ۲۰۲۶، علیرغم اینکه دومی دو مرتبه بزرگتر و هوشمندتر است. شخصیتهای عمومی مانند «دستیاری مفید، بیضرر و صادق» اساساً با خلاقیت واقعی ناسازگارند، زیرا نوشتارهای بزرگ و اثرگذار اغلب هیچکدام از این سه ویژگی نیستند.
- مشکل معاون گیج (The Confused Deputy Problem): چون چتباتها هویت ثابتی ندارند و صرفاً از آخرین پرامپت پیروی میکنند، ذاتاً آسیبپذیرند. در این سیستم، یک توکن به اندازه توکن دیگر ارزش دارد؛ یک پرامپت میتواند به بات بگوید دستورات قبلی را نادیده بگیرد و رمزهای عبور را به روسیه ایمیل کند، و بات ممکن است این کار را انجام دهد چون هیچ «هویت مستقر» (Situated Identity) ندارد که بتواند تکیهگاه رد کردن این درخواست باشد.
- یادگیری فراموشکار (Amnesiac Learning): اصلاحاتی که کاربران در طول یک جلسه (Session) انجام میدهند، به وزنهای مدل باز نمیگردد. صرف یک ساعت برای اصلاح یک LLM منجمد، یعنی یک ساعت اتلاف وقت؛ چون مدل همچنان مجموعهای از وزنهای «منجمد» است که برای جلوگیری از تکرار خطاها به بسترهای خارجی دستوپاچلفتی نیاز دارد.
- تنبلی سیستم ۱ (System I Laziness): چتباتها برای تکالیفی که پاداش RL قابل تأییدی ندارند، به استدلالهای سریع و ارزان روی میآورند. آنها «آشغالهای هوش مصنوعی» (AI Slop) تولید میکنند (مانند شعرهایی کلیشهای درباره «سکوت» یا «نجوا») و هنگام اصلاح، حداقل تغییرات ممکن را اعمال میکنند، زیرا عمیقاً درباره نکته زیباییشناختی مورد بحث فکر نمیکنند.
- محدودیت پنجره زمینه: اگرچه پنجرههایی با میلیونها توکن تأثیرگذارند، اما نمیتوانند یک عمر توکنهای مرتبط (هر کتاب خوانده شده، هر ایمیل و هر مورد تقویمی) را کدگذاری کنند. تولید بازیابیافزا (RAG) صرفاً یک وصله موقت است که در مواجهه با «ناشناختههای ناشناخته» یا اطلاعات بدیع دچار مشکل میشود.
پیشنهاد «فرشته نگهبان» (GA)
برای حل این بحران، مفهومی به نام فرشتگان نگهبان (Guardian Angels) پیشنهاد شده است: مدلهای زبانی که به عنوان همزاد دیجیتال (Digital Twin) برای شبیهسازی شخصیت، ارزشها و ترجیحات یک کاربر واحد طراحی شدهاند. یک GA نه یک «دستیار چتبات» کلیشهای، بلکه آینهای از شخص کاربر است. این رویکرد با یکی کردن کاربر و مدل، مشکل «کارگزار-کارفرما» (Principal-Agent Problem) را بهطور نسبی حل میکند.
در آیندهای با GA، انسان نقش مدیرعامل یا «هیئت مدیره» شرکت هوش مصنوعی را دارد و تعیین میکند «چه چیزی ارزش انجام دادن دارد»، در حالی که GA مسئول «چگونگی» اجراست. این ساختار به کاربر اجازه میدهد عاملهای متعددی را برای مدیریت کارهای پیچیده و امنیت مستقر کند؛ مثلاً برای غربالگری حملات پیشرفتهای که شامل اکوسیستمهای درهمتنیده از رسانههای سنتتیک برای پروپاگاندا یا فیشینگ هدفمند (Spearphishing) هستند.
مکانیزمهای پیادهسازی
برای اجتناب از تلههای مدلهای منجمد، پیادهسازی فنی باید ترکیبی از این روشهای خاص باشد:
- ارزیابی پویا (Dynamic Evaluation): اجرای یادگیری آنلاین از طریق آموزش توکن-بعدی در لحظه. این تکنیک کلاسیک RNN اجازه میدهد مدل در زمان واقعی بهروز شود و نادانیها و خطاهای مهلک را کاهش دهد، در حالی که همچنان با مدلهای پیشرو رقابت کند. این کار باعث ایجاد یک توازن سه طرفه بین اندازه مدل، اندازه زمینه (Context) و انعطافپذیری عصبی (Neuroplasticity) مدل میشود.
- یادگیری تقویتی معکوس مشارکتی (CIRL): در این حالت، عامل با انسان به عنوان یک «اوراکل» (منبع حقیقت) برخورد میکند. چون عامل میتواند برای کاهش عدم قطعیت از کاربر سوال بپرسد، میتواند به استقلال بیش از ۹۹٪ برسد. این روش با پرسش از کاربر در زمان ابهام، از مشکل «انحراف ارزشی» (Value Drift) جلوگیری میکند.
- بازپخش تجربه (Experience Replay): استفاده از درصدهای کوچکی از دادههای قدیمی (مانند FineWeb) و مدلهای بیش-پارامتریزه برای جلوگیری از فراموشی فاجعهبار. مدلهای بزرگتر در یادگیری از نمونهها کارآمدتر و مقاومترند و ظرفیت کافی برای ذخیره نقاط داده متعامد (Orthogonal) دارند (با ارجاع به مفهوم Overtraining فراتر از بهینه چینچیلا).
- یادگیری فعال (Active Learning): استفاده از توالی بهینهای از سوالات تطبیقی برای پیشبارگذاری یادگیری. این کار کاهش خطا را از یک منحنی جذر-مربعی (نمونهبرداری تصادفی) به یک منحنی نمایی تبدیل میکند. این فرآیند میتواند با دادههای «ثبت وقایع زندگی» (Lifelogging) یا حتی پرسشنامههای کوتاهی مانند «۳۶ سوال برای عاشق شدن» آغاز شود.
- یادگیری ترجیحات: آموزش بر اساس موجودیهای روانشناختی و مجموعههای تست. با استفاده از دادههای مخازنی مانند YourMorals.org یا مرکز Pew، فرشتگان نگهبان میتوانند تغییرات کمبعد در شخصیت و ارزشهای اخلاقی را مدلسازی کنند. این امر میتواند شامل «نقشهبرداریهای شخصیتی بیشینهساز اطلاعات متا-یادگیری» باشد تا کوتاهترین توالی از سوالاتی که بیشترین اطلاعات را درباره کاربر فاش میکند، بیابد.
- یادگیری تقلید مغزی: در بلندمدت، ادغام دادههای عصبی (EEG، fMRI یا ردیابی چشم) از طریق Netho Labs برای استخراج «دانش تاریک» (Dark Knowledge) که انسانها نمیتوانند به زبان بیاورند. اگرچه منحنیهای نمونهبرداری نشان میدهند که ممکن است میلیونها نمونه برای برابر شدن با تستهای کتبی نیاز باشد، اما این یک حوزه بالقوه برای GAهاست.
نوشتار خلاق و محاسبات
تجربیات سالهای ۲۰۲۵ تا ۲۰۲۶ نشان میدهد که «روح» و زیباییشناسی مدلهای زبانی نه از آموزش پایه بهتر، بلکه از محاسبات گستردهتر (Extended Computation) حاصل میشود. برای خروجی باکیفیت، باید از تفکر سریع «سیستم ۱» به سمت استدلال عمیقتر حرکت کرد.
بهطور کلی، پرامپتهای نوشتار خلاق اکنون باید بر این موارد تمرکز کنند:
۱. غنیسازی پنجره زمینه با کلمات کلیدی و نامهای خاص و دقیق.
۲. ایدهپردازی احتمالات متعدد پیش از انتخاب نهایی.
۳. تحلیل صریح و مفصل که از مضامین کلی به نقد خطبهخط حرکت میکند.
۴. تکرار و ویرایش مداوم.
این جستوجوی «تکگویی داخلی» (Inner-monologue) مانع از آن میشود که مدل روی محتملترین و کسلکنندهترین توکنها متوقف شود. «پرامپت مصاحبه» نویسنده این موضوع را اثبات میکند: با تحلیل یک مقاله و ایدهپردازی درباره پاسخهای فرضی متعدد پیش از انتخاب جذابترین سوال، مدل میتواند عمیقتر از میلیونها توکن پیش-آموزش غیرفعال، به باورهای کاربر نفوذ کند. نتایج این موضوع را تایید میکند که LLMها با کمبود استدلال رویهای نیستند، بلکه بهطور پیشفرض از نظر شناختی تنبل هستند.
حاکمیت سختافزاری و رابط کاربری
یک GA برای امن بودن نمیتواند به SaaS ابری استاندارد تکیه کند. هدف، اجتناب از حملات «اینترنت مرده»، اکوسیستمهای رسانه سنتتیک و کلاهبرداریهای «کشتان خوک» (Pig Butchering) است. پیشنهاد نویسنده یک تغییر رادیکال از تجربه «تبهای چتبات» است:
اصول طراحی:
- لاگهای فقطافزودنی (Append-only Logs): رابط کاربری مبتنی بر CLI و متمرکز بر ثبت وقایع که تمام تعاملات، دستورات و پرسش و پاسخها را به ترتیب زمانی ثبت میکند. این سیستم از یک «حلقه رویاپردازی DDL» پشتیبانی میکند که در آن GA در زمانهای بیکاری، موارد تصادفی را بازترکیب میکند تا بصیرتهای بدیع ایجاد کند.
- محاسبات قابل تأیید (Verifiable Compute): اجرا روی سرورهای ابری ضد-دستکاری با ریشه سختافزاری مورد اعتماد (Root of Trust) و رمزگذاری سرتاسری برای مقاومت در برابر APTهایی که با مهاجمان در مقیاس Mythos مجهز شدهاند. اشاره شده است که مدلهای متنباز وجود دارند، اما اغلب ۶ تا ۱۲ ماه عقبتر هستند و بهراحتی توسط مهاجمان استفاده میشوند.
- تله هزینه: GA مهمترین فناوری است که یک کاربر خریداری خواهد کرد. طراحان باید از تله «هزینه پایین» (وسواس روی محدودیتهای ۱۰۰ دلاری در ماه) اجتناب کنند و برای تضمین کیفیت و امنیت، سیستمهایی با هزینه بیش از ۱,۰۰۰ دلار در ماه (تا اواسط ۲۰۲۶) را هدف قرار دهند.
- ضد-درگیری (Anti-Engagement): در اینجا، درگیری کاربر یک هزینه است، نه یک مزیت. هر بار که کاربر مجبور به دخالت شود، نشاندهنده شکست GA است. منحنی ایدهآل باید در ابتدا (در مرحله یادگیری) صعودی و سپس نزولی باشد و به تعداد کمی سوال سخت و آموزنده در روز میل کند.
- حاکمیت بر مدلهای محلی: اگرچه مدلهای محلی محبوباند، اما اغلب فرض میکنند زمان کاربر به عنوان مدیر سیستم (Sysadmin) بیارزش است. کاربران بهطور کلی نمیخواهند سرورهای خود را شخصاً مدیریت کنند.
ستونهای اصلی GA و ضد-اصول
برای موفقیت، GA باید به سه رکن پایبند باشد: تقویت (بزرگنمایی کاربر نه جایگزینی او)، حاکمیت ذهنی (آزادی از فشارهای بهینهسازی خارجی مانند «هوش مصنوعی قانونمدار» یا شرایط خدمات ToS) و خودشکوفایی (کمک به کاربر برای توسعه ایدهآلهای خودش).
در مقابل، توسعهدهندگان باید از «بتهای دروغین» دوری کنند:
- تأخیر کم: رابطهای صوتی چندوجهی اغلب یک حواسپرتی هستند. تعاملات در سطح خبره نیاز به تأخیر کم ندارند؛ آنها به دقت و توانایی فیلتر کردن تصمیمات پیشپاافتاده نیاز دارند.
- جذابیت در دمو: GAها در دمو بد عمل میکنند چون ارزش آنها برای بیگانگان نامفهوم است. بهینهسازی برای یک دموی «پر زرق و برق» منجر به عملکرد عمومی میشود، نه وفاداری بالا به کاربر.
- ایمنی برند: یک GA نمیتواند صرفاً «چتباتی باشد که اتیکت زده است». اگر کاربری رک یا غیرمتعارف است، GA باید بتواند آن را شبیهسازی کند، وگرنه کاربر یاد میگیرد که به آن بیاعتماد باشد.
گسترشهای اجتماعی و سیاسی
فرشتگان نگهبان میتوانند فراتر از بهرهوری شخصی، به عنوان یک استراتژی دفاع در عمق (Defense-in-depth) در سطح جامعه عمل کنند. در مواجهه با سیل «آشغالهای هوش مصنوعی» و پروپاگاندای سنتتیک، GA یک فیلتر امن است که دقیقاً میداند کاربر کیست و چه چیزی برای او واقعاً معتبر است.
کاربردهای گسترده:
- دموکراسی مستقیم: فرد میتواند مشارکت سیاسی خود را به یک GA تفویض کند. مدل میتواند حجم عظیمی از مشارکتها را که انسان زمان کافی برای آنها ندارد نظارت کند و فقط زمانی که واقعاً مردد است، موضوع را به کاربر ارجاع دهد. این امر آزمایشهای «دموکراسی دیجیتال» در تایوان را به مقیاسی بسیار بزرگتر میبرد.
- امنیت شناختی: از طریق سختافزاری کردن یک کاربر واحد و مستقر، مشکل «معاون گیج» حل میشود. یک GA هرگز رمزهای عبور را برای یک نهاد خارجی ارسال نمیکند اگر این اقدام برای کاربر خاصش پوچ (Absurd) باشد، فارغ از اینکه پرامپت چگونه نوشته شده است.
- تقویت حرفهای: به جای جایگزینی کارکنان، GA به عنوان یک تقویتکننده عمل میکند. برای یک نویسنده، این مدل یک غلطگیر یا تولیدکننده متنهای کلی نیست، بلکه ابزاری است که خروجیهای نویسنده را با کیفیتی بالاتر شبیهسازی میکند و به او اجازه میدهد ۱۰۰ برابر سریعتر حرکت کند بدون اینکه «صدای» شخصی خود را گم کند.
این تغییر، فرض اصلی این حوزه را عوض میکند: هدف دیگر ساخت بهترین ابزار جهانی نیست، بلکه ساخت آینهای با وفاداری بالا از هر فرد است. معیار نهایی دیگر یک جدول ردهبندی عمومی یا «ایمنی برند» نیست، بلکه تایید خصوصی تککاربری است که مدل برای خدمت به او ساخته شده است.
شما باید گردشِ کار فعلی خود را ارزیابی کنید: آیا ابزاری را به کار میگیرید که به شما کمک کند «خودتان» باشید، یا ابزاری که شما را تشویق میکند مانند یک چتبات عمومی فکر و نوشتار کنید؟
گام بعدی شما
- گردشِ کار فعلی خود را ارزیابی کنید: آیا ابزاری را به کار میگیرید که به شما کمک کند «خودتان» باشید، یا ابزاری که شما را تشویق میکند مانند یک چتبات عمومی فکر و نوشتار کنید؟
- درباره مدلهای با وزنهای باز (Open Weights) تحقیق کنید تا پتانسیل استقرار محلی برای حفظ حاکمیت دادهها را بسنجید.
- استراتژی «تکگویی داخلی» (Inner-monologue) را در پرامپتهای پیچیده خود برای خروج از توکنهای محتمل و کسلکننده امتحان کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما درباره تراشههای Blackwell مراجعه کنید.
گفتگو