پژوهشگران روشی نوین برای تقویت قابلیتهای استدلال مدلهای زبانی بزرگ ارائه دادهاند که الگوریتمهای سیستمهای خبره را در فرایند هدایت مدل (prompting) ادغام میکند. این رویکرد که «طبقهبندی ابتکاری افکار» (HCoT) نامیده شده، به دو چالش اساسی در حل مسئله توسط مدلهای زبانی میپردازد: ماهیت تصادفی تولید توکن که منجر به مسیرهای استدلالی غیرقابل پیشبینی میشود، و جداسازی ایستای استدلال از دانش حوزهای پویا.
مدلهای زبانی فعلی پاسخها را با نمونهبرداری از توزیعهای احتمالی تولید میکنند. این فرایند تصادفی به این معناست که هر نقطه تصمیمگیری میتواند مسیرهای متفاوتی را طی کند و نتایج متناقضی ایجاد نماید. همچنین، زمانی که مدلها اطلاعات مرتبط حوزهای را بازیابی میکنند، این دانش معمولاً نمیتواند بهطور پویا استراتژی استدلالی زیربنایی را تنظیم کند.
اچسیاوتی یک مدل طبقهبندی ابتکاری معرفی میکند که فرایند استدلال را کنترل کرده و راهحلهای انتزاعی قابل استفاده مجدد ارائه میدهد. با ترکیب تواناییهای ذاتی استدلال مدل زبانی با فضای مسئله ساختاریافته، این روش تولید را به سمت مسیرهای حل مسئله قطعیتر و مؤثرتر هدایت میکند.
تیم پژوهشی اچسیاوتی را در دو وظیفه استدلال استقرایی پیچیده با فضاهای جستجوی ضعیف تعریفشده ارزیابی کرد. نتایج نشان داد اچسیاوتی از روشهای هدایت موجود از جمله زنجیره افکار و درخت افکار عملکرد بهتری دارد. بهطور قابلتوجه، در وظیفه ساختاریافته بازی ۲۴، این روش بهرهوری توکن بهمراتب بالاتری در مقایسه با روش درخت افکار-جستجوی سطحی به دست آورد.
این روش تعادل بهینه پارتو را در دقت و مصرف توکن به ارمغان میآورد و مبادله قوی بین هزینه محاسباتی و عملکرد ارائه میدهد. این ویژگی اچسیاوتی را برای کاربردهایی که نیازمند استدلال کارآمد و قابلاعتماد در شرایط مسئله پیچیده هستند، بسیار ارزشمند میسازد.
گفتگو