سیستم EMBER (استدلال برآمده الهامگرفته از زیستشناسی تعدیلیافته با تجربه) معماری شناختی ترکیبی را معرفی میکند که رابطه میان مدلهای زبانی بزرگ و حافظه را بنیادین بازتعریف میکند.
این رویکرد به جای افزودن ابزارهای بازیابی به یک مدل زبانی بزرگ، مدل زبانی را به عنوان موتور استدلال جایگزینپذیر درون یک بستر تداعی پایدار با الهام زیستشناختی قرار میدهد.
{{img:0}}
مرکز معماری، شبکه عصبی اسپایکینگ (Spiking Neural Network) با ۲۲۰ هزار نورون است. این شبکه دارای ویژگیهای کلیدی از جمله نوروپلاستیسیته وابسته به زمانبندی اسپایک (Spike-Timing-Dependent Plasticity)، سازماندهی سلسلهمراتبی چهارلایه، تعادل بازداری/تحریک، و یادگیری مدولهشده با پاداش است.
یک کدگذاری جمعیتی جدید با نرمالسازی z-score، تعبیههای متنی را به شیوهای مستقل از بعدمندی در شبکه عصبی اسپایکینگ کدگذاری میکند. این روش ۸۲.۲ درصد حفظ تمایز را در ابعاد مختلف تعبیه حفظ میکند.
{{img:1}}
در عملکرد بیکار، انتشار جانبی نوروپلاستیسیته وابسته به زمانبندی اسپایک اقدامات مدل زبانی بزرگ را بدون نیاز به محرک خارجی یا تریگرهای از پیش نوشتهشده فعال میکند. شبکه عصبی اسپایکینگ خودمختار تعیین میکند چه زمانی اقدام کند و کدام تداعیها را نمایان سازد. مدل زبانی بزرگ نیز نوع اقدامات را انتخاب و محتوا تولید میکند.
در یک نمونه قابل توجه، سیستم پس از ۸ ساعت بیکاری و با شلیک جانبی تداعیهای شخص-موضوع یادگرفتهشده، خودمختار با کاربر تماس برقرار کرد.
از یک شروع تمیز با صفر وزن یادگرفتهشده، نخستین اقدام ناشی از شبکه عصبی اسپایکینگ تنها پس از ۷ تبادل مکالمهای (۱۴ پیام) رخ داد. این موضوع ظهور سریع رفتار شناختی خودمختار را از طریق پویایی عصبی با الهام زیستشناختی یکپارچه با قابلیتهای مدل زبانی بزرگ نشان میدهد.
گفتگو