[TPU] چیست؟

تقسیم مجموعه‌داده به دو بخشِ جدا، یکی برای آموزش مدل و دیگری برای سنجش کارایی آن روی داده‌ای که مدل در آموزش ندیده است.

بهره‌گیری از دانش یک مدل آموزش‌دیده روی یک کار به‌عنوان نقطهٔ آغاز برای آموزش کاری مرتبط، تا داده و محاسبات کمتری لازم شود.

معماری شبکهٔ عصبی که با سازوکار توجه (attention) رابطهٔ میان همهٔ بخش‌های ورودی را هم‌زمان می‌سنجد و پایهٔ مدل‌های زبانی بزرگ امروزی است.

روش استدلالی که در آن مدل چند مسیر فکری را هم‌زمان به‌صورت یک درخت کاوش و ارزیابی می‌کند تا به‌جای یک زنجیرهٔ خطی، بهترین راه‌حل را بیابد.

حالتی که مدل به‌قدری ساده یا کم‌آموزش‌دیده است که حتی الگوهای داده‌های آموزشی را نیز نمی‌تواند به‌خوبی فرابگیرد.

روشی در یادگیری ماشین که در آن مدل بدون برچسبِ از پیش‌داده‌شده، خودِ ساختار و الگوهای نهفته در داده مانند گروه‌ها یا خوشه‌ها را کشف می‌کند.