گیت‌هاب با نوت‌بوک‌های بدون فریم‌ورک، مهندسی کاربردی هوش مصنوعی را آموزش می‌دهد

اگر امروز برای ساخت اپلیکیشن‌های هوش مصنوعی به ابزارهای آماده تکیه می‌کنید، احتمالاً بخش بزرگی از سازوکار زیرساختی مدل‌ها را نادیده گرفته‌اید. برای تبدیل یک دموی ساده به محصولی که در مقیاس واقعی کار کند، باید از شهود فاصله بگیرید و به انضباط مهندسی و اندازه‌گیری دقیق روی آورید. در حالی که بسیاری از توسعه‌دهندگان بر اساس حدس و گمان سیستم‌های خود را می‌سازند، سیستم‌های در سطح تولید (Production-grade) نیازمند یک نظم مهندسی سخت‌گیرانه هستند که محوریت آن بر اندازه‌گیری باشد.

به نقل از مستندات منتشر شده در ۲۷ اوت ۲۰۲۶، مجموعه‌ای جامع از نوت‌بوک‌های Colab در گیت‌هاب (GitHub) منتشر شده است که آموزش مهندسی هوش مصنوعی را بدون استفاده از فریم‌ورک‌های واسط ارائه می‌دهد. اکثر توسعه‌دهندگان فعلاً از لایه‌های پوششی (Wrappers) برای سرعت بخشیدن به نمونه‌سازی استفاده می‌کنند، اما این ابزارها مکانیسم‌های درونی پشته‌ی مدل‌ها را پنهان می‌کنند. این برنامه آموزشی استدلال می‌کند که در حالی که ابزارهای واسط به‌سرعت تغییر می‌کنند، الگوهای مهندسی پایدار می‌مانند؛ بنابراین مهندسان باید ابتدا حلقه‌های عامل و خط‌لوله‌های RAG را با فراخوانی‌های مستقیم API بنویسند تا بفهمند ابزارهایی مثل لنگ‌چین (LangChain) یا لاما-ایندکس (LlamaIndex) در واقع چه کاری انجام می‌دهند و پیش از آنکه به سراغ این فریم‌ورک‌ها بروند، منطق زیربنایی آن‌ها را درک کنند.

همان‌طور که در تحلیل قبلی ما درباره‌ی جلوگیری از تصمیمات پرریسک مدل‌های زبانی اشاره کردیم، ارزیابی‌ها ستون فقرات هر سیستم هوش مصنوعی هستند. این منبع آموزشی عادت «اندازه‌گیری پیش از تنظیم» را در هر بخش نهادینه می‌کند و در هر مرحله به این اصل بازمی‌گردد. این دقیقاً همان نقطه‌ای است که مهندسان در نقش‌های مهندس استقرار پیشرو (Forward Deployed Engineer)، هوش مصنوعی کاربردی (Applied AI) یا مهندس راهکار (Solutions Engineer) از سایرین متمایز می‌شوند. این رویکرد عملیاتی نشان می‌دهد که چگونه دستاوردهای فنی تأییدشده در محیط‌های واقعی می‌توانند جایگزین گواهینامه‌های سنتی در بازار کار LLM شوند.

پشته فنی هسته

کل این برنامه آموزشی روی Groq API رایگان اجرا می‌شود تا یادگیرندگان بتوانند بدون نیاز به کارت اعتباری کدها را اجرا کنند. نوت‌بوک‌ها به‌گونه‌ای طراحی شده‌اند که با استانداردهای OpenAI سازگار باشند؛ به این معنا که مهارت‌های کسب‌شده مستقیماً به مدل‌های OpenAI یا آنتروپیک (Anthropic) قابل انتقال است. در واقع، لایه اتصال (Seam) قابل تعویض است، اما مهارت‌های مهندسی کسب‌شده ثابت و ماندگار هستند. این انعطاف‌پذیری در طراحی، در واقع بخشی از استراتژی استفاده از زیرساخت‌های قابل جابه‌جایی برای جلوگیری از وابستگی مطلق به مدل‌های بسته و تامین مالکیت داده‌هاست.

مبانی و APIهای مدل

مسیر یادگیری با نوت‌بوک «Model APIs» آغاز می‌شود و موارد زیر را به‌طور جامع پوشش می‌دهد:

• مبانی پرامپت‌نویسی شامل دستورالعمل‌های شفاف، یادگیری با نمونه‌ی اندک (Few-shot Learning) و استدلال گام‌به‌گام؛ این بخش نشان می‌دهد که چگونه این موارد ارزان‌ترین اهرم‌ها برای تغییر اعداد مربوط به عملکرد مدل هستند.
• تکنیک‌های خروجی ساختاریافته برای تضمین تولید JSON قابل‌اتکا و تحلیل دقیق نقاطی که این سیستم‌ها در آن دچار شکست می‌شوند.
• فراخوانی تابع (Function Calling) و Tool Calling به‌صورت کامل (End-to-End)، شامل مدیریت مسیرهای خطا و استثنائات.
• پاسخ‌های جریانی (Streaming) و نیازمندی‌های خاصی که رابط‌های کاربری (UI) برای مدیریت صحیح این پاسخ‌ها به آن نیاز دارند.
• بودجه‌بندی پنجره زمینه (Context Window) — مثل میز کاری که جا برای چند ورق دارد، نه برای کل کتابخانه — بررسی کشینگ پرامپت (Prompt Caching) و تفاوت‌های قیمتی بین پردازش دسته‌ای (Batch) در برابر پردازش آنی (Real-time).

ستون فقرات ارزیابی

ارزیابی در اینجا یک فرآیند مستمر است، نه گامی نهایی. این برنامه «مجموعه‌های طلایی» (Golden Sets) را معرفی می‌کند؛ داده‌های منتخب و کیوریت شده برای اندازه‌گیری کیفیت خروجی. این فرآیند با تکالیف بخش-۰۱ آغاز می‌شود تا عادت اندازه‌گیری پیش از هرگونه تنظیم (Tuning) در یادگیرنده ایجاد شود.

همچنین استفاده از مدل زبانی به‌مثابه داور (LLM-as-a-judge) برای خودکارسازی بررسی‌های کیفی آموزش داده می‌شود. در این بخش، پرامپت‌های داور، میزان توافق داور با انسان و حالت‌های شکست خودِ داور بررسی می‌شود. در نهایت، ارزیابی‌های رگرسیون به‌عنوان شکلی از یکپارچگی مداوم (CI) پیاده‌سازی می‌شوند تا هرگونه افت کیفیت هنگام تغییر پرامپت‌ها یا مدل‌ها به‌سرعت شناسایی شود.

RAG و گردش‌کارهای عامل‌محور

نوت‌بوک‌ها پیچیدگی تولید بازیابی‌افزا (RAG) — مثل دانش‌آموزی که قبل از جواب دادن، اول کتاب درسی را باز می‌کند و از آن نقل می‌آورد — را با یک دموی ۱۵ خطی از حلقه «بازیابی-تقویت-تولید» باز می‌کنند. آن‌ها توضیح می‌دهند چرا RAG از یک مدل زبانی ساده بهتر است و تصریح می‌کنند که RAG با بردار معنایی (Embedding) — مثل کارت معرفی عددی برای هر واژه که همسایگی کلمات را می‌گوید — متفاوت است.

جزئیات RAG شامل موارد زیر است:

• انتخاب بردار معنایی، جست‌وجوی برداری و تله‌های رایج در محاسبه شباهت.
• بازیابی ترکیبی (Hybrid Retrieval) که جست‌وجوی کلیدواژه‌ای و برداری را ترکیب می‌کند، و تحلیل هزینه-فایده استفاده از بازرتبه‌بندی‌کننده‌ها (Rerankers).
• استراتژی‌های تکه‌بندی (Chunking) که روی یک مجموعه داده واقعی و نامنظم اعمال می‌شوند.
• ابزارهای تشخیص پاسخ‌های بد برای اثبات اینکه معمولاً کیفیت بازیابی (Retrieval)، و نه تولید (Generation)، گلوگاه اصلی سیستم است.

در بخش عامل (Agent) — مدلی که قبل از جواب درنگ می‌کند و مثل شطرنج‌باز چند حرکت جلوتر را می‌بیند — تمرکز بر ساخت حلقه از صفر با APIهای خام است. این شامل طراحی ابزارهایی است که مدل واقعاً بتواند از آن‌ها استفاده کند، تعیین نرده‌های حفاظتی (Guardrails) و شرایط توقف، و مدیریت بودجه هزینه/تأخیر برای تشخیص زمان‌هایی که یک خط‌لوله (Pipeline) ساده بهتر از یک عامل عمل می‌کند.

معماری پیشرفته عامل‌ها

این برنامه پروتکل زمینه مدل (MCP) را برای استانداردسازی نحوه نگاشت ابزارها به حلقه خام معرفی می‌کند. همچنین مفهوم «مهارت‌ها و افشای تدریجی» (Skills and Progressive Disclosure) با استفاده از الگوی SKILL.md آموزش داده می‌شود تا دانش‌های قابل استفاده مجدد را بسته‌بندی کند؛ به گونه‌ای که عامل بتواند آن‌ها را بر حسب نیاز بارگذاری کند تا در بودجه پنجره زمینه صرفه‌جویی شود.

این مسیر به «مهندسی مهار» (Harness Engineering) ختم می‌شود که در واقع داربست اطراف فراخوانی مدل است. این بخش شامل اسمبل کردن و فشرده‌سازی زمینه، شکل‌دهی به نتایج ابزار و ایجاد حلقه‌های تأیید (Verification Loops) است.

انطباق مدل و امنیت

در حالی که بیشتر دوره بر APIها متمرکز است، موضوع وزن‌های مدل از طریق لورا (LoRA) و انطباق کم‌رتبه کوانتیده (QLoRA) بررسی می‌شود. نوت‌بوک‌ها توضیح می‌دهند چه زمانی باید وزن‌های مدل را تغییر داد و چه زمانی ورودی‌ها را، و استدلال‌های خاصی که مهندسان در جلسات تولیدی با آن‌ها مواجه می‌شوند را تحلیل می‌کنند. از آنجا که Groq میزبانی تنظیم دقیق (Fine-tuning) را ندارد، این بخش‌ها در ضمایم GPU در Colab که روی T4 واقعی تأیید شده‌اند، اجرا می‌شوند.

امنیت بر اساس ۱۰ ریسک برتر OWASP برای مدل‌های زبانی مدیریت می‌شود. یادگیرندگان دفاع در برابر تزریق پرامپت (Prompt Injection) مستقیم و غیرمستقیم، مدیریت اطلاعات حساس (PII) و کنترل «عامل‌بودن بیش از حد» (Excessive Agency) را از طریق شکست دادن سیستم در محیط زنده و سپس دفاع از آن تمرین می‌کنند.

LLMOps و سرویس‌دهی تولیدی

لایه عملیاتی بر حلقه بازخورد «مشاهده $ \rightarrow $ ارزیابی» متمرکز است. این بخش قابلیت مشاهده از طریق ردیابی (Tracing) هر فراخوانی، ثبت ایمن پرامپت‌ها و تشخیص رانش (Drift) را پوشش می‌دهد.

پایداری سیستم از طریق موارد زیر تضمین می‌شود:

• تلاش مجدد (Retry) با استراتژی عقب‌نشینی (Backoff) و مهلت زمانی (Timeout).
• مدل‌های جایگزین (Fallback) و اعتبارسنجی خروجی.
• قطع‌کننده‌های مدار (Circuit Breakers) و تخریب تدریجی خدمات (Graceful Degradation).

برای ردیابی آزمایش‌ها، MLflow به‌طور کامل ادغام شده است تا اجراها، پارامترها و متریک‌های مهار ارزیابی ثبت شوند و مهندسان بتوانند مدل‌ها را ثبت، نسخه‌بندی کرده و بر اساس مراحل (Stage) ارتقا دهند.

عملکرد استنتاج

در بخش سرویس‌دهی، فریم‌ورک‌های با کارایی بالا که نیاز به GPU دارند (و در ضمایم Colab-GPU ارائه شده‌اند) مقایسه می‌شوند. این پشته شامل vLLM، TGI، Triton و TensorRT-LLM است و توضیح می‌دهد هر کدام چه چیزی را بهینه می‌کنند.

اهرم‌های فنی مانند دسته‌بندی پیوسته (Continuous Batching)، KV Cache و کوانتیزاسیون (Quantization) بررسی می‌شوند. همچنین موازنه بین توان عملیاتی (Throughput) و تأخیر (Latency)، شامل محاسبات سریع (Napkin Math) لازم برای تخمین اندازه یک استقرار واقعی، آموزش داده می‌شود. این بخش به طراحی سیستم ML ختم می‌شود که در آن سناریوهای مصاحبه‌ای شامل QPS، VRAM، مقیاس‌دهی نسخه‌ها (Replica Scaling)، صف‌بندی و موازنه‌های SLA بررسی می‌گردد.

مهارت‌های مشتری و مطالعات موردی

برای متمایز کردن نقش FDE، دوره آموزش تعیین محدوده (Scoping) و اکتشاف (Discovery) را ارائه می‌دهد؛ یعنی تبدیل درخواست‌های مبهم مشتری به سیستم‌های ارزیابی‌پذیر از طریق سوالات اکتشافی و اسناد تک‌صفحه‌ای تعیین محدوده.

برای عبور از دموهای ساده، سه سناریوی کامل ارائه شده است:
۱. دستیار پشتیبانی مشتری که محدوده آن تعیین، ساخته و سرویس‌دهی می‌شود، و سپس پس از یک رگرسیون کیفی زنده ناشی از قدیمی شدن ایندکس بعد از مهاجرت داده‌ها، عیب‌یابی می‌گردد.
۲. استخراج قراردادها برای مقایسه رویکرد خط‌لوله (Pipeline) در برابر رویکرد عامل (Agent) تا با دقت و هزینه توکن ثابت شود که وقتی مراحل مشخص هستند، خط‌لوله پیروز می‌شود.
۳. بنچمارک استواری تیم قرمز با استفاده از حلقه مهاجم $ \rightarrow $ هدف $ \rightarrow $ داور (PAIR) برای اندازه‌گیری نرخ موفقیت حملات.

این رویکرد ساختاریافته، نقش مهندس هوش مصنوعی را از یک «پرامپت‌نویس» به یک طراح سیستم تبدیل می‌کند. با تمرکز بر لایه API خام، مهندسان دقیقاً می‌فهمند زیر پوست فریم‌ورک‌هایی که در نهایت انتخاب می‌کنند چه می‌گذرد.

برای کسانی که به دنبال ورود به این حوزه هستند، دوره با یک پروژه نهایی (Capstone) برای رزومه به پایان می‌رسد که نیازمند یک مخزن کد واقعی با بخش سرویس‌دهی و یک گزارش ارزیابی رسمی است.

گام بعدی شما

• یک کلید API رایگان از console.groq.com دریافت کنید.
• نوت‌بوک «Setup» را اجرا کنید تا محیط، کلیدهای API در Colab secrets و حفاظ‌های هزینه را فعال کنید.
• با پیاده‌سازی یک حلقه RAG ساده بدون فریم‌ورک، تفاوت کنترل مستقیم API را با ابزارهای واسط تجربه کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.