تصور کنید در عرض چند دقیقه، تمام اعتبار حساب OpenAI شما به دلیل افشای یک کلید API در کدهای فرانت‌اند تخلیه شود. برای جلوگیری از این فاجعه امنیتی، Kindson Munonye در ۱ ژوئیه ۲۰۲۶ الگویی برای Spring Boot منتشر کرد که احراز هویت کاربر را از دسترسی به ارائه‌دهنده هوش مصنوعی کاملاً جدا می‌کند.
بسیاری از توسعه‌دهندگان به اشتباه کلیدهای API را مستقیماً از مرورگر به مدل زبانی بزرگ (LLM) — که شبیه کتابخانه‌داری است که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — ارسال می‌کنند. طبق اعلام نویسنده، سرور باید به عنوان یک پروکسی امن عمل کند؛ به این صورت که فرانت‌اند یک توکن وب جِی‌سون (JWT) را به یک کنترلر محافظت‌شده می‌فرستد و سرور، کلید واقعی API را از یک محیط امن یا Vault بازیابی می‌کند.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، لایه‌های حفاظتی باید در نزدیک‌ترین نقطه به داده قرار گیرند. بر اساس مستندات این آموزش در dev.to، یک پیاده‌سازی امن برای هوش مصنوعی به سه لایه حیاتی نیاز دارد:
- مدیریت هویت: استفاده از
@PreAuthorize("isAuthenticated()")برای اطمینان از اینکه فقط کاربران تأییدشده به اندپوینت چت دسترسی دارند. - کنترل ترافیک: پیاده‌سازی
@RateLimiterبرای جلوگیری از سوءاستفاده از API و جهش هزینه‌ها برای هر کاربر یا IP. - پاک‌سازی ورودی: تمام پرامپت‌ها باید پیش از ارسال به مدل اعتبارسنجی شوند تا از تزریق پرامپت (Prompt Injection) جلوگیری شود.
در کد ارائه شده، ChatController درخواست‌ها را از طریق @PostMapping مدیریت می‌کند. به نقل از مستندات پروژه، در محیط عملیاتی (Production) به جای ذخیره کامل پرامپت‌ها، تنها شناسه‌ی کاربر ثبت می‌شود تا حریم خصوصی حفظ شود. سپس سرور از طریق chatClient با مدل ارتباط برقرار می‌کند و کلیدهای حساس را هرگز از محیط سرور خارج نمی‌کند.
این تغییر رویکرد، ادغام هوش مصنوعی را از یک «نمونه اولیه» به یک «استاندارد سازمانی» تبدیل می‌کند. با تبدیل LLM به یک منبع پشتیبان (Backend) محافظت‌شده به جای یک API عمومی، توسعه‌دهندگان می‌توانند بدون ریسک از دست دادن اعتبار مالی یا داده‌های کاربر، قابلیت‌های AI را مقیاس‌بندی کنند.
گام بعدی شما
- کدهای منبع این الگو را در GitHub بررسی کنید و اندپوینت‌های فعلی خود را به مدل پروکسی منتقل کنید.
- برای مدیریت کلیدها در مقیاس بزرگ، از ابزارهایی مثل HashiCorp Vault به جای فایل‌های
.envاستفاده کنید. - سیستم Rate Limiting را بر اساس بودجه ماهانه هر کاربر تنظیم کنید.
اما مدیریت هزینه‌های استنتاج در مقیاس میلیونی چالش دیگری است — به تحلیل ما درباره‌ی بهینه‌سازی هزینه GPU مراجعه کنید.
گفتگو