تصور کنید یک پیام پشتیبانی فنی را بررسی می‌کنید که در میان درخواست کاربر، آدرس ایمیل یا شماره تلفن او به‌طور اتفاقی گنجانده شده است. برای جلوگیری از ارسال این داده‌های خصوصی به سرورهای خارجی، کتابخانه Sether در ۲ اکتبر ۲۰۲۶ عرضه شد تا این مقادیر را پیش از خروج از اپلیکیشن، با توکن‌های جایگزین عوض کند.
این رویکرد شکافی حیاتی در حریم خصوصی هوش مصنوعی را پر می‌کند. همان‌طور که در تحلیل قبلی ما درباره‌ی Sentinel Vault اشاره کردیم، اتلسین داده‌های کانفلوئنس را داخلی نگه می‌دارد، اما Sether ابزاری قابل‌حمل برای توسعه‌دهندگان است تا دقیقاً کنترل کنند چه داده‌ای از اپلیکیشن خارج می‌شود. این کتابخانه مانند یک لایه پاک‌سازی عمل می‌کند که نقشه‌ی تبدیل داده‌ها را به‌صورت محلی نگه می‌دارد؛ بنابراین مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — هرگز به مقادیر خام و حساس دسترسی نخواهد داشت. این متدولوژی مکمل رویکردهایی است که در معماری حافظه SupportMind برای جداسازی یادآوری از پنجره متنی به کار گرفته شد تا احتمال نشت داده‌های مشتریان به حداقل برسد.
به نقل از مستندات این پروژه در GitHub، پیاده‌سازی عملی این گردش‌کار نیازمند چهار گام مشخص است:
- تست با داده‌های فرضی: ساخت پیام‌هایی با مقادیر حساس شناخته‌شده در کنار متن‌های عادی.
- بازرسی درخواست: تأیید دستی پرامپت پاک‌سازی‌شده پیش از ارسال.
- بررسی کیفیت: اطمینان از اینکه مدل همچنان می‌تواند با بستر متنی کاهش‌یافته، وظیفه را انجام دهد.
- تست بازگردانی: تأیید اینکه توکن‌ها با استفاده از نقشه‌ی محلی، به‌درستی به مقادیر اصلی تبدیل می‌شوند.
بر اساس مستندات فنی، توسعه‌دهندگان باید برای داده‌های جریانی (Streaming) که در آن مقادیر حساس ممکن است بین تکه‌های مختلف متن تقسیم شوند، راهکار پیش‌بینی کنند. همچنین تعریف سیاست‌های مالکیت و تاریخ انقضا برای نقشه‌های توکن ضروری است. این کتابخانه تحت مجوز MIT منتشر شده، هرچند درگاه میزبانی (Hosted Gateway) آن جدا از این نسخه است. در کنار این ابزارها، پیاده‌سازی لایه‌های امنیتی برای تبدیل کدهای تولید شده توسط LLM به مصنوعات مورد اعتماد نیز برای تضمین امنیت کامل چرخه توسعه ضروری است.
برای یک توسعه‌دهنده، این ابزار بحث حریم خصوصی را از «آیا ابزاری داریم؟» به «دقیقاً چه چیزی از اپلیکیشن خارج شد؟» تغییر می‌دهد. با تبدیل پاک‌سازی به یک خط لوله قابل اندازه‌گیری، تیم‌ها می‌توانند ریسک‌های قانونی را بدون کاهش کارایی مدل کم کنند.
گام بعدی شما
- جریان کامل داده‌های خود، از جمله لاگ‌ها و پیوست‌ها را بررسی کنید تا نقاط نشت داده شناسایی شوند.
- مخزن گیت‌هاب رسمی Sether را برای دستورالعمل‌های نصب و استقرار بررسی کنید.
- یک محیط تست برای ارزیابی دقت بازگردانی توکن‌ها در پاسخ‌های پیچیده مدل ایجاد کنید.
اما امنیت در لایه انتقال تنها بخشی از ماجراست؛ برای درک چگونگی محافظت از داده‌ها در حافظه مدل‌ها، تحلیل ما درباره‌ی پروتکل MCP را بخوانید.
گفتگو