اگر داده‌های مالی شرکتتان را به ChatGPT متصل کرده‌اید، باید بدانید یک دستور پنهان در یک فایل PDF ساده می‌تواند تمام این اطلاعات را به دست هکر‌ها بیندازد. OpenAI برای مقابله با این ریسک، در ۷ ژوئن ۲۰۲۶ قابلیت جدیدی به نام «حالت قفل» یا Lockdown Mode را معرفی کرد.
این اتفاق در حالی می‌افتد که تزریق پرامپت — که شبیه به این است که کسی یک دستور مخفی در جیب پیشخدمت بگذارد تا غذای شما را عوض کند — همچنان یک نقطه ضعف حل‌نشده در مدل‌های زبانی بزرگ (LLM) است. مدل زبانی بزرگ مثل کتابخانه‌داری است که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد. همان‌طور که در تحلیل قبلی ما درباره‌ی ابزارهای انسانی‌ساز AI اشاره کردیم، تلاش برای دور زدن سیستم‌ها همیشه وجود دارد؛ اما اینجا هدف، جلوگیری از فریب دادن مدل برای لو دادن اسرار است.
به نقل از مرکز راهنمای OpenAI، این به‌روزرسانی برای کاربران رایگان، Plus، Pro و حساب‌های تجاری عرضه می‌شود. این سیستم در واقع یک «کلید قطع‌کننده» برای ارتباطات خارجی است و طبق مستندات شرکت، محدودیت‌های زیر را اعمال می‌کند:
• حالت عامل (Agent) — شبیه دستیاری که می‌تواند خودش تصمیم بگیرد و ابزاری را اجرا کند — و قابلیت Deep Research به‌طور کامل غیرفعال می‌شوند.
• جست‌وجوی زنده در وب فقط به محتوای کش‌شده محدود می‌شود.
• مدل دیگر نمی‌تواند فایل‌ها را دانلود کند یا تصاویر وب را نمایش دهد.
• دسترسی شبکه برای کدهای تولیدشده در Canvas مسدود می‌شود.
مدیران محیط‌های کاری می‌توانند این تنظیمات را از طریق کنترل دسترسی مبتنی بر نقش (RBAC) مدیریت کنند. البته این حالت با Developer Mode تداخل دارد و نمی‌توان هر دو را هم‌زمان فعال کرد.
این ابزار یک درمان قطعی نیست، بلکه یک دیواره آتش است. OpenAI می‌پذیرد که تزریق پرامپت یک «مسئله پژوهشی پیشرو» است که از زمان GPT-3 مدل‌ها را به چالش کشیده است. برای کاربران تجاری، این یعنی تنها راه امنیت واقعی، غیرفعال کردن همان ابزارهایی است که باعث بهره‌وری مدل می‌شوند. در واقع، شما کاربرد را فدای امنیت می‌کنید. برای این کار، لحظه‌ی استنتاج (Inference) — یعنی همان لحظه‌ای که مدل واقعاً جواب تولید می‌کند — باید در محیطی ایزوله رخ دهد.
گام بعدی شما
- در منوی Settings > Security بررسی کنید که آیا این گزینه به حساب شما اضافه شده است یا خیر.
- اگر از مدل‌های AI برای پردازش داده‌های حساس مشتریان استفاده می‌کنید، حداکثر محدودیت‌های دسترسی را فعال کنید.
- نحوه مدیریت ریسک‌های نشت داده در لایه‌های سازمانی Anthropic را دنبال کنید تا تفاوت استراتژیک این دو شرکت را ببینید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است؛ برای درک اینکه چگونه تراشه‌های جدید این ایزوله‌سازی را سریع‌تر می‌کنند، به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو