تصور کنید مدیر فناوری شرکتی هستید که اسرار تجاری میلیارد دلاری را در اختیار دارد؛ آیا حاضرید این دادهها برای «بررسی ایمنی» در سرورهای یک شرکت دیگر بماند؟ OpenAI با وعده «حتی یک بایت هم ذخیره نمیشود»، بازی حریم خصوصی در سطح سازمانی را تغییر داد. این وعده در قلب سرویس جدید «پردازش ایمنی خصوصی» (Private Safety Processing) نهفته است که در حال حاضر برای مشتریان منتخب در مرحله پیشنمایش قرار دارد تا بازیگران بدخواه را بدون ذخیرهسازی دادههای کاربر شناسایی کند. این اقدام، جدیدترین مانور در میدان نبردی است که اکنون به مرکز رقابت برای تسلط بر هوش مصنوعی تبدیل شده است: حریم خصوصی سازمانی.
این چرخش راهبردی در حالی رخ میدهد که مشتریان شرکتی بهشدت نسبت به نحوه مدیریت اطلاعات حساس توسط آزمایشگاههای هوش مصنوعی بدبین شدهاند. همانطور که در تحلیل قبلی ما دربارهی خطاهای فنی در دسترسی پژوهشگران به مدلهای پیشرفته مانند GPT-5.6 Sol اشاره کردیم، فشار بر این شرکتها افزایش یافته تا ثابت کنند نظارت بر ایمنی لزوماً به معنای جاسوسی یا نظارت تهاجمی نیست. این تلاشها در راستای ایجاد محیطهای امنتر است، مشابه آنچه در بررسی مکانیسمهای ایزولهسازی محیطهای آموزش مدلهای پیشرفته به آن پرداختیم تا ریسک نشت دادهها در مراحل توسعه کاهش یابد.
زمینه: تلهٔ سوءاستفادههای تکهتکه
با قدرتمندتر شدن مدلها، پتانسیل سوءاستفاده از آنها نیز رشد میکند. شرکتهای هوش مصنوعی اکنون باید بین احترام به حریم خصوصی سازمانها و شناسایی حملات، تعادلی دشوار برقرار کنند.
به عنوان مثال، یک مهاجم سایبری را تصور کنید که سعی دارد یک بدافزار بسازد. او بهجای ارسال یک درخواست بزرگ و مشکوک، دستورات کوچک و بیضرر به نظر رساننده را در ۱۰ جلسه (Session) مختلف پخش میکند تا از شناسایی توسط سیستمهای امنیتی بگریزد. اکثر سامانههای ایمنی فعلی فقط هر جلسه را بهصورت مجزا میبینند و نمیتوانند تصویر کلی حمله را تشخیص دهند و در نتیجه، این نوع حملات را نادیده میگیرند. این چالشها دقیقاً همان نقاط ضعفی هستند که مدل GPT-5.6-Cyber با هدف ارتقای امنیت زیرساختهای حساس سعی در پوشش آنها دارد.
جزئیات فنی: نظارت افقی بدون حافظه
طبق اعلام OpenAI، رویکرد جدید آنها که پردازش ایمنی خصوصی (Private Safety Processing) نام دارد، تکاملیافتهٔ سیاست «عدم ذخیرهسازی دادهها» (ZDR) است. در حالی که ZDR از عاملهایی در API برای نظارت بر سوءاستفاده در سطح هر جلسه استفاده میکرد، سیستم جدید نظارت «افق بلند» (Long-horizon) را پیاده میکند:
- عاملهای خودکار: عامل (Agent) — شبیه به یک بازرس دقیق که یادداشتهای جلسات مختلف را با هم تطبیق میدهد تا الگوی حمله را پیدا کند — ورودیها و خروجیها را در چندین گفتگو تحلیل میکند، نه فقط در یک جلسه، تا سوءاستفادههای بدخواهانه را که در طول چندین نشست رخ میدهد، شناسایی کند.
- هشارهای سیگنالمحور: اگر سوءاستفادهای شناسایی شود، سیستم بهجای ارسال کل متن گفتگو، تنها یک «سیگنال تعریفشده و محدود» را به OpenAI میفرستد که نوع خاصی از فعالیت مشکوک را هشدار میدهد.
- اشتراکگذاری اختیاری: تنها پس از فعال شدن سیگنال و در صورتی که اجرای قانون ضروری تشخیص داده شود، OpenAI دادههای خاص را از مشتری درخواست میکند. در این مرحله، مشتری میتواند بر اساس صلاحدید خود تصمیم بگیرد که دادهها را به اشتراک بگذارد یا خیر.
تضاد با استراتژی Anthropic
این استراتژی ضربهای مستقیم به Anthropic است. در ماه جولای، Anthropic سیاستی را برای «مدلهای تحت پوشش» خود، از جمله Mythos-class و Fable اجرا کرد که به این آزمایشگاه اجازه میدهد تمام جلسات و گفتگوهای کاربر را به مدت ۳۰ روز برای تحلیلهای ایمنی ذخیره کند.
Anthropic این اقدام را با استناد به یک «مسیر دسترسی کنترلشده» توجیه میکند؛ جایی که تنها گروه کوچکی از بازبینهای تأییدشده میتوانند دادهها را ببینند. هر بازبینی در یک گزارش تغییرناپذیر (Tamper-proof log) ثبت میشود که بازبینها نمیتوانند آن را حذف یا اصلاح کنند تا از هرگونه جاسوسی غیرمجاز جلوگیری شود.
برای کسبوکاری که با پروندههای پزشکی یا اسرار تجاری سروکار دارد، تفاوت این دو رویکرد بنیادی است: یک شرکت وعده میدهد دادهها هرگز نمیمانند و دیگری آنها را یک ماه نگه میدارد تا ایمنی را تضمین کند. این موضوع باعث نگرانی عمیق سازمانهایی شده که نمیخواهند دادههای حساسشان در سرورهای آزمایشگاه AI ذخیره یا بازبینی شود.
سرمایههای در خطر و رقابت برای IPO
این جنگ بر سر حریم خصوصی در حالی رخ میدهد که هر دو شرکت برای عرضه عمومی سهام (IPO) میتازند. طبق گزارش TechCrunch، نرخ درآمد سالانه Anthropic به ۶۵ میلیارد دلار رسیده و برخی سرمایهگذاران ارزش احتمالی IPO آن را ۲ تریلیون دلار تخمین میزنند.
OpenAI اکنون از حریم خصوصی بهعنوان یک «ویژگی محصول» استفاده میکند تا تکانه رشد خود در بازار سازمانی را پس از یک سه ماهه دوم کندتر (در مقایسه با رقیبش) بازیابد. هر دو شرکت به دنبال هر فرصتی برای کسب مزیت رقابتی هستند.
باید دید سایر آزمایشگاهها به این مدل ایمنی «حریمخصوصیمحور» چه پاسخی میدهند. اگر OpenAI ثابت کند که نظارت افق بلند بدون نیاز به ذخیرهسازی دادهها کارآمد است، پنجره ۳۰ روزه Anthropic ممکن است بهجای اینکه یک دارایی امنیتی باشد، به یک نقطه ضعف و بدهی تبدیل شود.
گام بعدی شما
- اگر از APIهای سازمانی استفاده میکنید، تنظیمات ZDR و قابلیتهای جدید Private Safety Processing را در پنل مدیریت بررسی کنید.
- در قراردادهای سطح خدمات (SLA) با ارائهدهندگان AI، بندهای مربوط به «مدت زمان نگهداری دادهها» (Data Retention) را بازبینی کنید.
- برای کاهش ریسک، دادههای حساس را پیش از ارسال به مدل، بهصورت محلی ناشناسسازی (Anonymize) کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو