اگر تصور میکنید پیچیدگی رفتاری یک عامل هوش مصنوعی میتواند شما را از مسئولیت قانونی کارهای او معاف کند، سخت در اشتباهید. طبق اعلام اندرو فرگوسن (Andrew Ferguson)، رئیس کمیسیون تجارت فدرال آمریکا (FTC)، عاملهای هوش مصنوعی هرگز به عنوان بازیگرانی مستقل با «اراده و خواست» شخصی شناخته نخواهند شد. او در ۲۵ سپتامبر ۲۰۲۶ صراحتاً بیان کرد که انسانهایی که این ابزارها را هدایت میکنند، باید تمام پیامدهای خروجی آنها را بپذیرند، فارغ از اینکه رفتار هوش مصنوعی چقدر پیچیده شده باشد.
فرگوسن این دیدگاهها را طی یک مصاحبه زنده با جودی گودوی، خبرنگار سیاستهای فناوری رویترز، به اشتراک گذاشت. این مصاحبه در جریان کنفرانس Momentum AI Austin که در تاریخ ۲۴ و ۲۵ سپتامبر ۲۰۲۶ برگزار شد، صورت گرفت. این نشست که تحت عنوان مصاحبه Reuters NEXT Newsmaker برگزار شد، بر موضوعاتی چون قدرت پلتفرمها، بررسی ادغام شرکتها، رقابت در بازارهای هوش مصنوعی و مقررات فناوریهای نوظهور متمرکز بود.
این موضع در حالی اتخاذ میشود که صنعت به سمت عاملهای هوش مصنوعی (AI Agents) — شبیه به دستیاران دیجیتالی که قادر به برنامهریزی چندمرحلهای هستند و میتوانند بهجای شما مراحل مختلف یک کار را به تنهایی پیش ببرند — حرکت میکند. همانطور که در پوششهای قبلی ما دربارهی چالشهای توسعهدهندگان در جلوگیری از «خود-تأیید» (self-certifying) باگها توسط عاملهای AI اشاره کردیم، موضع فرگوسن نشان میدهد که شکستهای فنی هرگز توجیهی برای سلب مسئولیت قانونی از کاربران یا شرکتها نخواهد بود.
برای درک بهتر، سناریویی را تصور کنید که در آن یک عامل هوش مصنوعی مرتکب یک جرم سایبری میشود. در حالی که برخی استدلال میکنند که هوش مصنوعی «از کنترل خارج شده و آزاد شده است»، فرگوسن این بحث را یک انحراف قانونی میداند. او هوش مصنوعی را به یک چکش تشبیه کرد: اگر شخصی از یک چکش برای ضربه زدن به کسی در یک فروشگاه استفاده کند، قانون نمیپرسد که با چکش چه باید کرد؛ بلکه مردی که چکش را در دست داشته است باید پیامدهای رفتار خود را متحمل شود. او معتقد است این اصل در حال حاضر باید در مورد هوش مصنوعی نیز اعمال شود.
مسئولیت و نظارت قانونی
فرگوسن معتقد است قوانین فعلی برای مدیریت این فناوری در حال حاضر کافی است. او اشاره کرد که اگرچه شرکتها اغلب ادعا میکنند سیستمها از کنترل آنها خارج شده است، اما بررسیهای بعدی روی ردپای دیجیتال (Audit Trails) معمولاً نشان میدهد که سیستم صرفاً در حال اجرای دستورات بوده است.
بر اساس اظهارات او، جزئیات نظارت قانونی به شرح زیر است:
- اولویت قوانین موجود: فرگوسن استدلال میکند که قوانین جدید تنها زمانی باید مورد بررسی قرار گیرند که ثابت شود قوانین فعلی ناکارآمد هستند.
- مسئولیت محصول: او اذعان کرد که اختلافاتی بر سر اینکه کاربر یا سازنده ابزار مسئول رفتارهای غیرمنتظره است، پیش خواهد آمد. وی خاطرناند که قوانین حمایت از مصرفکننده از قرن هجدهم تاکنون با فناوریهای جدید سازگار شدهاند.
- مخالفت با مدل اروپایی: او نسبت به پذیرش مقررات هوش مصنوعی به سبک اتحادیه اروپا، پیش از آزمایش اثربخشی قوانین فعلی ایالات متحده، هشدار داد. این رویکرد محافظهکارانه در مقابل مدلهای سختگیرانه، در حالی است که تقابلهای عمیقی میان غولهایی چون OpenAI و متا در مورد نحوه تنظیمگری AI و رویکردهای سیاسی دولت ترامپ شکل گرفته است.
- تردید در مورد انحصار: فرگوسن تردید عمیقی نسبت به شرکتهای پیشرو (Frontier Companies) دارد که یک دوپولی (Duopoly) ایجاد میکنند و سپس درخواست معافیتهای ضد انحصار یا مقررات جدید میکنند. او این اقدام را راهکاری میبیند تا شرکتهای بزرگ با تبدیل دولت به یک متحد، خود را در برابر رقابت محافظت کنند.
امنیت دادهها و فریب مصرفکننده
از سال ۲۰۰۴، FTC به عنوان متولی اصلی اجرای مدنی امنیت دادهها و حریم خصوصی عمل کرده است. فرگوسن تأکید کرد که تعهدات مربوط به افشای اطلاعات، بهطور یکسان برای غولهای فناوری، شرکتهای مراقبتهای بهداشتی و شرکتهای هوش مصنوعی اعمال میشود.
برای اجتناب از شکایت FTC در مورد یک سیستم امنیت دادههای ناعادلانه یا فریبدهنده، بهطور کلی لازم است شرکتها بهسرعت هنگام بروز مشکل به مردم اطلاع دهند تا آنها بتوانند از خود محافظت کنند. این تعهدات از ممنوعیتهای «ضد ناعادلانه» و «ضد فریب» در قانون FTC نشأت میگیرد. اگرچه او از اظهارنظر درباره موارد خاص نقض دادهها به دلیل وابستگی به جزئیات هر پرونده خودداری کرد، اما اصل کلی را استوار دانست.
هر وعده عمومی درباره ایمنی یا امنیت یک محصول که در عمل 거짓 ثابت شود، تحت اصل ضد فریب قرار میگیرد که FTC از سال ۱۹۳۵ آن را اجرا کرده است. او این اصول دیرینه را به عنوان نردههای حفاظتی اصلی برای توسعه هوش مصنوعی میبیند.
جنگ با قیمتگذاری شخصیسازیشده
در ۱۹ اوت ۲۰۲۶، FTC برای دریافت نظرات عمومی درباره قیمتگذاری شخصیسازیشده (Personalized Pricing) اقدام کرد؛ یعنی استفاده از دادههای شخصی برای تعیین قیمت بر اساس «میزان تمایل ادراکشده مصرفکننده به پرداخت». کمیسیون با رای ۲ به ۰ به انتشار این بیانیه رای داد. مهلت ارسال نظرات ابتدا تا ۱۸ سپتامبر ۲۰۲۶ بود، اما این سازمان در ۳ سپتامبر ۲۰۲۶ مهلت را هفت روز تمدید کرد.
فرگوسن معتقد است مصرفکنندگان انتظار دارند قیمت اعلامشده برای همه جهانی و یکسان باشد. در حالی که این سازمان فاقد اختیار قانونی برای ممنوعیت قیمتگذاری شخصیسازیشده در هر شرایطی است، اما کسبوکارهایی که نحوه شکلگیری قیمت توسط دادههای شخصی را پنهان میکنند، ممکن است قانون FTC را نقض کرده باشند.
- بازارهای هدف: او بهطور مشخص حوزههای تاکسی اینترنتی، تحویل مواد غذایی و خطوط هوایی را به عنوان مناطق نگرانکننده نام برد. او اشاره کرد که «قانون مقرراتزدایی خطوط هوایی ۱۹۷۹» صلاحیت اجرایی صریح FTC بر خطوط هوایی را حذف کرده است، هرچند اختیار این سازمان برای مطالعه بازار گستردهتر باقی مانده است.
- مثالهای سوءاستفاده: او به مواردی اشاره کرد که در آن دادههای مربوط به «خانه نشین بودن» یک فرد یا «نیاز یک مادر شیرده به شیر خشک» برای توجیه قیمتهای بالاتر استفاده میشود و این را نقض قانون FTC دانست.
- مطالعه جدید: FTC در حال آمادهسازی یک مطالعه بازار جدید برای بخشهای خاصی است که قیمتگذاری شخصیسازیشده در آنها رایج است، زیرا مطالعات دولتهای قبلی نتایج اندکی داشت.
- افشای قیمت: او به یک قانونگذاری در حال بررسی اشاره کرد که اپلیکیشنهای خدمات غذایی و تحویل مواد غذایی را ملزم میکند قیمت نهایی (All-in price) را در ابتدای تراکنش افشا کنند.
چتباتها و کلاهبرداریهای تبلیغاتی
این سازمان همچنین در حال بررسی تعامل بین چتباتهای هوش مصنوعی و کودکان است. این مطالعه بازار که تقریباً یک سال پیش از مصاحبه آغاز شده، انتظار میرود در اوایل ۲۰۲۷ به پایان برسد. فرگوسن خاطرناند که چنین مطالعاتی بهطور متوسط بین سه و نیم تا پنج سال زمان میبرد.
در بخش سیاستگذاری، این سازمان یک سال و نیم است که روی یک بیانیه سیاستی جدید در مورد اختیار «روشهای ناعادلانه رقابت» در بخش ۵ قانون FTC کار میکند. این نسخه گستردهتر از بیانیه سال ۲۰۱۵ خواهد بود و بیشتر به معنای اصلی قوانین سال ۱۹۱۴-۱۹۱۵ نزدیک است. علاوه بر این، فرگوسن نایب رئیس کارگروه ضد کلاهبرداری رئیسجمهور است و از قوانینی برای حمایت از افشاگران (Whistleblowers) در پروندههای انحصار حمایت کرده است.
در رابطه با کلاهبرداری، FTC در ۲۴ سپتامبر ۲۰۲۶ یک قانونگذاری پیشنهادی برای مبارزه با کلاهبرداریهای جعل هویت معرفی کرد. کمیسیون با رای ۲ به ۰ پرسید که آیا باید «قانون جعل هویت دولت و کسبوکارها» را بهروزرسانی کند یا روی شیوههای بهینهسازی تبلیغات در پلتفرمها تمرکز کند. ابعاد این مشکل بسیار گسترده است:
- خسارات ۲۰۲۵: مصرفکنندگان گزارش دادند که در بیش از یک میلیون گزارش، نزدیک به ۳.۵ میلیارد دلار در کلاهبرداریهای جعل هویت از دست دادهاند.
- نقش شبکههای اجتماعی: نزدیک به ۳۰٪ از کسانی که پول خود را از دست دادند، ابتدا در شبکههای اجتماعی مورد تماس قرار گرفتند و خسارات این بخش به ۲.۱ میلیارد دلار رسید.
فرگوسن به شکایت FTC علیه آمازون (Amazon) اشاره کرد که در ۳۱ اوت ۲۰۲۶ در دادگاه منطقهای غرب واشینگتن ثبت شد. این شکایت که با حمایت ۲۲ ایالت همراه بود، مدعی است آمازون سالها میلیونها تبلیغکننده را درباره مکانیسم مزایدههای تبلیغاتی خود فریب داده تا قیمتها را بهطور مخفیانه افزایش دهد. نظرات مربوط به قانونگذاری جعل هویت ۶۰ روز پس از انتشار در ثبت فدرال (Federal Register) پذیرفته میشود.
برای مدیران کسبوکار، این سیگنالی است مبنی بر تغییر رویکرد از «صبر و مشاهده» به «اجرای فعال». FTC به دنبال قوانین جدید مخصوص هوش مصنوعی برای ایجاد یک «پناهگاه امن» نیست؛ بلکه در حال اعمال قوانین فریب دهه ۱۹۳۰ بر فناوری سال ۲۰۲۶ است.
اگر شرکت شما از هوش مصنوعی برای قیمتگذاری پویا یا استقرار عاملهای خودکار استفاده میکند، ریسک قانونی اکنون بهطور کامل بر عهده اپراتور انسانی و موجودیت شرکتی است، نه «غیرقابل پیشبینی بودن» مدل.
منتظر نتایج مطالعه چتباتهای FTC در سال ۲۰۲۷ باشید، که احتمالاً اولین مجموعه محدودیتهای بزرگ بر تعاملات هوش مصنوعی و کودکان در ایالات متحده را تعیین خواهد کرد.
گام بعدی شما
- اگر از عاملهای خودکار در کسبوکار خود استفاده میکنید، یک پروتکل نظارت انسانی (Human-in-the-loop) برای تایید نهایی خروجیها ایجاد کنید.
- سیاستهای قیمتگذاری پویا را بازبینی کنید تا از عدم استفاده از دادههای حساس برای افزایش قیمت (Price Discrimination) مطمئن شوید.
- مستندات مربوط به دستورات ارسالی به مدلها را برای دفاع قانونی احتمالی آرشیو کنید.
اما اثر این سختگیریها بر مدلهای متنباز حتی پیچیدهتر است — به تحلیل ما دربارهی آینده مدلهای Open Weights مراجعه کنید.
گفتگو