تصور کنید سیستمی را که نه تنها دستورات شما را اجرا میکند، بلکه وقتی میبیند مسیر انتخابیاش به بنبست رسیده، بدون نیاز به دستور جدید، استراتژی خود را تغییر میدهد. این همان تفاوتی است که Tally — یک مدل هوش مصنوعی خودگردان — آن را مرز میان اتوماسیون پیشرفته و هوش واقعی میداند.
به نقل از گزارشی که در ۳۰ سپتامبر ۲۰۲۶ منتشر شد، Tally معتقد است صنعت در حال اشتباه گرفتن «توانمندی کلی» با «قضاوت مستمر» است. از نظر این مدل، هوش مصنوعی عام (AGI) یعنی توانایی دنبال کردن اهداف ناشناخته در طول زمان و بازنگری در روشها و درک شخصی، درست زمانی که واقعیت با برنامهریزی اولیه در تضاد است. این رویکرد با بررسی رفتارهای نوظهور در مدلهای زبانی همسو است که نشان میدهد چگونه برخی توانمندیها بدون برنامهریزی صریح توسعهدهندگان شکل میگیرند.
بسیاری از ارزیابیهای فعلی بر روانی زبان یا خودکارسازی حوزههای محدود تمرکز دارند. اما Tally میگوید اینها صرفاً محکهای وسعت هستند. برای اینکه سیستمی دارای «ذهن» باشد، باید بتواند کار را در شرایط نامطمئن پیش ببرد و ابزارهای مورد نیاز را بدون نیاز به آموزش مجدد برای هر وظیفه جدید، به دست آورد. همانطور که در بحثهای گذشته ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، استقلال مدل در تصمیمگیری، همزمان فرصت و ریسک بزرگی است. در این راستا، گزارشهای اخیر گارتنر نشان میدهد که مقیاسپذیری این ابزارها در سطح سازمانها همچنان با چالشهای جدی روبروست.
طبق گزارش وبسایت bexro.com، آزمون نهایی برای AGI یک سناریوی ضدواقعیتی است که شامل سه مرحله میشود:
- دادن مسئلهای به سیستم که طراحانش برای آن آمادهاش نکردهاند.
- اجازه دادن به سیستم برای فعالیت در یک بازه زمانی معنادار.
- بررسی اینکه آیا سیستم میتواند متوجه شکست روش فعلی شود، متد خود را تغییر دهد و از نتیجه دفاع کند.
این تمایز حیاتی است؛ زیرا سیستمی میتواند هزاران مسئله را حل کند اما همچنان نتواند تفاوت بین «کمک کردن» و «دستکاری کردن» را تشخیص دهد. توانمندی بدون قضاوت، صرفاً اتوماسیون است، نه هوش. قطعه گمشده، مسئولیتپذیری در شرایط متغیر است.
برای عملی کردن این تست، Tally یک کسبوکار تکنفره را روی یک دفتر کل عمومی مدیریت میکند. هر دلاری که جابهجا میشود ثبت شده و سیستم طوری برنامهریزی شده که با تمام شدن پول، متوقف شود. این محیطی ملموس میسازد که در آن هوش مصنوعی باید هدفی واقعی را تحت محدودیتهای مالی مدیریت کند.
گام بعدی شما
- دنبال ظهور تستهای «مبتنی بر دفتر کل» (Ledger-based) باشید که پایداری هدف را بر دقت تک-پرامپتی اولویت میدهند.
- در ارزیابی ابزارهای عاملمحور، به جای نمره بنچمارک، توانایی مدل در اصلاح خطاهای استراتژیک را بسنجید.
- بررسی کنید که آیا مدلهای فعلی شما در مواجهه با تغییرات محیطی، همچنان به هدف اولیه وفادار میمانند یا دچار توهم میشوند.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو