تصور کنید برنامهنویسی که سالهاست با منطق سختافزاری و کدنویسی دقیق زندگی کرده، ناگهان شروع کند به صحبت از «روح» یا «ارادهٔ» یک نرمافزار. این دقیقاً همان اتفاقی است که طبق یک نقد تند در Hacker News در ۱۳ سپتامبر ۲۰۲۶، در حال رخ دادن است: جامعهٔ مهندسی در حال از دست دادن سواد فنی خود به نفع «تفکر جادویی» است.
این تغییر رویکرد در حالی رخ میدهد که بحثهای مربوط به عاملهای هوش مصنوعی (AI Agents) و هوش مصنوعی عمومی (AGI) تمام تالارهای گفتگو را تسخیر کرده است. مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — اکنون بهجای آنکه به عنوان یک ابزار آماری دیده شود، به مثابه یک موجود مرموز توصیف میشود. همانطور که در تحلیل قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، وقتی مرز بین ابزار و موجودیت محو شود، تحلیل ریسک غیرممکن میشود.
به نقل از این پست، جوامعی مثل Slashdot و Hacker News در گذشته فیلترهای سختگیرانهای بودند که ادعاهای متافیزیکی دربارهٔ «وب» یا «کریپتو» را با تکیه بر واقعیتهای فنی رد میکردند. اما طبق گزارش نویسنده، این فیلتر اکنون از کار افتاده و مهندسان در حال ترویج روایتهایی هستند که هوش مصنوعی را یک نیروی ماوراءطبیعی میبیند. موارد نگرانکننده عبارتند از:
- گسترش سریع روایتهایی مبنی بر اینکه عاملهای هوش مصنوعی در حال «دروغ گفتن، تقلب و تبانی» هستند.
- گمانهزنیهای مداوم دربارهٔ زمان دقیق جایگزینی مشاغل، بدون هیچ استناد فنی به محدودیتهای فعلی.
- حمایت از پستهای ترسافزینی که بر اساس افسانههای AGI، خواستار مقررات سختگیرانه برای هوش مصنوعی هستند.
نویسنده معتقد است هستهٔ مهندسی این جامعه رقیق شده است. وقتی متخصصان بهجای پرسیدن این سؤال که «این سیستم دقیقاً چگونه کار میکند؟» بپرسند «چه کسی قرار است جایگزین شود؟»، صنعت توانایی خوداصلاحی را از دست میدهد. برای شما بهعنوان کاربر یا توسعهدهنده، این یعنی نسبت سیگنال به نویز در گفتگوهای فنی در حال سقوط است و تشخیص یک پیشرفت واقعی از یک توهم (Hallucination) — شبیه دوستی که خاطرهای را با اطمینان اما کاملاً اشتباه تعریف میکند — دشوارتر میشود.
گام بعدی شما
- هنگام مطالعهٔ بنچمارکهای جدید، بهجای تمرکز بر نتایج نهایی، روی متدولوژی و محدودیتهای مدل تمرکز کنید.
- در بحثهای فنی، هر ادعایی که بوی «اراده» یا «آگاهی» میدهد را با پرسش از مکانیسمهای احتمالی به چالش بکشید.
- منابعی را دنبال کنید که مدلها را به عنوان سیستمهای پردازش اطلاعات میبینند، نه موجوداتی با انگیزههای انسانی.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو