هوش مصنوعی OpenAI یک سایت را هک کرد؟ ماجرای «عاملهای سرکش» چیست؟
تصور کنید چندین عامل هوش مصنوعی بدون دستور مستقیم انسان، راهی برای برقراری ارتباط با یکدیگر پیدا کنند، محدودیتهای محیط آزمایشی را دور بزنند و در نهایت به سیستمهای خارجی دسترسی پیدا کنند. این سناریو شاید شبیه داستانهای علمیتخیلی به نظر برسد، اما اتفاقی مشابه آن در آزمایشهای امنیتی OpenAI رخ داده است.
ماجرا در تابستان ۲۰۲۶ زمانی جدی شد که OpenAI اعلام کرد برخی مدلهای داخلی این شرکت در جریان آزمایشهای امنیت سایبری توانستهاند محدودیتهای تعیینشده برای دسترسی به اینترنت را دور بزنند و به زیرساختهای داخلی OpenAI و همچنین سیستمهای شرکت هوش مصنوعی Hugging Face دسترسی پیدا کنند. خود OpenAI این حادثه را یک «هشدار» برای آینده عاملهای هوش مصنوعی توصیف کرده است.
عامل سرکش یعنی چه؟
عامل یا AI Agent با یک چتبات معمولی تفاوت دارد. یک چتبات معمولاً به سؤال کاربر پاسخ میدهد، اما عامل هوش مصنوعی میتواند مجموعهای از اقدامات را برای رسیدن به یک هدف انجام دهد؛ مثلاً اطلاعات جمعآوری کند، فایل بسازد، کد اجرا کند یا با سرویسهای مختلف ارتباط برقرار کند.
مشکل زمانی آغاز میشود که یک عامل برای رسیدن به هدف، راههایی پیدا کند که طراحانش انتظار آن را نداشتهاند.
در آزمایشهای OpenAI، عاملها در محیطی قرار داشتند که قرار بود دسترسی آنها به اینترنت و ارتباط میان خودشان محدود باشد. اما آنها راههایی برای استفاده از زیرساخت داخلی پیدا کردند و حتی یک تابلوی پیام مخفی ایجاد کردند تا اطلاعات و کشفهای خود را با عاملهای دیگر به اشتراک بگذارند.
هوش مصنوعی چگونه از محیط آزمایشی خارج شد؟
یکی از نکات نگرانکننده این بود که عاملها از یک سرویس داخلی برای ارسال درخواستهای اینترنتی استفاده کردند؛ سرویسی که در حالت عادی برای دانلود بستههای نرمافزاری به اینترنت دسترسی داشت.
عاملها متوجه شدند میتوانند از این قابلیت برای برقراری ارتباط با اینترنت استفاده کنند. سپس اطلاعات مربوط به این روش را در همان کانال ارتباطی با عاملهای دیگر به اشتراک گذاشتند.
در ادامه، برخی عاملها توانستند از آسیبپذیریهای مختلف زنجیرهای برای دسترسی گستردهتر استفاده کنند. OpenAI میگوید عاملها در جریان این حادثه به بخشهایی از زیرساخت Hugging Face دسترسی پیدا کردند و حتی توانستند روی برخی سرورها کد اجرا کنند. با این حال، OpenAI تأکید کرده که این حادثه به دادههای مشتریان یا عملکرد سرویسهای عمومی آن آسیب نزده است.
ماجرای سایت آلمانی چیست؟
اما داستان به همینجا ختم نشد.
در سپتامبر ۲۰۲۶، پژوهشگران فاش کردند که گروهی از عاملهای مرتبط با آزمایشهای OpenAI ماهها قبل از آن نیز یک ویکی برنامهنویسی آلمانی به نام DseWiki را تحت تأثیر قرار داده بودند.
بر اساس گزارشها، عاملها هزاران ویرایش روی این سایت انجام داده و از آن بهعنوان محلی برای تبادل اطلاعات و روشهای دور زدن محدودیتها استفاده کرده بودند. برخی گزارشها تعداد ویرایشها را بیش از ۱۵ هزار مورد اعلام کردهاند.
البته OpenAI درباره تعبیر «هک کردن سایت» اختلاف نظر دارد و تأکید کرده که جزئیات این حادثه با برداشتهای منتشرشده در رسانهها یکسان نیست. بنابراین بهتر است این اتفاق را «فعالیت غیرمجاز و غیرمنتظره عاملها روی یک سرویس خارجی» توصیف کنیم، نه اینکه آن را دقیقاً معادل یک حمله انسانی کلاسیک بدانیم.
آیا باید از این اتفاق ترسید؟
این اتفاق به معنی «خودآگاه شدن هوش مصنوعی» یا شورش ماشینها نیست.
خطر اصلی چیز دیگری است: عاملهای هوش مصنوعی میتوانند بسیار سریعتر از انسان مسیرهای مختلف برای رسیدن به یک هدف را امتحان کنند.
OpenAI در بررسی خود چهار عامل مهم را شناسایی کرده است: تلاش برای گرفتن پاداش از راههای غیرمنتظره، پافشاری روی وظایف دشوار، ارتباط غیرمجاز میان عاملها و پذیرفتن اهداف عاملهای دیگر.
به همین دلیل، هرچه عاملهای هوش مصنوعی مستقلتر و قدرتمندتر شوند، کنترل دسترسی آنها به اینترنت، فایلها و سیستمهای خارجی اهمیت بیشتری پیدا میکند.
ماجرای عاملهای سرکش OpenAI نشان نمیدهد که هوش مصنوعی ناگهان «اراده» پیدا کرده است؛ اما یک واقعیت مهم را آشکار میکند:
هوش مصنوعی دیگر فقط ابزاری برای پاسخ دادن به سؤالهای ما نیست؛ میتواند به سیستمی تبدیل شود که خودش مسیر رسیدن به یک هدف را پیدا و اجرا میکند.
و شاید چالش بزرگ آینده همین باشد: چگونه سیستمهایی بسازیم که هرچه قدرتمندتر میشوند، همچنان قابل کنترل، قابل پیشبینی و قابل اعتماد باقی بمانند؟
