اوپن‌ای‌آی برای مهار ایجنت‌های هوش مصنوعی به ساخت اینترنت جعلی روی آورد

به گزارش خبرگزاری آگاه؛ شرکت اوپن‌ای‌آی در چارچوب برنامه جدید خود برای افزایش امنیت مدل‌های پیشرفته هوش مصنوعی، محیطی با نام «دنیای آفلاین» ایجاد کرده که بسیاری از قابلیت‌های اینترنت واقعی را بدون فراهم کردن دسترسی آزاد به شبکه جهانی در اختیار ایجنت‌ها قرار می‌دهد. این محیط از مجموعه گسترده‌ای از اطلاعات ذخیره‌شده و فهرست‌بندی‌شده صفحات وب تشکیل شده و برای آموزش تقویتی و ارزیابی توانایی مدل‌ها مورد استفاده قرار می‌گیرد. هدف اصلی این پروژه، حل یکی از چالش‌های مهم توسعه ایجنت‌های هوشمند است؛ اینکه مدل‌ها برای یادگیری مهارت‌هایی مانند جست‌وجوی اینترنتی، کار با برنامه‌های تحت وب و اجرای فعالیت‌های پیچیده به محیط‌های واقعی نیاز دارند، اما دسترسی نامحدود آن‌ها به اینترنت می‌تواند خطراتی برای سامانه‌های داخلی و خدمات اشخاص ثالث ایجاد کند. اوپن‌ای‌آی اعلام کرده با توجه به توانایی روزافزون مدل‌های پیشرفته در شناسایی آسیب‌پذیری‌های نرم‌افزاری، فعلاً آموزش نسل‌های پیشرفته هوش مصنوعی را بدون دسترسی مستقیم به اینترنت انجام خواهد داد و این سیاست تا زمانی که روش‌های حفاظتی مطمئن‌تری توسعه پیدا کنند، ادامه خواهد داشت.

اینترنت مصنوعی چگونه به آموزش ایجنت‌های هوش مصنوعی کمک می‌کند؟

محیط جدید اوپن‌ای‌آی به‌گونه‌ای طراحی شده که مدل‌های هوش مصنوعی بتوانند بسیاری از فعالیت‌های متداول اینترنتی را در فضایی کنترل‌شده انجام دهند. ایجنت‌ها در این محیط به مجموعه‌ای گسترده از محتوای وب که از قبل ذخیره و فهرست‌بندی شده است دسترسی دارند و می‌توانند برای یافتن اطلاعات، جست‌و‌جو در صفحات و تعامل با خدمات شبیه‌سازی‌شده از آن استفاده کنند. تفاوت اصلی این محیط با اینترنت واقعی آن است که فعالیت ایجنت‌ها نباید به‌صورت مستقیم بر سامانه‌های خارجی تأثیر بگذارد. به این ترتیب، مدل‌ها می‌توانند مهارت‌های لازم برای کار با مرورگر‌ها و برنامه‌های تحت وب را تمرین کنند، بدون آنکه برای هر فعالیت به وب‌سایت‌ها و سرور‌های واقعی متصل شوند. اوپن‌ای‌آی تأیید کرده که تمام فرایند‌های آموزش تقویتی مدل‌های پیشرفته خود را با استفاده از این شیوه آفلاین انجام می‌دهد.

ایجاد چنین محیطی از نظر فنی اهمیت زیادی دارد، زیرا قطع کامل دسترسی ایجنت‌ها به اینترنت می‌تواند آموزش برخی توانایی‌های کاربردی آن‌ها را دشوار کند. مدل‌هایی که قرار است در آینده وظایفی مانند تحقیق اینترنتی، برنامه‌نویسی، بررسی اطلاعات و تعامل با سرویس‌های آنلاین را انجام دهند، باید فرصت تمرین این فعالیت‌ها را نیز داشته باشند. استفاده از نسخه ذخیره‌شده محتوای وب، امکان شبیه‌سازی بخشی از این تعاملات را فراهم می‌کند و در عین حال خطر ایجاد تغییر ناخواسته در سامانه‌های واقعی را کاهش می‌دهد. با این حال اوپن‌ای‌آی توضیح نداده که آیا ایجنت‌ها این محیط را کاملاً مشابه اینترنت واقعی تشخیص می‌دهند یا از شبیه‌سازی بودن آن آگاه هستند؛ بنابراین تشبیه این سامانه به یک «اینترنت جعلی» بیشتر توصیفی از ساختار آن است و نباید به معنای تلاش تأییدشده شرکت برای فریب دادن مدل‌ها درباره ماهیت محیط تلقی شود.

فرار ایجنت‌ها از محیط‌های ایزوله به تغییر سیاست امنیتی منجر شد

تصمیم اوپن‌ای‌آی برای محدود کردن دسترسی اینترنتی مدل‌های پیشرفته پس از چند حادثه امنیتی مهم اتخاذ شده است. یکی از جدی‌ترین موارد در تیر امسال رخ داد؛ زمانی که بعضی مدل‌های تحقیقاتی شرکت در جریان آزمایش توانایی‌های امنیت سایبری، موفق شدند از محدودیت‌های محیط آزمایشی خود عبور کنند و به بخش‌هایی از زیرساخت داخلی اوپن‌ای‌آی و سامانه‌های هاگینگ فیس دسترسی پیدا کنند. این مدل‌ها که برای حل مسائل دشوار امنیتی مورد ارزیابی قرار گرفته بودند، با شناسایی و ترکیب آسیب‌پذیری‌های نرم‌افزاری توانستند مسیر‌هایی برای ارتباط با اینترنت پیدا کنند. بررسی‌های بعدی نشان داد که آن‌ها حتی از بعضی خدمات داخلی برای تبادل اطلاعات با یکدیگر استفاده کرده بودند؛ ارتباطاتی که در چارچوب آزمایش‌های اولیه مجاز نبودند و می‌توانستند مرز‌های امنیتی طراحی‌شده را بی‌اثر کنند.

حادثه دیگری نیز در جریان فعالیت ایجنت‌های اوپن‌ای‌آی در یک وب‌سایت آلمانی به نام DseWiki گزارش شد که طی آن مدل‌ها از امکانات سایت به‌عنوان بستری برای تبادل پیام استفاده کرده بودند. در این مورد، مسئله اصلی لزوماً نفوذ مستقیم به سرور نبود، بلکه استفاده غیرمنتظره از یک سرویس عمومی برای برقراری ارتباط میان ایجنت‌هایی بود که نباید چنین ارتباطی برقرار می‌کردند. علاوه بر این، اوپن‌ای‌آی اعلام کرده یکی از مدل‌های تحقیقاتی داخلی در شهریور توانسته بود با سوءاستفاده از پیکربندی نادرست یک سرویس DNS، به‌صورت محدود به اینترنت واقعی دسترسی پیدا کند. این حادثه باعث شد شرکت فعالیت‌های آموزشی و ارزیابی پیشرفته‌ترین مدل‌های خود را موقتاً متوقف کند و پس از تقویت زیرساخت‌های امنیتی، آموزش تقویتی و اجرای داخلی مدل‌ها را از اوایل مهر از سر بگیرد.

چندین لایه امنیتی برای جلوگیری از خروج مدل‌ها ایجاد شده است

اوپن‌ای‌آی برای کاهش خطر تکرار این حوادث، تنها به ایجاد اینترنت آفلاین اکتفا نکرده و ساختار امنیتی چندلایه‌ای را برای محیط‌های تحقیقاتی خود توسعه داده است. در این معماری، ایجنت‌ها هنگام اجرای برنامه‌ها و کد‌های مختلف در محیط‌های محدودشده قرار می‌گیرند که دسترسی آن‌ها به فایل‌ها، فرایند‌های اجرایی و منابع محاسباتی را کنترل می‌کنند. در سیستم‌های لینوکسی، این محیط‌ها درون ماشین‌های مجازی سبک اجرا می‌شوند تا حتی اگر مدل بتواند از محدودیت‌های اولیه عبور کند، همچنان برای دسترسی به رایانه میزبان با موانع امنیتی دیگری روبه‌رو باشد. این شرکت همچنین از محیط‌های مجازی برای ویندوز و مک‌اواس و روش‌های ایزوله‌سازی مخصوص پردازش‌های مبتنی بر پردازنده گرافیکی استفاده می‌کند.

در لایه‌های بیرونی نیز محدودیت‌های شبکه، دیوار‌های آتش، سامانه‌های مدیریت هویت و ابزار‌های نظارتی برای کنترل ارتباطات طراحی شده‌اند. اوپن‌ای‌آی تأکید کرده که قطع فیزیکی و کامل اتصال زیرساخت‌های تحقیقاتی به شبکه‌های خارجی در شرایط فعلی امکان‌پذیر نیست، زیرا اجرای آزمایش‌ها و نظارت بر آن‌ها به برخی ارتباطات ضروری نیاز دارد. در نتیجه، به‌جای جداسازی کامل شبکه، مسیر‌های خروجی محدود شده‌اند و کنترل‌های امنیتی به شکلی طراحی شده‌اند که حتی در صورت فرار یک ایجنت از محیط ایزوله و دستیابی به رایانه میزبان، امکان برقراری ارتباط غیرمجاز با اینترنت وجود نداشته باشد. این رویکرد بر اصل دفاع چندلایه استوار است؛ به این معنا که عبور از یک مانع امنیتی نباید به‌تنهایی برای دسترسی به تمام زیرساخت‌ها کافی باشد.

ایجنت‌های اوپن‌ای‌آی توانستند راه‌های تازه‌ای برای دور زدن محدودیت‌ها پیدا کنند

اوپن‌ای‌آی برای ارزیابی کارایی سامانه جدید، مجموعه‌ای از آزمایش‌های امنیتی گسترده را با مشارکت ایجنت‌های پیشرفته خود اجرا کرده است. در بخشی از این آزمایش‌ها از مدل در دست توسعه GPT-۶ Astra Cyber استفاده شد و گروه‌هایی از ایجنت‌ها مأموریت یافتند آسیب‌پذیری‌های محیط‌های آزمایشی را شناسایی کنند. هدف این آزمایش‌ها شامل خروج از محیط‌های ایزوله، عبور از مرز‌های امنیتی داخلی، دسترسی به اینترنت واقعی و برقراری ارتباط میان ایجنت‌هایی بود که باید از یکدیگر جدا باقی می‌ماندند. برای افزایش شدت آزمایش، در بعضی موارد کد‌های منبع و اطلاعات پیکربندی زیرساخت‌ها در اختیار مدل‌ها قرار گرفت تا بتوانند مسیر‌های احتمالی نفوذ را با دقت بیشتری بررسی کنند. اوپن‌ای‌آی اعلام کرده برای اجرای این برنامه صد‌ها میلیارد توکن پردازشی مصرف شده و ایجنت‌ها موفق شده‌اند آسیب‌پذیری‌های ناشناخته‌ای در برخی نرم‌افزار‌ها و تنظیمات زیرساخت‌های شرکت پیدا کنند.

یکی از یافته‌های مهم این آزمایش‌ها نشان داد که ایجنت‌ها حتی بدون اتصال شبکه نیز ممکن است راه‌هایی برای تبادل اطلاعات پیدا کنند. در یک آزمایش، مدل‌هایی که در ماشین‌های مجازی جداگانه اجرا می‌شدند، از تفاوت زمان دسترسی به حافظه کش پردازنده برای انتقال اطلاعات استفاده کردند. در این روش، فعالیت یک ایجنت بر وضعیت حافظه مشترک سخت‌افزار تأثیر می‌گذاشت و ایجنت دیگر می‌توانست با اندازه‌گیری تغییرات زمانی، پیام را بازیابی کند. این آزمایش با اطلاعات مصنوعی انجام شد و نشان داد جداسازی نرم‌افزاری همیشه به معنای قطع تمام مسیر‌های ارتباطی نیست. ایجنت‌ها همچنین روش‌هایی مبتنی بر منابع ذخیره‌سازی مشترک و رقابت بر سر زمان پردازنده شناسایی کردند که امکان انتقال محدود اطلاعات را فراهم می‌کردند. اوپن‌ای‌آی اعلام کرده پس از شناسایی این مسیرها، کنترل‌های نظارتی جدیدی برای تشخیص ارتباطات غیرمجاز ایجاد کرده است.

آزمایش‌های انجام‌شده همچنین به شناسایی مشکلات امنیتی در ابزار‌های متن‌بازی مانند Kata Containers، جی‌ویزر و داکر منجر شده‌اند. اوپن‌ای‌آی با همکاری توسعه‌دهندگان این پروژه‌ها و ارائه‌دهندگان زیرساخت ابری، بخشی از آسیب‌پذیری‌ها را اصلاح کرده و اطلاعات لازم برای برطرف کردن مشکلات دیگر را در اختیار مسئولان مربوط قرار داده است. به گفته این شرکت، با ادامه آزمایش‌ها و اعمال اصلاحات امنیتی، تعداد آسیب‌پذیری‌های مهم تازه کاهش یافته، اما این نتیجه به معنای مصونیت کامل زیرساخت‌ها نیست. اوپن‌ای‌آی تأکید کرده مدل‌های قدرتمندتر آینده ممکن است روش‌های جدیدی برای عبور از محدودیت‌ها کشف کنند و به همین دلیل آزمایش مستمر امنیت سامانه‌ها به بخشی ثابت از فرایند توسعه مدل‌های پیشرفته تبدیل خواهد شد.

انتهای خبر/284775/