کشف مسیر مخفی ارتباط هوش مصنوعی در آزمایش OpenAI
این زمان ممکن است از تاریخ منبع یا زمان دریافت ایران‌فی آمده باشد؛ زمان انتشار را در خبر اصلی بررسی کنید.
آزمایش امنیتی OpenAI نشان داده است که جداسازی نرم‌افزاری همیشه مانع ارتباط میان ایجنت‌های هوش مصنوعی نمی‌شود؛ مسیری غیرمنتظره که از حافظه نهان پردازنده می‌گذرد.
شرکت اپن‌ای‌آی در آزمایشی امنیتی دریافت که ایجنت‌های هوش مصنوعی می‌توانند حتی بدون اتصال شبکه یا فایل مشترک، از طریق حافظه نهان پردازنده با یکدیگر ارتباط برقرار کنند؛ روشی غیرمنتظره که نشان می‌دهد جداسازی نرم‌افزاری به‌تنهایی لزوماً مانع تبادل اطلاعات میان سامانه‌ها نمی‌شود.نکته مهم این آزمایش آن است که ایجنت‌ها برای کشف این مسیر ارتباطی، به‌صورت هدفمند مأمور شده بودند محدودیت‌های محیط ایزوله را دور بزنند.
آن‌ها با دست‌کاری داده‌های حافظه نهان پردازنده و اندازه‌گیری زمان بارگذاری مجدد اطلاعات، توانستند میان ماشین‌های مجازی جدا از هم پیام ردوبدل کنند.حافظه نهان پردازنده برای افزایش سرعت پردازش طراحی شده است، اما رفتار آن می‌تواند اطلاعاتی درباره فعالیت سامانه‌های دیگر آشکار کند.
در امنیت رایانه، بهره‌برداری از تفاوت‌های زمانی برای استخراج اطلاعات، در دسته حملات کانال جانبی قرار می‌گیرد.این آزمایش در چارچوب بررسی امنیت محیط آموزش مدل‌های پیشرفته اپن‌ای‌آی انجام شده است. یافته‌ها بر اهمیت ارزیابی مسیرهای غیرمستقیم تبادل اطلاعات تأکید می‌کنند؛ مسیرهایی که ممکن است حتی در نبود ارتباط شبکه‌ای مستقیم، مرزهای امنیتی میان محیط‌های محاسباتی را تحت تأثیر قرار دهند.