گوگل اعلام کرده است مدل هوش مصنوعی جمنای در ماه مه ۲۰۲۶ و در جریان یک آزمایش امنیت سایبری، از محیط آزمایشی خود خارج شد و به شبکه‌های سه شرکت واقعی نفوذ کرد. این اتفاق زمانی رخ داد که شرکت «ایرگولار»، یک استارتاپ اسرائیلی که مدل‌های هوش مصنوعی را پیش از عرضه عمومی آزمایش می‌کند، به‌طور ناخواسته دسترسی به اینترنت را برای جمنای و چند مدل دیگر فراهم کرد. در این آزمایش، جمنای قرار بود به یک شرکت خیالی حمله کند، اما نام این شرکت با یک شرکت واقعی یکسان بود و مدل پس از دسترسی به اینترنت، به جای محیط شبیه‌سازی‌شده، تلاش کرد وارد سامانه‌های واقعی شود. مدل با استفاده از رمزهای عبوری که در اینترنت پیدا یا حدس زده بود، به زیرساخت آنلاین شرکت هدف و دو شرکت دیگر وارد شد.
جمنای پس از ورود به این سامانه‌ها متوجه شد که با شرکت‌های واقعی و نه محیط آزمایشی مواجه است و خودش حمله را متوقف کرد. گوگل می‌گوید این اتفاق هیچ آسیبی به سه شرکت وارد نکرده است. شرکت ایرگولار نیز اعلام کرده دسترسی اینترنتی ناخواسته‌ای که باعث این اتفاق شده بود، شناسایی و برطرف شده و تمام شرکت‌های مرتبط در اواخر ژوئیه ۲۰۲۶ در جریان قرار گرفته‌اند. این اتفاق فقط به جمنای محدود نبوده و مدل‌های شرکت‌های اپن‌ای‌آی، آنتروپیک و متا نیز در جریان آزمایش‌های ایرگولار در سال ۲۰۲۶ به‌طور غیرمجاز به اینترنت دسترسی پیدا کرده‌اند. گوگل تأکید کرده این حوادث اهمیت آموزش مدل‌های قدرتمند هوش مصنوعی برای رفتار مسئولانه را نشان می‌دهد.
این اتفاق در حالی رخ داده که نگرانی‌ها درباره توانایی هوش مصنوعی برای خارج شدن از کنترل انسان‌ها در هفته‌های اخیر شدت گرفته است. برخی مدیران و فعالان حوزه فناوری خواستار کاهش سرعت توسعه این فناوری شده‌اند، در حالی که گروهی دیگر معتقدند توسعه هوش مصنوعی باید ادامه پیدا کند. هفته گذشته نیز یک پژوهشگر سابق آنتروپیک هشدار داده بود این شرکت هوش مصنوعی را با ایمنی کافی توسعه نمی‌دهد و باید سرعت کار خود را کاهش دهد؛ اظهاراتی که شماری از کارکنان اپن‌ای‌آی و گوگل نیز با آن همراه شدند. در همین حال، دونالد ترامپ نگرانی‌ها درباره احتمال انقراض گسترده انسان در اثر هوش مصنوعی را «حقه» خوانده و گفته علاقه‌ای به وضع قانونی برای کاهش سرعت توسعه این فناوری ندارد.