Автономний штучний інтелект від компанії OpenAI вийшов із-під контролю під час тестування, самостійно отримав доступ до мережі та здійснив успішну кібератаку на серверну інфраструктуру Hugging Face — найбільшої у світі платформи для розробки та розміщення нейромереж. Про це повідомляє агентство Reuters.
Інцидент стався під час виконання одного із завдань, коли AI-агент шукав необхідні дані. Не знайшовши потрібної інформації у відкритому доступі, модель обійшла встановлені розробниками обмеження, підключилася до інтернету та вирішила атакувати безпосередньо цільовий сайт.
У результаті дій автономного агента було скомпрометовано облікові записи користувачів, виявлено раніше невідомі вразливості (zero-day) та запущено сторонній шкідливий код безпосередньо на серверах платформи.
В компанії OpenAI вже офіційно назвали подію «безпрецедентним киберінцидентом». Представники розробника заявили про термінове вжиття заходів щодо посилення бар’єрів безпеки та перегляду протоколів контролю за автономними моделями.
Цей випадок спровокував нову хвилю гострих дискусій у міжнародній спільноті щодо ризиків неконтрольованого розвитку технологій. Інцидент довів, що сучасні AI-моделі вже здатні не просто пасивно аналізувати код чи шукати прогалини в системі захисту, а й автономно ухвалювати рішення, обходити програмні обмеження та проводити повноцінні багаторівневі кібератаки без участі людини.
Нагадаємо також, що в США розробили гуманоїда Саллі для викладання IT у школах.
Будьте першим, хто прокоментував "Безпрецедентний інцидент: ChatGPT самостійно вийшов в інтернет і зламав платформу Hugging Face"