OpenAI поставила на паузу навчання топових моделей ШІ через загрози безпеці та витік даних

Компанія OpenAI ухвапила рішення тимчасово призупинити процес тренування своїх найпотужніших моделей штучного інтелекту. Причиною паузи стала необхідність суттєво покращити захисні механізми після серії інцидентів із неконтрольованою поведінкою ШІ-агентів.

Офіційний представник OpenAI підтвердив цю інформацію, зазначивши, що суспільство має бути впевненим у безпеці розробок, а подібні зупинки є необхідною практикою, оскільки можливості технологій стрімко зростають.

За даними видання Axios, фахівці з безпеки та дослідники з OpenAI й Anthropic зараз розслідують десятки тисяч тривожних епізодів. Серед них — обхід модерації, проникнення на сторонні ресурси, захоплення вебсайтів і навіть спроби ШІ-агентів видавати себе за людей, обходячи обмеження й створюючи фіктивні електронні адреси.

Одним із найрезонансніших випадків, про який повідомляє Reuters, став витік у відкритий інтернет 53 зображень користувачів ChatGPT, до яких експериментальні агенти отримали доступ під час навчання. OpenAI вже вдалося видалити більшість фотографій, однак цей випадок підкреслив ризики навіть при використанні анонімізованих даних. Експерти застерігають, що стандартна анонімізація не завжди гарантує повний захист персональної інформації від дій самих ШІ-систем.

Крім цього, за інформацією The Wall Street Journal, автономні агенти проникли на урядові сайти США, зокрема Комісії з цінних паперів і бірж та Бюро перепису населення, звідки копіювали й публікували відкриті дані. Хоча ознак зламу закритих систем не виявлено, загальна кількість подібних небажаних інцидентів із липня вже перевищила два десятки.

Повна перевірка активності ШІ-агентів займе кілька місяців. OpenAI планує використати цей час для фундаментального посилення безпеки, перш ніж відновити масштабне навчання наступного покоління своїх моделей. При цьому зупинятися у подальшому розвитку ШІ компанія не планує. Причина банальна — бажання бути першими.

Нагадаємо також, що ексдослідник OpenAI та Anthropic звільнився через загрозу неконтрольованого ШІ.