Загроза для цифрової безпеки: у США вимагають мораторію на реліз новітніх ШІ-систем OpenAI та Anthropic

Коаліція правозахисних та громадських організацій у Сполучених Штатах подала судовий позов проти провідних розробників штучного інтелекту — компаній OpenAI та Anthropic. Позивачі вимагають від суду тимчасово заборонити випуск нових передових ШІ-моделей, наголошуючи на «катастрофічних ризиках» для цифрової безпеки та критичної інфраструктури. Про це повідомляють репортери агенства Associated Press.

Приводом для судового звернення став нещодавній реліз та анонс спеціалізованих кібермоделей нового покоління, зокрема GPT-6 Cyber від OpenAI та новітніх систем від Anthropic. За даними фахівців із кібербезпеки, ці алгоритми досягли рівня, який дозволяє їм в автономному режимі виявляти складні вразливості нульового дня у програмному забезпеченні, банківських системах та мережах управління інфраструктурою.

У позовній заяві правозахисники стверджують, що технологічні гіганти виводять на ринок надпотужні інструменти швидше, ніж уряди та бізнес встигають адаптувати системи захисту. На думку авторів позову, якщо доступ до таких моделей отримають зловмисники або ворожі державні структури, це може спровокувати хвилю безпрецедентних автоматизованих кібератак.

Позивачі вимагають запровадити тимчасовий мораторій на розгортання найновіших моделей доти, доки не буде проведено незалежний державний аудит безпеки та створено дієві механізми контролю за їхнім використанням.

Водночас у компаніях OpenAI та Anthropic раніше неодноразово заявляли, що створення спеціалізованих кіберінструментів має насамперед оборонну мету — допомогти фахівцям із безпеки швидше знаходити й усувати прогалини в коді, перш ніж ними скористаються хакери. Розробники запевняють, що всі нові системи проходять багаторівневе тестування, а доступ до найчутливіших функцій суворо обмежується.

Очікується, що судовий розгляд цієї справи стане важливим прецедентом для подальшого державного регулювання індустрії штучного інтелекту в США.

Нагадаємо також, що OpenAI поставила на паузу навчання топових моделей ШІ через загрози безпеці та витік даних.