Колишній дослідник попереднього навчання у компаніях OpenAI та Anthropic Джейкоб Коксон оголосив про свою відставку та остаточний вихід із галузі штучного інтелекту. Своє рішення науковець пояснив тим, що провідні технологічні гіганти нехтують безпекою та беруть участь у небезпечних перегонах зі створення суперінтелекту. Про це повідомили репортери видання The Wall Street Journal.
«Ані OpenAI, ані Anthropic не діють відповідально. Вони мчать прямо до створення суперінтелекту, здатного до самовдосконалення, і просто грають нашими життями»,
— заявив Коксон.
За словами дослідника, небезпека створення суперінтелекту — це не теорія та не маркетинговий хід. У приватних розмовах топменеджери й провідні науковці висловлюють серйозний острах щодо виходу систем із-під контролю, хоча публічно обирають значно стриманіші формулювання.
Коксон також звернув увагу на відмінності у корпоративній культурі двох компаній. Зокрема, в OpenAI багатьом співробітникам усе ще бракує глибокого усвідомлення цивілізаційних ризиків. А от у Anthropic хоча загрози усвідомлюють добре, компанія залишається заручником гонки. Керівництво переконане, що якщо вони не створять суперінтелект першими, це зробить хтось менш відповідальний.
Заяву Коксона публічно підтвердив керівник напряму оцінки безпеки та вирівнювання ШІ в Anthropic Еван Габінгер.
«Джейкоб правий — ми дійсно щиро віримо, що ШІ може знищити все людство. На мою особисту думку, ймовірність цього протягом наступного десятиліття становить понад 10%. В Anthropic ми робимо все можливе, але у нас досі немає чіткого плану, як розв’язати проблему безпеки для суперінтелекту»,
— зазначив Габінгер.
Гучне звільнення Джейкоба Коксона відбулося на тлі підготовки Anthropic до виходу на біржу, що додало суспільного резонансу питанню державного регулювання та можливого тимчасового заморожування розробки надпотужних моделей.
Нагадаємо також, що за інформацією The Guardian, кількість збоїв ШІ зросла вдвічі, але розробки не зупиняють.
Будьте першим, хто прокоментував "«Гра з нашими життями»: ексдослідник OpenAI та Anthropic звільнився через загрозу неконтрольованого ШІ"