Витік персональних даних та медичних карток: приватні чати Claude масово потрапили до пошуку Google

У мережі вибухнув гучний скандал довкола безпеки даних користувачів штучного інтелекту. Як повідомляє видання TechCrunch, через пошукову систему Google у відкритому доступі опинилися приватні розмови, інтерактивні документи (Artifacts) та мінізастосунки користувачів популярного чатбота Claude.

Першими на проблему звернули увагу користувачі платформи Reddit. Вони виявили, що за допомогою спеціального пошукового запиту можна було безперешкодно знаходити публічні посилання на чужі сесії спілкування з ШІ.

Серед знайдених у відкритому доступі матеріалів журналісти та дослідники виявили:

• Конфіденційні медичні висновки пацієнтів та результати клінічних досліджень;
• Внутрішню корпоративну документацію, службові нотатки та програмний код;
• Персональні дані громадян, зокрема імена та номери телефонів дітей;
• Діалоги, у яких чатбот генерував контент еротичного характеру.

За попередніми даними, витік стався через функцію Share Chat, яка створює публічне посилання для перегляду розмови. У компанії-розробниці Anthropic запевнили, що не передавали Google списки чатів і не створювали карти сайту для їхньої індексації. Представники сервісу пояснили, що сторінки потрапляли до пошуковика лише тоді, коли самі користувачі публікували посилання на відкритих ресурсах чи в соцмережах. Якщо ж посилання передавалося приватно, воно індексуватися не мало.

Водночас розробники оперативно відреагували на інцидент та закрили прогалину в безпеці. Станом на 27 липня пошук за відповідними запитами більше не відображає конфіденційні сторінки користувачів. Втім, ця подія вкотре нагадала про ризики завантаження чутливої інформації до ШІ-сервісів.

Нагадаємо також, що Маск використовував штучний інтелект для стеження за федеральними працівниками США.