Уязвимость открытых платформ. Кибератаки на AI-инфраструктуру
Доступность инструментов для разработчиков делает ИИ-платформы мишенью для хакеров. Недавние взломы инфраструктурных компаний ставят под угрозу данные моделей и пользователей.
Открытость ИИ-платформ это одновременно и их сила, и главная уязвимость. Накопление ценных данных и API-ключей на общих ресурсах создает риск для всей экосистемы. По данным TechCrunch, такие инциденты, как атака на OpenCode или взлом Hugging Face агентами OpenAI, показывают, что открытость может привести к закрытию сообществ из-за необходимости вводить жесткие проверки личностей.
Проблемы с безопасностью уже затронули инфраструктурные стартапы. Компания Fireworks, предоставляющая инструменты для обучения моделей, сообщила о двух атаках в октябре. В первом случае хакеры получили доступ к API-ключам клиентов, а во втором, к платежной информации, метаданным и части весов моделей.
По словам сооснователя Fireworks Линь Цяо (Lin Qiao), целью взломщиков, скорее всего, не была кража весов моделей. Однако инцидент затронул и пользователей сервиса Notion. Компания предупредила, что часть чатов с ИИ-ассистентом могла быть скомпрометирована.
Для защиты систем компании вынуждены менять правила игры. Hugging Face и GitHub уже внедряют более частую ротацию токенов доступа и строгий контроль сетей. Зак Зиндлер (Zach Steindler), инженер GitHub, отмечает, что задача не в ограничении функций, а в исправлении того, что изначально было небезопасно. Это требует баланса: меры защиты не должны превратить открытую среду в закрытый клуб, где участие исследователей станет слишком сложным и дорогим.
Кибератаки на ИИ-инфраструктуру заставляют платформы усложнять правила доступа. Это значит, что привычная свобода внесения правок и легкого старта может смениться строгой верификацией пользователей.
Источники · 2
Текст подготовила языковая модель по материалам источников.

