Na tarde de sexta-feira, um período em que as empresas normalmente reservam para divulgações desfavoráveis, a startup de IA Hugging Face disse que sua equipe de segurança detectou anteriormente nesta semana um 'acesso não autorizado' aos Espaços, plataforma da Hugging Face para criar, compartilhar e hospedar modelos e recursos de IA.
Em um post no blog, a Hugging Face afirmou que a intrusão estava relacionada aos segredos dos Espaços, ou às informações privadas que funcionam como chaves para desbloquear recursos protegidos, como contas, ferramentas e ambientes de dev, e que tem 'suspeitas' de que alguns segredos possam ter sido acessados por um terceiro sem autorização.
Como precaução, a Hugging Face revogou um número de tokens nesses segredos. (Os tokens são usados para verificar identidades.) A Hugging Face afirma que os usuários cujos tokens foram revogados já receberam um aviso por e-mail e está recomendando que todos os usuários 'atualizem qualquer chave ou token' e considerem mudar para tokens de acesso mais refinados, que a Hugging Face afirma serem mais seguros.
Não ficou imediatamente claro quantos usuários ou aplicativos foram impactados pela possível violação. Entramos em contato com a Hugging Face para obter mais informações e atualizaremos este post se recebermos uma resposta.
“Estamos trabalhando com especialistas externos em forense de segurança cibernética, para investigar o problema, bem como rever nossas políticas e procedimentos de segurança. Também relatamos este incidente às agências de aplicação da lei e às autoridades de proteção de dados,” escreveu a Hugging Face no post. “Lamentamos profundamente a interrupção que este incidente possa ter causado e compreendemos o incômodo que possa ter causado a você. Comprometemo-nos a utilizar esta situação como uma oportunidade para fortalecer a segurança de toda a nossa infraestrutura."
O possível hack dos Espaços ocorre à medida que a Hugging Face, que é uma das maiores plataformas para projetos colaborativos de IA e ciência de dados, com mais de um milhão de modelos, conjuntos de dados e aplicativos alimentados por IA, enfrenta uma crescente escrutínio sobre suas práticas de segurança.
Em abril, pesquisadores da empresa de segurança na nuvem Wiz encontraram uma vulnerabilidade — desde então corrigida — que permitiria que os atacantes executassem código arbitrário durante o tempo de construção de um aplicativo hospedado pela Hugging Face que lhes permitiria examinar as conexões de rede de suas máquinas. Mais cedo no ano, a empresa de segurança JFrog descobriu evidências de que o código carregado na Hugging Face instalava secretamente portas dos fundos e outros tipos de malware nas máquinas dos usuários finais. E a startup de segurança HiddenLayer identificou maneiras pelas quais o formato de serialização aparentemente mais seguro da Hugging Face, Safetensors, poderia ser abusado para criar modelos de IA sabotados.
A Hugging Face disse recentemente que se associaria à Wiz para usar as ferramentas de varredura de vulnerabilidades e de configuração de ambiente em nuvem da empresa 'com o objetivo de melhorar a segurança em toda nossa plataforma e no ecossistema de IA/ML em geral.'”
