huntr

A huntr pega a mecânica de um mercado de bug bounty e a direciona para inteligência artificial e machine learning. Em vez de caçar vulnerabilidades web genéricas, os hunters escolhem um desafio, leem as regras e tentam quebrar um assistente, agente ou artefato de modelo específico: convencer um assistente de sinistros a vazar um token oculto, fazer um agente de trading executar operações não autorizadas ou burlar os guardrails de um assistente projetado para guardar um segredo. Cada desafio tem objetivos claros e um prêmio acumulado, e o progresso aparece em um ranking público.

O fluxo é deliberadamente simples e transparente: escolher um desafio, subir no ranking, ganhar dinheiro. Os participantes competem por uma janela fixa e depois resultados e writeups são publicados, fazendo as técnicas circularem pela comunidade. Desafios em destaque no site já tiveram prêmios da ordem de 15.000 dólares. A plataforma também mantém um blog ativo sobre jailbreaks de LLM, bypasses do tipo prompt injection e inteligência de zero-days em componentes de IA/ML, incluindo trabalhos sobre desserialização de modelos Keras e exploits de Lambda no TensorFlow.

A huntr é gratuita para pesquisadores e tem o apoio da Palo Alto Networks e do Prisma AIRS, sua plataforma de segurança para IA. Essa estrutura de patrocínio importa: a huntr funciona tanto como terreno de caça da comunidade quanto como canal para expor vulnerabilidades reais na cadeia de suprimentos de IA, que as organizações podem corrigir. Há também uma comunidade no Discord e uma seção de perguntas frequentes para participantes.