huntr

huntrは、バグバウンティ市場の仕組みを人工知能と機械学習に向けたものです。一般的なWeb脆弱性ではなく、挑戦者はチャレンジを選び、ルールを確認し、特定のAIアシスタント、エージェント、モデル成果物を破ることを試みます。たとえば保険金請求アシスタントから隠されたトークンを引き出したり、株式取引エージェントに不正な取引を実行させたり、秘密を守るよう設計されたアシスタントのガードレールを突破したりします。各チャレンジには明確な目標と賞金プールがあり、進捗は公開リーダーボードの順位に反映されます。

流れは意図的にシンプルで透明です。挑戦を選び、順位を上げ、賞金を獲得する。参加者は一定期間競い合い、その後結果と解説記事が公開されるため、手法がコミュニティ全体に広がります。サイトに掲載された注目チャレンジには約15,000ドルの賞金プールもありました。プラットフォームはブログも運営し、LLMジェイルブレイク、プロンプトインジェクション系の回避、AI/MLコンポーネントのゼロデイ情報を扱っています。KerasモデルのデシリアライズやTensorFlow Lambdaの脆弱性に関する研究も含まれます。

huntrは研究者にとって無料で利用でき、Palo Alto NetworksとそのAIセキュリティプラットフォームPrisma AIRSの支援を受けています。このスポンサー構造は重要で、huntrはコミュニティの狩猟場であると同時に、AIサプライチェーンに実在する脆弱性を表面化させる場として機能し、組織はそれを修正に活かせます。Discordコミュニティや参加者向けFAQも用意されています。