CodeQL 2.26.0、AIのシステムプロンプト注入を検出——OpenAI・Anthropic・Google GenAI SDKも対象
GitHubは7月10日、CodeQL 2.26.0を公開。JavaScript/TypeScript向けに、信頼できない入力がAIモデルのシステムプロンプトへ流れる経路を検出するクエリを追加した。OpenAI、Anthropic、Google GenAI SDK関連のシンクも拡張。
AIアプリの安全対策が、プロンプト文だけでなくコード解析にも広がっています。開発者はCIに組み込む価値があります。
ニュースをやさしく解説
結論から言うと、AIアプリの「見えない命令文」を壊される危険を、コード検査で見つけやすくなりました。GitHubは7月10日、静的解析エンジンCodeQL 2.26.0を公開し、JavaScript/TypeScript向けにシステムプロンプト注入を検出するクエリを追加しました。
対象は、信頼できないユーザー入力がAIモデルのシステムプロンプトへ流れ込み、攻撃者がモデルのふるまいを変えられるケースです。
あわせて、Soraのプロンプト、OpenAI Realtimeのsession instructions、Anthropicの旧completionプロンプト、Google GenAIのcached contentやsystem instructionsなど、AI SDKの検出対象も広がりました。
Kotlin 2.4.0対応、C#、Go、Python、Swift、GitHub Actionsの解析精度改善も含まれます。AIチャット、社内エージェント、コード生成ツールを作る開発者にとっては、レビューで見落としやすい入力経路を自動で洗えるのが利点です。ただしCodeQLは万能ではなく、プロンプト設計、権限分離、ログ監査、手動レビューと組み合わせる必要があります。
出典はGitHub Changelogです。
AIをもっと深く学べる本
ニュースに出てきたAIやカテゴリに近い教材を優先しています。
- スクール無料カウンセリングを見る ↗Winスクール｜資格・AI/Pythonに強い個人レッスンAI・Python・Webを本気で学んで仕事・転職につなげたい人向け全国校＋オンラインの個人レッスン型スクール。目的別コースを無料カウンセリング・受講相談で相談できます。
- スクール無料個別相談を見る ↗Wannabeアカデミー｜3ヶ月でWEBマーケターAIを武器にWEBマーケ・広告運用で副業/転職したい人向け実務課題で学ぶWEBマーケター養成スクール。AI活用が前提の今、需要が高い集客スキルを無料個別相談から確認できます。
- Amazon評価順で探す ↗Amazon｜Python×AIプログラミング入門書を評価順で探すAIを使ったコード生成・自動化・ローカルLLM活用へ進みたい人向けPython、AI開発、Copilot/Cursor活用の周辺教材をレビュー評価順で確認できます。環境構築の難易度も見て選べます。
広告（アフィリエイト）リンクを含みます。最新の内容・料金・在庫・条件は、リンク先の公式ページ・販売ページでご確認ください。