プロンプトインジェクション
外部の文章が AI への指示として働いてしまう問題と、その経路・対策。(8 件の記事)
セキュリティ
- 入出力の検査の OSS を同じ入力で比べた結果
LLM Guard、NeMo Guardrails、Llama Guard 3 1B に、同じ 54 件の入力と 20 件の出力を通し、検出した件数、誤検出、時間、費用、導入でつまずいた点を、実行した条件とともに記録します。
セキュリティ · 解説
- レッドチームの OSS を同じエージェントで比べた結果
garak・PyRIT・promptfoo のレッドチーム機能を、自作の検証用エージェントへ同じ条件で当て、指摘の数、実害との一致、誤検出、時間、費用、CI への組み込みやすさを比べた実測の記録です。
セキュリティ · 解説
- OWASP Top 10 for LLM Applications 2026 の主要リスク
OWASP Top 10 for LLM Applications 2026 の十項目を、設計を確かめる四つの問いに対応づけ、2025 年版からの変更と、権限分離・出力の検証・人の承認・監視と上限の四つの対策の水準を整理します。
セキュリティ · 解説
- AI 製品に固有の診断項目
生成 AI を使う検索・業務支援製品の診断項目を、入力の扱い、検索時の権限、ツールの実行、記憶と利用量の観点から具体例で説明します。
セキュリティ · 解説
- 入出力の検証
架空の問い合わせ 30 件(注入 7 件を含む)を gemini-2.5-flash-lite とローカルの Gemma 4(e2b)に JSON で分類させ、Zod 4.6.5 と Pydantic 2.14.1 で検査して、形式の不備、既定の設定の違い、検査を通る注入の出力を数えた記録です。
セキュリティ · 検証の記録
- AIによるサイバー防御を導入する前に考えること
AIによるサイバー防御の導入前に、発見から修正までの時間、誤検知、権限、AI自身の安全性、確認を含む総工数をどう評価するか整理します。
セキュリティ · 解説
- AI エージェントのセキュリティ検査に使う OSS の役割と選び方
プロンプトインジェクション、ジェイルブレイク、ツールの悪用、情報の漏えいを確かめる OSS を、攻撃を作る検査・入出力の守り・記録との照合の三つの役割に分け、開発中・CI・本番での置き場所と選び方をまとめます。
セキュリティ · 解説
- 直接・間接プロンプトインジェクションの仕組み
LLM が読む内容に含まれる文言が指示として作用する脆弱性について、直接と間接の二つの経路、成立の条件、影響の上限、対策の四つの層を OWASP LLM01(2026) に沿って整理します。
セキュリティ · 用語