タグ一覧
記事に付いているタグです。領域と記事の型をまたいで、同じ主題の記事を探せます。
セキュリティ
- プロンプトインジェクション(8)
外部の文章が AI への指示として働いてしまう問題と、その経路・対策。
- ツール呼び出し(9)
AI が外部のツールや関数を呼び出す動作の設計・承認・評価。
- MCP(2)
AI と外部ツールをつなぐ Model Context Protocol の設計と注意点。
- 権限管理(29)
最小権限・権限分離・認可など、AI やツールに渡す権限の決め方。
- サプライチェーン(4)
依存関係・パッケージ・学習データなど、外から取り込むものの管理。
- 脆弱性診断(8)
脆弱性診断・ペネトレーションテストの発注、実施、受け入れ。
- 脆弱性管理(6)
見つかった脆弱性の優先順位づけ、修正、再診断、台帳での継続管理。
- 情報漏えい(28)
機密情報・隠れた文脈・出力経由の情報の漏れ。
- ガードレール(5)
入口・出口・ツールの手前に置く守りの設計と、その試験・レッドチーミング。
- 回帰試験(10)
変更で既存の動きを壊していないかを確かめる試験・評価。
- 監視(23)
本番・運用中の監視指標、ログ、障害対応。
- 費用(5)
費用・所要時間・費用対効果の見積もりと指標。
- リスク管理(7)
リスクの評価、受容、代替措置、残余リスクの扱い。
- 規格・指針(11)
NIST・OWASP・国内外の指針など、公的な規格や指針との対応。
AI エージェントの評価
- ツール呼び出し(9)
AI が外部のツールや関数を呼び出す動作の設計・承認・評価。
- LLM による採点(5)
LLM を採点器にする仕組み、偏り、再現性。
- 採点(8)
採点方式、採点器の検証、採点基準(ルーブリック)の作り方。
- 評価データ(5)
評価データの作り方、期待結果、保守、公開ベンチマーク。
- 評価の設計(6)
何をどの粒度・観点で測るかの設計と落とし穴。
- 指標(6)
成功率・信頼性・ばらつき・費用などの指標の読み方。
- CI(5)
評価を CI に組み込み、合否と閾値を決める。
- ガードレール(5)
入口・出口・ツールの手前に置く守りの設計と、その試験・レッドチーミング。
- 回帰試験(10)
変更で既存の動きを壊していないかを確かめる試験・評価。
- 監視(23)
本番・運用中の監視指標、ログ、障害対応。
- 失敗の分析(2)
失敗を分類・再現し、評価や学習の改善に戻す。
- 費用(5)
費用・所要時間・費用対効果の見積もりと指標。
- リスク管理(7)
リスクの評価、受容、代替措置、残余リスクの扱い。
- 規格・指針(11)
NIST・OWASP・国内外の指針など、公的な規格や指針との対応。
フィジカル AI
- 指標(6)
成功率・信頼性・ばらつき・費用などの指標の読み方。
- 回帰試験(10)
変更で既存の動きを壊していないかを確かめる試験・評価。
- 監視(23)
本番・運用中の監視指標、ログ、障害対応。
- 失敗の分析(2)
失敗を分類・再現し、評価や学習の改善に戻す。
- 費用(5)
費用・所要時間・費用対効果の見積もりと指標。
- リスク管理(7)
リスクの評価、受容、代替措置、残余リスクの扱い。
- 規格・指針(11)
NIST・OWASP・国内外の指針など、公的な規格や指針との対応。
- シミュレーション(6)
ロボットシミュレーターの役割・選び方・必要な計算環境。
- Sim-to-Real(3)
シミュレーションから実機へ移すときの差と、その埋め方。
- ロボット学習(5)
模倣学習・強化学習・学習データの集め方、学習の更新。
- 基盤モデル(5)
ロボット基盤モデルの位置づけと使い方。
- PoC(3)
導入前の概念実証の設計、成功基準、導入計画。
- 事務作業の自動化(3)
事務・書類を扱う作業のロボット化。
- ロボット運用(2)
稼働監視、障害対応、運用体制、人材育成。