生成AIサービス悪用の脅威

生成AIを組み込んだシステムへの「プロンプトインジェクション」の脅威が迫っている。プロンプトインジェクションは、悪意あるプロンプトを入力し、機密情報を盗んだり連係するシステムへ侵入したりする、大規模言語モデル（LLM）への攻撃手法だ。生成AIとの対話では、自然言語による入力パターンが無限にあり、完全に防ぐことは難しいため、対策の実装が難航している。

2024/10/17 05:00 日経速報ニュース