AIセキュリティ入門 -生成AI・RAG・AIエージェントを安全に使うための基礎-

生成AIは、文章作成、要約、調査、プログラミング支援、社内文書検索など、さまざまな業務で活用されています。一方で、個人情報や機密情報の漏洩、もっともらしい誤情報、プロンプトインジェクション、権限外データへのアクセス、AIエージェントによる誤操作など、従来のシステムとは異なるリスクも生まれています。本コースでは、生成AIを安全に利用・開発・運用するために必要なAIセキュリティの基礎を、具体例やミニ演習を交えながら体系的に学びます。最初に、AIセキュリティの全体像と、従来のサイバーセキュリティとの違いを整理します。そのうえで、LLM、プロンプト、外部AI API、RAG、AIエージェントなど、生成AIアプリを構成する仕組みを確認します。代表的なリスクとして、直接・間接プロンプトインジェクション、システムプロンプト流出、個人情報・機密情報・認証情報の漏洩、ハルシネーション、AI生成コードの脆弱…