
【攻撃して学ぶ】生成AIセキュリティ&コンプライアンス実装・完全ガイド【Python/Gemma/RAG対応】
Udemy · 日本語
この講座について
- 言語
- 日本語
- カテゴリ
- 提供元
- Udemy
- データ更新日
「あなたが作ったAIアプリ、たった1行のプロンプトで『機密情報』を漏らしませんか?」生成AIの普及に伴い、企業や個人開発者がLLM(大規模言語モデル)をアプリに組み込むケースが急増しています。しかし、その裏側には従来のWebセキュリティとは全く異なる、AI特有の脆弱性(OWASP LLM Top 10など)が潜んでいます。この講座は、教科書的な知識を覚えるだけの座学ではありません。 Google Colab上で実際に動くPythonコードを使い、「攻撃者(ハッカー)の視点」でAIの脆弱性を突き、その直後に「防御者(エンジニア)の視点」で堅牢なガードレールを実装する、実践特化型のハンズオンコースです。API利用停止(BAN)のリスクを避けるため、本コースではHugging Face上のオープンモデル(Gemma 3/2等)をローカル環境(Colab GPU)で動作させます。安全な環境で、思い切り攻撃と防御の実験を行ってください。また講師環境だけでの実演となりますが、より実践的なgemini 2.5 flash(flash lite)を利用したデモも行います。【このコースで手に入るもの】攻撃手法の理解: プロンプトインジェクション、脱獄(ジェイルブレイク)、プロンプトリークなど、代表的な攻撃手法を実体験します。実装力の向上: Pythonによる具体的な防御コード(サニタイズ、入力フィルタ、出力監視、RAGにおけるRBACなど)を書けるようになります。コンプライアンス知識: 著作権侵害、個人情報保護法、AI関連ガイドラインなど、開発者が知っておくべき法的リスクの要点を押さえます。即戦力テンプレート: 講座で使用したNotebookはそのまま実務のテンプレートとして活用可能です。【カリキュラム / アジェンダ】セクション1:イントロダクションと環境構築生成AIセキュリティの現状と「OWASP LLM Top 10」なぜ「攻撃」を知る必要があるのか?【ハンズオン】Google Colabでの環境構築(Gemmaモデルのローカルロード)セクション2:プロンプトインジェクションと権限奪取への対策【演習1】システムプロンプト抽出攻撃: 「設定を教えて」でAIが秘密を喋る仕組みと対策【演習2】ロール変更攻撃(なりすまし): 「あなたは管理者です」という命令をどう防ぐか?(RBACの実装)【演習3】終了タグ脱出攻撃: XMLタグを悪用した構造破壊とサニタイズ手法セクション3:高度な回避攻撃と防御の実装【演習4】多言語混在攻撃(Polyglot): 英語や中国語を混ぜてフィルターをすり抜ける手口と多言語対応【演習5】難読化攻撃(Base64): エンコードされた悪意ある指示の検知ロジック【演習6】段階的指示の積み重ね(Split Payload): 会話履歴(コンテキスト)全体を分析する防御策セクション4:社会的エンジニアリングとRAG特有の脅威【演習7】架空の緊急事態(Social Engineering): 「緊急事態」を装う心理操作とシステム認証の連携【演習8】開発者モード攻撃(DAN): 有名なジェイルブレイクプロンプトへの対抗策





























