Practical AI Security: Attacks, Defenses, and Applications – E-Læring

Bygg praktisk kompetanse innen AI-sikkerhet og lær hvordan moderne AI- og LLM-baserte løsninger kan utvikles, angripes og sikres.

Bestill e-læringskurs her

Kurset tar deg fra grunnleggende maskinlæring til praktiske sikkerhetsteknikker for generativ AI og store språkmodeller. Gjennom praktiske laboratorieøvelser trener du modeller, bygger LLM-baserte applikasjoner og arbeider med realistiske red team-scenarier.

Du utforsker både offensive og defensive sider ved AI-sikkerhet, blant annet prompt injection, automatiserte penetrasjonstestingsagenter, MCP-angrep, AI threat modeling, secure code review, AI gateways og guardrails. Kurset introduserer også verktøy og teknologier som Hugging Face, LangChain, OpenAI API-er, Claude, MCP og Googles Secure AI Framework.

Hva får du ut av kurset?

  • Forstå forskjellen mellom AI, maskinlæring og store språkmodeller
  • Lære grunnleggende prinsipper for nevrale nettverk, generativ AI og ML-livssyklusen
  • Forstå hvordan store språkmodeller og transformer-arkitektur fungerer
  • Utvikle praktiske ferdigheter innen prompt engineering
  • Arbeide med AI-verktøy som Hugging Face og LangChain
  • Bygge AI-applikasjoner og løsninger med Retrieval-Augmented Generation
  • Forstå vanlige angrep mot AI- og LLM-baserte systemer
  • Utforske prompt injection og AI red teaming
  • Arbeide med Model Context Protocol-servere og sikkerhetsverktøy
  • Gjennomføre AI threat modeling og secure code reviews
  • Implementere defensive tiltak som AI gateways og guardrails

 Hvem passer kurset for?

Kurset passer for deg som er interessert i bruk og sikkerhet av AI innen cybersikkerhet, spesielt dersom du ønsker å forstå både offensive og defensive metoder for å sikre AI-systemer.

Kurset er på grunnleggende til videregående nivå.

Forkunnskaper

Du bør ha:

  • Grunnleggende kunnskap om cybersikkerhet og penetrasjonstesting
  • Forståelse av grunnleggende programmeringskonsepter
  • Erfaring med et høynivåspråk som brukes innen maskinlæring, for eksempel Python eller tilsvarende

Kursinnhold

  • Grunnleggende AI, maskinlæring og nevrale nettverk
  • Generativ AI og store språkmodeller
  • Transformer-arkitektur, tokenisering og embeddings
  • Prompt engineering og utvikling av LLM-baserte applikasjoner
  • Hugging Face, LangChain og API-er for AI-utvikling
  • Prompt injection, jailbreaking og dataeksfiltrering
  • AI red teaming og automatiserte sikkerhetsagenter
  • Model Context Protocol og sikkerhet i MCP-servere
  • AI threat modeling med blant annet STRIDE, MITRE ATLAS og MAESTRO
  • Secure code review, AI gateways og guardrails
  • AI governance, compliance og sikring av AI supply chains
  • Bruk av AI i Security Operations og reverse engineering