KURSPLAN
Förstärkningsinlärning, 7,5 högskolepoäng
Reinforcement Learning, 7.5 credits
Kursplan för studenter höst 2025
Kurskod: TFSS25
Fastställd av: VD
Gäller fr.o.m.: 2024-08-01
Version: 1
Utbildningsnivå: Avancerad nivå
Utbildningsområde: Tekniska området
Ämnesgrupp: DT1
Fördjupning: A1F
Huvudområde: Datavetenskap

Lärandemål

Efter genomgången kurs sks studenten

Kunskap och förståelse

- visa kunskap om centrala teorier, algoritmer och evalueringskriterier inom förstärkningsinlärning (RL),
- ha kännedom om möjligheter och begränsningar inom RL,
- visa kunskap om vanligt förekommande verktyg och ramverk inom RL,
- ha kännedom om betydande bidrag i RL forskningslitteraturen,

Färdighet och förmåga

- visa färdighet i att formulera problem som Markovska beslutsprocesser (MDP),
- visa färdighet i att välja lämpliga RL-algoritmer för specifika MDP:er,
- visa färdighet i att utveckla och implementera RL-lösningar till olika problem med hjälp av vanligt förekommande verktyg och ramverk,

Värderingsförmåga och förhållningssätt

- visa sunt omdöme vid formulering av problem som MDP:er, valet av lämpliga RL-algoritmer för lösning av dessa, samt utvärdering av lösningar över flera evalueringskriterier.

Innehåll

Strävan att fullt realisera potentialen av Artificiell Intelligens (AI) kräver autonoma system som kan lära sig att ta bra beslut genom att interagera med sin omgivning. Förstärkningsinlärning (Reinforcement Learning) är ett paradigm som uppfyller dessa krav, och kan appliceras på olika problem, inklusive inom spel, sjukvård, ekonomi och robotik. Kursen ger en solid introduktion till förstärkningsinlärning med centrala tillvägagångssätt och utmaningar, samt är strukturerad kring ett antal föreläsningar, inlämningsuppgifter och ett projekt.

Kursen innehåller följande moment:
• Markovska beslutsprocesser (MDPs)
• Modellbaserad och modellfri prediktion och kontroll
• On-policy och off-policy metoder
• Monte Carlo, Temporal Difference, Policy-Gradient, och Actor-Critic metoder
• Avvägning mellan utforskning och utnyttjande, inklusive ånger
• Avvägning mellan bias och varians, inklusive stabilitet
• Funktionsapproximering, inklusive djup förstärkningsinlärning
• Imitation Learning och Reinforcement Learning där flera agenter interagerar

Undervisningsformer

Föreläsningar, övningar och seminarier.

Undervisningen bedrivs på engelska.

Förkunskapskrav

Godkända kurser om minst 90 hp inom huvudområdet Datateknik, Elektroteknik (med relevanta kurser i Datateknik) eller avklarade kurser om minst 150 hp från Civilingenjörsprogrammet i Datateknik, och genomgångna kurser i Artificiell Intelligens, 7,5 hp, Maskininlärning, 7,5 hp och Djupinlärning, 7,5 hp eller motsvarande. Dessutom krävs kunskaper i Engelska 6 eller motsvarande kunskaper.

Examination och betyg

Kursen bedöms med betygen 5, 4, 3 eller Underkänd.

Poängregistrering av examinationen för kursen sker enligt följande system:
ExaminationsmomentOmfattningBetyg
Inlämningsuppgift15 hp5/4/3/U
Projekt2,5 hpU/G
1 Bestämmer kursens slutbetyg vilket utfärdas först när samtliga moment godkänts.

Kurslitteratur

Kurslitteraturen fastställs 8 veckor innan kursstart.

Titel: Reinforcement Learning, 2nd Edition
Författare: Richard S. Sutton and Andrew G. Barto
Förlag: Bradford Books, 2018
ISBN: 9780262039246

Titel: Grokking Deep Reinforcement Learning
Författare: Miguel Morales
Förlag: Manning, 2020
ISBN: 9781617295454