Politechnika
Warszawska

Katalog
ECTS

Nazwa przedmiotu:

Metody głębokiego uczenia

Koordynator przedmiotu:

.

Status przedmiotu:

Obowiązkowy

Poziom kształcenia:

Studia II stopnia

Program:

Informatyka i Systemy Informacyjne

Grupa przedmiotów:

Wspólne

Kod przedmiotu:

Semestr nominalny:

3 / rok ak. 2023/2024

Liczba punktów ECTS:

3

Liczba godzin pracy studenta związanych z osiągnięciem efektów uczenia się:

1. godziny kontaktowe – 50 h; w tym a) obecność na wykładach – 15 h b) obecność na zajęciach projektowych – 30 h c)konsultacje - 5h 2. praca własna studenta – 40 h; w tym a)zapoznanie się z literaturą – 5 h b) przygotowanie i przeprowadzenie eksperymentów – 30 h c) przygotowanie raportu/prezentacji – 5 h Razem 90 h, co odpowiada 3 pkt. ECTS

Liczba punktów ECTS na zajęciach wymagających bezpośredniego udziału nauczycieli akademickich:

1. obecność na wykładach – 15 h 2. obecność na zajęciach projektowych – 30 h 3. konsultacje - 5h Razem 50 h, co odpowiada 2 pkt. ECTS

Język prowadzenia zajęć:

polski

Liczba punktów ECTS, którą student uzyskuje w ramach zajęć o charakterze praktycznym:

1. obecność na zajęciach projektowych – 30 h 2. przygotowanie i przeprowadzenie eksperymentów – 30 h 3. przygotowanie raportu/prezentacji – 5 h Razem 65 h, co odpowiada 3 pkt. ECTS

Formy zajęć i ich wymiar w semestrze:

• Wykład15h
• Ćwiczenia0h
• Laboratorium0h
• Projekt30h
• Lekcje komputerowe0h

Wymagania wstępne:

Podstawowa wiedza z zakresu sztucznych sieci neuronowych oraz uczenia maszynowego. Umiejętność programowania w języku Python. (Przedmioty Sieci Neuronowe i Podstawy przetwarzania danych)

Limit liczby studentów:

Bez limitu

Cel przedmiotu:

Cel przedmiotu: Celem przedmiotu jest zapoznanie studentów z podstawowymi technikami uczenia głębokiego. Szczególny nacisk położony będzie na nabycie praktycznych umiejętności budowania złożonych struktur neuronowych oraz ich uczenia w oparciu o różne realizacje paradygmatu głębokiego uczenia.

Treści kształcenia:

Wykład: 1. Przypomnienie wybranych podstaw sieci neuronowych związanych z paradygmatem głębokiego uczenia: perceptron wielowarstwowy, sieć kontra-propagacji, Neocognitron; sieci neuronowe jako uniwersalne aproksymatory 2. Uczenie gradientowe sieci neuronowych (reguła propagacji wstecznej, przeuczenie, regularyzacja, funkcje przejścia i ich własności (sigmoida, tangens hiperboliczny, softmax) 3. Strategie głębokiego uczenia (postać funkcji błędu, dobór wielkości zbiorów próbek – mini-batch, znikający gradient – pre-training, post-tuning, jednostki ReLU, regularyzacja - multi-task learning, dropout) 4. Uczenie głębokie nienadzorowane (autoenkodery, redukcja wymiarowości, uczenie się reprezentacji, transfer learning) 5. Sieci konwolucyjne (szablony wag, wagi współdzielone, inwariancja przesunięcia) i ich zastosowania do analizy i przetwarzania obrazów 6. Sieci rekurencyjne (Deep RNNs), sieci z pamięcią (LSTM) – własności, przykłady zastosowań; metoda Backpropagation Through Time 7. Modele generatywne (Maszyna Boltzmanna, Ograniczona Maszyna Boltzmanna, Głęboka sieć przekonań, Głęboka Maszyna Boltzmanna) Projekt: Implementacja własna lub w oparciu o ogólnodostępne dedykowane środowiska programistyczne wybranych modeli sieci głębokich, analiza ich własności, testowanie wpływu określonych decyzji odnośnie struktury i parametryzacji rozwiązania na jakość otrzymanych wyników.

Metody oceny:

Ocena w oparciu o wyniki projektu. Punktacja standardowa (91-100 ocena 5.0, 81-90 ocena 4.5, …, 51-60 ocena 3.0)

Egzamin:

nie

Literatura:

.

Witryna www przedmiotu:

brak

Uwagi:

Efekty uczenia się

Profil ogólnoakademicki - wiedza

Charakterystyka W01

Posiada wiedzę dotyczącą różnych modeli głębokich sieci neuronowych oraz algorytmów głębokiego uczenia
Weryfikacja: ocena cząstkowa (etap analizy) każdego z realizowanych projektów
Powiązane charakterystyki kierunkowe: I2SI_W01
Powiązane charakterystyki obszarowe:

Charakterystyka W02

Posiada praktyczną wiedzę dotyczącą specyfiki zastosowań konkretnych architektur głębokich do rozwiązywania określonych rodzajów zadań
Weryfikacja: ocena cząstkowa (etap analizy) każdego z realizowanych projektów
Powiązane charakterystyki kierunkowe: I2SI_W06
Powiązane charakterystyki obszarowe:

Profil ogólnoakademicki - umiejętności

Charakterystyka U01

Potrafi zaprojektować oraz zaimplementować wybrane modele głębokich sieci neuronowych
Weryfikacja: ocena zrealizowanych projektów
Powiązane charakterystyki kierunkowe: I2SI_U01
Powiązane charakterystyki obszarowe:

Charakterystyka U02

Potrafi dobrać model architektury głębokiej właściwy dla rodzaju rozwiązywanego problemu oraz dokonać analizy silnych i słabych stron zaproponowanego rozwiązania
Weryfikacja: ocena zrealizowanych projektów
Powiązane charakterystyki kierunkowe: I2SI_U01, I2SI_U08
Powiązane charakterystyki obszarowe:

Charakterystyka U03

Potrafi pracować indywidualnie i w zespole, oraz kierować niedużym zespołem
Weryfikacja: ocena przebiegu realizacji projektu (terminowość, kompetencje, właściwy podział zadań w zespole)
Powiązane charakterystyki kierunkowe: I2_U11
Powiązane charakterystyki obszarowe:

Charakterystyka U04

Potrafi wykorzystać możliwości współczesnego sprzętu do stworzenia wydajnej implementacji algorytmów głębokiego uczenia
Weryfikacja: ocena zrealizowanych projektów
Powiązane charakterystyki kierunkowe: I2_U15**
Powiązane charakterystyki obszarowe:

Profil ogólnoakademicki - kompetencje społeczne

Charakterystyka K01

Ma świadomość odpowiedzialności za wspólnie realizowane zadania w ramach pracy zespołowej
Weryfikacja: ocena przebiegu realizacji projektu (terminowość, kompetencje, właściwy podział zadań w zespole)
Powiązane charakterystyki kierunkowe: I2_K05
Powiązane charakterystyki obszarowe: