- Nazwa przedmiotu:
- Sieci neuronowe
- Koordynator przedmiotu:
- Prof. dr hab. inż. Bohdan Macukow, Prof. dr hab. inż. Jacek Mańdziuk
- Status przedmiotu:
- Obowiązkowy
- Poziom kształcenia:
- Studia II stopnia
- Program:
- Informatyka i Systemy Informacyjne
- Grupa przedmiotów:
- Wspólne
- Kod przedmiotu:
- 1120-INMSI-MSP-0003
- Semestr nominalny:
- 2 / rok ak. 2021/2022
- Liczba punktów ECTS:
- 5
- Liczba godzin pracy studenta związanych z osiągnięciem efektów uczenia się:
- .
- Liczba punktów ECTS na zajęciach wymagających bezpośredniego udziału nauczycieli akademickich:
- .
- Język prowadzenia zajęć:
- polski
- Liczba punktów ECTS, którą student uzyskuje w ramach zajęć o charakterze praktycznym:
- .
- Formy zajęć i ich wymiar w semestrze:
-
- Wykład30h
- Ćwiczenia0h
- Laboratorium0h
- Projekt30h
- Lekcje komputerowe0h
- Wymagania wstępne:
- Programowanie
- Limit liczby studentów:
- brak limitu
- Cel przedmiotu:
- Celem jest przekazanie studentom wiedzy o sztucznych sieciach neuronowych wykorzystując wiedzę o układach biologicznych. Po ukończeniu kursu (wykład + projekt laboratoryjny) studenci powinni:
- posiadać wiedzę teoretyczną o zasadach budowy i działania podstawowych modeli sieci neuronowych,
- umieć wybrać odpowiednią strukturę neuronową do zrealizowania rozważanego problemu,
- wybrać właściwe narzędzia programistyczne (języki programowania, pakiety itp.) w celu zrealizowania zadania,
- w ramach zespołu dokonać rozdziału zadań na poszczególne osoby,
- napisać i przetestować program,
- wyciągnąć wnioski odnośnie skuteczności sieci, jej prawidłowej parametryzacji oraz silnych i słabych stron zaimplementowanego rozwiązania,
- przygotować raport końcowy.
- Treści kształcenia:
- Wykład:
Rys historyczny dziedziny sieci neuronowych Komórka nerwowa i jej modele; Perceptron Rosenblatta, omówienie algorytmu uczenia; Reguła Delta. Dowód zbieżności procedury uczącej percptronu; model Adaline, opis i dowód zbieżności procedury uczącej. Sieć jako klasyfikator, problem XOR, Tw. Kołmogorowa i wynikające z tego wnioski. Model propagacji wstecznej; sieć Kohonena. Miary odległości; Model Hamminga, przykłady; teoria rezonansu adaptacyjnego – model Grossberga/Carpenter (ART), algorytm i przykłady. Model pamięci skojarzeniowej; sieci operacji logicznych. Zastosowanie sieci neuronowych do rozwiązywania zadań algebry macierzowej. Sieci neuronowe do zadań kompresji. Sieci neuronowe komórkowe. Zasady budowy pamięci skojarzeniowych (reguła Hebba, uczenie niehebbowskie, uczenie anty-hebbowskie, reguły perceptronowe, pamięci dwukierunkowe. Zastosowanie sieci Hopfielda i sieci samoorganizujących się do rozwiązywania problemów optymalizacyjnych. Modyfikacje reguły propagacji wstecznej. Dobór optymalnej architektury sieci MLP (przeuczenie, zdolność generalizacji, oszacowania liczby neuronów w warstwie ukrytej sieci jednokierunkowej, metody obcinania). Algorytmy konstrukcyjne (kaskadowa korelacja, metody modularne). Systemy hybrydowe neuro-fuzzy i neuro-genetyczne (podstawy teoretyczne, zastosowania praktyczne). Zastosowania sieci neuronowych w zagadnieniach ekonomicznych, finansowych i medycznych.
Projekt:
W ramach projektu studenci w dwuosobowych zespołach realizują dwa zadania polegające na implementacji, testowaniu oraz ewaluacji wybranych modeli sieci neuronowych.
- Metody oceny:
- Do zaliczenia przedmiotu wymagane jest zdanie egzaminu (waga 60%) oraz zaliczenie części projektowej (waga 40%).
- Egzamin:
- tak
- Literatura:
- 1. Wybrane artykuły z czasopism IEEE TNNLS oraz Information Sciences.
2. Wybrane prace z konferencji NIPS, IJCAI, AAAI, ICONIP, IJCNN, ICML, ...
3. S. Osowski, Sieci neuronowe do przetwarzania informacji, OW PW Warszawa 2000.
4. J. Mańdziuk Sieci neuronowe typu Hopfielda, teoria i przykłady zastosowań, AOW EXIT, Warszawa 2000.
5. R.A. Kosiński Sztuczne sieci neuronowe, WNT 2002.
6. http://www.mini.pw.edu.pl/~macukow/pl/dydaktyka.html.
- Witryna www przedmiotu:
- mini.pw.edu.pl/~macukow/
- Uwagi:
Efekty uczenia się
Profil ogólnoakademicki - wiedza
- Charakterystyka W01
- Zna teoretyczne podstawy działania i modelowania elementów neuropodobnych oraz budowy sieciowych struktur neuronowych
Weryfikacja: ocena egzamin – część pisemna, ew. część ustna
Powiązane charakterystyki kierunkowe:
I2_W02, I2SI_W03, I2SI_W04, I2SI_W05
Powiązane charakterystyki obszarowe:
P7U_W, I.P7S_WG.o
Profil ogólnoakademicki - umiejętności
- Charakterystyka U01
- Potrafi przeanalizować zadany układ sieciowy, stworzyć opis jego funkcjonalności, przeprowadzić dowód poprawności działania
Weryfikacja: ocena egzaminu – część pisemna, ocena projektu
Powiązane charakterystyki kierunkowe:
I2_U02, I2SI_U01
Powiązane charakterystyki obszarowe:
- Charakterystyka U02
- Potrafi zaprojektować układ rozwiązujący określony problem posiadający praktyczne znaczenie (np. z obszaru finansów czy klasyfikacji danych)
Weryfikacja: ocena egzaminu – część pisemna, ocena projektu
Powiązane charakterystyki kierunkowe:
I2_U03, I2_U07, I2SI_U01, I2SI_U08
Powiązane charakterystyki obszarowe:
- Charakterystyka U03
- Potrafi wybrać właściwe narzędzia programistyczne do zamodelowania układu sieciowego o zadanych parametrach, uwzględnia przy tym możliwości procesorów GPU i narzędzia dla nich istniejące
Weryfikacja: ocena projektu
Powiązane charakterystyki kierunkowe:
I2_U02, I2_U08
Powiązane charakterystyki obszarowe:
- Charakterystyka U04
- Posiada umiejętność korzystania ze źródeł literaturowych oraz zasobów internetowych dotyczących rozwiązywanego zadania
Weryfikacja: ocena projektu
Powiązane charakterystyki kierunkowe:
I2_U01
Powiązane charakterystyki obszarowe:
- Charakterystyka U05
- Potrafi pracować indywidualnie i w zespole
Weryfikacja: ocena projektu
Powiązane charakterystyki kierunkowe:
I2_U11
Powiązane charakterystyki obszarowe:
Profil ogólnoakademicki - kompetencje społeczne
- Charakterystyka K01
- Ma świadomość odpowiedzialności za wspólnie realizowane zadania w ramach pracy zespołowej
Weryfikacja: ocena projektu
Powiązane charakterystyki kierunkowe:
I2_K05
Powiązane charakterystyki obszarowe: