Nazwa przedmiotu:
Podstawy i zastosowania teorii informacji
Koordynator przedmiotu:
dr inż. Krzysztof Suchecki
Status przedmiotu:
Obowiązkowy
Poziom kształcenia:
Studia II stopnia
Program:
Fizyka Techniczna
Grupa przedmiotów:
Obowiązkowe
Kod przedmiotu:
1050-FTEDM-MSP-2PZT
Semestr nominalny:
1 / rok ak. 2020/2021
Liczba punktów ECTS:
2
Liczba godzin pracy studenta związanych z osiągnięciem efektów uczenia się:
1. godziny kontaktowe – 30 h; w tym a) obecność na wykładach – 15 h b) obecność na ćwiczeniach/laboratoriach – 15 h 2. praca własna studenta – 20 h; w tym a) przygotowanie do ćwiczeń i do kolokwiów – 20 h Razem w semestrze 50 h, co odpowiada 2 pkt. ECTS
Liczba punktów ECTS na zajęciach wymagających bezpośredniego udziału nauczycieli akademickich:
1. obecność na wykładach – 15 h 2. obecność na ćwiczeniach – 15 h Razem w semestrze 30 h, co odpowiada 1 pkt. ECTS
Język prowadzenia zajęć:
polski
Liczba punktów ECTS, którą student uzyskuje w ramach zajęć o charakterze praktycznym:
0
Formy zajęć i ich wymiar w semestrze:
  • Wykład15h
  • Ćwiczenia15h
  • Laboratorium0h
  • Projekt0h
  • Lekcje komputerowe0h
Wymagania wstępne:
Analiza Matematyczna, Probabilistyka, Fizyka Statystyczna i Termodynamika
Limit liczby studentów:
brak
Cel przedmiotu:
Poznanie i zrozumienie podstaw teorii informacji i jej zastosowań oraz umiejętność jej stosowania.
Treści kształcenia:
Wykład: 1. Wprowadzanie, koncepcja informacji 2. Entropia Shannona i informacja wzajemna 3. Własności entropii i informacji 4. Własność asymptotycznej ekwipartycji i typowy zbiór 5. Kompresja danych, kodowanie 6. Kody optymalne, Huffmana i Shannona-Fano-Eliasa 7. Dystkretne kanały informacji i ich własności 8. Twierdzenie o kodowaniu kanałów 9. Łańcuchy Markowa, przyrost entropii 10. Druga zasada termodynamiki a teoria informacji 11. Rozkłady maksymalnej entropii 12. Entropia ciągła 13. Przyrost entropii w procesach gaussowskich 14. Kryptografia a teoria informacji 15. Optymalizacja portfela inwestycyjnego i inne zastosowania Ćwiczenia: Bezpośrednie uzupełnienie wykładu – ten sam zakres treści
Metody oceny:
W trakcie semestru są 3 krótkie kolokwia. Zaliczenie wymaga zdobycia ponad 50% całkowitej ilości punktów. Ocena końcowa zależy od ilości punktów wg. typowej skali (>50% to 3, >60% to 3.5, >70% to 4, >80% to 4.5, zaś >90% to 5)
Egzamin:
tak
Literatura:
1. Thomas M. Cover, Joy A. Thomas, Elements of Information Theory, Wiley 2006 2. David J.C. MacKay, Information Theory, Inference and Learning Algorithms, Cambridge University Press 2003 3. Z. Łukasik, Teoria informaji i sygnałów, Radom: Politechnika Radomska Wydawnictwo, 2012 4. B. Schneier, Kryptografia dla praktyków, Wydawnictwa Naukowo-Techniczne 2002 5. K. Huang, Podstawy fizyki statystycznej, Wydawnictwo Naukowe PWN 2006
Witryna www przedmiotu:
brak
Uwagi:
brak

Efekty uczenia się

Profil ogólnoakademicki - wiedza

Efekt PZTI_W01
Ma podstawową wiedzę w zakresie teorii informacji.
Weryfikacja: kolokwium
Powiązane efekty kierunkowe: FT2_W02
Powiązane efekty obszarowe: X2A_W02, T2A_W01, T2A_W02
Efekt PZTI_W02
Zna podstawowe zastosowania teorii informacji w fizyce i jej związki z termodynamiką.
Weryfikacja: kolokwium
Powiązane efekty kierunkowe: FT2_W03
Powiązane efekty obszarowe: X2A_W03, X2A_W04, X2A_W05, T2A_W03, T2A_W04, InzA_W02, InzA_W05

Profil ogólnoakademicki - umiejętności

Efekt PZTI_U01
Potrafi operować pojęciami teorii informacji w praktyce i dokonywać związanych z nimi obliczeń.
Weryfikacja: kolokwium
Powiązane efekty kierunkowe: FT2_U06, FT2_U07
Powiązane efekty obszarowe: X2A_U02, X2A_U04, T2A_U09, X2A_U06, T2A_U07
Efekt PZTI_U02
Umie wykorzystać teorię informacji do opisu zjawisk lub rozwiązywania problemów.
Weryfikacja: kolokwium
Powiązane efekty kierunkowe: FT2_U16, FT2_U17
Powiązane efekty obszarowe: X2A_U01, X2A_U02, T2A_U17, InzA_U06, X2A_U02, T2A_U18