| Ders Kodu | Ders Adı | Teorik | Uygulama | Laboratuvar | Yerel Kredi | AKTS |
|---|---|---|---|---|---|---|
| ST5127 | BİLGİ TEORİSİ | 3,00 | 0,00 | 0,00 | 3,00 | 6,00 |
| Dersin Dili | : | Türkçe |
|---|---|---|
| Dersin Seviyesi | : | Yüksek Lisans |
| Dersin Tipi | : | Seçmeli |
| Ön Koşullar | : | Yok |
| Dersin Amacı | : | Bu dersin amacı; lisansüstü öğrencilere bilgi ve belirsizliğin miktarını belirleme becerisi kazandırmak, veri işleme ve haberleşme problemlerine bilgi teorisini uygulayarak çözüm üretebilecek seviyeye getirmektir. |
| Dersin İçeriği | : | Bilgi teorisi, veriler üzerindeki işlemlerin bilimidir. Bilgi teorisi, haberleşme teorisindeki temel soruları yanıtlarken, fizik (istatistiksel mekanik), matematik (olasılık teorisi), elektrik mühendisliği (iletişim teorisi), ekonomi (optimal yatırım) ve bilgisayar bilimi (algoritmik karmaşıklık) ile kesişir. Bu ders bilgi teorisine bir giriş sağlar. İlk olarak bilgi ölçütleri: entropi, karşılıklı bilgi, bağıl entropi ve diferansiyel entropi incelenir. Daha sonra, kayıpsız veri sıkıştırma, Huffman kodlaması, asimptotik eş bölme özelliği, kanal kapasitesi, Gauss kanalları ve oran bozulma teorisi dahil olmak üzere haberleşme, sıkıştırma ve çıkarımdaki pratik problemlerle bağlantıları sunulur. |
| Dersin Kitabı / Malzemesi / Önerilen Kaynaklar | : | Elements of Information Theory, 2nd Ed., T.M. Cover, J.A. Thomas, Wiley, 2006.
Information Theory, Inference and Learning Algorithms, David J. C. MacKay, Cambridge University Press, 2003. |
| Planlanan Öğrenme Etkinlikleri ve Öğretme Yöntemleri | : | . |
| Ders İçin Önerilen Diğer Hususlar | : | . |
| Dersi Veren Öğretim Elemanları | : | Dr. Öğr. Üyesi Nurhan Güneş |
| Dersi Veren Öğretim Elemanı Yardımcıları | : | . |
| Dersin Verilişi | : | . |
| En Son Güncelleme Tarihi: | : |
| Ders Kodu | Ders Adı | Teorik | Uygulama | Laboratuvar | Yerel Kredi | AKTS |
|---|
| Teorik | Uygulama | Laboratuvar | Hazırlık Bilgileri | Öğretim Metodları | |
|---|---|---|---|---|---|
| 1.Hafta | *Entropi, Bağıl Entropi, Karşılıklı Entropi |
||||
| 2.Hafta | *Jensen ve Fano Eşitsizliği |
||||
| 3.Hafta | *Veri Sıkıştırma |
||||
| 4.Hafta | *Markov Zincirleri ve Fonksiyonları |
||||
| 5.Hafta | *Kraft Eşitsizliği |
||||
| 6.Hafta | *Huffman Kodları, Shannon-Fano-Elias Kodlama |
||||
| 7.Hafta | *Ayrık Dağılım Elde Etme |
||||
| 8.Hafta | *Sınav |
||||
| 9.Hafta | *The Horse Race
Gambling and Side Information
Dependent Horse Races and Entropy Rate
The Entropy of English
Data Compression and Gambling
Gambling Estimate of the Entropy of English
|
||||
| 10.Hafta | *Channel Capacity
Noiseless Binary Channel
Noisy Channel with Nonoverlapping Outputs
Noisy Typewriter
Binary Symmetric Channel
Binary Erasure Channel
Symmetric Channels
|
||||
| 11.Hafta | *Properties of Channel Capacity
Preview of the Channel Coding Theorem
Definitions |
||||
| 12.Hafta | *Kanal Kapasitesi ve Kodlama
Genişletilmiş Kanal
Sıfır Hata Kod
Birleşik Tipik Küme
|
||||
| 13.Hafta | *Hamming Codes
|
||||
| 14.Hafta | *Eklenir Kanal
Differential Entropy
Gaussian Channel
Bandlimited Channels
|
||||
| 15.Hafta | *Parallel Gaussian Channels
Channels with Colored Gaussian Noise
Gaussian Channels with Feedback
Rate Distortion |
| Aktiviteler | Sayı | Süresi(Saat) | Toplam İş Yükü |
|---|---|---|---|
| Final / Final | 1 | 2,00 | 2,00 |
| Ara Sınav Hazırlık / Preparation for midterm | 1 | 13,00 | 13,00 |
| Final Sınavı Hazırlık / Preparation for final | 1 | 13,00 | 13,00 |
| Vize / Midterms | 1 | 2,00 | 2,00 |
| Ödev / Assignment | 2 | 20,00 | 40,00 |
| Ders Öncesi Biresysel Çalışma / Individual study before lecture | 14 | 2,00 | 28,00 |
| Ders Sonrası Biresysel Çalışma / Individual study after lecture | 14 | 3,00 | 42,00 |
| Teorik Ders Anlatım / Theoretical Lecturing | 14 | 3,00 | 42,00 |
| Toplam : | 182,00 | ||
| Toplam İş Yükü / 30 ( Saat ) : | 6 | ||
| AKTS : | 6,00 | ||
| P.Ç. 1 | P.Ç. 2 | P.Ç. 3 | P.Ç. 4 | P.Ç. 5 | P.Ç. 6 | P.Ç. 7 | P.Ç. 8 | P.Ç. 9 | P.Ç. 10 | P.Ç. 11 | |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Ö.Ç. 1 | 5 | 2 | 5 | 2 | 1 | 1 | 5 | 5 | 5 | 5 | 5 |
| Ö.Ç. 2 | 5 | 2 | 5 | 2 | 1 | 1 | 5 | 5 | 5 | 5 | 5 |
| Ö.Ç. 3 | 5 | 2 | 5 | 2 | 1 | 1 | 5 | 5 | 5 | 5 | 5 |
| Ö.Ç. 4 | 5 | 2 | 5 | 2 | 1 | 1 | 5 | 5 | 5 | 5 | 5 |
| Ö.Ç. 5 | 5 | 2 | 5 | 2 | 1 | 1 | 5 | 5 | 5 | 5 | 5 |