【王顶】信息科学基础(上篇)(信息理论与编码)

学习本课程可以达到以下目标:1. 学习信息的概念和信息量的计算方法;2. 学习**通信系统模型;3. 学习信道容量的概念和信道容量的计算方法;4. 学习压缩编码的原理和常用压缩编码方法;5. 学习信道编码的原理和常用容错编码方法;

16448人学习

初级60课时2016/08/23更新

二维码下载学堂APP缓存视频离线看

王顶
  • 课程介绍
  • 课程大纲

适合人群:

1. 对信息理论感兴趣的在校学生或在职人员;2. 将从事计算机底层信息处理的软件工程师

你将会学到:

学习本课程可以达到以下目标:1. 学习信息的概念和信息量的计算方法;2. 学习**通信系统模型;3. 学习信道容量的概念和信道容量的计算方法;4. 学习压缩编码的原理和常用压缩编码方法;5. 学习信道编码的原理和常用容错编码方法;

课程简介:

课程地位:

信息论是信息科学中最成熟、最完整、最系统的一部分,以活跃、新颖的思路和高效解决问题的方法而显示出独特的魅力。它与其他学科的交叉和融合,促进了许多新学科的生长,展示出勃勃生机和巨大的发展前景。
信息论不仅在方法论的层面上解决通信的有效性和可靠性问题,而且在认识论的层面上帮助认识事物的本质。学完信息论之后,在重新审视一下周围的事物,会有许多新的看法和认识。用信息论可以宏观的认识某些政治问题,也可以定量的解决某些经济问题,还可以分析、解释外语学习中存在的问题……总之,信息论是高层次信息技术人才必不可少的基础知识。

课程内容:
本课程主要介绍香农狭义信息论,包括香农信息论三定理——信息的测度定理、信道容量定理、信息率失真函数定理,以及香农的三个基本编码定理——无失真信源编码定理、信道编码定理、限失真信源编码定理。以及信源和信道编码的基本方法。

课程目标:
学习本课程可以达到以下目标:
1. 学习信息的概念和信息量的计算方法;
2. 学习**通信系统模型;
3. 学习信道容量的概念和信道容量的计算方法;
4. 学习压缩编码的原理和常用压缩编码方法;
5. 学习信道编码的原理和常用容错编码方法;

适合对象:
1. 将从事计算机底层信息处理(例如:图像算法、压缩算法,等)的软件工程师;
2. 将从事通信工程领域的通信工程师;
 
学习条件:
1. 较好有大学的数学基础;


展开更多

课程大纲-【王顶】信息科学基础(上篇)(信息理论与编码)

  • 第1章前言和绪论(1小时59分钟7节)

  • 1-1

    什么是信息科学基础?信息科学的基础是三大论。三大论是二次世界大战以后发展起来的三个重要理论,都是什么呢?欲知详情,请看视频。

    [16:22]
  • 1-2

    什么是信息科学?信息科学是信息的科学,当然这样的定义过于简单,更准确的定义请见视频中的讲解。

    「仅限付费用户」点击下载“信息理论基础(第4版).pdf”

    [16:13]
  • 1-3

    本课程的特点本课程的特点有哪些呢?

    [20:58]
  • 1-4

    什么是信息?信息虽然无处不在,但是给信息下一个定义却有些难度,到底什么是信息呢?

    [16:45]
  • 1-5

    信息的性质和分类信息都有哪些性质呢?信息又有那些分类呢?

    [17:02]
  • 1-6

    什么是信息理论?信息理论诞生的背景如何?信息理论包含哪些内容呢?

    [17:54]
  • 1-7

    通信系统模型通信系统的模型是什么样的呢?如何使用这个模型呢?

    [14:20]
  • 第2章信息的统计度量(6小时27分钟22节)

  • 2-1

    自信息量的定义这是信息度量的第一个概念。信息是看不见摸不着的,这样的东西怎么衡量大小呢?是不是很玄啊!玄之又玄,众妙之门。具体内容,请见视频讲解。

    [26:57]
  • 2-2

    自信息量的单位自信息量有三个单位,分别是:hart,nat和bit。各有用途,具体什么场合用什么单位,请见视频讲解。

    [15:22]
  • 2-3

    自信息量的例题做几个例题吧,可以在看视频的时候,暂停一下,看看自己是否能独立作出例题,然后再播放视频,看看自己做的是否正确。

    「仅限付费用户」点击下载“计算器手机APP.zip”

    [19:51]
  • 2-4

    自信息量的性质自信息量函数都有哪些性质呢?

    [23:47]
  • 2-5

    互信息量定义互信息量开始度量流经信道的信息量了,用的方法也是间接度量,即,不确定度的度量。具体内容请见视频。

    [15:26]
  • 2-6

    互信息量的例题做几个例题练习一下吧,建议看视频之前准备好笔和草稿纸,在例题讲解之前暂停视频播放自己先尝试做一下例题,然后观看视频看看老师讲解的跟自己的是否相同,这样学习效果更好一些。

    「仅限付费用户」点击下载“计算器手机APP.zip”

    [17:29]
  • 2-7

    互信息量的性质1互信息量函数的可以为负、互易性,这些性质含义是什么?如何证明呢?

    [14:26]
  • 2-8

    互信息量的性质2互信息量的最大值和零值以及可加性这两个性质有什么含义呢?如何证明呢?

    [09:35]
  • 2-9

    熵的定义熵是热力学单位,在这里面用来衡量信息量,它是衡量什么信息量的呢?

    [23:20]
  • 2-10

    联合熵和条件熵熵概念的扩展,有联合熵和条件熵,他们的定义是什么呢?

    [16:19]
  • 2-11

    熵函数的性质1熵函数的非负性、对称性、确定性和扩展性,这四个性质,有什么含义,数学表达式是怎样的,又是如何证明的呢?

    [16:13]
  • 2-12

    熵函数的性质2熵函数的最大熵定理和可加性,两个性质,含义是什么呢,数学表达是什么,如何证明呢?

    [18:14]
  • 2-13

    熵函数的性质3熵函数的强可加性和极值性,两个性质,含义是什么呢,数学表达是什么,如何证明呢?

    [15:20]
展开更多
在线
客服
APP
下载

下载Android客户端

下载iphone 客户端

官方
微信

关注官方微信

返回
顶部