【Whalepaper第29期】深度学习分享:Mutual Information Neural Estimation

595未经授权,禁止转载
机器学习算法CV神经网络互信息估计生成对抗网络监督学习信息瓶颈随机梯度下降模式崩溃编码器解码器kl散度
本视频介绍了如何利用神经网络来估计两个高维随机变量之间的互信息,并将其应用于生成对抗网络(GAN)和监督模型中以提高模型性能。在GAN中,通过最大化生成器输出与目标分布之间的互信息,可以解决模式崩溃问题,增加生成样本的多样性。在监督模型中,通过最小化输入和特征表示之间的互信息,可以实现信息瓶颈,提取与预测任务最相关的特征。此外,还讨论了两种对偶表达式及其算法实现,以及如何减少梯度偏差。这些方法适合对深度学习、生成模型和特征提取感兴趣的技术人员和研究人员。
讨论{{interaction.discussNum ? '(' + interaction.discussNum + ')' : ''}}
ad
发布
头像

{{ item.user.nick_name }} {{ EROLE_NAME[item.user.identity] }}

置顶笔记
讨论图
{{ item.create_time }}回复
  • 删除

    是否确认删除?

    确认
    取消
  • {{ item.is_top == 1 ? '取消置顶' : '置顶'}}

    已有置顶的讨论,是否替换已有的置顶?

    确认
    取消
{{ tag.text}}
头像
{{ subitem.user.nick_name }}{{ EROLE_NAME[subitem.user.identity] }}
{{ subitem.create_time }}回复
删除

是否确认删除?

确认
取消
发布
{{pageType === 'video' ? '讨论区抢占沙发,可获得双倍学分' :'讨论区空空如也,你来讲两句~'}}
发布
{{tips.text}}
{{ noteHeaderTitle }} 笔记{{ hasMyNote ? '我的笔记' : '记笔记' }}
{{ hasMyNote ? '我的笔记' : '记笔记' }}
优质笔记
更新于:{{ $dayjs.formate('YYYY-MM-DD HH:mm:ss', item.last_uptime*1000) }}
头像
{{ detail.username }}

公开笔记对他人可见,有机会被管理员评为“优质笔记”

{{ noteEditor.content.length }}/2000

公开笔记
保存
讲师头像
Datawhale
Datawhale 是一个专注于数据科学与 AI 领域的开源组织,汇集了众多领域院校和知名企业的优秀学习者,聚合了一群有开源精神和探索精神的团队成员。Datawhale 以「for the learner,和学习者一起成长」为使命,鼓励真实地展现自我、开放包容、互信互助、敢于试错和勇于担当。同时 Datawhale 用开源的理念去探索开源内容、开源学习和开源方案,赋能人才培养,助力人才成长,建立起人与人、人与知识、人与企业和人与未来的联结。
TA的视频
接下来播放:
自动连播