当前位置: 首页 > news >正文

斯坦福大学11月份的论文《NECST:Nerual Joint Source-Channel Coding》

文章简要概括:文中提出了一种神经纠错和信源修剪码(NECST:Neural Error Correcting and Source Trimming),即通过端到端的方式去学习联合编码和解码。

针对于如何将图像数据编码为比特流,使得其能够在带噪通信信道中进行可靠地传输这一问题,香农的结论是对于一个无记忆信道,当图像大小趋于无穷时,最好地方法是将信源编码(去冗余,尽可能压缩)和信道编码(抗干扰,加入冗余)这两个过程分离开来。然而,当在有限比特长度的情况下,香农的这一分离方法面临两大限制,一方面,没有了无限长的比特数用于传播,整体的失真(即重建质量)成了信源编码和信道编码误差两者的函数,如何给两个过程分别分配多少比特数,以及码的自身设计成了一个极其困难的问题。另一方面,最大似然解码通常是NP难的。

而NECST是一个在给定比特长度下,去联合地学习如何压缩和纠错输入图像的深度学习框架。主要分为三个步骤:(1)使用NN将每个图像编码成一个合适的比特流表示,从而回避了通过手工设计的编码方案,后者为了好性能,通常需要额外的微调;

(2)在模型中仿真了一个离散信道,并给隐码(latent code)直接加入了噪声来确保鲁棒性;

(3)将解码过程分摊(amortize),从而可以扩展到大规模数据集。

但由于离散随机隐变量的不可微性,文中采用了无偏差低方差梯度估计的相关新技术,通过将图像和它们的二元(比特流)表示间的互信息的变分下界作为目标函数,从而训练模型来获得鲁棒的码。NECST也可以看作一个隐式生成模型。

文中最后在灰度图和RGB图像数据集上进行了实验,相对于工业标准压缩(如JPEG)和纠错码(如LDPC码),NECST有了显著的性能提升。同时,解码部分,和基于迭代置信传播的标准解码算法相比,NECST速度有了一个数量级的提升,在GPU上则有两个数量级的提升。而且,其学习到的离散表示可以用于下游任务如分类。

编码过程:\sum

 

转载于:https://www.cnblogs.com/SmartCommunication/p/10125511.html

http://www.xdnf.cn/news/838531.html

相关文章:

  • 知识 | 你给英文杂志投稿时,知道各种Editor是什么吗?
  • MySQL中 replace与replace into的区别与使用方法(干货分享)
  • vb-listbox用法
  • Design pattern 第一讲 基础知识
  • Three.js进阶篇之2 - 动画
  • ARM处理器选型指南:选ARM7还是选Cortex-M3 ?
  • 使用django实现京东部分商品数据的爬虫并存入自带的sqlite数据库
  • Quartz之基本使用
  • equals方法与hashCode方法
  • 25款最好的数据恢复软件测评分析与对比
  • synchronized
  • Scale和Resolution的含义及转换算法
  • CRM 系统详解:定义、功能与应用全解析
  • 不看后悔!国内外程序员接单平台大合集!带你一次性了解各个热门接单平台!
  • Unable to open sync connection!(转)
  • 0基础小白学C语言看这一篇就够了(C语言详讲万字!!!)
  • 【愚公系列】用友系列之YonBuilder低代码平台概论和基本使用
  • Linux使用Backspace(消除键)键时出现^H 解决方法
  • 软件测试 —— 冒烟测试(Smoke Test,ST)_软件测试行业 冒烟用例
  • RBI远程浏览器隔离技术
  • 关于Applets
  • 错误应用程序 httpd.exe_错误模块 php5ts.dll,apache+php环境,时遇到php5ts.dll错误
  • app跳转到京东的某个页面
  • 书友必备EPUB阅读软件
  • 绘图软件:Autodesk AutoCAD 2012 简体中文正式版下载(32/64位)+有效破解激活注册机
  • 【Stable diffusion教程】AutoDL云部署超详细步骤说明【外婆都会】
  • Struts2之拦截器(拦截客户端对Action访问)
  • 学习python需要多长时间?
  • 前端中高级知识要点总结(3w+长文)
  • 相册管理系统|基于Springboot+Vue实现前后端分离的相册管理系统