人工神经网络实际上是模拟生物神经网络,我们再回过头来看生物神经网络的特性一主要是视觉特性。
人在获取图像信息的时候,我们不是像计算机那样一个像素一个像素地读这样的读取方式往往仅限于机器处理图像的方式,不管是读取还是存储都仅限像素级,这种读取方式会把所有的信息都过滤一遍,但生物在识别或者说人类于物体的识别中是不需要做像素级的识别的,人们在生活中往往有这样的体验扫了一眼或瞥了一眼这个物体,大致能得到需要的信息,比如形状,颜色龙性质,这样经过大脑的数据大大减少,需要大脑处理的数据大大减少,对十处的数据来说,它不是一个固定像素的层级递减.大脑不关心像素,甚至连像素都不关注。
从用眼睛扫一眼物体到大脑感知啡勿体并做出判断,这个时间非常短。科学家很感兴趣,大脑为什么能这么快地处理图像或者动态视频,大脑按照什么规则过滤像素的呢?很自然,科学家们都想将这个原理本弄清楚,并弄到机器上去。那么快地识别物体并做出相应的反馈.在看稀疏编码之前,我们先来看一个新名词。
### 压缩感知
信号处理领域中的一个常见问题就是从二系列的采样中重建原本的信号。大致而言,由于不可能重建出未被采样的部分信号,所以这一任务是无法完全实现的,然而,通过借助对于信号(性质)的预先了解或合理假设,完美地通过一系刘采样重建原信号就成为厂可能。 随着科学的发展,数学家们逐步增进了如何做出合理假设的能力,开慢慢了解到在何种情况下可将这些假设一般化,推广化。从上面这段维基百科的解释中可以看到,信号处理领域的第一个问题就是采样,第二个问题就是重建完整信号。我们先来看看第一个问题。
### 如何采样
理论上,为了确保信号重建的准确度,需要令所采用的取样矩阵各行列之间相干性尽量低,且须矩阵元素取值随机性尽量高。
考虑到以上原因,最为标准的做法是采用相同独立分布随机高斯矩阵(identical independent distributed random Gaussian matrix)对待处理信号进行取样,即可确保在信号具有足够稀疏性的前提下得到较佳的压缩感知重建效果。
但是在采用相同独立分布随机高斯矩阵时,所需要的数据存储量过于庞大一每个矩阵元素都要单独记录,且数据类型一般为浮点数一一这就促进了简化政样矩阵的研究,目前,被提出的简化取样矩阵主要包括两种:结构简化采样矩阵与数值简化采样矩阵.
网友评论