摘要慢特征分析是从快变的复杂信号中提取慢特征的一种非监督学习算法，在模拟生物神经元工作特性、特征提取、不变量学习、分类、回归、信号分离等领域都取得了成功的应用，并发展成为一种通用的学习方法。本文在对算法理解和实现的基础上，进行盲源信号分离和数值稳定性的仿真实验，并对实验结果进行分析。首先，本文在盲源信号分离实验时，分别对简单信号和复杂动物声音信号的非线性混合信号进行分离。通过将源信号与分离信号对比，发现输出信号与源信号高度相似，从而验证了慢特征分析算法在非线性盲源分离领域应用的有效性和可行性。另一方面，针对慢特征分析实现的数值稳定性，发现在输入高文信号时，传统慢特征分析算法有时不能正确地提取特征，而基于奇异值分解的改进慢特征分析算法，则可以避免这种不稳定性。31029
毕业论文关键词 慢特征分析 非线性 信号分离 奇异值分解
Title Algorithmic implementation and verification of slowfeature analysis
Abstract Slow feature analysis is an unsupervised learning algorithm for slow featureextraction from the complex and fast-changing signal，it has achievedsuccessful application in modeling biological neurons, feature extraction,classification, regression, invariant, learning, signal separation andother fields. Now，slow feature analysis has become a kind of generallearning method.This thesis，based on the understanding and implementationof the algorithm，carries out the simulation experiments of the blind sourceseparation and the numerical stability and do some analysis on the results.Firstly，for blind source separation, this thesis respectively does theseparation of nonlinear mixed signal of simple signal and complex animalsound signal. By comparing the source signal and the separated signals, itis found that the output signal and the source signals are highly similar,which verifies the validity and feasibility of the application of Slowfeature analysis in nonlinear blind source separation. On the other hand,in the light of the numerical stability of slow feature analysisimplementation, it is found that the traditional slow feature analysisalgorithm cannot correctly extract the feature all the time when the inputsignal is high dimension, but a slow feature analysis algorithm based onsingular value decomposition(SVD) can avoid the instability.
Keywords Slow feature analysis Nonlinear Signal separation Singularvalue decomposition
目次
1引言1
1.1研究背景及意义1
1.1.1机器学习给人们带来的益处1
1.1.2机器学习算法1
1.2慢特征分析与独立成分分析.2
1.3慢特征分析在国内外的研究进展.2
1.4小结.3
1.5本文工作与组织安排.3
2慢特征分析3
2.1慢特征的含义3
2.2慢特征分析算法简述.4
2.3慢特征分析算法基本原理.4
2.3.1算法总结5
2.4基于奇异值分解的慢特征分析算法.5
2.4.1关于奇异值分解5
2.4.2算法总结6
2.5本章小结.7
3仿真实验7
3.1盲源信号分离实验.7
3.1.1实验一：自定义源信号.7
3.1.2实验二：源信号为水下动物的声音信号12
3.1.3小结14
3.2数值稳定性实验.14
3.2.1关于驱动力和SFA-TK.14
3.2.2实验验证15
3.2.3小结21
4反思与展望21
结论22
致谢23
参考文献24
1 引言慢特征分析算法（Slow Feature Analysis，简称 SFA）最早是由Wiskott 和Sejnowski 提出的一种用于信号处理的方法，该算法可以从复杂的多文时间序列中提取缓慢变化的信号。在这之前，Wiskott 的想法是把它作为一种在脊椎动物的视觉系统中的不变量的无监督学习模型。慢特征分析算法与其它在线学习的方法不同，它不仅能够保证得到全局最优解[1]，而且能够同时得到变化速率从小到大排列的一系列特征。近十几年来，慢特征分析算法已成功应用于众多不同的任务。例如模拟在生物视觉中大脑是如何通过得到的观感信号提炼出平移、旋转、 缩放、 光照等不变量的抽象表示； 模拟视觉皮层中复杂细胞的各种功能特性如何产生[2]；对人体动作的识别[3]；对手写数字进行分类，并从非平稳时间序列中提取驱动力[4]。1.1 研究背景及意义1.1.1 机器学习给人们带来的益处随着计算机技术的发展，人们现在已经拥有存储和处理海量数据以及通过计算机网络从远程站点访问数据的能力。但只有分析这些数据，并且将它们转化为可用的信息，这些存储的数据才真正有用，例如做预测。人们也许不能完全解释观测到的数据，但是人们相信能够构造一个好的并且有用的近似，这样的近似不能解释一切，但其仍然可以解释数据的一部分，这就已经能为人们巨大的益处。这正是机器学习的定位[5]。机器学习方法在大型数据库中的应用称为“数据挖掘”[6]，在其中需要处理大量的数据以构建简单有用的模型，数据挖掘应用的领域非常广泛，比如在金融业，银行分析他们的历史数据构建用于信用分析、诈骗检测、股票市场等方面的应用模型。 慢特征分析的算法实现与验证:http://www.751com.cn/jisuanji/lunwen_27044.html