数学建模及应用论文选题方向

最小二乘支持向量机的改进及其在化学化工中的应用作者：陶少辉专业：化学工程与技术导师：陈德钊 胡望明学位：博士单位：浙江大学分类：TQ02主题：最小二乘 支持向量机 建模 化工过程时间：2006年09月01日页数：1-116浏览：在线阅读 全文下载内容摘要最小二乘支持向量机 (least squares support veotor maohine,LSSVM)是一种遵循结构风险最小化 (structural risk minimization,SRM) 原则的核函数学习机器,近年来化学、化工领域的应用日益广泛本文以LSSVM在实际应用中的若干问题为主线,针对其应用中存在的高维数据降维、超参数选择和稀疏性等问题,提出了若干新算法,并应用于化学物质结构与性质问关系、化工生产过程等实际问题建模,效果显著全文的主要内容可以归结为以下六个部分,其中包括了研究工作所取得的主要成果 1、系统回顾了统计学习理论和支持向量机的发展历史、研究现状与应用领域;介绍了支持向量机原理,及其应用中存在的一些问题 2、针对支持向量机解决非线性分类问题时,必须先将样本向量由原空间映射至高维重建核 Hilbert 空间的特点,利用核函数技术将线性的分类相关分析算法拓展至高维的重建核 Hilbert 空间,此即非线性分类相关分析 (nonlinearolassification oorrelative analysis,NLCCA) 算法最后,将 NLCCA 与线性支持向量分类器 (linear support vector olassifier,LSVC) 集成得到NLCCA-LSVC,并应用于两个典型的复杂化学模式识别问题 3、对于小样本的LSSVM函数回归问题,在快速留一法的基础上,以全样本的留一预测误差平方和sse为目标,导出了sse对超参数的梯度,并据此以最速下降法优选超参数,构建G-LSSVM模型最后将之用于一个小样本、非线性柠檬酸发酵过程建模问题 4、由于神经网络、LSSVM等经验模型的精度完全依靠测量数据,导致经验模型不能将实际过程的先验知识融合在内,所以模型的预报有时会与过程机理相矛盾针对二元恒温(恒压)汽液平衡体系的汽相组成计算问题,为解决这一问题,在胡英等人工作基础上,将Gibbs-Duhem方程与多层前传神经网络和LSSVM结合,建立了融入先验知识的汽相组成计算混合模型,使得计算结果受Gibbs-Duhem 方程约束最后混合模型被应用于2个实际二元汽液平衡体系的计算 5、由于计算经验风险的损失函数为二次函数形式,LSSVM丧失了标准支持向量机的稀疏性,导致其训练完毕之后,用于分类时效率降低;为使LSSVM具有稀疏性,本文从统计分析的角度出发,选取训练样本中分类作用最大的若干样本个体作为支持向量,并将非支持向量上的分类信息转移至支持向量上,提出了新的LSSVM稀疏化算法,最后将两种新的LSSVM稀疏化应用于若干实际分类问题另外,本文提出的稀疏化算法可直接应用于多类问题 6、本文利用核函数矩阵的奇异值分解,得到了可以节省超参数选取时间的分类器:SVD-LSSVMSVD-LSSVM用奇异值贡献率来平衡经验风险与LSSVM的模型复杂度,从新的途径实现了SRM原则 论文还分析了研究工作的不足,并展望了今后的发展全文目录文摘英文文摘第一章绪论1引言2常用经验建模方法3经验建模的若干问题4本文研究内容及组织第二章最小二乘支持向量机1研究背景1统计学习理论简介2支持向量机原理3 SVM在实际应用中的若干问题2 LSSVM原理1两类LSSVM分类器2多类LSSVM分类器3用于函数回归的LSSVM3 LSSVM在实际应用中的若干问题1海量样本的LSSVM训练算法2 LSSVM超参数选择3稀疏LSSVM4加权LSSVM5对LSSVM的其它改进4 LSSVM的应用5本章小结第三章基于核函数的非线性分类相关分析1维数灾难和降维策略发展概况2分类相关分析算法3基于核函数的非线性CCA算法1 CCA算法步骤的改写2基于核函数的非线性CCA3 NLCCA与线性支持向量分类器的集成4对于2个复杂化学模式分类问题的应用1样本数据说明2分类器的建立3分类器的性能分析5本章小结第四章LSSVM超参数选取的梯度法1化工过程建模的意义2梯度下降法选取LSSVM超参数1算法原理和步骤2算法测试3 G-LSSVM模型在柠檬酸发酵过程建模中的应用1柠檬酸发酵过程简介2柠檬酸发酵过程的G-LSSVM建模4本章小结第五章二元汽液平衡计算的混合模型1先验知识1先验知识的定义2先验知识与机理模型和经验模型之间的关系2学习机器与先验知识混合的模型1 ANN与先验知识的混合2 SVM与先验知识的混合3汽液平衡计算1汽液平衡计算的常用方法2汽液平衡计算的无模型法4 Gibbs-Duhem方程与学习机器混合建模5对于两个二元汽液平衡体系的应用6本章小结第六章基于统计分析的LSSVM稀疏化1基于统计分析的LSSVM稀疏化算法基本思想1样本个体的分类重要性2非支持向量的信息转移2两种稀疏化算法3算法的测试与分析4稀疏化算法的实际应用5本章小结第七章基于核函数矩阵SVD分解实现SRM原则1非线性模式分类与RKHS线性回归2简化LSSVM3 SVD求解线性回归问题4 SVD-LSSVM算法及其分析1算法步骤2对SVD-LSSVM交叉验证的分析3 SVCR值对SVD-LSSVM分类性能的影响5算法应用6本章小结第八章总结与展望1全文工作总结2存在的不足3工作展望参考文献致谢作者攻读博士学位期间撰写的论文和参与的项目