增量式约简拉氏非对称ν型孪生支持向量回归机

TP181; 拉氏非对称ν型孪生支持向量回归机是一种泛化性能良好的预测算法,然而其并不适用于增量提供样本的场景.为此,提出了一种增量式约简拉氏非对称ν型孪生支持向量回归机(IRLAsy-ν-TSVR)算法.首先,引入正号函数,将有约束最优化问题转换成无约束最优化问题,并采用半光滑牛顿法在原始空间直接求解,以加快收敛速度.接着,利用矩阵求逆引理,实现半光滑牛顿法中Hessian矩阵求逆的高效增量更新,节省时间开销.然后,为了减少样本累积导致的内存消耗,使用约简技术分别筛选增广核矩阵的列向量和行向量以逼近原增广核矩阵,确保解的稀疏性.最后,在基准测试数据集上验证算法的可行性和有效性.结果表明,与一...

Full description

Saved in:
Bibliographic Details
Published in计算机科学与探索 Vol. 17; no. 11; pp. 2640 - 2650
Main Authors 张帅鑫, 顾斌杰, 潘丰
Format Journal Article
LanguageChinese
Published 江南大学 轻工过程先进控制教育部重点实验室,江苏 无锡 214122 10.11.2023
Subjects
semi-smooth Newton method
孪生支持向量回归机(TSVR)
在线学习
incremental learning
增量式学习
约简技术
reduced technology
半光滑牛顿法
twin support vector regression(TSVR)
online learning
Online AccessGet full text
ISSN1673-9418
DOI10.3778/j.issn.1673-9418.2207050

Cover

More Information
Summary:TP181; 拉氏非对称ν型孪生支持向量回归机是一种泛化性能良好的预测算法,然而其并不适用于增量提供样本的场景.为此,提出了一种增量式约简拉氏非对称ν型孪生支持向量回归机(IRLAsy-ν-TSVR)算法.首先,引入正号函数,将有约束最优化问题转换成无约束最优化问题,并采用半光滑牛顿法在原始空间直接求解,以加快收敛速度.接着,利用矩阵求逆引理,实现半光滑牛顿法中Hessian矩阵求逆的高效增量更新,节省时间开销.然后,为了减少样本累积导致的内存消耗,使用约简技术分别筛选增广核矩阵的列向量和行向量以逼近原增广核矩阵,确保解的稀疏性.最后,在基准测试数据集上验证算法的可行性和有效性.结果表明,与一些代表性算法相比,IRLAsy-ν-TSVR算法继承了离线算法的泛化性能,能够获得稀疏解,更适合大规模数据集的在线学习.
ISSN:1673-9418
DOI:10.3778/j.issn.1673-9418.2207050