的是表征问题的一个稳定点
，然
后依次进行分析图像的结构
．对这种认知模式，在李
群结构中
，最小生成元就是这个稳定点，只要找到这
个最小生成元
，就可以利用李群方法对图像进行分
析
第
３３卷 第７期
２０１０
年７月
计
算 机 学 报
ＣＨＩＮＥＳＥＪＯＵＲＮＡＬＯＦＣＯＭＰＵＴＥＲＳ
Ｖｏｌ．３３Ｎｏ．７
Ｊｕｌｙ２０１０
收稿日期
：２００９０３０９；最终修改稿收到日期：２０１００６２１．本课题得到国家自然科学基金（６０７７５０４５）资助．李凡长，教授，主要研究领域为
李群机器学习
、人工智能、数据挖掘等．Ｅｍａｉｌ：ｌｆｚｈ＠ｓｕｄａ．ｅｄｕ．ｃｎ．何书萍，助教，主要研究方向为李群机器学习、人工智能等．钱旭培，讲
师
，主要研究方向为李群机器学习、人工智能等．
李群机器学习研究综述
李凡长
何书萍 钱旭培
（
苏州大学计算机科学与技术学院机器学习与数据分析研究中心 苏州 ２１５００６）
摘
要 文中简述了李群机器学习的相关研究内容，包括李群机器学习的概念、公理假设、代数学习模型、几何学
习模型
、Ｄｙｎｋｉｎ图的几何学习算法、量子群、辛群分类器的设计、轨道生成学习算法等．
关键词
李群机器学习；公理假设；李群；分类器
中图法分类号
ＴＰ１８ 犇犗犐号：１０．３７２４／ＳＰ．Ｊ．１０１６．２０１０．０１１１５
犛狌狉狏犲狔狅狀犔犻犲犌狉狅狌狆犕犪犮犺犻狀犲犔犲犪狉狀犻狀犵
ＬＩＦａｎＺｈａｎｇ
ＨＥＳｈｕＰｉｎｇ ＱＩＡＮＸｕＰｅｉ
（
犛犮犺狅狅犾狅犳犆狅犿狆狌狋犲狉犛犮犻犲狀犮犲犪狀犱犜犲犮犺狀狅犾狅犵狔，犕犪犮犺犻狀犲犔犲犪狉狀犻狀犵犪狀犱犇犪狋犪犃狀犪犾狔狊犻狊，犚犲狊犲犪狉犮犺犆犲狀狋犲狉，犛狅狅犮犺狅狑犝狀犻狏犲狉狊犻狋狔，犛狌狕犺狅狌 ２１５００６）
犃犫狊狋狉犪犮狋
ＴｈｉｓｐａｐｅｒｓｕｍｍａｒｉｚｅｓｔｈｅｒｅｌｅｖａｎｔｒｅｓｅａｒｃｈｏｆＬｉｅｇｒｏｕｐｍａｃｈｉｎｅｌｅａｒｎｉｎｇ，ｉｎｃｌｕｄｉｎｇ：
ｃｏｎｃｅｐｔｉｏｎｓｏｆＬｉｅｇｒｏｕｐｍａｃｈｉｎｅｌｅａｒｎｉｎｇ
，ａｓｓｕｍｐｔｉｏｎａｘｉｏｍｓ，ａｌｇｅｂｒａｌｅａｒｎｉｎｇｍｏｄｅｌ，ｇｅｏｍｅｔ
ｒｉｃｌｅａｒｎｉｎｇｍｏｄｅｌ
，ｇｅｏｍｅｔｒｉｃｌｅａｒｎｉｎｇａｌｇｏｒｉｔｈｍｓｏｆＤｙｎｋｉｎｄｉａｇｒａｍ，ｌｅａｒｎｉｎｇａｌｇｏｒｉｔｈｍｓｏｆｏｒ
ｂｉｔｓｇｅｎｅｒａｔｅｄａｎｄｓｏｏｎ．Ｅｓｐｅｃｉａｌｌｙ
，ｔｈｉｓｐａｐｅｒｇｉｖｅｓｏｕｔｓｐｅｃｉｆｉｃｄｅｓｉｇｎｏｆｑｕａｎｔｕｍｇｒｏｕｐｃｌａｓｓｉ
ｆｉｅｒａｎｄｓｙｍｐｌｅｔｉｃｇｒｏｕｐｃｌａｓｓｉｆｉｅｒ．
犓犲狔狑狅狉犱狊
Ｌｉｅｇｒｏｕｐｍａｃｈｉｎｅｌｅａｒｎｉｎｇ；ａｓｓｕｍｐｔｉｏｎａｘｉｏｍ；Ｌｉｅｇｒｏｕｐ；ｃｌａｓｓｉｆｉｅｒ
１
引 言
李群机器学习
（ＬｉｅＧｒｏｕｐＭａｃｈｉｎｅＬｅａｒｎｉｎｇ，
ＬＭＬ
）作为机器学习领域的一种新的学习方法，一
方面继承流形学习的优点
，另一方面借用李群的思
想
，形成了具有创新特色的学习范式．自２００４年提
出至今
［１４７］，已引起加拿大、爱尔兰、芬兰、意大利、
美国等国内外同行的广泛关注
．该方法和流形学习
方法相比有明显优势
，从李群的概念可以看出，它包
含了微分流形和群的内容
；微分流形包含了拓扑流
形和微分结构
．这套理论系统，既给我们提供了描述
数据的几何表示方法
，又给出了具体的代数求解方
案
．如：群保持了系统的完备性，微分提供了具体的
代数计算方法
，流形给出了几何表示方法，这正符合
认知理论中的定性和定量表示相结合的认知模式
．
另外
，从认知过程来看，人脑在认识客观世界中的任
何对象时
，首先关注的是表征问题的一个稳定点，然
后依次进行分析图像的结构
．对这种认知模式，在李
群结构中
，最小生成元就是这个稳定点，只要找到这
个最小生成元
，就可以利用李群方法对图像进行分
析了
．因此，李群机器学习既符合学习认知规律，又
满足计算机解决现实问题的条件
．
文献
［３１］提出了基于李群理论的一个贝叶斯方
法来学习视觉感知
，运用基于指数矩阵的图形生成
模型
，从包含极小变换的输入数据得到一个学习李
群算子的非监督学习算法
．文献［３２］使用运动表示
的内在李群结构来求平均
，用特殊正交群ＳＯ（３）和
特殊欧几里得群
ＳＥ（３）的李代数来定义李群上的平
均值
．提出了全局相容运动估计的李代数求均值法，
此方法能够线性计算所有可能的相对运动以及对运
动估计快速求平均
．文献［３３］提出了一种新的二维
轮廓的不变特征不变信号
．它是对在从李群变换群
中得到的许多变换下的轮廓不变程度的度量
，其中
李群理论提供了在一个变换动作下
，点位置的局部
变换和此变换的全局描述的一种联系
，并提供了自
然的起始点
，说明了不变信号在转移、旋转和轮廓缩
放后本身保持不变
．文献［３４］用李群方法来寻找特
征空间中的健壮和稳定特性
，提出了基于李群理论
的支配子空间不变量的概念和拟不变量的一种特殊
类型
，并给出了支配子空间不变量（ＤＳＩ）算法．文献
［
３５］给出了一种由有噪声的二维图像流对三维刚体
运动进行神经计算的新方法
．将对三维图像流解释
看成是一个线性信号变换
，由神经网络来执行，其基
本信号是三维欧几里得群的
６个极小生成子的二维
矢量场
．神经网络模拟结果表明，在随机噪声导致传
统的代数方法失败时
，此方法仍能保证其可靠性．文
献
［３６］给神经系统的权空间赋予了一个特殊李群结
构
，用李群的微分几何结构来学习这些属性并揭露
不同学习方法间内在属性的联系
，从而提出了基于
李群的非监督神经学习
．文献［３７］提出了在Ｓｔｉｅｆｅｌ
流形上基于测地线和接近于测地线的曲线簇
（拟测
地线
）的新的神经网络学习算法，详细地解释了李群
本身的梯度和测地线如何导出其在齐性空间上的对
应
，强调了李群而非正规化约束在这个流形上的作
用
．文献［３８］提出了图像分析中的约束主轮廓进化
的李群方法
．在此方法中，使用平面作用的李群及其
极小生成子的李代数的对应关系适当地调整欧拉
拉格朗日下降方法
，以此保证在保持原函数的下降
方程不变时
，曲线进化发生在被选变换群的轨道上，
此方法的优点在于无需任何修改就能直接实现曲线
进化
，在许多跟综和分割的应用中起到了重要作用．
文献
［３９］引入一个能够在分布式控制网络上执行的
线性算子类
，称为回归正交变换（ＲＯＴＳ）．ＲＯＴＳ可
以表示特殊正交群
ＳＯ（狀）（狀４），通过对其对应的
内在的李群结构中提取梯度流来找到一个适合工作
的
ＲＯＴ．文献［４０５４］提出了新的度量学习问题的
框架结构
，将候选度量集限制在一个参数族中，此度
量是在一个李群变换下的模糊的信息量的拖回度
量
．文献［４１］提出了机器学习中的群论和非交换调和
分析相结合的一种学习问题研究框架
，给出了群作用
下核不变量的对称理论
、在傅立叶谱下群定向核的转
换不变量的特性及置换学习的
Ｐｅｒｍｃｅｐｔｒｏｎ算法等
相关内容
．
本文第
２节介绍李群机器学习的基本概念；
第
３节介绍李群机器学习的公理假设；第４节介绍
李群机器学习的学习模型
；第５节介绍李群机器学
习中的
Ｄｙｎｋｉｎ图几何学习算法；第６节介绍李群机
器学习的分类器设计
；第７节介绍李群机器学习子
空间轨道生产学习算法
；第８节给出结论与展望．
２
李群机器学习的基本概念
先对李群做些说明
．
定义
１． 设犌是一个非空集合，满足
（
１）犌是一个群；
（
２）犌也是一个微分流形；
（
３）群的运算是可微的，即由犌×犌到犌的映射
（
犵１，犵２）!犵１犵２－１是可微的映射．
则称
犌是一个李群（Ｌｉｅｇｒｏｕｐ）．
从李群的定义可以看出
：李群既是一个群，同时
也是一个微分流形
．我们知道，流形是点、线、面以及
各种高维连续空间概念的推广
，而我们在用机器学
习方法分析数据时
，所有观测数据都是可以和点、
线
、面等结构建立起对应关系的．从流形的角度，文
献
［１８］给出了大量的工作．李群是一种特殊流形，
已被物理学家
、化学家广泛使用，这充分说明在大量
的物理
、化学数据中蕴涵李群规律，因此，用李群方
法去分析这些数据的规律已成为一种必然
．所以，文
献
［１０１２］充分应用计算机科学与人工智能技术方
法从机器学习角度出发
，引进李群理论，给出了一种
机器学习新方法
，即李群机器学习的基本概念，为处
理这些复杂的数据提供了新途径
．
定义
２（李群机器学习）． 一般用犌表示输入
空间
，犕表示输出空间．令犌!
犇
，犕!
犱
，犇＞犱，
借用李群的定义将
犌对犕的左作用可用如下映射
φ
表示：
φ：犌×
No comments:
Post a Comment