大规模网络对初始条件不敏感、可学习更复
杂的数据,且具有更好的健壮性,但它易出现过拟合
现象,导致泛化能力降低
[PDF]下载PDF全文 - 软件学报
www.jos.org.cn/ch/reader/create_pdf.aspx?file_no...
轉為繁體網頁
轉為繁體網頁
计算机研究与发展!""#$%%%&$’()!*#$$&$+++!,-
./01234/5*/670891:9;931<=32>?9@94/76928 A(()):$B%)"$B$A,’%%B
收稿日期:’%%CD$’D%B;修回日期:’%%BD%CD$B
基金项目:国家自然科学基金项目(B%(+(%’));教育部博士点基金项目(’%%’%%%A%’%);北京交通大学科技基金项目(’%%C:*%AA)
修剪算法的信息几何分析
刘蕴辉罗四维黄华李爱军
(北京交通大学计算机与信息技术学院北京$%%%AA)
(6/028E83F#’B(E298)
!"#$%&’()$"*+$&+(%),-"’./0)0$#1%2")"3-.3$%)(4&
GF0H02=0F,G0/"FI9F,J032KJ03,32>GFLFM02
(!"#$$%$&’$()*+,- N./&$-(0+1$/2,"#/$%$34,5,161/3710$+$/38/19,-:1+4,5,161/3$%%%AA)
-50(%’,( -102F2K34K/1F8=6F;32F67/18328698=/>8/;980732>/78F6FO98=9;810<8019/5290134298I/1P
6/>94E,=919;931<=/27102F2K2/I3>3Q;6/;84Q5/<0;9;/28=934K/1F8=6>9;<1F78F/2I=F4949;;955/18F;
;7928/2F8;F663292869<=32F;6E:9;931<=/2F8;69<=32F;6<3271/@F>98=9/198F<34R3;F;5/17102F2K
;81389KQE,=9F663292869<=32F;6/57102F2KF;3234QO9>R3;9>/2F25/1638F/2K9/6981Q32>3;98/5
8=9/198F<349S743238F/2/57102F2KF;KF@92E,=97102F2K71/<9;;F;>97F<89>3;3;91F9;/5F25/1638F/2
71/M9<8F/2;51/68=9<0119286/>94632F5/4>8/F8;;0R632F5/4>;08F4FOF2K8=9=F9131<=F<34;810<8019/5290134
632F5/4>731369891;73<9EL29I7102F2K34K/1F8=6F;719;9289>R3;9>/28=98=9/198F<343234Q;F;32>F8;
@34F>F8Q32>8=9955F<F92<QF;@91F5F9>RQ9S791F6928;E
6+/7$%80 7102F2K;F25/1638F/2K9/6981Q;290134632F5/4>;F25/1638F/271/M9<8F/2
摘要修剪法是确定和优化神经网络结构的重要方法之一E当前对修剪法的研究大多集中在方法描
述上,对于修剪法内在机理的研究尚不多见,而研究修剪的内在机理可以为修剪策略提供理论基础和依
据E从信息几何的角度研究了修剪法的内在机理,给出了神经网络结构修剪法的信息几何理论解释,利
用神经流形参数结构的层次性,将修剪法表述为一系列从当前模型流形到其子流形的信息投影过程,在
此基础上提出了新的修剪算法,并给出了算法可行性与有效性的实验验证E
关键词修剪法;信息几何;神经流形;信息投影
中图法分类号,-$T(
神经网络的结构对其性能有很大的影响,同时
也影响神经网络在实际中的应用,不同规模的网络
有各自的优缺点[$&’],造成了网络设计者决策上的
困难E大规模网络对初始条件不敏感、可学习更复
杂的数据,且具有更好的健壮性,但它易出现过拟合
现象,导致泛化能力降低;小规模网络有较好的泛化
能力,但往往无法达到求解问题的精度,难以完成学
习任务E因此网络规模的确定直接影响到问题求解
的效果,如何确定合适的网络规模,使得网络在保持
良好性能的同时具有最优结构是一个重要的课题,
吸引了众多学者进行研究E
在如何确定合适的网络结构方面目前尚无完善
的理论指导,常用的结构确定方法主要有“构造法
(</2;810<8F2K)”[(]和“修剪法(7102F2K)”[A&C]E前者从
小规模网络开始,根据需要添加神经元直至网络性
能无明显提高为止E由于小网络对初始条件敏感且
易陷入局部极小,因而该方法需要反复的重构、训练
和测试网络,工作量大[’]E后者则从具有冗余结点的
大规模网络开始,通过削弱或者消除某些结点或权
值来达到结构优化的目的E
!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!
这种方法结合了大网络
学习速度快、避免局部极小的长处及小网络有较好
泛化能力的优点[!],是一种公认的优化网络结构、
提高网络泛化能力的有效方法"
但传统修剪法并不完善,从根本上说,修剪法只
是一种半理论半经验的方法"不同的修剪算法大都
需要设定一些经验参数,因此需要一定的经验和技
巧"如果某些参数选择不合适使得修剪不当,修剪
过程可能在某个中型规模网络上陷入局部极小,无
法达到预期的修剪效果"对修剪法的改进研究有两
个方面:一是将各种方法进行结合,综合不同算法的
优点,衍生出更为合理的修剪算法;另一方面是研究
修剪法的理论依据,合理地确定冗余结点或连接的
位置以及数目,尽可能减少经验成分对算法的影响"
当前的研究大多属于前者,对修剪内在机理的研究
尚不多,而对此研究可以为提出更有效的修剪策略
提供理论基础和理论依据,是修剪法研究中具有重
要意义的课题"本文以信息几何[#$%]为工具对此进
行了有益的尝试和探讨,在信息几何框架下,利用神
经流形的分层特性,通过对网络内部结构细致的研
究,讨论了修剪法的一些基本理论问题,如修剪的可
行性、如何确定冗余结点或连接的位置及数目等"
在理论分析基础上,本文提出了一种新的修剪算法,
并用实验验证了算法的可行性与有效性"
! 信息几何的基本观点
信息几何源于对概率分布流形的几何研究,其
基本思想是将现代微分几何方法引入到神经计算科
学中,为神经网络和信息论提供了新的数学工具"
通常人们用统计模型去描述一个信息过程,而
统计模型是概率分布的集合,并可由一个参数集合
来描述,其构成的参数空间在一定的拓扑结构下形
成流形,称之为统计流形"在其上有一些内在的几
何结构,这些几何结构与统计推理有密切联系"信
息几何的主要方法就是研究统计流形的几何形状与
相对位置这样一些局部以及整体的几何学问题[&$’]"
根据统计分析的观点,人工神经网络模型的结
构和行为可由统计模型来描述"考虑参数(连接权,
阈值)!((!)
,!*
,⋯,!!
)的神经网络,当参数! 在
参数空间" 中变化时,构成一个神经网络族,其中
每个网络实现的输入输出关系都可用概率分布
"(#;!)或条件概率分布"($!#;!)表示,因而!
维参数! 对应的神经网络族构成了一个! 维统计
流形,并且是对偶平坦的,称为神经流形(+,-./0
1/+23405[%]),参数! 起到了坐标卡的作用,用来识
别和表示一个神经网络模型系统"
通过统计模型表示,人工神经网络和微分流形
间可以建立起一座联系的桥梁"感知机、640781/++
机、9/-::2/+分布型神经网络、混合专家神经网络结
构和许多借助于统计模型来描述的神经网络模型结
构,都可以统一到指数族或混合族分布所表示的对
偶平坦流形框架下[%],因而我们可以利用指数族及
混合族的几何特性来讨论神经网络的内在结构并分
析网络的信息处理机制和能力"信息几何理论为神
经网络的研究开创了一个极为重要的研究方向"
" 修剪算法的信息几何分析
"#! 神经流形的分层结构
根据;1/.2[ )<]的研究,神经流形具有分层结
构,也就是含有较少参数的流形空间作为子流形包
含在含较多参数的流形空间中:若参数集合%"&,
且由参数集合% 构成的流形为’%
,由参数集合&
构成的流形为’&
,则有’%"’&"这样的分层系统
具有非常有趣的几何结构,而这些几何结构则与系
统学习的动态行为有着密切的联系"信息几何正是
研究这种与概率分布相关的参数空间内在几何特征
和结构以及这种几何结构与学习等信息处理行为关
系的强大工具,下文给出更详细的分析"
设由一族神经网络构成的对偶平坦流形’,其
参数用向量形式表示为!((!)
,!*
,⋯,!!
),在’上
引入两个互相对偶的坐标系,(仿射坐标系! 与1(
仿射坐标系",且它们互相正交"设)"’为对偶平
坦流形’的子流形,若) 在’的,(仿射坐标系!
下可以表示为线性子空间,则称) 为,(平坦子流
形"若在’的1(仿射坐标系" 下为线性的,则称)
为1(平坦子流形",(平坦子流形) 本身也是,(平
坦流形,根据信息几何理论它也是1(平坦流形"
定义!#考虑一个,(平坦子流形的嵌套:*)"
**"⋯"*!
,其中*+
是*+=)
的,(平坦子流形,每
一个*+
都是对偶平坦的,称这种嵌套序列为,$平
坦层次结构,或者简称为,$结构"可构成,(结构的
典型例子就是指数族分布"
引入+(截断(+(>-7)[)<]的概念,对任意的+ 有:
!+=((!+=)
,!+=*
,⋯,!!
)"
设!+=((,+=)
,⋯,,!
),则对于’中的所有具
有相同!+= 坐标的分布构成了一个子集*+
(!+= ),即
其中!+= 的值固定为!+= :!+=(!+= ,但是! 中的其
)#)< 计算机研究与发展 *<<#,?@(’)
他分量可自由取值,因而对每个! 值都可得到一个
!!平坦子流形:
"#
("#$)%{&(’;!)(!#$ %"#$},
#$%#$",⋯,)#
它们构成了整个流形* 的一个分裂,称为!!平
坦分裂:!"#$"#
("#$)%*#
特别地当"#$%&,则可在* 中引入一个分层结
构,且为!!结构:
""
(&)""’(&)" ⋯"")
(&)%*# (")
与上面的过程相对偶的,可以讨论对偶坐标"
下构成的层次结构#设:
+#
(#!,)%{&(’;!)("!, %#!,},!,%",⋯,##
(’)
对于每个# 值,式(’)表示* 中所有具有相同
"!( 坐标的分布构成的)!平坦子流形,且它们构成
了)!平坦分裂:!#!,$#
(#!,)%*#
由于坐标系! 与" 的正交性,这两种分裂正
交,即子流形与+#
在任意点均正交#
据以上"#
分析可以看到,一个单一结构可以
通过分解参数向量分解为许多层次结构#每一个层
次结构都构成了一个对偶平坦子流形,嵌入到它的
平坦包容流形中,显然子流形的维数小于其包容流
形的维数#
从式(")可知,如果对参数向量中越来越多的分
量赋值为&,则新参数向量构成的流形形成了一族
互相嵌套的子流形,而这种将参数中的分量赋值为
&的行为恰恰对应于修剪过程#如将参数向量中的
对应于某权值的分量置为&则相当于剪去该权值所
对应的连接;如赋值为&的各分量恰恰都为同一神
经元所对应的各权值,则相当于剪去该神经元[""]#
综上,神经流形的参数结构具有分层特性,正是
这种结构上的层次性赋予了修剪算法的可行性#使
用信息几何工具通过对网络内部结构细致的研究更
有利于我们讨论修剪过程的内在机理,信息几何提
供了对修剪算法进行研究的一个新的理论基础#
!"! 反复信息投影的修剪过程
首先给出信息几何的有关定理[*,"&],它们是分
析信息投影与修剪之间关系的理论依据#注意后续
讨论均在!+仿射坐标系! 下进行,因此信息投影特
指)+投影,)+仿射坐标系" 下的讨论可同理进行#
设& 为一固定分布,&
(#)(’)%,-.)/0 -#"#
.(&,
-),即&
(#)(’)为流形"#
中在黎曼距离意义下离&
最近的点#由定理"可知,该点恰好可由)!投影
得到#
定理#" 设-$ 为"#
中的点,连接& 与-$ 的
)!测地线在-$处正交于"#
(如图"所示),则-$是
惟一的,并且&(#)可由-$给出#
1/.#" 2034-),5/406-47!85/40()+6-47!85/40)#
图" 信息投影()+投影)
证明#%-#"#
连接- 与-$的!!测地线包含在
"#
中,因此正交于连接& 与-$的)!测地线,如图"
所示,根据9:5;,.4-!,0定理[*],有
.(&,-)%.(&,-$)$.(-$,-)
成立,因此,&
(#)%-$,且-$是惟一的# 证毕#
投影&
(#)(’)与最大熵原则有密切关系:
定理!"对于-#+#
,& 到"#
上的)!投影&
(#)
是使得其中熵最大的那个分布,即&
(#)%,-.),< -#+#
/[-]#
证明#&
(#)(’)#+#
,+#
为所有具有相同"#(
的分布构成的流形,即其中的分布与& 具有相同的
#!边缘分布#对任意的-#+#
,&
(#)为它在"#
上的
投影#根据9:5;,.4-!,0定理:
.(-,&)%.(-,&
(#))$.(&
(#),&),
因此,对于-#+#
,使得.(-,&)最小的- 为&
(#)#
又因为
.(-,&)%&-(’)=0-(’),
&-(’)=0&(’)%,/[-],01)23,
第’个等号成立是因为& 为一固定分布,因而
&-(’)=0&(’)仅依赖于- 的边缘分布,而边缘分
布对于所有-#+#
是相同的# 证毕#
由定理"与定理’知,对于给定的分布& 以及
子流形"#
,& 到"#
的)!投影,-$ 最大程度保持了
& 的信息#如果把& 看做要逼近的分布,子流形表
示修剪后得到的网络模型,则-$ 对应的坐标就是
修剪后得到的网络模型的参数#以上只是分析了信
息投影与修剪的关系,可以用当前分布到子流形上
的投影来理解修剪过程,但是如何选择冗余的连接
或结点以及如何修剪则由以下分析给出#
不失一般性,本节主要分析对权值连接的修剪,
对于神经元的修剪,该分析同样适用#
">"" 刘蕴辉等:修剪算法的信息几何分析
为了分析简单起见,考虑从初始网络中去掉一
个连接的情况,后续的修剪过程可以同样过程讨论!
设初始网络参数为! 并构成流形!"{"(#;
!)},设要逼近的真实分布表示为"!""(#;!!),
则在信息几何框架下,修剪过程表述如下:
设所有经过一次修剪后的网络模型构成的子流
形为{$%
&#$"!"’%
,%"$,⋯,&},其中& 为! 中的
连接数目,’%
为将被修剪的第% 个连接,所有的
$%
&#$
构成了! 经一次修剪后的& 个候选子流形,下
面的任务就是从这& 个候选子流形中寻找最适合
的作为一次修剪后得到的网络!
作"!到每一个$%
&#$
的%(投影,得到"!
&#$
,由
前文知它满足:
"!
&)$* &’%)*
"&)$#$%
&)$
+%("!,"&)$
),%*$,⋯,&,
其中,+%("!,"&#$
)表示真实分布"!到$%
&#$
上的
分布"&#$
之间的距离,令," &’%)* %#[$,&] +%("!,
"!
&#$
),则可从候选子流形{$%
&#$$%"$,⋯,&}中选
择使得+%("!,"!
&#$
)最小的$,
&#$
,作为一次修剪
后得到的新的网络,即’,
为修剪掉的连接!
由于在实际中真实分布一般未知,因此通常使
用经验分布来近似逼近真实分布!
以上为第$次修剪的步骤,后续的修剪过程可
同理进行!概括来说,就是对当前模型流形$-+$
考
虑所有可能的一次修剪后得到的候选子流形{$%
-+$"
’%$%"$,⋯,&},并选择第, 个连接作为被剪掉的
连接,,"&’%)* %#[$,&]+%("!
-.$
,"!
-
),$,
-
作为修剪后的
模型,"!
-
为"!
-+$
到每一个$%
-
的%(投影:"!
- "
&’%)*
"-#$%
-
+%("!
-+$
,"-
)!如图,所示:
-)(!, .*/01/2342’*)*(2’6/00(%72’8/61)3*)!
图, 一次修剪过程(%7投影)
从以上所述%(投影与最大熵原则的关系可知,
每一步的修剪均最大程度保留了原模型的信息,表
明修剪掉的单元对模型的输出影响最小,这种修剪
过程的信息几何解释给出了从几何角度对修剪的含
义与可行性的一种很好的理解,并从信息几何的观
点给出了修剪法内在机理的诠释,该理论工作为我
们后续提出新的修剪策略提供了理论基础和依据!
! 基于信息几何的修剪算法
!"# 基本思想
引入代价函数/(!9
)%+(&"0
,!9
)+19
,第$
项表示模型与数据的拟合程度,第,项表示模型的
复杂度,其中!9
表示模型9(文中用模型的参数来
表示模型),&"0
表示从数据中得到的经验参数用来
逼近表示数据的真实分布!参考:;<[$,]中复杂度的
表示:19"!-,!’=,!">*2",2,其中- 为模型中
的参数数目,2 为样本容量!
对于一系列嵌套模型,34(34#$(⋯(3$(
3=%0,其中34
表示从初始全连接模型0 中去掉
4个连接!
则代价函数利用?@1A&(3’&*定理可分解为
/(!!3$
)*+(&"0
,!!34
).134 *
+(!!3=
,!!34)$
).+(!!34)$
,!!34
).134 *
!-3=.) 4)$
%*=
[+(!!3%
,!!3%)$
))!],
其中,-3=
表示初始网络所含参数的数目!显然,只
要当递减一阶时有+(!!34
,!!34+$
)*!,则通过投影
到这个低阶子流形上可以减少代价函数/,且最期
望的子流形是使得+(!!34
,!!34+$
)最小的那一个,该
过程一直进行到代价函数不再降低,则修剪结束!
!"$ 实验及结果
为检测算法的可行性与有效性,我们使用概率
神经网络进行了实验,具体步骤如下:
$)选定一个神经网络! 作为产生数据的真实
模型,即系统标准连接;
,)随机产生样本均值以及协方差矩阵并使用
93*1/7<&’3方法产生一组样本;
B)以与! 有相同结点数的全连接网络开始使
用该算法进行修剪,得到修剪后的新网络!5;
C)比较!5与真实模型!,通过结果误差度衡量
方法的有效性!结果误差度的定义为系统结构错误
关联(误增、误删)与系统标准连接的比值!
选用图B所示D个结点$=条连接的概率神经
网络作为真实模型,分别随机选取$=C 和$=E 个样
本进行修剪,样本数为$=C 时得到结果为图C,最终
网络结果误差度为$!$=,样本数为$=E 时结果为图
E,误差度为=,得到了标准连接,表明了方法的可
行性!
$F$, 计算机研究与发展 ,==F,CB(G)
!"#$% &’)*+,)-$
图% 真实模型
!"#$. /’0"0#’1(-2$
图. 修剪结果
!"#$3 /’0"0#’1(-2$
图3 修剪结果
!"#$4 5’’’(’)(!89:3)$
图4 误差曲线(样本数为9:3)
图;、图4为真实模型与模型间误差以及代价
函数两者分别随修剪掉连接数变化的曲线规律$达
到最低点的连接数即为修剪掉的最优连接数目,从
图中看出两者变化趋势一致,表明使用文中的代价
函数得到的模型分布一致收敛于真实分布,显示了
算法的有效性,样本数增加时两者基本重合,表明样
本数越多算法效果越好$
!"#$; 5’’’(’)(!89:.)$
图; 误差曲线(样本数为9:.)
! 结束语
本文给出了神经网络结构修剪法的信息几何理
论解释,通过使用信息几何工具对网络内部几何结
构进行研究,从而论证了修剪的理论可行性,并研究
了修剪的内在机理$利用神经流形参数结构的层次
性,将修剪方法表述为一系列从当前模型流形到其
子流形的信息投影问题,投影过程是在最大程度保
留原模型信息量的情况下搜索需要修剪的冗余连接
或结点的过程$在理论分析基础上,本文还提出了
新的修剪算法,在概率网络上的实验结果证明是可
行和有效的,对于前馈<=/网络还需要对网络的
表达形式做进一步的转化,该算法在<=/上的实
现是我们下一步的工作$
参考文献
[9] > ?)@"1,< >)+’"+A+(-+1$ !)),BC+’E’0)(’-0)2D+’1:
GHI0)2D+’1"J)"11+"*A+’E02[K]$L555/+2)02"E-1,9MM.,
9%(.):N4!%9
[N] &OE7JE#-($P)2)’"0"0#+A2"*(*12’62(’C+’’"C"6"E-0)(’-
0)2D+’1[Q]$&H)N.2HR00(E-&)6H0"6E-Q+0CE0,5SH"@"2"+0
+C2H)T)*+2)U)01"0#U+6")2I,QE’"CC,VO,9MMM
[%] U 5 !EH-*E0,Q =)@")’$ &H)6E16E,)B6+’’-E2"+0-)E’"0#
E’H"2)62(’[>]$ L0: R,7E06)1 "0 W)(’- L0C+’E2"+0
/’6)11"0#UI12)*1$UE0!’06"16+:<+’E0OE(C*E00,9MM:$
3N.X3%N
[.] KU")21*E,TKP+D$W)(’-0)2A’0"0#—GHIE0,H+D[Q]$
L555L02’-Q+0C+0W)(’-W)2D+’1,UE0P")#+,9MYY
[3] TT)),$/’0"0#E-#+’2H*1—R1(’)I[K]$L555&’01+0
W)(’-W)2D+’,9MM%,.(3):4.:X4.4
[;] UR*E’$P"CC)’02"E-B>)+*)2’6E-<)2H+,1"0U2E2"12"61[>]$
L0:=)62(’W+2)1"0U2E2"12"61$?)’"0:UA’0#)’Z)’E#,9MY3
[4] UR*E’$L0C+’E2"+0#)+*)2’+C2H)5<E0,5<E-#+’2H*
C+’)(’-0)2D+’$W)(’-W)2D+’1,9MM3,Y(M):9%4MX
9.:Y
9;9% 刘蕴辉等:修剪算法的信息几何分析
[!] "#$% &’)*,+*, -.$%/ 0$1.23’*.$ %#.3#425—6#.3#42*7
3#4).8*$$#,2’7.3:,4*$%[;]/;.,2$’.1<*.:)5=*7=,>???,
>@(A):ABCDAB!(*$E)*$#=#)
(孟大志,刘蓉/信息几何———计算神经科学的几何学方法
[;]/生物物理学报,>???,>@(A):ABC!AB!)
[?] +,.F*G#*,H#$;*$G#*/-#=#’7)’8’’5=*=.1$#,2’1*#98
%9.I’’7)*4#74,2#’8*$72#’#’*9*45[;]/;.,2$’.1E.3:,4#2
-#=#’7)’8&#J#9.:3#$4,AKKC,BK(@):LL!DLMB(*$E)*$#=#)
(罗四维,温津伟/神经场整体性和增殖性研究与分析[;]/
计算机研究与发展,AKKC,BK(@):LL!DLMB)
[>K] FN3’*/0$1.23’*.$%#.3#425.$)*#2’7)*7’.1:2.I’*9*45
8*=42*I,4*.$=[;]/0OOOP2’=.$0$1P)#.25,AKK>,BM(@):
>MK>D>M>>
>> QR+*,,FH+,.,N;+*/0$1.23’*.$%#.3#425.$:2,$*$%
.1$#,2’$#4G.2S[E]/0$4’9E.$1.$ "’)*$#+#’$*$%’8
E5I#2$#4*7=,F)’%)’,AKKB
>A &R#7S#23’,& E)*7S#2*$%/N7.3:’*=.$.1=7*#$4*1*7’8
#$%*$##2*$%72*4#2*’.2<’#=*’3.8#9=#9#74*.$[;]/F4’*=4*7=
’8E.3:,4*$%,AKKK,>K(>):@@DLA
!"#$#%&#",I.2$*$>?ML/T)&/R#23’$
2#=#’7)*$4#2#=4*=$#,2’7.3:,4’*.$/
刘蕴辉,>?ML年生,博士,主要研究方向为
神经计算/
!#’")*",I.2$*$>?BB/T2.1#==.2’8T)
&=,:#2J*=.2.1<#*U*$%;*’4.$%V$*J#2=*45/
R*=7,22#$42#=#’7)*$4#2#=4=*$79,8#$#,2’
7.3:,4’*.$, :’’9#9 :2.7#==*$% ’8
3,94*3#8*’#7)$.9.%5/
罗四维,>?BB年生,教授,博士生导师,主要研究方向为神经
计算、并行处理、多媒体技术/
+#,%-+#,,I.2$*$>?MM/T)&/R*=3’$
2#=#’7)*$4#2#=4*=$#,2’7.3:,4’*.$/
黄华,>?MM年生,博士,主要研究方向为神
经计算/
!"."/#%,I.2$*$>?LB/T)&’8’.7*’#
:2.1#==.2/ R#2 3’$ 2#=#’7) *$4#2#=4*=
$#,2’7.3:,4’*.$/
李爱军,>?LB年生,博士,副教授,主要研
究方向为神经计算/
0*1*,23&4,35-2’%6
R.G4.8#4#23*$#4)#3.=4’:2.:2*’#$#4G.2S=*(#1.2’:#7*1*74’S*=.$#.14)#1,$8’#$4’:2.I9#3=*$$#,2’$#4G.2S=
2#=#’7)/T2,$*$%*=.$#.14)#:.:,9’’:2.’)#=4.=#4,:’8.:4*3*(#4)#$#,2’$#4G.2S’==42,74,2#/P).,%):.:,9’95,=#8,*4
*==4*99’2*’’8#22.23#4).8’8)’9*449#4)#.2#4*7’12’#G.2S’.,4*4/
0$1.23’*.$%#.3#425,.2*%*$’#812.34)#*$1.23’*.$=42,74,2#.1’’*1.98.1:2.I’*9*458*=42*I,4*.$=,)’I##$=,77#==1,995
’:9*#84.3’51*#98=/0$*$1.23’*.$%#.3#42*712’#G.2S,3.=4S*$8=.1$#,2’$#4G.2S1.23#W:.$#$4*’.23*W4,2#3’*1.98
G)*7))’’’,2’)*#2’7)*7’=42,74,2#/F,7)’’’#4#2=:’#)’2*7)%#.3#42*7’=42,74,2#=4)’’#2#=:.$=*I9#1.24)#85$’*7
I#)’*.2=.19#’$*$%/P)#:2,$*$%:2.I9#3*=1.23,9’#8*$*4#2’*J#*$1.23’*.$:2.U#74*.$=12.34)#7,22#$43’*1.984.*4=
=,I3’*1.98=/P)#2#=,94%*J#=’#.3#42*7,$8#2=4’8*$%’8’*$1.23’*.$%#.3#42*7%,*8#9*$#.1:2,$*$%,G)*7))’3.2#
’4)#$4*74)#.2#4*71.,$8’*.$’8G*99)#9:4.=#4,:3.2##11*7*#$4=42,74,2#I,*98*$%’8.:4*3*(*$%’%.2*4)3.1$#,2’$#4G.2S=/
P)*=G.2S*==,::.24#8I54)#X’*.$’F7*#$7#Y.,$8’*.$.1E)*$’(LKCMCKA?)’84)#&.74.2’Y,$8.14)#"*$*=425.1O8,7’*.$
.1E)*$’(AKKAKKKBKAK),’8F7*#$4*1*7Y.,$8’*.$I5<#*U*$%;*’4.$%V$*J#2=*45(AKK@-EKBB)/
>L>B 计算机研究与发展 AKKL,BC(?)
No comments:
Post a Comment