Sunday, October 26, 2014

信息几何 大规模网络对初始条件不敏感、可学习更复杂的数据,且具有更好的健壮性,但它易出现过拟合现象,导致泛化能力降低

大规模网络对初始条件不敏感、可学习更复

杂的数据,且具有更好的健壮性,但它易出现过拟合

现象,导致泛化能力降低
 
 
 


[PDF]下载PDF全文 - 软件学报
www.jos.org.cn/ch/reader/create_pdf.aspx?file_no...
轉為繁體網頁
最近,S,Am玉过D町教授提出了基于信息几何的随机神经网络的em学习算法4 ... :(P(;v」;cie)},从微分流形的意义上看,s形成耐个流形遍作为坐标被用来识别统计模型.
  • [PDF]修剪算法的信息几何分析 - 计算机研究与发展

    crad.ict.ac.cn/CN/article/downloadArticleFile.do?...id...
    轉為繁體網頁
    由 刘蕴辉 著作 - ‎相關文章
    摘要修剪法是确定和优化神经网络结构的重要方法之一E当前对修剪法的研究大多集中在方法描. 述上,对于修剪法 .... 通过统计模型表示,人工神经网络微分流形.


  • 计算机研究与发展!""#$%%%&$’()!*#$$&$+++!,-

    ./01234/5*/670891:9;931<=32>?9@94/76928 A()):$B%)"$B$A’%%B

    收稿日期:’%%CD$’D%B;修回日期:’%%BD%CD$B

    基金项目:国家自然科学基金项目(B%(+(%’));教育部博士点基金项目(’%%’%%%A%’%);北京交通大学科技基金项目(’%%C:*%AA



    修剪算法的信息几何分析
     
    刘蕴辉罗四维黄华李爱军
     
    (北京交通大学计算机与信息技术学院北京$%%%AA

    6/028E83F#’B(E298



    !"#$%&’()$"*+$&+(%),-"’./0)0$#1%2")"3-.3$%)(4&
     
    GF0H02=0FG0/"FI9FJ032KJ0332>GFLFM02

    !"#$$%$&’$()*+,- N./&$-(0+1$/2,"#/$%$345,161/3710$+$/38/19,-:1+45,161/3$%%%AA

    -50(%’,( -102F2K34K/1F8=6F;32F67/18328698=/>8/;980732>/78F6FO98=9;810<8019/5290134298I/1P



    6/>94E,=919;931<=/27102F2K2/I3>3Q;6/;84Q5/<0;9;/28=934K/1F8=6>9;<1F78F/2I=F4949;;955/18F;

    ;7928/2F8;F663292869<=32F;6E:9;931<=/2F8;69<=32F;6<3271/@F>98=9/198F<34R3;F;5/17102F2K

    ;81389KQE,=9F663292869<=32F;6/57102F2KF;3234QO9>R3;9>/2F25/1638F/2K9/6981Q32>3;98/5

    8=9/198F<349S743238F/2/57102F2KF;KF@92E,=97102F2K71/<9;;F;>97F<89>3;3;91F9;/5F25/1638F/2

    71/M9<8F/2;51/68=9<0119286/>94632F5/4>8/F8;;0R632F5/4>;08F4FOF2K8=9=F9131<=F<34;810<8019/5290134

    632F5/4>731369891;73<9EL29I7102F2K34K/1F8=6F;719;9289>R3;9>/28=98=9/198F<343234Q;F;32>F8;

    @34F>F8Q32>8=9955F<F92<QF;@91F5F9>RQ9S791F6928;E
     
    6+/7$%80 7102F2KF25/1638F/2K9/6981Q290134632F5/4>F25/1638F/271/M9<8F/2

    摘要修剪法是确定和优化神经网络结构的重要方法之一E当前对修剪法的研究大多集中在方法描



    述上,对于修剪法内在机理的研究尚不多见,而研究修剪的内在机理可以为修剪策略提供理论基础和依
     
    E从信息几何的角度研究了修剪法的内在机理,给出了神经网络结构修剪法的信息几何理论解释,利



    用神经流形参数结构的层次性,将修剪法表述为一系列从当前模型流形到其子流形的信息投影过程,在
     
    此基础上提出了新的修剪算法,并给出了算法可行性与有效性的实验验证E

    关键词修剪法;信息几何;神经流形;信息投影

    中图法分类号,-$T(



    神经网络的结构对其性能有很大的影响,同时

    也影响神经网络在实际中的应用,不同规模的网络
     
    有各自的优缺点$&’,造成了网络设计者决策上的

    困难E大规模网络对初始条件不敏感、可学习更复



    杂的数据,且具有更好的健壮性,但它易出现过拟合

    现象,导致泛化能力降低;小规模网络有较好的泛化

    能力,但往往无法达到求解问题的精度,难以完成学
     
    习任务E因此网络规模的确定直接影响到问题求解



    的效果,如何确定合适的网络规模,使得网络在保持

    良好性能的同时具有最优结构是一个重要的课题,
     
    吸引了众多学者进行研究E



    在如何确定合适的网络结构方面目前尚无完善

    的理论指导,常用的结构确定方法主要有“构造法
     
    </2;810<8F2K)”(和“修剪法(7102F2K)”A&CE前者从



    小规模网络开始,根据需要添加神经元直至网络性
     
    能无明显提高为止E由于小网络对初始条件敏感且



    易陷入局部极小,因而该方法需要反复的重构、训练
     
    和测试网络,工作量大E后者则从具有冗余结点的



    大规模网络开始,通过削弱或者消除某些结点或权
     
    值来达到结构优化的目的E



    !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!
     
    这种方法结合了大网络

    学习速度快、避免局部极小的长处及小网络有较好
     
    泛化能力的优点!,是一种公认的优化网络结构、

    提高网络泛化能力的有效方法"



    但传统修剪法并不完善,从根本上说,修剪法只
     
    是一种半理论半经验的方法"不同的修剪算法大都



    需要设定一些经验参数,因此需要一定的经验和技
     
    "如果某些参数选择不合适使得修剪不当,修剪



    过程可能在某个中型规模网络上陷入局部极小,无
     
    法达到预期的修剪效果"对修剪法的改进研究有两



    个方面:一是将各种方法进行结合,综合不同算法的

    优点,衍生出更为合理的修剪算法;另一方面是研究

    修剪法的理论依据,合理地确定冗余结点或连接的
     
    位置以及数目,尽可能减少经验成分对算法的影响"



    当前的研究大多属于前者,对修剪内在机理的研究

    尚不多,而对此研究可以为提出更有效的修剪策略

    提供理论基础和理论依据,是修剪法研究中具有重
     
    要意义的课题"本文以信息几何#$%为工具对此进



    行了有益的尝试和探讨,在信息几何框架下,利用神

    经流形的分层特性,通过对网络内部结构细致的研

    究,讨论了修剪法的一些基本理论问题,如修剪的可
     
    行性、如何确定冗余结点或连接的位置及数目等"



    在理论分析基础上,本文提出了一种新的修剪算法,
     
    并用实验验证了算法的可行性与有效性"

    ! 信息几何的基本观点



    信息几何源于对概率分布流形的几何研究,其

    基本思想是将现代微分几何方法引入到神经计算科
     
    学中,为神经网络和信息论提供了新的数学工具"



    通常人们用统计模型去描述一个信息过程,而

    统计模型是概率分布的集合,并可由一个参数集合

    来描述,其构成的参数空间在一定的拓扑结构下形
     
    成流形,称之为统计流形"在其上有一些内在的几

    何结构,这些几何结构与统计推理有密切联系"



    息几何的主要方法就是研究统计流形的几何形状与
     
    相对位置这样一些局部以及整体的几何学问题&$’"



    根据统计分析的观点,人工神经网络模型的结
     
    构和行为可由统计模型来描述"考虑参数(连接权,

    阈值)!(!)

    !*

    ,⋯,!!

    )的神经网络,当参数!

    参数空间" 中变化时,构成一个神经网络族,其中



    每个网络实现的输入输出关系都可用概率分布
     
    "#!)或条件概率分布"$!#!)表示,因而!

    维参数! 对应的神经网络族构成了一个! 维统计

    流形,并且是对偶平坦的,称为神经流形(+,-./0

    1/+23405%),参数! 起到了坐标卡的作用,用来识

    别和表示一个神经网络模型系统"



    通过统计模型表示,人工神经网络和微分流形
     
    间可以建立起一座联系的桥梁"感知机、640781/++

    机、9/-::2/+分布型神经网络、混合专家神经网络结



    构和许多借助于统计模型来描述的神经网络模型结

    构,都可以统一到指数族或混合族分布所表示的对
     
    偶平坦流形框架下%,因而我们可以利用指数族及



    混合族的几何特性来讨论神经网络的内在结构并分
     
    析网络的信息处理机制和能力"信息几何理论为神

    经网络的研究开创了一个极为重要的研究方向"

    " 修剪算法的信息几何分析

    "#! 神经流形的分层结构

    根据;1/.2)<的研究,神经流形具有分层结



    构,也就是含有较少参数的流形空间作为子流形包
     
    含在含较多参数的流形空间中:若参数集合%"&

    且由参数集合% 构成的流形为%

    ,由参数集合&

    构成的流形为&

    ,则有%"&"这样的分层系统



    具有非常有趣的几何结构,而这些几何结构则与系
     
    统学习的动态行为有着密切的联系"信息几何正是



    研究这种与概率分布相关的参数空间内在几何特征

    和结构以及这种几何结构与学习等信息处理行为关
     
    系的强大工具,下文给出更详细的分析"

    设由一族神经网络构成的对偶平坦流形,其

    参数用向量形式表示为!(!)

    !*

    ,⋯,!!

    ),在

    引入两个互相对偶的坐标系,(仿射坐标系! 1(

    仿射坐标系",且它们互相正交")"为对偶平

    坦流形的子流形,若) ,(仿射坐标系!

    下可以表示为线性子空间,则称) ,(平坦子流

    "若在1(仿射坐标系" 下为线性的,则称)

    1(平坦子流形",(平坦子流形) 本身也是,(

    坦流形,根据信息几何理论它也是1(平坦流形"

    定义!#考虑一个,(平坦子流形的嵌套:*)"

    **""*!

    ,其中*+

    *+=)

    ,(平坦子流形,每

    一个*+

    都是对偶平坦的,称这种嵌套序列为,$

    坦层次结构,或者简称为,$结构"可构成,(结构的

    典型例子就是指数族分布"

    引入+(截断(+(>-7)<的概念,对任意的+ 有:

    !+=(!+=)

    !+=*

    ,⋯,!!

    "

    !+=(,+=)

    ,⋯,,!

    ),则对于中的所有具

    有相同!+= 坐标的分布构成了一个子集*+

    !+= ),即

    其中!+= 的值固定为!+= !+=(!+= ,但是! 中的其

    )#)< 计算机研究与发展 *<<#?@

    他分量可自由取值,因而对每个! 值都可得到一个

    !!平坦子流形:

    "#

    "#$%&!(!#$ %"#$},

    #$%#$",⋯,)#

    它们构成了整个流形* 的一个分裂,称为!!

    坦分裂:!"#$"#

    "#$%*#

    特别地当"#$%&,则可在* 中引入一个分层结

    构,且为!!结构:

    ""

    &""&" "")

    &%*# "

    与上面的过程相对偶的,可以讨论对偶坐标"

    下构成的层次结构#设:

    +#

    #!,%&!("!, %#!,},!,%",⋯,##


    对于每个# 值,式()表示* 中所有具有相同

    "!( 坐标的分布构成的)!平坦子流形,且它们构成

    )!平坦分裂:!#!,$#

    #!,%*#

    由于坐标系! " 的正交性,这两种分裂正

    交,即子流形与+#

    在任意点均正交#

    据以上"#



    分析可以看到,一个单一结构可以
     
    通过分解参数向量分解为许多层次结构#每一个层



    次结构都构成了一个对偶平坦子流形,嵌入到它的

    平坦包容流形中,显然子流形的维数小于其包容流
     
    形的维数#

    从式(")可知,如果对参数向量中越来越多的分

    量赋值为&,则新参数向量构成的流形形成了一族



    互相嵌套的子流形,而这种将参数中的分量赋值为
     
    &的行为恰恰对应于修剪过程#如将参数向量中的

    对应于某权值的分量置为&则相当于剪去该权值所

    对应的连接;如赋值为&的各分量恰恰都为同一神

    经元所对应的各权值,则相当于剪去该神经元""#



    综上,神经流形的参数结构具有分层特性,正是
     
    这种结构上的层次性赋予了修剪算法的可行性#使



    用信息几何工具通过对网络内部结构细致的研究更

    有利于我们讨论修剪过程的内在机理,信息几何提
     
    供了对修剪算法进行研究的一个新的理论基础#

    !"! 反复信息投影的修剪过程

    首先给出信息几何的有关定理*"&,它们是分

    析信息投影与修剪之间关系的理论依据#注意后续

    讨论均在!+仿射坐标系! 下进行,因此信息投影特

    )+投影,)+仿射坐标系" 下的讨论可同理进行#

    & 为一固定分布,&

    #%,-.)/0 -#"#

    .&

    -),即&

    #)为流形"#

    中在黎曼距离意义下离&

    最近的点#由定理"可知,该点恰好可由)!投影

    得到#

    定理#" -$ "#

    中的点,连接& -$

    )!测地线在-$处正交于"#

    (如图"所示),则-$

    惟一的,并且&#可由-$给出#

    1/.#" 2034-),5/406-47!85/40)+6-47!85/40#

    " 信息投影()+投影)

    证明#%-#"#

    连接- -$!!测地线包含在

    "#

    中,因此正交于连接& -$)!测地线,如图"

    所示,根据9:5;,.4-!,0定理*,有

    .&-%.&-$$.-$-

    成立,因此,&

    #%-$,且-$是惟一的# 证毕#

    投影&

    #)与最大熵原则有密切关系:

    定理!"对于-#+#

    & "#

    上的)!投影&

    #

    是使得其中熵最大的那个分布,即&

    #%,-.),< -#+#

    /-#

    证明#&

    ##+#

    +#

    为所有具有相同"#(

    的分布构成的流形,即其中的分布与& 具有相同的

    #!边缘分布#对任意的-#+#

    &

    #为它在"#



    上的
     
    投影#根据9:5;,.4-!,0定理:

    .-&%.-&

    #$.&

    #&),

    因此,对于-#+#

    ,使得.-&)最小的- &

    ##



    又因为
     
    .-&%&-=0-,

    &-=0&%,/-,01)23

    个等号成立是因为& 为一固定分布,因而

    &-=0&)仅依赖于- 的边缘分布,而边缘分

    布对于所有-#+#

    是相同的# 证毕#

    由定理"与定理知,对于给定的分布& 以及

    子流形"#

    & "#

    )!投影,-$ 最大程度保持了

    & 的信息#如果把& 看做要逼近的分布,子流形表

    示修剪后得到的网络模型,则-$ 对应的坐标就是

    修剪后得到的网络模型的参数#以上只是分析了信



    息投影与修剪的关系,可以用当前分布到子流形上

    的投影来理解修剪过程,但是如何选择冗余的连接
     
    或结点以及如何修剪则由以下分析给出#



    不失一般性,本节主要分析对权值连接的修剪,
     
    对于神经元的修剪,该分析同样适用#

    ">"" 刘蕴辉等:修剪算法的信息几何分析



    为了分析简单起见,考虑从初始网络中去掉一
     
    个连接的情况,后续的修剪过程可以同样过程讨论!

    设初始网络参数为! 并构成流形!""#

    !)},设要逼近的真实分布表示为"!""#!!),



    则在信息几何框架下,修剪过程表述如下:

    设所有经过一次修剪后的网络模型构成的子流
     
    形为{$%

    &#$"!"%

    %"$,⋯,&},其中& ! 中的

    连接数目,%

    为将被修剪的第% 个连接,所有的

    $%

    &#$

    构成了! 经一次修剪后的& 个候选子流形,下

    面的任务就是从这& 个候选子流形中寻找最适合

    的作为一次修剪后得到的网络!

    "!到每一个$%

    &#$

    %(投影,得到"!

    &#$



    ,由

    前文知它满足:
     
    "!

    &)$* &’%)*

    "&)$#$%

    &)$

    +%"!"&)$

    ),%*$,⋯,&

    其中,+%"!"&#$

    )表示真实分布"!$%

    &#$



    上的
     
    分布"&#$

    之间的距离,令," &’%)* %#$&+%"!

    "!

    &#$

    ),则可从候选子流形{$%

    &#$$%"$,⋯,&}中选

    择使得+%"!"!

    &#$

    )最小的$,

    &#$



    ,作为一次修剪
     
    后得到的新的网络,即,

    为修剪掉的连接!



    由于在实际中真实分布一般未知,因此通常使
     
    用经验分布来近似逼近真实分布!

    以上为第$次修剪的步骤,后续的修剪过程可

    同理进行!概括来说,就是对当前模型流形$-+$



     
    虑所有可能的一次修剪后得到的候选子流形{$%

    -+$"

    %$%"$,⋯,&},并选择第, 个连接作为被剪掉的

    连接,,"&’%)* %#$&+%"!

    -.$

    "!



    -
     
    ),$,



    -
     
    作为修剪后的
     
    模型,"!



    -
     
    "!

    -+$

    到每一个$%



    -
     
    %(投影:"!

    - "



    &’%)*
     
    "-#$%



    -
     
    +%"!

    -+$

    "-

    !如图,所示:

    -)(!, .*/01/2342’*)*(2’6/00%72’8/61)3*!

    , 一次修剪过程(%7投影)

    从以上所述%(投影与最大熵原则的关系可知,



    每一步的修剪均最大程度保留了原模型的信息,表

    明修剪掉的单元对模型的输出影响最小,这种修剪

    过程的信息几何解释给出了从几何角度对修剪的含

    义与可行性的一种很好的理解,并从信息几何的观

    点给出了修剪法内在机理的诠释,该理论工作为我
     
    们后续提出新的修剪策略提供了理论基础和依据!

    ! 基于信息几何的修剪算法

    !"# 基本思想

    引入代价函数/!9

    %+&"0

    !9

    +19

    ,第$

    项表示模型与数据的拟合程度,第,项表示模型的

    复杂度,其中!9

    表示模型9(文中用模型的参数来

    表示模型),&"0



    表示从数据中得到的经验参数用来
     
    逼近表示数据的真实分布!参考:;<$,中复杂度的

    表示:19"!-!=!">*2",2,其中- 为模型中

    的参数数目,2 为样本容量!

    对于一系列嵌套模型,34(34#$((3$(

    3=%0,其中34

    表示从初始全连接模型0 中去掉

    4个连接!

    则代价函数利用?@1A&(3’&*定理可分解为

    /!!3$

    *+&"0

    !!34

    .134 *

    +!!3=

    !!34)$

    .+!!34)$

    !!34

    .134 *

    !-3=.) 4)$

    %*=

    +!!3%

    !!3%)$

    )!],

    其中,-3=

    表示初始网络所含参数的数目!显然,只

    要当递减一阶时有+!!34

    !!34+$

    *!,则通过投影

    到这个低阶子流形上可以减少代价函数/,且最期

    望的子流形是使得+!!34

    !!34+$



    )最小的那一个,该
     
    过程一直进行到代价函数不再降低,则修剪结束!

    !"$ 实验及结果



    为检测算法的可行性与有效性,我们使用概率

    神经网络进行了实验,具体步骤如下:
     
    $)选定一个神经网络! 作为产生数据的真实



    模型,即系统标准连接;
     
    ,)随机产生样本均值以及协方差矩阵并使用

    93*1/7<&’3方法产生一组样本;

    B)以与! 有相同结点数的全连接网络开始使

    用该算法进行修剪,得到修剪后的新网络!5

    C)比较!5与真实模型!,通过结果误差度衡量

    方法的有效性!结果误差度的定义为系统结构错误

    关联(误增、误删)与系统标准连接的比值!

    选用图B所示D个结点$=条连接的概率神经

    网络作为真实模型,分别随机选取$=C $=E 个样

    本进行修剪,样本数为$=C 时得到结果为图C,最终

    网络结果误差度为$!$=,样本数为$=E 时结果为图

    E,误差度为=,得到了标准连接,表明了方法的可

    行性!

    $F$, 计算机研究与发展 ,==FCBG



    !"#$% &’)*+,)-$
     
    % 真实模型



    !"#$. /’0"0#’1(-2$
     
    . 修剪结果



    !"#$3 /’0"0#’1(-2$
     
    3 修剪结果

    !"#$4 5’’’(’)!89:3$

    4 误差曲线(样本数为9:3

    ;、图4为真实模型与模型间误差以及代价

    函数两者分别随修剪掉连接数变化的曲线规律$



    到最低点的连接数即为修剪掉的最优连接数目,从

    图中看出两者变化趋势一致,表明使用文中的代价

    函数得到的模型分布一致收敛于真实分布,显示了

    算法的有效性,样本数增加时两者基本重合,表明样
     
    本数越多算法效果越好$

    !"#$; 5’’’(’)!89:.$

    ; 误差曲线(样本数为9:.

    ! 结束语



    本文给出了神经网络结构修剪法的信息几何理

    论解释,通过使用信息几何工具对网络内部几何结

    构进行研究,从而论证了修剪的理论可行性,并研究
     
    了修剪的内在机理$利用神经流形参数结构的层次



    性,将修剪方法表述为一系列从当前模型流形到其

    子流形的信息投影问题,投影过程是在最大程度保

    留原模型信息量的情况下搜索需要修剪的冗余连接
     
    或结点的过程$在理论分析基础上,本文还提出了



    新的修剪算法,在概率网络上的实验结果证明是可
     
    行和有效的,对于前馈<=/网络还需要对网络的

    表达形式做进一步的转化,该算法在<=/上的实

    现是我们下一步的工作$



    参考文献
     
    9> ?)@"1< >)+’"+A+(-+1$ !)),BC+’E’0)(’-0)2D+’1

    GHI0)2D+’1"J)"11+"*A+’E02K$L555/+2)02"E-19MM.

    9%.):N4!%9

    N&OE7JE#-($P)2)’"0"0#+A2"*(*12’62(’C+’’"C"6"E-0)(’-

    0)2D+’1Q$&H)N.2HR00(E-&)6H0"6E-Q+0CE0,5SH"@"2"+0

    +C2H)T)*+2)U)01"0#U+6")2IQE’"CCVO9MMM

    %U 5 !EH-*E0Q =)@")’$ &H)6E16E,)B6+’’-E2"+0-)E’"0#

    E’H"2)62(’>$ L0R,7E06)1 "0 W)(’- L0C+’E2"+0

    /’6)11"0#UI12)*1$UE0!’06"16+<+’E0OE(C*E009MM:$



    3N.X3%N
     
    .KU")21*ETKP+D$W)(’-0)2A’0"0#GHIE0,H+DQ$

    L555L02-Q+0C+0W)(’-W)2D+’1UE0P")#+9MYY

    3TT)),$/’0"0#E-#+’2H*1R1(’)IK$L555&’01+0

    W)(’-W)2D+’9MM%.3):4.:X4.4

    ;UR*E’$P"CC)’02"E-B>)+*)2’6E-<)2H+,1"0U2E2"12"61>$

    L0=)62(’W+2)1"0U2E2"12"61$?)’"0UA’0#)’Z)’E#9MY3

    4UR*E’$L0C+’E2"+0#)+*)2’+C2H)5<E0,5<E-#+’2H*

    C+’)(’-0)2D+’$W)(’-W)2D+’19MM3YM):9%4MX



    9.:Y
     
    9;9% 刘蕴辉等:修剪算法的信息几何分析

    !"#$% &’)*+*, -.$%/ 0$1.23’*.$ %#.3#4256#.3#42*7

    3#4).8*$$#,2’7.3:,4*$%;/;.,2$’.1<*.:)5=*7=>???

    >@A):ABCDAB!*$E)*$#=#

    (孟大志,刘蓉/信息几何———计算神经科学的几何学方法

    ;/生物物理学报,>???>@A):ABC!AB!

    ?+,.F*G#*H#$;*$G#*/-#=#’7)’8’’5=*=.1$#,2’1*#98

    %9.I’’7)*4#74,2#’8*$72#’#’*9*45;/;.,2$’.1E.3:,4#2

    -#=#’7)’8&#J#9.:3#$4AKKCBK@):LL!DLMB*$E)*$#=#

    (罗四维,温津伟/神经场整体性和增殖性研究与分析[;/

    计算机研究与发展,AKKCBK@):LL!DLMB

    >KFN3’*/0$1.23’*.$%#.3#425.$)*#2’7)*7’.1:2.I’*9*45

    8*=42*I,4*.$=;/0OOOP2’=.$0$1P)#.25AKK>BM@):



    >MK>D>M>>
     
    >> QR+*,FH+,.N;+*/0$1.23’*.$%#.3#425.$:2,$*$%

    .1$#,2’$#4G.2SE/0$49E.$1.$ "’)*$#+#’$*$%’8

    E5I#2$#4*7=F)’%)’AKKB

    >A &R#7S#23’& E)*7S#2*$%/N7.3:’*=.$.1=7*#$4*1*7’8

    #$%*$##2*$%72*4#2*’.2<’#=*’3.8#9=#9#74*.$;/F4’*=4*7=

    ’8E.3:,4*$%AKKK>K>):@@DLA

    !"#$#%&#"I.2$*$>?ML/T)&/R#23’$



    2#=#’7)*$4#2#=4*=$#,2’7.3:,4’*.$/
     
    刘蕴辉,>?ML年生,博士,主要研究方向为

    神经计算/

    !#’")*"I.2$*$>?BB/T2.1#==.2’8T)



    &=,:#2J*=.2.1<#*U*$%;*’4.$%V$*J#2=*45/

    R*=7,22#$42#=#’7)*$4#2#=4=*$79,8#$#,2’
     
    7.3:,4’*.$:’’9#9 :2.7#==*$% ’8



    3,94*3#8*’#7)$.9.%5/
     
    罗四维,>?BB年生,教授,博士生导师,主要研究方向为神经

    计算、并行处理、多媒体技术/

    +#,%-+#,I.2$*$>?MM/T)&/R*=3’$



    2#=#’7)*$4#2#=4*=$#,2’7.3:,4’*.$/
     
    黄华,>?MM年生,博士,主要研究方向为神

    经计算/

    !"."/#%I.2$*$>?LB/T)&’8’.7*’#



    :2.1#==.2/ R#2 3’$ 2#=#’7) *$4#2#=4*=

    $#,2’7.3:,4’*.$/
     
    李爱军,>?LB年生,博士,副教授,主要研

    究方向为神经计算/



    0*1*,23&4,35-2’%6
     
    R.G4.8#4#23*$#4)#3.=4’:2.:2*’#$#4G.2S=*(#1.2’:#7*1*74’S*=.$#.14)#1,$8’#$4’:2.I9#3=*$$#,2’$#4G.2S=
     
    2#=#’7)/T2,$*$%*=.$#.14)#:.:,9’’:2.’)#=4.=#4,:’8.:4*3*(#4)#$#,2’$#4G.2S==42,74,2#/P).,%):.:,9’95,=#8*4



    *==4*99’2*’’8#22.23#4).8’8)’9*449#4)#.2#4*7’12’#G.2S’.,4*4/
     
    0$1.23’*.$%#.3#425.2*%*$’#812.34)#*$1.23’*.$=42,74,2#.1’’*1.98.1:2.I’*9*458*=42*I,4*.$=)’I##$=,77#==1,995

    ’:9*#84.3’51*#98=/0$*$1.23’*.$%#.3#42*712’#G.2S3.=4S*$8=.1$#,2’$#4G.2S1.23#W:.$#$4*’.23*W4,2#3’*1.98



    G)*7))’’’,2’)*#2’7)*7’=42,74,2#/F,7)’’’#4#2=:’#)’2*7)%#.3#42*7’=42,74,2#=4)’’#2#=:.$=*I9#1.24)#85$’*7

    I#)’*.2=.19#’$*$%/P)#:2,$*$%:2.I9#3*=1.23,9’#8*$*4#2’*J#*$1.23’*.$:2.U#74*.$=12.34)#7,22#$43’*1.984.*4=
     
    =,I3’*1.98=/P)#2#=,94%*J#=’#.3#42*7,$8#2=4’8*$%’8’*$1.23’*.$%#.3#42*7%,*8#9*$#.1:2,$*$%G)*7))’3.2#



    ’4)#$4*74)#.2#4*71.,$8’*.$’8G*99)#9:4.=#4,:3.2##11*7*#$4=42,74,2#I,*98*$%’8.:4*3*(*$%’%.2*4)3.1$#,2’$#4G.2S=/
     
    P)*=G.2S*==,::.24#8I54)#X’*.$’F7*#$7#Y.,$8’*.$.1E)*$’LKCMCKA?’84)#&.74.2’Y,$8.14)#"*$*=425.1O8,7’*.$

    .1E)*$’AKKAKKKBKAK),’8F7*#$4*1*7Y.,$8’*.$I5<#*U*$%;*’4.$%V$*J#2=*45AKK@-EKBB/

    >L>B 计算机研究与发展 AKKLBC?

    No comments:

    Post a Comment