分布式深度學(xué)習(xí)訓(xùn)練:異步、去中心化和壓縮
主講人:Prof. Ji Liu(劉霽) Assistant Professor,University of Rochester
時(shí)間:2018年11月21日(周三)下午 2:00
地點(diǎn):計(jì)算所446會(huì)議室
摘要:
本次報(bào)告主要介紹本課題組最新的研究成果:幾種最新的并行優(yōu)化的技術(shù),用以提高大規(guī)模深度學(xué)習(xí)訓(xùn)練的效率,包括異步并行、去中心化技術(shù),以及壓縮方法。本次報(bào)告將會(huì)覆蓋理論和實(shí)驗(yàn)研究的大量結(jié)果,其中一些技術(shù)已經(jīng)用到了現(xiàn)今的深度學(xué)習(xí)平臺(tái)上(如tensorflow等),或正在被主流機(jī)器學(xué)習(xí)平臺(tái)開發(fā)團(tuán)隊(duì)移植。本次報(bào)告介紹的幾個(gè)技術(shù)可以相互促進(jìn),結(jié)合使用。
主講人簡介:
劉霽博士是美國羅切斯特大學(xué)計(jì)算機(jī)系和電子工程系的Assistant professor。 他本科畢業(yè)于中國科學(xué)技術(shù)大學(xué)自動(dòng)化專業(yè),隨后獲得亞利桑那州立大學(xué)計(jì)算機(jī)碩士,和威斯康辛大學(xué)計(jì)算機(jī)博士學(xué)位。他的研究廣泛的涵蓋了人工智能諸多方面:機(jī)器學(xué)習(xí),優(yōu)化,強(qiáng)化學(xué)習(xí),數(shù)據(jù)分析,計(jì)算機(jī)視覺,健康醫(yī)療,生物信息學(xué),機(jī)器人,遷移學(xué)習(xí)等等。他獲得過SIGKDD最優(yōu)論文提名,UAI Facebook最優(yōu)學(xué)生論文,IBM教職獎(jiǎng)。他還是MIT TR35中國的獲得者。他在頂級(jí)的計(jì)算機(jī)會(huì)議和期刊上發(fā)表超過60篇論文(如NIPS, ICML, JMLR等)。