关键词:计算机 工智 深度模型
摘:年计算机发展速度飞快已仅仅块冰冷电路板着思维运算力现更喜欢称工智
机器学获成功原?取进步突破?南京学周志华教授AI WORLD 2018会分享关机器学点思考:需设计新神网络外深度模型智体弱监督条件够学考虑开放动态务环境学
南京学计算机系工智学院院长周志华分享关机器学点思考周志华教授表示前机器学成功背实际离开三点:1)效深度模型现阶段基深度神网络2)存强监督信息数标注越精准越3)学环境较稳定果未机器学取进步突破必须:1)设计新样化深度模型2)智体够弱监督条件学3)考虑开放动态务环境学
周志华教授说机器学界早清楚没免费午餐模型适部分务外务适例Kaggle竞赛中种样务图视频语音外务订机票订旅馆类传统机器学技术(机森林XGBoost)表现更尤涉符号建模离散建模混合建模等问题
周志华教授着重介绍带领团队提出深度森林种决策树基础构建深度模型深度森林超型互联网金融企业非法套现检测务中2亿真实交易数实测性超越包括深度神网络模型验证周志华教授团队猜想——务非神网络深
度模型找武周志华教授表示理提出需长时间发展完善深度森林目前尚处初级阶段开深度学间黑屋扇门更需探索
根周志华教授出猜想理综合解查询资料做出总结思考
首先深度模型现深度学图视频语音数字信号建模务中取巨成功果问问家深度学什?想绝数里答案会:深度学深度神网络甚认深度学深度神网络义词谈深度学深度神网络者神网络谈起
事实神网络新事物已研究半世纪前通常研究隐层两隐层种较浅神网络中计算单元非常简单模型早1943年已抽象成样非常简单数学公式外界收输入XW放总输入果θ高会激活函数处理进行输出样模型天然
深度神网络带区什呢?然种样模型种样算法根差现层深度神网络著名早成功2012年计算机视觉领域著名ImageNet赛获胜时获胜模型8层2015年获胜模型152层2016年1207层天千层模型皆
实际样模型中量参数需计算需非常复杂非常庞计算系统然现强计算设备巧妙算法
够做切根原神网络中基计算单元激活函数连续微原浅层神网络左边函数连续微深度学年代通常会右边样函数变体
样微性带非常重结果容易计算出梯度基梯度调整著名BP算法训练整模型
点非常重果事机器学研究朋友会觉神网络半世纪前天够做更深神网络计算力强现够训练实际样
2006年前说知道训练出5层神网络根原旦层数高BP算法梯度会消失然知道学2006年时候Geoffrey Hinton做重工作通逐层训练缓解梯度消失深层模型够训练出系列深度学工作包括天止前研究防止深层网络中梯度消失梯度更新搜索持续训练够完成
神网络取非常成功模型必然存缺陷神网络样
常神网络朋友知道现深度神网络问题家常说件事情花量精力调整参数参数实太仅会带外严重问题:怕告诉样算法样数果告诉参数调没办法样结果
外问题现神网络模型复杂度固定旦先确定模型模型问题解决现实问
题前样知道什样模型恰呢?知道通常会度复杂模型做问题做程中断简化
果家关心深度学方面前研究会发现现量文关模型压缩模型简化等等事实原导致模型初复杂东西?先较简单然着数训练程适应动提升复杂度呢?遗憾神网络难做点旦BP算法基梯度搜索做件事情果事先结构完全知道求梯度象知道里问题更说缺陷训练数理分析困难黑箱模型等等
工业界朋友会说前面谈缺陷学术角度说关心实践性行学术什缺点关心实际算角度需求希研究模型
果真正天深度神网络底务取成功实外图视频语音涉象务非常典型数值信号建模务务深度神网络表现没朋友接触Kaggle数分析竞赛网站面天数分析务订机票订旅馆天止然深度学网络成功样务获胜通常相传统机器学技术深度神网络
总结现机器学成功背三原效深度模型存强监督信息学环境较稳定现实应里面三件事情成立场合没适合深度学模型监督信息够强务环境断变
化等等步机器学研究者应特关注研究新型深度模型弱监督学开放环境学事实机器学界早清楚件事情严格证明定理做没免费午餐定理模型部分务适外务适
外方面毕竟起点深度神网络研究20年深度神网络十万百万研究实践者年探索改进非神网络深度学研究刚刚开始做点点事情未非常探索东西新技术前走话工作做关深度模型真正重意义前深度学深度神网络现知道里面东西
深度学需量样2012年ImageNet获胜网络已超1500万样现网络越越需样越越家会误解数时代数样成问题
实样需标记现量力物力花件事前段时间讨工智会会职业消亡消亡没已新职业数标注已变成产业件事情反正少告诉机器学技术现强监督信息高度赖
谈件事朋友会想前段时间热门AlphaGo早AlphaGo类职业六段棋局超16万棋局进行学发明AlphaZero类棋局通两程序直接弈提升性样需监督信息呢?
谓AlphaZeroDeepMind说零开始学第天没数第三天超战胜李世石版第21天超Alpha Master第40天达类见强力中间没类棋局意味着背强化学技术真需监督信息?
实样非常重点两程序弈时候定够判断出胜负胜负规非常强监督信息帝判断
方说建抵抗18级台风桥事先知道建没教建样果建出东西帝告诉东西扛东西扛指导信息断摸索桥建出
真正现实应中里样帝规?根通成探索围棋样获量样没办法做真正需数需标记学现做弱监督学做
谓弱监督学希监督信息稍微少点够工作举典型弱监督学例子:医院里诊断乳腺图影希影中没钙化点医院数100万幅图医生标注万幅99万幅没标记种做监督信息完全
第二种情况医生告诉图里面病灶病灶没标出时候监督信息具体更情况医生疲劳疏忽等标注中间错误做监督信息精确三种典型情况然深度神网络务成功应说没设计出新模型务取没取效果?
非常值关注件事情
计算机工智间许问题值探索现发现冰山角科学道路道阻长
文档香网(httpswwwxiangdangnet)户传
《香当网》用户分享的内容,不代表《香当网》观点或立场,请自行判断内容的真实性和可靠性!
该内容是文档的文本内容,更好的格式请下载文档