第100章 还缺失一点东西！（5k）

计算机视觉界,存在着一个所有人默认的黄金律条,那就是特征提取器本身必须具备严格的几何不变性。

为了让算法在面对图像中的物体位移、旋转和缩放时保持稳定,传统的计算机视觉学派可以说是无所不用其极。

他们用的都是差分高斯,梯度方向直方图等复杂的数学算子,试图在像素进入分类器之前,就将这些空间变量归一化。

他们以为,这是唯一能让计算机看懂世界的路。

可现在,讲台上的那个华国青年,告诉他们不用那么麻烦。

他们其实用不上那些华而不实的数学算子。

只需要对数据源进行随机采样,然后在输出端,用最基础的方法,就能直接在统计层面上把所有的不确定性抹掉。

好心塞哦。

不过很快在场计算机人又高兴了起来。

他们心塞郁闷,是因为自己过去赖以生存的研究方向,很有可能马上就会被淘汰了,高兴的是,他们终于不用再受那份非人的折磨了!

“等一下......如果Qlnet这套模型真的可行,那岂不是意味着,我再也不用在凌晨三点,为了让特征算子能多识别出猫胡须,去在成千上万行代码里调那些该死的超参数了?”

“没错,我的兄弟!”

“不仅如此!你想想看,我们之前那个卡在准确率只有51%的课题,如果我们明天就用漆吴这套方法,我们的准确率会飆到多少?!”

“起码75%吧!"

“先别高兴太早,一切都要等复现了再说!”

对于这群常年泡在实验室里的计算机人来说,传统计算机视觉的研究早就进入了绝望。

SIFT、HOG、Fisher Vector......这些经典算法的潜力已经被压榨到了极限,大家为了在顶会上发一篇论文,不得不像个中世纪的炼金术士一样,用各种技巧把无数个创新点强行拼接在一起,只为了换取区区0.5%的微弱提

升,以此来发一篇论文。

有时候他们也都认可了外界的说法,认为深度学习这个领域已经没救了。

现场坐着的计算机人中,有些已经准备好拿个奖后,就离开这个折磨人,没有前途的领域。

但就在刚才,漆吴向他们证明了深层卷积网络的可行性!

漆昊用实际数据告诉他们,深度学习领域其实潜力巨大!

纵然这一切还没有被完全验证,但是,吴给了他们一个希望!

他们愿意相信漆昊,不仅仅是因为QInet的训练结果,还有一部分原因是,漆昊在数学界的成果,让他说的话,有了一定的可信度。

再说直白点,那就是换一个无名之辈来,讲同一套东西,现在他们估计都没那么大反应,也不会接受立刻接受卷积神经网络会重新回来的可能性。

主会场内,惊叹声和密集的辩论声几乎要将天花板掀开。

而就在这片热闹中,坐在前排评委席的李教授,衣口袋里的手机忽然响了。

她看了一眼来电显示,神色微微一敛,随即穿过激动的人群,快步走到了会场外相对安静的露天连廊上。

按下接听键,话筒里立刻传来了她博士生导师,加州理工学院计算机视觉皮特罗的声音:“李,你怎么跑到巴塞罗那去主持那个什么ImageNet挑战赛了?”

“我之前就提醒过你,不要在那种繁琐机械的图像分类比赛上浪费太多精力,学术界的核心在于探寻最本质的科学规律,而不是去当一个整理上百万张图片的高级数据图书管理员,这在学术委员会那里可拿不到什么加分。”

听着导师唠叨,李教授并没有生气,只是无奈地笑了笑。

其实之前整个计算机视觉界对于她顶着巨大压力搞出来的ImageNet数据库,大多持冷眼旁观的态度。

在那些笃信算法胜过一切的传统学术大佬眼里,靠堆积海量数据来做图像识别,简直就是小孩过家家。

“皮特罗, ImageNet目前已经......”

“好了,先不说这个。”皮特罗直接打断了她的话,语气稍微放缓了一些,“我打电话来是想告诉你一个新动向。”

“多伦多大学的辛顿来找到了我,声称他的实验室找到了一种能够有效训练深层神经网络的方法,他听说了你的ImageNet项目,希望能获得授权,用你手里的那些海量图片来测试他们的模型。”

辛顿?

是那个坚持了多年的联结主义和神经网络,在主流学术界眼里的过气学者辛顿?

“辛顿要使用ImageNet?”李教授追问道,“他是想用什么模型来跑?”

“还能是什么?他那个万年不变的执念卷积神经网络呗。’

“也不知道那东西有什么魔力,让他如此着迷。”

“不管如何,我们该帮他,还是要帮,你那个数据集就让他们去折腾吧,不过,你也别抱太大希望,神经网络在特征提取上的天然缺陷,是不可能靠堆叠层数来解决的。

听着导师滔滔不绝的技术批判,李教授转过身,隔着连廊洁净的落地玻璃窗,望向了会场内。

台上,那个叫作漆吴的华国青年正单手插兜,神色从容地回答着众人的提问。

李教授突然压抑不住自己的自豪感。

她终于可以对那些嘲讽她只是在造垃圾场的人,给予回击了。

而这个底气,来自于台上的那个华国青年!

“皮特罗教授,我想,多伦多大学那边可能不用急着开始做实验了。”

“嗯?为什么?”皮特罗在电话那头愣了一下。

“因为,就在十多分钟前,在ICCV的ImageNet挑战赛现场,已经有人用卷积神经网络,取得了有史以来最好的成绩。”

“你说什么?”

“卷积神经网络取得最好的成绩?李,今天可不是愚人节。”

“有一个华国的年轻学者,他叫漆昊,他带来了一套名为QInet的深层卷积神经网络模型,他们的模型跑出了的结果,错误率只有15%。

“而第二名,施乐欧洲研究中心XRCE的结果,错误率是26%。”

皮特罗握着听筒不出声了。

施乐欧洲研究中心XRCE的实力他是清楚的,错误率在26%可以说是在意料之内的事。

这已经算是近几年来最好的成绩了。

但那个QInet是什么情况?

15%?

在追求0.5%提升都得脱层皮的计算机视觉界,11%的断层式差距他们一般都会默认是个错误的存在。

毕竟这也太离谱了,就跟出BUG的程序居然自顾自跑起来一样离谱。

“这不科学!是不是评测服务器的评测脚本出BUG了?还是他们作弊把测试集放进了训练集里?!这不合逻辑,CNN连图像基础的旋转和平移不变性都无法在算子层面保证,怎么可能跑出这种成绩?!”

“没有BUG,我们其实验证了多次,结果没有问题。”

“皮特罗,时代变了,他没有在算子层面做任何复杂的几何归一化,他只是对数据进行了随机裁剪和镜像翻转,然后在GPU上,用算力,强行让网络自己学会了空间不变性,事实证明,在足够庞大的数据和深层网络面前,我

们过去引以为傲的方式,不值得一提。”

“15%,15%......”皮特罗喃喃自语,还没等他回过神来,李教授便礼貌地说了句“现场颁奖要开始了”,便挂断了电话。

听着话筒里传来的嘟嘟盲音,皮特罗放下了手。

此时,在他的办公室里,正坐着另外两个人。

一位是头发花白辛顿,而在辛顿身旁,则是他的得意门生亚历克斯。

两人原本正兴致勃勃地看着手里的几页草稿,那是他们设计出来,准备在英伟达GTX显卡上尝试运行的深度卷积网络设计初稿,他们今天特意来找皮特罗,就是为了商讨借用ImageNet的数据集的事。

看着打完电话后出神的皮特罗,辛顿疑惑道:“皮特罗?怎么了?是李那边不同意授权吗?没关系,如果她有顾虑,我可以亲自去跟她解释,这个实验对神经网络的未来至关重要......”

“不,辛顿,李没有不同意,而是......你们好像不用再做这个实验了。”

亚历克斯愣了一下,着急地说道:“教授,我们的代码已经基本调通了,只要能拿到ImageNet的数据,我们有信心将分类错误率降低到23%甚至更低!这会是神经网络史无前例的突破!”

“23%?”

“亚历克斯,把你的草稿收起来吧,刚刚从巴塞罗那ICCV现场传来的消息, ImageNet挑战赛的结果已经出来了。

辛顿眉头一皱,心中升起一股不祥的预感:“今年是谁拿了第一?还是XRCE吗?他们的错误率是多少?”

“第一名是Qlnet的模型,他的开发者来自于华国,叫漆昊。”

“Qlnet也是一个卷积神经网络,它的错误率是在15%,超过第二名11%。”

亚历克斯瞪大了眼睛,甚至怀疑自己的耳朵出了问题:“15%?!我们现在的理论模型极限预测也才20%左右,他们怎么可能做到15%?!”

而坐在一旁的辛顿,脑子突然一片空白。

这位在深层神经网络的泥潭里苦苦挣扎了数十年,被主流学术界冷落,嘲讽甚至一度拉不到研究经费的教授,此时迷茫了起来。

他原以为,自己和亚历克斯正在进行的这项基于GPU加速的CNN研究,将会是他们实验室可以在明年惊艳全世界的耀眼成果。

可他万万没有想到,他们的成果还没出来,就已经有人拿出了比他们更好的模型出来!

“Qlnet,漆……………”辛顿干瘪的嘴反复念叨着这两个名字。

“成功了,竟然真的成功了!哈哈哈哈!”辛顿突然毫无预兆地大笑起来,他站起身来,像个小孩子一样在办公室里兴奋踱步。

又疯了一个?

“辛顿,你没事吧?”皮特罗有些担忧地看着他,“你的研究被人抢先了,而且差距拉得这么大......”

“不,你不懂,皮特罗!”

辛顿回答:“我高兴不是因为别的,而是因为这个华国青年用无可辩驳的事实,向全世界证明了,我是对的!神经网络不是垃圾!它才是通往真正人工智能的唯一道路!”

“我们都被困住太久了!”

“自上世纪八十年代反向传播算法被冷落以来,学术界就陷入了对传统统计学习和支持向量机的迷信中。”

“他们嘲笑神经网络无用,认为它绝无可能解决复杂的认知问题,而Qlnet的出现,将会打破这些偏见,这不单单是漆吴团队的成功,更是联结主义学派在沉寂了数十年后的复兴。”

“看着吧,皮特罗,计算资源的瓶颈终将被打破,算法的范式已经改变,从今往后,那些曾经唱衰神经网络的人,都不得不重新审视神经网络这个领域。”

他快步走到亚历克斯身边,一把按住学生的肩膀,说道:“亚历克斯!快!立刻就去查这个漆昊的联系方式,哪怕是发邮件,打电话,我们也必须立刻联系上他!”

“我们要去质疑他的数据吗,导师?”亚历克斯有些兴奋。

“不!我们要去向他请教!”

亚历克斯:?

辛顿的眼神里没有丝毫的嫉妒,只有对先进技术的渴望:“他既然能跑出15%的成绩,说明他在底层算子的设计、网络深度的控制,甚至是GPU矩阵乘法优化上,绝对掌握了我们还未曾发现的秘密!”

“时代已经变了,亚历克斯,如果我们不立刻跟上他的步伐,我们就会被这个新时代抛弃!”

此时此刻,辛顿那份原本准备用来震惊世界的草稿,在Qlnet面前,显得是那样的微不足道。

巴塞罗那,国际会议中心。

“先生们,女士们!今晚注定是一个将被写入计算机科学教科书的伟大时刻!”

“现在,让我们用最热烈的掌声,有请本次ImageNet挑战赛的无可争议的冠军,来自华国的漆吴团队,上台领奖!”

在聚光灯的追踪下,漆昊走到了舞台中央,摄像机镜头对准了他。

“恭喜你,漆昊,你是当之无愧的第一名。”李教授将奖金支票递到他手中,“这是ICCV为你准备的两万美元奖金,以及我们合作伙伴英伟达赞助的最新一代顶级旗舰GPU。”

漆昊接过道了谢。

没想到,他这次出门,没怎么花钱不说,还倒赚了两万美金回去。

“漆昊,今晚过后,计算机视觉,和深度学习领域的格局都会被你改变,不仅是我们这些搞学术的要受到你这套Qlnet模型的影响,我想,连那些硅谷的芯片巨头们,也该重新审视他们的战略了。”

“如果你后续的研究还需要更多的硬件算力,我可以亲自帮你去联系英伟达的那位黄总,我会告诉他,这对于他们来说,也是一次重要的机会,我相信他们会愿意免费向你提供GPU的。”

免费啊。

那不要白不要了。

更何况,如果由李教授这位ImageNet的创始人去推动英伟达的黄总,这位精明的商人绝对能在提前意识到QInet对于GPU市场意味着什么,到时候,自己不仅能获得源源不断的免费硬件支持,深度学习领域也能快速发展起

来。

接着漆昊与李教授握手合影。

合影留念结束后,主持人开始引导台下的观众起立鼓掌,准备进入下一个环节。

漆昊与李教授顺着台阶退到舞台一侧的休息区,由于晚宴和自由交流时间还没正式开始,这一角暂时成了难得的清静之地。

“漆昊,再次祝贺你。”李教授端起一杯苏打水,递给漆吴一杯,微笑着说道,“今晚过后,全行业的目光都会盯在QInet上。”

“作为这个奇迹的创造者,你接下来有什么具体的打算?是准备把这套架构开源,还是已经有了下一步的研究计划?比如探索更具挑战性的视频生成,或者是多模态的融合?”

“谢谢李教授,其实,我可能要让您失望了。”

“回国之后,我打算暂时把深度学习和图像识别的工作放一放,想重新回归数学。”

“回归数学?”李教授眼中流露出诧异。

“漆昊,这可太可惜了!你可能还没意识到你现在站在一个多么关键的历史节点上。”

“Qlnet拉开了深度学习新时代的大门,无论是学术界还是工业界,现在都渴望你接下来的动作,如果你顺着这条路走下去,你完全可以建立一个属于你自己的研究帝国,而纯数学那可能是很多年都看不到任何应用成果的

路。”

“我明白您的意思,李教授。”

“但我总觉得,现在的深度学习,还缺失一点东西。”

李教授微微挑了挑眉,顺着他的话问道:“缺失什么?”

“损失函数的优化路径,其实是在寻找一个流形上的一个极小状态,这个过程,非常类似于某种共形变换下的面积极小化过程,也就是通过参数的调整,让数据流动的路径面积达到最小,同时保持特征的某种几何不变量………………”

漆昊自顾自地解释着,然而,当他亲口说出共形变换群,极小化状态以及严格证明的下界这几个词汇时,他脑中冒出了一些东西。

这些东西,他不知道最终导向什么地方,但就是这么突然冒出了出来。

关键这玩意没前没后的,就跟证明题跳了步骤一样。

唉,学霸的灵感真是挡也挡不住。

漆昊看向了一旁的白板,继承了老苏数学家的优良传统,他写下了一行极简的式子......