步。
“不过就算天塌下来了,也不能阻止我和我夫人的约会。”曼宁继续收拾着行李。
“曼宁教授,我向您保证,不会耽误您和您夫人的约会,您只要看上两眼,五分钟就好,这篇论文的意义重大,很可能会影响人工智能领域的走向啊。先生,我还记得您在前年的学术会议上说的,人工智能是人类科技的一个皇冠,而注意力机制是皇冠上的一颗璀璨的宝石,然而至今为止还无人能鉴赏这颗宝石的美……但现在这颗宝石就在这里,就在您手里啊。”
皮埃尔不死心的话让曼宁的动作一顿,他早听说ACL的领域主席一个个能说会道,今天总算是体会到了。
皮埃尔充满期待地看着曼宁,而曼宁则一脸纠结。
“曼宁教授,写这篇论文的是ELMo的作者,FeiSu。”皮埃尔看曼宁仍然犹豫不决,又添了一把火。
曼宁听到这个名字,眉头一挑,盯着皮埃尔的眼睛,他沉默了好一会儿,最终长叹一口气,道:“就五分钟。”
“我向您保证,先生!”皮埃尔笑着把论文递了过去。
“Attentionisallyouneed?”
看到这个标题,曼宁就是一惊。
他在看到这个题目的瞬间便被吸引住了,这种有些狂妄的态度,不愧是那个构建出ELMo的天才。
曼宁一点也不觉得这个有些高傲的论文题目有什么问题,相反,他觉得天才就该如此,不趁着年轻的时候狂妄,难道等老了以后悲春伤秋?
“构建新的模型单元?”
“仅用注意力机制?”
曼宁刚读完论文概要,便开始惊呼,这是多少人尝试过或正在尝试却无法成功的事情。
这个本科生……步子是否迈的太大了?
曼宁不禁有些为苏飞担忧,天才且狂妄是好事,但狂妄不代表鲁莽,学术还是要一步一步来的。
但很快,他就再也没有这种想法了。
越往下看他越心惊,大概过了十分钟,曼宁把行李箱放到一旁,眉头紧锁着,一动不动地盯着这篇论文。
用位置向量引入位置信息以此解决无序问题?
多头注意力机制使解决信息单一问题?
十分大胆而巧妙的想法!
曼宁发现他根本找不出什么可以改进的地方,硬要说的话,那就是这次的论文,读起来不是很顺畅,有一些语法瑕疵,比起上次的ELMo那篇论文,感觉英文写作水平下降了一些。
当然,这些都是可以忽略的小问题。
曼宁继续往下看,作者给出了这个模型在机器翻译上的评分和所用时间,性能上远远超出了现在所有的主流模型。
再下面一部分还有作者附带的理论证明,企图通过数学的角度,来解释这样构建模型的依据。
在深度学习中,大多数人都讲不清原理,毕竟深度学习是个黑盒
请收藏:https://m.lawen.cc
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)