“面對疾風吧，哈薩給！”
蘇飛剛進寢室，就聽到了某人選擇了快樂風男的聲音。
只見寢室里李浩博和鄭浩然正一左一右趴在周揚桌上看周揚打擼啊擼。
鄭浩然：“臥槽，揚仔，你還玩風男，不怕被封號啊？”
周揚：“給你們倆來一局教學局?！?p> 鄭浩然和李浩博同時翻了個白眼。
“阿飛你今天干啥去了？”鄭浩然撇見正溜進寢室的蘇飛，疑惑問道：“不會是和姜大小姐約會了吧？”
蘇飛：“你看人家看得上我不？”
鄭浩然悻悻點頭：“也是?！?p> 蘇飛：“……”
李浩博道：“老三應該是參加腦科學競賽訓練了吧？”
鄭浩然：“是不是又是哪個小姑娘告訴老大你的？”
李浩博搖了搖頭，拿出手機，打開VX，只見一個白貓頭像的人發(fā)了一條朋友圈。
【腦科學建模競賽第一次正式訓練！各位學神們都好厲害，珊珊也要努力追趕！一起fighting，勇奪第一!】
配圖有三張，第一張是白珊珊在機房外的自拍，第二張是王正教授專心講課的側拍，第三張則是王正教授推薦的幾本書的照片。
蘇飛直呼好家伙，心里暗道，朋友圈果然是裝點出來的。
“這妹子腿好細，嘶溜～”
鄭浩然的關注點果然不負蘇飛所望，集中在了奇奇怪怪的地方。
李浩博嫌棄地看著鄭浩然：“能不能不要暴露你奇怪的xp?！?p> 周揚聽到鄭浩然的話，瞬間覺得手里的快樂風男不快樂了，也湊過去一探妹子真容。
周揚：“嘶～舔一下！這妹子誰啊？”
李浩博說道：“這是我們校學生會的書記，也是這次腦科學建模競賽的隊員，她還是之前數(shù)模競賽高教社杯冠軍杯那隊的隊員?！?p> 鄭浩然：“臥槽，阿飛，有這么個高顏值大神帶著，你們隊不是起飛？”
嗯……是真的起飛，物理意義上的螺旋升天。
蘇飛想了想，說道：“白珊珊同學的溝通協(xié)調(diào)能力和文書工作能力很強。”
頗為了解學生會的官方腔話的李浩博吐槽一句：“好一句廢話文學?！?p> 另外兩個寶寶完全沒get到蘇飛的點，還一臉天真的樣子。
周揚甚至喃喃自語：“比你有天賦的人還比你努力，而我卻還在打游戲。”
蘇飛想了想道：“既然比你有天賦又比你努力，那你還努力干什么呢？該吃吃，該睡睡，該玩玩?！?p> 周揚恍然大悟：“有道理！”
于是，他繼續(xù)投入快樂風男的戰(zhàn)場。
……
蘇飛則是把他的小破筆記本抱上床，他想要繼續(xù)完善他的“菠蘿”。
蘇飛這幾天根據(jù)現(xiàn)有的注意力機制文獻，有空便修修改改，新想法的框架早就打好，但技術上其實早就步入瓶頸。
具體的技術難點有兩個，一是既然要以注意力機制為基創(chuàng)造新的模型單元，那么就要舍棄現(xiàn)有的所有其他模型結構，舍棄這些結構代表著舍棄信息提取層，而注意力機制計算囊括的信息很單一，使用注意力機制可以得到更精確的信息，但同時會縮減信息源。
就好比你拿著放大鏡看世界，世界的確更清晰了，但視野會縮小。
第二個難點則是，注意力機制計算是沒有順序的，也就是說信息的順序是雜亂無序的，而且是沒有時空性的，這就意味著在提取信息的時候，你不但有可能得到位置相反的信息，還可能得到時空錯亂的信息。
就比如說你在讀取一篇新故事的時候，你都是從頭讀取，對于沒有讀到的內(nèi)容你是不知道的，這才會有新奇感，如果是推理小說，你甚至能根據(jù)前面故事的內(nèi)容來推斷最后的兇手。
然而一旦采用注意力機制計算，計算機在讀這篇故事的時候，很可能會直接讀取誰是兇手，因為這個因素是所有讀者最為關注的，最吸引讀者注意力的，然后逆著順序往前讀。
這兩個難點也是困擾當今想改善注意力機制的學者們的最麻煩的難題，而蘇飛目前對第一個難點有點想法。
他果斷地打開系統(tǒng)商城，買了一張靈感激發(fā)卡。
蘇飛不會自大到僅靠自己解決這種困擾整個學界十多年的難題。
當然，他也已經(jīng)有些思路，只是需要靈感激發(fā)卡來給他具體化一下。
如果把注意力機制的計算看成一個矩陣，一個矩陣的計算獲取一個單一信息，那么是不是只需要多個矩陣就能獲得多個信息……
蘇飛順著這個思路往下想，同時心里默念“使用靈感激發(fā)卡”。
和上次一樣，一股神秘的暖流鉆上蘇飛的大腦，一個個根據(jù)蘇飛的思路演算的公式直接刻入他的腦海，一次次的理論修改也涌入他的腦?！?p> 就仿佛是不斷試錯后成功的蘇飛把這一過程帶回去給過去的自己。
大腦瞬間便超負荷，蘇飛只感覺自己的cpu快炸了。
‘叮！靈感激發(fā)卡使用成功！’
隨著系統(tǒng)的提示音落下，蘇飛的意識也從那海量的信息中退出，就像是沉迷VR的人突然被拔了電源一樣。
“這個思路還真的是對的……”
蘇飛有些不可思議，要知道，這個思路完全就是他自己琢磨的，不像上次ELMo論文一般有姜大小姐給她啟發(fā)。
“數(shù)學理論真是萬能啊，多讀書果然沒錯?！碧K飛不禁喃喃自語。
蘇飛連忙把第一個難點的解決方案寫到了word文檔上去。
【多矩陣拼接構造多頭注意力機制以此彌補注意力機制獲取信息單一的問題……】
良久，他把所有過程詳細地書寫了一遍。
“那么，現(xiàn)在該來考慮第二個難點了?！?p> 蘇飛緊皺著眉，對于注意力機制的信息無序問題，他還沒有任何思路，實際上現(xiàn)在有很多論文專門嘗試攻克這個問題，然而效果平平。
蘇飛打開面板，看著自己僅剩的1000積分，如果再買一張靈感激發(fā)卡，他就成窮光蛋了，而系統(tǒng)目前給出的四個任務，其中三個還遙遙無期。
還需要考慮到的一點是，在沒有思路的情況下使用靈感激發(fā)卡會不會白白浪費一張。
蘇飛略微思索了一會兒，決定暫時放這個難點一馬。
過幾天去AI研究社看看能不能“集(薅)思(薅)廣(羊)益(毛)”。
我愛西瓜書
感謝各位的支持?。。? 求追讀、求收藏，球球啦！