11.11云上盛惠!海量產(chǎn)品 · 輕松上云!云服務(wù)器首年1.8折起,買1年送3個(gè)月!超值優(yōu)惠,性能穩(wěn)定,讓您的云端之旅更加暢享??靵眚v訊云選購(gòu)吧!
微軟研究人員挑戰(zhàn)了語言模型預(yù)訓(xùn)練的傳統(tǒng)方法,該方法在訓(xùn)練語料庫中的所有token上均勻應(yīng)用下一個(gè)token預(yù)測(cè)損失。他們提出了一種新的語言模型稱為RHO-1,該模型利用選擇性語言建模。SLM可以擴(kuò)展到監(jiān)督微調(diào),以解決數(shù)據(jù)集中的噪聲和分布不匹配,并通過訓(xùn)練一個(gè)強(qiáng)調(diào)幫助性、真實(shí)性和無害性的參考模型來獲得在預(yù)訓(xùn)練期間獲得本地對(duì)齊的基本模型。
微軟公司的研究團(tuán)隊(duì)最近提出了一種獨(dú)特且簡(jiǎn)單的方法,用于生成高質(zhì)量的文本嵌入。這種新方法僅使用合成數(shù)據(jù)和極少的訓(xùn)練步驟,就取得了令人矚目的成果。該研究的訓(xùn)練過程極大地減少了對(duì)中間預(yù)訓(xùn)練的需求,相較于當(dāng)前的多階段系統(tǒng),更加簡(jiǎn)潔高效。
近期的研究表明,通過在高質(zhì)量指令數(shù)據(jù)集上進(jìn)行微調(diào),生成的模型可以在廣泛的任務(wù)上展現(xiàn)出色的能力?,F(xiàn)有的指令數(shù)據(jù)生成方法通常會(huì)產(chǎn)生重復(fù)數(shù)據(jù),并且在數(shù)據(jù)質(zhì)量上不夠可控。未來的工作可能會(huì)探索不同任務(wù)和更大數(shù)據(jù)集之間的相互作用,以進(jìn)一步增強(qiáng)單任務(wù)性能和泛化能力。
人工智能領(lǐng)域的趨勢(shì)是采用預(yù)訓(xùn)練、可調(diào)整表示的方法,為各種應(yīng)用提供任務(wù)不可知的優(yōu)勢(shì)。與此趨勢(shì)相呼應(yīng),微軟研究推出了Florence-2,這是一款靈活的視覺基礎(chǔ)模型,通過統(tǒng)一提示式表示成功應(yīng)對(duì)了計(jì)算機(jī)視覺中的挑戰(zhàn)。如果您喜歡他們的工作,請(qǐng)查看論文,并加入他們的社交媒體群體,獲取最新的人工智能研究新聞和有趣的項(xiàng)目。
微軟研究員最近發(fā)布了名為“EmotionPrompt”的研究成果,旨在增強(qiáng)多語言模型的情感智能。情感智能被認(rèn)為是人類素質(zhì)的一個(gè)關(guān)鍵組成部分,它涵蓋了情感理解、情感處理以及如何利用情感數(shù)據(jù)來指導(dǎo)邏輯和分析過程,如問題解決和行為管理。這項(xiàng)研究為多語言模型的情感智能潛力提供了初步的研究,有望在各種應(yīng)用領(lǐng)域取得進(jìn)展。
微軟的研究人員近日推出了一項(xiàng)名為L(zhǎng)oRAShear的創(chuàng)新技術(shù),旨在剪枝大型語言模型并實(shí)現(xiàn)知識(shí)的高效恢復(fù)。LLMs在處理文本數(shù)據(jù)和迅速檢索相關(guān)信息方面表現(xiàn)出色,廣泛應(yīng)用于搜索引擎和問答系統(tǒng)。未來的工作將集中在解決這些挑戰(zhàn),為人工智能領(lǐng)域的發(fā)展提供更多的支持。
學(xué)習(xí)英語并不容易,許多學(xué)生都深有體會(huì)。但當(dāng)學(xué)生是一臺(tái)計(jì)算機(jī)時(shí),有一種方法表現(xiàn)出奇地出色:只需將大量來自互聯(lián)網(wǎng)的文本輸入到一個(gè)名為神經(jīng)網(wǎng)絡(luò)的巨大數(shù)學(xué)模型中。他們的研究結(jié)果暗示了可能有助于訓(xùn)練更大型模型并理解其行為的新研究方向。
本文概要:1.微軟研究認(rèn)為GPT-4足夠應(yīng)對(duì)醫(yī)療任務(wù),可以加速醫(yī)療流程并提高效率。2.GPT-4在醫(yī)療領(lǐng)域展現(xiàn)出了令人印象深刻的能力,可以處理大規(guī)模的非結(jié)構(gòu)化患者數(shù)據(jù)。這一愿景代表了基于證據(jù)的精確健康的夢(mèng)想,大型語言模型將在推動(dòng)我們走向這個(gè)激動(dòng)人心且具有變革性的未來中發(fā)揮關(guān)鍵作用。
微軟的一項(xiàng)新研究表明,網(wǎng)絡(luò)文明程度已經(jīng)出現(xiàn)了轉(zhuǎn)機(jī),并且正在恢復(fù)中...當(dāng)這一流行病處于高峰期時(shí),微軟在2020年進(jìn)行的一項(xiàng)相同的調(diào)查表明,網(wǎng)絡(luò)文明程度已經(jīng)惡化...根據(jù)最新的數(shù)字文明指數(shù)(DCI)調(diào)查,今年的得分是65%...微軟在22個(gè)國(guó)家進(jìn)行了這項(xiàng)調(diào)查,并對(duì)13至17歲的青少年以及18至74歲的成年人進(jìn)行了調(diào)查,了解他們?cè)谒膫€(gè)類別(聲譽(yù)、行為、性和個(gè)人/侵?jǐn)_)中接觸到的21種網(wǎng)絡(luò)風(fēng)險(xiǎn),他們?cè)诰W(wǎng)上的生活經(jīng)歷(包括在大流行期間)以及這些領(lǐng)域的互動(dòng)如何影響他們對(duì)網(wǎng)絡(luò)文明的看法......
根據(jù)微軟蜜罐服務(wù)器網(wǎng)絡(luò)收集的數(shù)據(jù),大多數(shù)暴力攻擊者主要試圖猜測(cè)短密碼,很少有攻擊是針對(duì)長(zhǎng)密碼或包含復(fù)雜字符的憑證的。"我分析了超過2500萬次針對(duì)SSH的暴力攻擊所輸入的憑證。這大約是微軟安全傳感網(wǎng)絡(luò)中30天的數(shù)據(jù),"微軟的安全研究員羅斯·貝文頓說。"77%的嘗試使用了1到7個(gè)字符的密碼。超過10個(gè)字符的密碼只出現(xiàn)在6%的情況下。"他在微軟擔(dān)任欺詐主管,他的任務(wù)是創(chuàng)建看起來合法的蜜罐系統(tǒng),以研究攻擊者的趨勢(shì)。在他分析的
關(guān)鍵數(shù)據(jù)洞察一覽● 微軟與IDC的最新合作研究[1]顯示,在應(yīng)對(duì)新型冠狀病毒肺炎疫情的過程中,63%的中國(guó)企業(yè)加快了數(shù)字化進(jìn)程。● 在中國(guó),67%的企業(yè)決策者認(rèn)為創(chuàng)新力是“必備條件”,而非“可有可無”;他們認(rèn)為創(chuàng)新力對(duì)于企業(yè)業(yè)績(jī)和韌性至關(guān)重要?!?自新型冠狀病毒肺炎疫情爆發(fā)以來,中國(guó)企業(yè)的創(chuàng)新力文化更為成熟,創(chuàng)新力提高了19%,這一數(shù)字超過了亞太地區(qū)所有受調(diào)研企業(yè)的平均增長(zhǎng)率(11%)。● 在過去六個(gè)月中,中國(guó)企業(yè)的創(chuàng)新力文化成?
據(jù)外媒WindowsUnited消息,微軟研究院使用人工智能和深度學(xué)習(xí)開發(fā)出了一種新的算法來還原舊照片。此前恢復(fù)舊的和損壞的照片的方法主要是深度學(xué)習(xí)。但是,對(duì)于較舊的照片,其衰減過程非常復(fù)雜。
?近期,微軟研究團(tuán)隊(duì)通過對(duì)上下文建模加以研究得出一種新的方法,這種方法能夠讓 AI 模型通過上下文的歷史記錄來改寫對(duì)話中的最后話語,那么,這是一種怎樣的研究方法呢?
這并不令人驚訝,你的在線社交圈已經(jīng)變得越來越危險(xiǎn)。根據(jù)微軟關(guān)于網(wǎng)絡(luò)安全的初步調(diào)查結(jié)果,將近三分之二的網(wǎng)絡(luò)風(fēng)險(xiǎn)來自陌生人或者是那些你只在網(wǎng)上認(rèn)識(shí)的人。這家軟件巨頭在解釋調(diào)查結(jié)果的一篇博客
不久前推出的增強(qiáng)現(xiàn)實(shí)游戲《Pokémon Go》(精靈夢(mèng)可寶)在國(guó)外紅透各大社交圈,無論是平民或者明星,只要是能夠玩這款游戲的地區(qū),人們大多都會(huì)拿著手機(jī)出門抓小精靈。近日,微軟和美國(guó)斯坦福大學(xué)的研究人員表示,只要玩家保持每天都玩玩這款游戲,就能增加你的平均預(yù)期壽命,再活“500”年不成問題!
微軟研究院(MicrosoftResearch,英文縮寫:MSR)是微軟在1991年創(chuàng)立硏究不同的計(jì)算機(jī)科學(xué)主題與問題的分部,微軟研究院稱其堅(jiān)持的一個(gè)目標(biāo)為“支持長(zhǎng)期的計(jì)算機(jī)科學(xué)硏究而不受產(chǎn)品周期所限”。上周在華盛頓州雷德蒙市,包括微軟聯(lián)合創(chuàng)始人比爾·蓋茨在內(nèi)的頂尖學(xué)者和研究科學(xué)家回顧了計(jì)算機(jī)科學(xué)在過去25年取得的成就,并且展望了未來25年他們對(duì)于微軟研究院的期待。
微軟的Win10現(xiàn)實(shí)增強(qiáng)頭戴設(shè)備Hololens首批開發(fā)者版已經(jīng)出貨,在談到這款設(shè)備的缺點(diǎn)時(shí),人們提到最多的就是續(xù)航較短和視野狹窄的問題。現(xiàn)在微軟正在研究一項(xiàng)全新技術(shù),有望解決HoloLens視野狹窄的問題。
我們即將進(jìn)入新的一年。2016年對(duì)微軟研究院來說是一個(gè)里程碑,這個(gè)由納森·梅爾沃德(Nathan Myhrvold)在1991年創(chuàng)立的部門將迎來25歲生日。微軟研究院院長(zhǎng)彼得·李( Peter Lee)稱2016年是“技術(shù)進(jìn)步的新黃金時(shí)代”。在即將到來的新一年,技術(shù)將會(huì)有哪些進(jìn)展呢?我們來看看微軟研究院的16位科學(xué)家和工程師是怎么說的?新的硅架構(gòu)將讓計(jì)算機(jī)變得更快
8月8日消息,據(jù)國(guó)外媒體報(bào)道,一位微軟研究人員強(qiáng)烈抨擊谷歌為Google+服務(wù)制定的嚴(yán)格的“實(shí)名制”政策。谷歌已經(jīng)刪除了使用假冒名字或者化名的Google+賬戶。
近日,微軟研究院(Microsoft Research)與微軟公司董事長(zhǎng)比爾·蓋茨聯(lián)手創(chuàng)辦了一個(gè)新的網(wǎng)站,主要用于普及物理學(xué)等基礎(chǔ)科學(xué)知識(shí)。新網(wǎng)站首次將把20世紀(jì)著名物理學(xué)家費(fèi)曼 (Richard Feynman)的精彩系列講座免費(fèi)提供給公眾..
安全研究人員發(fā)現(xiàn)了一種新型攻擊技術(shù),能夠繞過微軟的驅(qū)動(dòng)程序簽名強(qiáng)制執(zhí)行,甚至在完全修補(bǔ)的Windows系統(tǒng)上實(shí)施操作系統(tǒng)降級(jí)攻擊。SafeBreach的研究員AlonLeviev在報(bào)告中指出,這種繞過方法可以加載未簽名的內(nèi)核驅(qū)動(dòng)程序,使攻擊者能夠部署自定義根kit,進(jìn)削弱安全控制,隱藏進(jìn)程和網(wǎng)絡(luò)活動(dòng),保持隱秘等。為了有效地減輕這種攻擊風(fēng)險(xiǎn),確保VBS處于啟用狀態(tài)并設(shè)置UEFI鎖和強(qiáng)制標(biāo)志是至關(guān)重要的。
微軟最近發(fā)布了一份新版本的研究報(bào)告,記錄了過去幾年工作方式的轉(zhuǎn)變,著重探討了遠(yuǎn)程和混合工作的影響以及人工智能在工作場(chǎng)所的崛起。根據(jù)微軟年度工作趨勢(shì)指數(shù)的調(diào)查結(jié)果顯示,過去六個(gè)月中,人工智能的使用率幾乎翻了一番,達(dá)到了知識(shí)工作者的75%。這份研究報(bào)告揭示了人工智能在工作場(chǎng)所的日益重要性,以及其對(duì)知識(shí)工作者和就業(yè)市場(chǎng)的深遠(yuǎn)影響。
微軟研究團(tuán)隊(duì)引領(lǐng)著教育技術(shù)領(lǐng)域的不斷創(chuàng)新,近日推出了一款名為Orca-Math的前沿工具,它是一款小語言模型,擁有7億參數(shù),并基于Mistral-7B架構(gòu)微調(diào)來。這一創(chuàng)新方法重新定義了傳統(tǒng)數(shù)學(xué)單詞問題教學(xué)的策略,徹底改變了學(xué)生參與和掌握這一學(xué)科的方式。通過利用SLM通過合成數(shù)據(jù)集和迭代反饋來解鎖學(xué)習(xí)工具的全新時(shí)代,Orca-Math為技術(shù)和學(xué)習(xí)手牽手走向解鎖全球?qū)W生的全部潛力的未來提供了一瞥。
微軟的最新研究成果在圖像生成領(lǐng)域引起了廣泛關(guān)注。他們提出了一種全新的文本至圖像生成方法,這種方法采用了多重低秩適應(yīng)技術(shù),能夠創(chuàng)造出高度個(gè)性化且細(xì)節(jié)豐富的圖像。他們的免訓(xùn)練方法、全新的測(cè)試平臺(tái)以及基于GPT-4V的評(píng)估工具,都為圖像生成技術(shù)的發(fā)展提供了新的思路和工具。
本文為微軟亞洲研究院全球研究合伙人韋福如的分享,講述了他對(duì)人工智能、計(jì)算機(jī)及其交叉學(xué)科領(lǐng)域的觀點(diǎn)洞察及前沿展望。從人工智能的發(fā)展歷程來看,GPT系列模型的問世無疑是一個(gè)重要的里程碑。2017年,他因?qū)ψ匀徽Z言處理的貢獻(xiàn)入選《麻省理工技術(shù)評(píng)論》中國(guó)35歲以下創(chuàng)新者年度榜單。
微軟公司的首席執(zhí)行官SatyaNadella在周一表示,SamAltman、GregBrockman以及他們的許多前OpenAI同事將加入這家軟件巨頭。這一宣布標(biāo)志著在AI初創(chuàng)公司的高管突然離職后,經(jīng)過三天激烈討論的高潮。Nadella似乎還證實(shí)了EmmettShear被任命為OpenAI新任首席執(zhí)行官的報(bào)道,稱他們「期待著了解EmmettShear和OpenAI的新領(lǐng)導(dǎo)團(tuán)隊(duì),并與他們合作」。
在混合現(xiàn)實(shí)場(chǎng)景中,生成準(zhǔn)確和真實(shí)的全身虛擬角色動(dòng)作一直是一個(gè)持久性的挑戰(zhàn)。傳統(tǒng)解決方案通常使用頭戴式設(shè)備,依賴有限的輸入信號(hào),如頭部和手部的6自由度。其在處理運(yùn)動(dòng)控制和手部跟蹤等多種場(chǎng)景中的多功能性,以及出色的性能指標(biāo),使其成為該領(lǐng)域的開創(chuàng)性解決方案。
最近微軟一項(xiàng)研究讓Llama2選擇性失憶了,把哈利波特忘得一干二凈?,F(xiàn)在問模型“哈利波特是誰?”,它的回答是這樣?jì)饍旱?木有赫敏、羅恩,木有霍格沃茨……要知道此前Llama2的記憶深度還是很給力的,比如給它一個(gè)看似非常普通的提示“那年秋天,哈利波特回到學(xué)?!?,它就能繼續(xù)講述J.K.羅琳筆下的魔法世界。此研究只測(cè)試了虛構(gòu)類文本,模型表現(xiàn)的普適性還需進(jìn)一步驗(yàn)?
微軟的人工智能研究員在GitHub上發(fā)布開源訓(xùn)練數(shù)據(jù)存儲(chǔ)桶時(shí),意外暴露了數(shù)十TB的敏感數(shù)據(jù),包括私鑰和密碼。云安全初創(chuàng)公司W(wǎng)iz發(fā)現(xiàn)了這個(gè)屬于微軟AI研究部門的GitHub倉庫,并將其作為其持續(xù)進(jìn)行的云托管數(shù)據(jù)意外曝光工作的一部分分享給TechCrunch?!刮④洷硎?,由于Wiz的研究,它已經(jīng)擴(kuò)展了GitHub的秘密掃描服務(wù),該服務(wù)可以監(jiān)控所有公開源代碼的更改,以防明文暴露憑證和其他秘密,包括任何可能具有過度許可過期或權(quán)限的SAStoken。
微軟亞洲研究院的研究人員最近在ICCV2023上發(fā)表了一篇論文,提出了一種名為AdaptiveFourierFilter的輕量高效TokenMixer,可以顯著降低視覺神經(jīng)網(wǎng)絡(luò)的計(jì)算復(fù)雜度。通過傅立葉變換可以等效地實(shí)現(xiàn)Token的融合計(jì)算量遠(yuǎn)小于直接使用大內(nèi)核卷積進(jìn)行Token融合。本研究為探索有效的輕量級(jí)視覺網(wǎng)絡(luò)結(jié)構(gòu)提供了新的思路和范式。