【新智元導(dǎo)讀】這個開源工具，居然能用GPT-4代替人類去標(biāo)注數(shù)據(jù)，效率比人類高了100倍，但成本只有1/7。大模型滿天飛的時代，AI行業(yè)最缺的是什么?毫無疑問一定是算（xian）力(ka)。老黃作為AI掘金者唯一的「鏟子供應(yīng)商」，早已賺得盆滿缽滿。除了GPU，還有什么是訓(xùn)練一個高效的大
......
本文由站長之家合作伙伴自媒體作者“新智元公眾號”授權(quán)發(fā)布于站長之家平臺，本平臺僅提供信息索引服務(wù)。由于內(nèi)容發(fā)布時間超過平臺更新維護(hù)時間，為了保證文章信息的及時性，內(nèi)容觀點(diǎn)的準(zhǔn)確性，平臺將不提供完全的內(nèi)容展現(xiàn)，本頁面內(nèi)容僅為平臺搜索索引使用。需閱讀完整內(nèi)容的用戶，請查看原文，獲取內(nèi)容詳情。
（舉報）
一家初創(chuàng)公司refuel上線了一個AI標(biāo)注數(shù)據(jù)的開源工具Autolabel，它能夠利用LLM自動對數(shù)據(jù)進(jìn)行標(biāo)注，大大簡化了數(shù)據(jù)標(biāo)注流程。Autolabel支持主流的LLM提供商，并可為開源和私有模型提供支持。在接下來的幾個月中，開發(fā)者承諾將向Autolabel添加大量新功能:如支持更多LLM進(jìn)行數(shù)據(jù)標(biāo)注;支持更多標(biāo)注任務(wù)，例如總結(jié)等;支持更多的輸入數(shù)據(jù)類型和更高的LLM輸出穩(wěn)健性;讓用戶能夠試驗多個LLM和不同提示的工作流程。
當(dāng)下的生成式AI，是一個正在茁壯成長的孩子，那么源源不斷的數(shù)據(jù)，就是其喂養(yǎng)其生長的食物。就是制作這一“食物”的過程。AI標(biāo)注的出現(xiàn)，并不是國內(nèi)標(biāo)注企業(yè)的末日只是一種低效、廉價、缺乏技術(shù)含量的勞動密集型標(biāo)注方式的末日。
作為自然語言生成中的一項任務(wù)，主要用來將一大段長文本壓縮為簡短的摘要，例如新聞文章、源代碼和跨語言文本等多種內(nèi)容都能用到。隨著大模型的出現(xiàn)，傳統(tǒng)的在特定數(shù)據(jù)集上進(jìn)行微調(diào)的方法已經(jīng)不在適用。本文還發(fā)現(xiàn)微調(diào)模型生成的摘要往往具有固定且嚴(yán)格的長度LLM能夠根據(jù)輸入信息調(diào)整輸出長度。
【新智元導(dǎo)讀】GPT-4參數(shù)規(guī)模擴(kuò)大1000倍，如何實現(xiàn)?OpenAI科學(xué)家最新演講，從第一性原理出發(fā)，探討了2023年大模型發(fā)展現(xiàn)狀?！窯PT-4即將超越拐點(diǎn)，并且性能實現(xiàn)顯著跳躍」?！覆还茉趺凑f，從第一原理出發(fā)理解核心思想是唯一可擴(kuò)展的方法」。
Adobe日前與微軟等公司共同推出了一個新符號，用以標(biāo)注內(nèi)容是否由人工智能工具生成。該符號將嵌入在內(nèi)容的元數(shù)據(jù)中，當(dāng)用戶瀏覽圖片時，將顯示內(nèi)容的制作工具和所有權(quán)信息。隨著AI生成假信息的擔(dān)憂加劇，各大科技公司也在積極開發(fā)各種水印系統(tǒng)來標(biāo)注AI內(nèi)容。
鄭雯至今覺得記得幾個月的下午，那天，她一個小時就賺了2毛錢。她畢業(yè)于湖南的一所專科學(xué)校，是一名大模型數(shù)據(jù)標(biāo)注師，每天的工作并不復(fù)雜——給自己領(lǐng)取的原始數(shù)據(jù)添加標(biāo)簽。（備注:文中人物皆為化名。
【新智元導(dǎo)讀】斯坦福學(xué)者發(fā)現(xiàn)，GPT-4對于Nature、ICLR的論文給出的審稿意見，竟然和人類審稿人有超過50%的相似性?？磥碜尨竽Ｐ蛠韼臀覀儗徴撐?，并不是天方夜譚啊。他的研究興趣涉及計算社會科學(xué)、社會計算和數(shù)據(jù)科學(xué)。
大型語言模型在處理NLP領(lǐng)域的各種下游任務(wù)方面已經(jīng)表現(xiàn)出卓越的能力。GPT-4、ChatGPT等開創(chuàng)性模型已經(jīng)接受了大量文本數(shù)據(jù)的訓(xùn)練，使它們具備強(qiáng)大的文本理解和生成能力，能夠生成連貫且上下文相關(guān)的響應(yīng)，在各種NLP任務(wù)中具有高度通用性。為了評估模型在不同年級數(shù)學(xué)問題上的解決能力，該研究在K6數(shù)據(jù)集上測試評估了幾種模型的性能，包括:GPT-4、ChatGPT、Chinese-Alpaca-13B、MOSS-16B、Ziya-LLaMA-13B、Baichuan-7B、ChatGLM-6B、ChatGLM2-6B和MathGLM-GLM-10B，結(jié)果如下圖8所示。
智譜AI發(fā)布MathGLM數(shù)學(xué)模型，旨在增強(qiáng)大模型在數(shù)學(xué)推理方面的性能。它能夠精確計算算術(shù)運(yùn)算，包括基礎(chǔ)算術(shù)運(yùn)算和復(fù)雜混合運(yùn)算，并提升模型的中文數(shù)學(xué)解決能力。MathGLM還在解決不同年級數(shù)學(xué)問題和數(shù)學(xué)應(yīng)用題上進(jìn)行了實驗，取得了較好的結(jié)果。
BingChat創(chuàng)意和精確模式全面采用GPT-4微軟搜索主管MikhailParakhin確認(rèn)BingChat在創(chuàng)意和精確模式下100%采用GPT-4。為評估模型對日本文化的適應(yīng)性，研究人員開發(fā)了Rakuda排名系統(tǒng)，GPT-3.5在排名中表現(xiàn)最好。
