生成式AI代碼開發平臺Phind在官網發布了最新V7版本,性能方面超越GPT-4,運行效率提升了5倍,并且支持中文和16K超長上下文。
據悉,Phind V7是基于Phind的開源代碼模型CodeLlama-34B V2,以及700億個高質量代碼和推理問題進行了額外精調。
CodeLlama-34B V2在huggingface(笑臉)的代碼大模型排行榜中位居第一名,這也是首個擊敗GPT-4的開源代碼項目。
無需注冊,免費在線測試地址:https://www.phind.com/
開源地址:https://huggingface.co/Phind/Phind-CodeLlama-34B-v2
Phind V7專業代碼開發平臺
Phind V7在HumanEval上的測試分數達到74.7%,成功超越了GPT-4在今年3月份的官方技術報告中公布的67%的成績。
但Phind發現,HumanEval的評分并不能準確地反映出大模型的實用性。
Phind將多個版本部署到自家服務平臺后,收集到了大量反饋信息,發現其模型在大多數真實問題上的表現與GPT-4相當甚至更好。
許多在其Discord社區的用戶已經開始只使用Phind的產品,盡管他們也訂閱了GPT-4。
除了性能超強之外,運行速度是Phind V7的一大技術亮點,通過在NVIDIA的新型TensorRT-LLM庫上運行模型,Phind成功實現了比GPT-4快5倍的運行速度,達到每秒處理100 tokens。
另一個優點是Phind支持多達16k tokens的上下文。目前,Phind允許用戶輸入最多12k tokens,剩余的4k tokens用于網絡結果。
Phind V7精通Python、C/C++、TypeScript、Java等主流編程語言,使用界面也簡單直觀,直接輸入你的編程問題就能返回代碼。
例如,我們直接輸入中文提示:用python寫一個吃豆游戲的代碼。
Phind返回的注釋也都是中文,如果點擊三角按鈕可以直接在replit中運行非常方便。
支持多輪深度對話,繼續發問,游戲中的吃豆人和豆子是如何運動的?
Phind在對文本回答時,會標注引用的原出處,用戶點擊網站可以直接跳轉。
CodeLlama-34B V2
CodeLlama-34B V2代碼模型使用了80,000個高質量編程問題和解決方案的專有數據集進行微調。這個數據集的技術特點在于,采用的是指令-答案對的格式,而非常見的代碼補全示例,使得在結構上與HumanEval有明顯的區別。
此外,Phind還將 OpenAI 的去污方法應用在數據集中,以確保結果準確有效并且沒有發現受污染的示例。
方法是:1)對于每個評估示例,隨機抽取了三個 50 個字符的子字符串,如果少于 50 個字符,則使用整個示例。
2)如果任何采樣的子字符串是已處理的訓練示例的子字符串,則識別為匹配。
在訓練過程中,Phind使用了DeepSpeed ZeRO 3和Flash Attention 2技術,并使用了32個A100-80GB的GPU,僅在三小時內就完成了序列長度為4096的模型訓練。
經常編程的小伙伴們可以試試該模型,生成、審核、注釋、改錯樣樣精通,是降本增效的利器。
本文素材來源Phind官網,如有侵權請聯系刪除
未經允許不得轉載:RPA中國 | RPA全球生態 | 數字化勞動力 | RPA新聞 | 推動中國RPA生態發展 | 流 > 支持中文,性能超GPT-4!笑臉排名第一的純代碼模型
熱門信息
閱讀 (14728)
1 2023第三屆中國RPA+AI開發者大賽圓滿收官&獲獎名單公示閱讀 (13753)
2 《Market Insight:中國RPA市場發展洞察(2022)》報告正式發布 | RPA中國閱讀 (13055)
3 「RPA中國杯 · 第五屆RPA極客挑戰賽」成功舉辦及獲獎名單公示閱讀 (12964)
4 與科技共贏,與產業共進,第四屆ISIG中國產業智能大會成功召開閱讀 (11567)
5 《2022年中國流程挖掘行業研究報告》正式發布 | RPA中國