一句話讓AI訓練AI!20分鐘微調羊駝模型,從數據收集到訓練全包了
只需一句話,描述你想要大模型去做什麼。
就有一系列AI自己當“模型訓練師”,幫你完成從生成數據集到微調的所有工作。
比如讓70億參數羊駝大模型學會優化GPT-4提示詞,整個過程只要20分鐘。
秘訣就是網友分享的一個可以幫咱自動訓練模型的AI工具:
不談陰性 王必勝還原收報告過程強調:家長主動不同意
它能幫你搞定數據收集、寫代碼等一系列操作,你要做的就是用人話描述你要什麼,然後坐等即可。
大人的应对方法
可能是全世界最簡單的大模型微調方法了(手動狗頭)。
並且成本也不高,羊駝這個例子花費就不超15美元(合100來塊人民幣)。
好消息,小哥已將它直接開源(GitHub1k標星),你也可以試試。
AI模型訓練師操作指南
如上圖所示,此工具名叫gpt-llm-trainer。
硬水市市民必備的開架護髮 CP 王✨fino 護髮雙寶(fino護髮膜&護髮油)
如果你也想用它來自動微調某個大模型,首先需要準備:
1、Google Colab或者本地Jupyter notebook;2、如果選前者,請切換到可用的最佳GPU(執行“Runtime -> change runtime type”);3、以及一個OpenAI API key(主要還是用的GPT-4能力)。
然後就可以進入具體操作了:
1、先寫你的提示詞,也就是你希望這個微調後的模型需要具備什麼功能。
可以肯定的是,描述得越清晰越好。
比如開頭的羊駝例子,作者就給了這麼一大段(紅字部分):
官方也給了一個簡單的示例:
新竹行人走斑馬線被撞右腿喪能、左眼近瞎 無照機車女下場出爐
2、設定兩個值:
(1)temperature,生成數據集的“溫度”(取值0-1),值越高代表創意性越強,越低代表越精確;(2)number_of_examples,要生成的示例數量,推薦從100開始。
3、無腦“下一步”,運行所有cell,完成“生成數據集”、“自動分爲訓練集和驗證集”、“安裝各種必備庫”、“定義超參數”、“加載數據集並訓練”這一系列自動步驟。
之後,你就能得到一個微調好的新模型了。
需要注意的是,這個過程可能在10分鐘到幾個小時不等,取決於你設置的示例生成數量。
4、最後執行“Run Inference”測試效果,完畢。
音樂一響牽起劇情動盪 主題曲為何總是有能力打進你心底?
相當簡單有沒有。
魔族老公有点二
值得一提的是,作者已經盤點出了一些待改進的地方,比如:
大家也可以淺淺期待一波。
如此神器,出自誰手?
我們簡單挖了一下,發現作者的來頭還不小。
他叫Matt Shumer,推特粉絲1.7萬。
Matt自己開了家公司,產品名叫HyperWriteAI。
這是一個厲害的瀏覽器操作agent,可以像人一樣操作谷歌瀏覽器來完成一系列任務,比如訂披薩。
进口丰田海狮商务车山东济南经销商电话
和gpt-llm-trainer一樣,你只需要用文字描述目標,它就會一邊列步驟,一邊執行。
如興前負責人陳仕修涉買地掏空公司 獲不起訴處分
號稱“比AutoGPT強”——
眾院議長麥卡錫下台後的第一個受害者竟是…前議長裴洛西!
目前,HyperWriteAI已經可以在谷歌擴展程序中安裝了,顯示用戶已達10w+。
經典賽/以溝通汰換權威性指導 新日式球風打造冠軍武士隊
最後,我們翻看這位大佬的推特,發現他當天最新的一條推文是:
可能又在醞釀什麼大動作?(手動狗頭)
更新:大佬又發了一個類似的自動工具,名叫gpt-oracle-trainer。
只需上傳一個產品文檔,就能自動訓練出一個可以回答有關該產品問題的聊天機器人。
蘋果針對虛擬實境頭戴裝置Vision Pro、visionOS作業系統推出開發工具組
友情鏈接:[1]https://github.com/mshumer/gpt-llm-trainer[2]https://github.com/mshumer/gpt-oracle-trainer