來源丨創(chuàng)業(yè)邦（ID：ichuangyebang）

作者丨劉楊楠

編輯丨海腰

圖源丨midjourney

今天的AI界，從不缺造神的故事。

技術(shù)小白和技術(shù)大牛之間，往往就相差了若干Prompts的距離。

最近，17歲高中生調(diào)試80多版打造的神級(jí)Prompt（名為Thinking-Claude）引發(fā)爭(zhēng)議，有人感嘆又一位天才Prompt少年橫空出世，也有人提醒廣大LLM的應(yīng)用開發(fā)團(tuán)隊(duì)，不要被情緒沖昏頭腦，認(rèn)為這個(gè)Prompt過于復(fù)雜且可維護(hù)性較低，堪稱最糟糕的“代碼屎山”。

過去一年，類似的爭(zhēng)論屢見不鮮，LangGPT（中文名稱為“結(jié)構(gòu)化提示詞”）創(chuàng)始人云中江樹已經(jīng)見怪不怪。他將各方觀點(diǎn)轉(zhuǎn)進(jìn)社群，呼吁大家學(xué)習(xí)可取之處，同時(shí)理性看待爭(zhēng)論。

目前，LangGPT是國內(nèi)最大的Prompt社區(qū)。

2023年5月，LangGPT在GitHub正式上線后，便迅速獲得開發(fā)者喜愛，并與通義千問、Kimi等模型廠商達(dá)成合作，共同推出官方Prompt模板。

直到今天，LangGPT在GitHub上的Star數(shù)仍在增長(zhǎng)。目前，LangGPT國內(nèi)飛書知識(shí)庫的訪問量已達(dá)20萬，全網(wǎng)傳播超100萬，微信私域社群成員超4000人。

今年4月，云中江樹辭去自動(dòng)駕駛工程師的工作，全職投身LangGPT創(chuàng)業(yè)。過去一年多，借助LangGPT的平臺(tái)，云中江樹看到了一個(gè)AI時(shí)代“萬花筒”般的切面。

“這么簡(jiǎn)單的東西，

居然能這么火？”

2021年，正在武漢大學(xué)讀研究生的云中江樹，在一篇論文中看到了“Prompt tuning”這個(gè)概念，頓時(shí)眼前一亮。

“當(dāng)時(shí)很多AI應(yīng)用都是通過微調(diào)完成的。先預(yù)訓(xùn)練，然后用數(shù)據(jù)集微調(diào)模型的輸出層，實(shí)際微調(diào)多少層，多少參數(shù)等等都是可以變化的，甚至可以全參微調(diào)。微調(diào)有很多好處，缺點(diǎn)也很明顯，依賴高質(zhì)量標(biāo)注數(shù)據(jù)，需要調(diào)試訓(xùn)練超參數(shù)，常常訓(xùn)練失敗，甚至性能不如預(yù)訓(xùn)練模型。而Prompt tuning不需要訓(xùn)練模型，只需要調(diào)整提示詞即可，由于模型參數(shù)不會(huì)更新，所以能充分利用預(yù)訓(xùn)練模型的泛化性?！?/p>

之后，云中江樹便開始自學(xué)Prompt tuning，逐漸接觸到了變量、模板、結(jié)構(gòu)化等概念。

2022年底，ChatGPT推出后，云中江樹探索了上百個(gè)AI項(xiàng)目，整理成ChatGPT中文指南開源后，連續(xù)數(shù)天登上GitHub全球熱榜。他發(fā)現(xiàn)這些項(xiàng)目的核心都在于“如何更好調(diào)用大模型能力”。而Prompt工程，便是調(diào)用大模型能力的起點(diǎn)。

當(dāng)時(shí)，國內(nèi)外社交媒體上關(guān)于Prompt工程的熱度越來越高。這讓云中江樹有些意外：“當(dāng)時(shí)我們都很驚訝，這么簡(jiǎn)單的東西居然這么火？”

“2023年初大家覺得ChatGPT很驚艷，對(duì)一切都很感興趣，大家都想知道別人用Prompt改變了什么，很多人在社交軟件上隨便發(fā)一些奇奇怪怪的Prompt技巧就有很多人來學(xué)?！彼貞浀?。

于是，云中江樹開始有意識(shí)地梳理、提煉自己寫Prompt的經(jīng)驗(yàn)，并逐漸從專業(yè)開發(fā)者視角，轉(zhuǎn)變?yōu)槠胀ㄓ脩粢暯?，試圖找到一種Prompt方法論，讓自己能用20%的實(shí)驗(yàn)精力，去降低技術(shù)小白們80%的使用AI的門檻。

經(jīng)過幾個(gè)月的迭代，2023年5月，LangGPT在GitHub正式上線，迅速獲得開發(fā)者喜愛，之后與通義千問、Kimi等模型廠商達(dá)成合作，共同推出官方Prompt模板。

直到今天，LangGPT在GitHub上的Star數(shù)仍在持續(xù)增長(zhǎng)。目前，LangGPT的飛書知識(shí)庫訪問量已達(dá)20萬，全網(wǎng)傳播超100萬，私域社群成員超4000人。

圖源：云中江樹

目前，LangGPT社群成員大致有兩類，一類是廣大的AI使用者，一類是前沿應(yīng)用的開發(fā)者。而應(yīng)用開發(fā)者中，有人想提升個(gè)人工作效率，更關(guān)注有效的Prompt模板；有人想下場(chǎng)創(chuàng)業(yè)，更關(guān)注應(yīng)用場(chǎng)景。讓云中江樹有些意外，但很驚喜的是，有公司組織技術(shù)或產(chǎn)品人員甚至組團(tuán)加入社群，學(xué)習(xí)如何用Prompt工程開發(fā)AI應(yīng)用。

最火熱的時(shí)候，云中江樹一度感受到了一股“全民學(xué)習(xí)Prompt”的浪潮，下到十幾歲的青少年，上至七八十歲的老人，各有各的好奇與狂熱。“有一位七十多歲的老人，是一個(gè)旅游協(xié)會(huì)的副會(huì)長(zhǎng)，幾乎沒有缺席過任何一場(chǎng)社群線下活動(dòng)。”他回憶道。

不過現(xiàn)在回想起來，云中江樹也坦言，這種感受或許也是一種“幸存者偏差”。畢竟對(duì)于14億中國人而言，Prompt工程還是一個(gè)太小眾的話題。

進(jìn)入2024年，ChatGPT激起的喧囂褪去，社群里的人來來走走。大浪淘沙之后，留到最后的，都是真正希望用AI改變些什么的人。

AI應(yīng)用開發(fā)離不開Prompt工程

Prompt工程從出現(xiàn)在公眾視野的那一刻，就伴隨著唱衰的聲音。

當(dāng)時(shí)，包括Sam Altman在內(nèi)的一眾大佬都認(rèn)為，隨著大模型性能提升，模型對(duì)世界的理解足夠充分時(shí)，就不再需要Prompt工程。Altman曾表示：“五年后我們將不再需要Prompt 工程，或者只需在這方面做少量工作；將來的AI系統(tǒng)不會(huì)因?yàn)樵鲅a(bǔ)了某個(gè)特定詞就產(chǎn)生截然不同的輸出，而是可以較好地理解自然語言。用戶只需以文本和語音形式輸入指令，就可以讓計(jì)算機(jī)完成圖像生成、資料研究、心理咨詢等復(fù)雜任務(wù)。”

云中江樹從不避諱談?wù)揚(yáng)rompt的消亡。他坦言，自己最初也認(rèn)為Prompt可能會(huì)像一陣風(fēng)一樣過去，但事實(shí)卻并非如此。

毫無疑問，今天的模型已經(jīng)越來越擅長(zhǎng)理解人類意圖。云中江樹也發(fā)現(xiàn)，國外開發(fā)者似乎不太關(guān)注Prompt工程了，但國內(nèi)對(duì)于Prompt工程的熱情卻是只增不減。

總體上，云中江樹認(rèn)為，模型進(jìn)展仍低于預(yù)期，很多AI應(yīng)用開發(fā)仍然離不開Prompt工程。OpenAI發(fā)布o(jì)1時(shí)，他便在社群內(nèi)表示：“o1指出了一個(gè)有前途的方向，對(duì)學(xué)術(shù)研究而言是座金礦，能立馬投入，但對(duì)于應(yīng)用者來說，仍然是不實(shí)用的玩具，很慢、很卡且不能控制細(xì)節(jié)?！?/p>

這種情況下，要想快速推進(jìn)應(yīng)用，Prompt就是一個(gè)性價(jià)比更高的著力點(diǎn)。

但過去兩年，雖然大模型用戶對(duì)Prompt的學(xué)習(xí)熱情高漲，各家大模型廠商對(duì)Prompt的實(shí)際重視程度卻并不高。除了Anthropic工程師近期對(duì)外詳細(xì)分享了Prompt工程心得外，國內(nèi)外頭部模型廠商或AI應(yīng)用開發(fā)者都鮮少公開分享Prompt工程經(jīng)驗(yàn)。

這種不重視甚至直接反映在產(chǎn)品設(shè)計(jì)中。Anthropic工程師David Hershey在近期的分享中也提到，跟客戶合作時(shí)發(fā)現(xiàn)，很多人在設(shè)計(jì)模型時(shí)總是想象著用戶會(huì)在對(duì)話框里輸入完美的內(nèi)容，但很多用戶可能連大寫字母都從來不用，幾乎每個(gè)詞都有拼寫錯(cuò)誤。

“實(shí)際上，Prompt工程在AI應(yīng)用開發(fā)中的ROI很高，開發(fā)者花費(fèi)20%的經(jīng)歷就可能讓產(chǎn)品用戶體驗(yàn)提升80%?！痹浦薪瓨浔硎荆澳壳笆忻嫔习l(fā)布的Agent，主要價(jià)值都體現(xiàn)在Prompt工程。在構(gòu)建AI應(yīng)用的過程中，所有的idea都要先通過Prompt去驗(yàn)證。”

圖源：云中江樹

好在，云中江樹觀察到，國內(nèi)很多企業(yè)正在意識(shí)到Prompt工程的重要性?！昂芏嗳ツ曜鑫⒄{(diào)的應(yīng)用企業(yè)今年都放棄微調(diào)，轉(zhuǎn)而在Prompt工程上投入更多。畢竟即使是微調(diào)，也要面臨昂貴的算力成本?！?/p>

值得注意的是，Prompt的門檻雖然不高，但要做好也需要投入足夠的時(shí)間、精力。

模型技術(shù)仍在快速迭代，對(duì)Prompt的要求也在不斷變化，要想通過Prompt讓模型實(shí)現(xiàn)想要的功能，就難免要大量調(diào)整Prompt的細(xì)節(jié)，在大量失敗中總結(jié)一些奇奇怪怪的方法和技巧，個(gè)人很難憑一己之力窮盡所有可能。

LangGPT這類開源社區(qū)真正的價(jià)值所在，就是匯集四面八方的集體智慧，盡可能釋放Prompt對(duì)模型應(yīng)用落地的價(jià)值。

結(jié)構(gòu)化Prompt成為主流選擇

隨著模型快速迭代，大牛們對(duì)Prompt工程的方法論也在不斷迭代。

目前，一個(gè)最新共識(shí)是，Prompt的核心在于“清晰的表達(dá)”。

“最初我認(rèn)為Prompt是AI時(shí)代的編程語言，后來發(fā)現(xiàn)這仍然沒有跳出上一代的局限性，現(xiàn)在我更傾向于認(rèn)為，Prompt是自然語言和編程語言結(jié)合的交叉點(diǎn)?！趺磳憽皇亲钪匾?，更重要的是‘寫什么’?！痹浦薪瓨浔硎?。

“專業(yè)的技術(shù)人員反而不一定能寫出很好的Prompt。因?yàn)榧夹g(shù)人員有時(shí)會(huì)陷入Prompt的形式，而忽略表達(dá)的內(nèi)核，寫了很多冗余的規(guī)則，但沒說清楚自己的具體需求?！?/p>

Anthropic負(fù)責(zé)Prompt的工程師近期也在一檔播客節(jié)目中表達(dá)過相似的觀點(diǎn)：“很多時(shí)候，需要做的只是寫一個(gè)非常清晰的任務(wù)描述，而不是嘗試構(gòu)建抽象的東西。你得把自己腦海中所有你知道但模型不知道的東西整理清楚，然后寫下來?！?/p>

但在過去一年的Prompt實(shí)踐中，Prompt工程師們無形中也在表達(dá)形式上形成了一種默契——結(jié)構(gòu)化Prompt正逐漸成為主流選擇。

Anthropic工程師David Hershey表示，一個(gè)好的寫作者不一定會(huì)成為一個(gè)好的Prompt工程師?！癙rompt是一種很特別的模式，你寫的是一段文本，但要像對(duì)待代碼一樣對(duì)待它?！?/p>

云中江樹也感受到，結(jié)構(gòu)化寫作Prompt正在成為共識(shí)，國內(nèi)尤其如此。

這個(gè)結(jié)論從現(xiàn)存Prompt社區(qū)的活躍程度上也能看出一二。2023年12月，創(chuàng)業(yè)邦在《歡迎來到Prompt的美麗新世界》一文中寫道，2023年國內(nèi)外出現(xiàn)了很多大小不一的Prompt社區(qū)，大致可分為“技術(shù)派”和“非技術(shù)派”兩類?，F(xiàn)在回看，LangGPT作為技術(shù)派的代表，已成長(zhǎng)為國內(nèi)規(guī)模最大的社區(qū)。

對(duì)此，云中江樹自己也分析了背后的原因：“一方面，早期很多社區(qū)只是簡(jiǎn)單整合市面上的Prompt模板，而我們一直在系統(tǒng)輸出自己的方法論；另一方面，從結(jié)果導(dǎo)向來看，結(jié)構(gòu)化的Prompt實(shí)操性更高，能讓應(yīng)用開發(fā)的工作流更高效運(yùn)轉(zhuǎn)。”

簡(jiǎn)單來說，對(duì)技術(shù)系統(tǒng)本身來說，通過Prompt調(diào)動(dòng)AI的某項(xiàng)能力只是第一環(huán)，更大的挑戰(zhàn)在于后期維護(hù)和版本升級(jí)；而從AI應(yīng)用的開發(fā)流程來說，往往涉及一個(gè)上下游協(xié)作的Prompt工作流。

圖源：云中江樹

橫向來看，在協(xié)作開發(fā)的過程中，一個(gè)工作流下游的開發(fā)者需要準(zhǔn)確知道上一個(gè)節(jié)點(diǎn)的開發(fā)者對(duì)Prompt做了哪些調(diào)整；縱向來看，第一個(gè)應(yīng)用版本開發(fā)出來后，隨著模型不斷升級(jí)，還面臨一系列版本升級(jí)和代碼維護(hù)，同樣需要以上一版Prompt為基礎(chǔ)進(jìn)行迭代。

因此，從實(shí)操效果來說，結(jié)構(gòu)化Prompt，是讓整個(gè)工作流高效運(yùn)轉(zhuǎn)的最佳方式?！巴艘徊街v，即使是獨(dú)立開發(fā)者自己調(diào)Prompt，也經(jīng)常忘記自己之前具體寫了什么，結(jié)構(gòu)化的形式讓工作流的各個(gè)節(jié)點(diǎn)更清晰?！痹浦薪瓨涮寡?。

不過，隨著模型性能提升，Prompt工程要解決的問題也越來越難以捉摸。

最近，讓云中江樹感到困擾的是，模型性能提升后，它犯的錯(cuò)誤也越來越隱蔽，這也增加了工程師調(diào)試Prompt的難度?！耙鉀Q這個(gè)問題，只能用一些“笨辦法”，例如大量試錯(cuò)，盡可能多的試出那些奇奇怪怪的錯(cuò)誤，并最終由人類開發(fā)者對(duì)項(xiàng)目兜底?！彼硎尽?/p>

可見，在Prompt工程師和AI之間，Prompt工程這場(chǎng)關(guān)于時(shí)間和耐心的拉鋸戰(zhàn)，短期內(nèi)還不會(huì)結(jié)束。

什么是Prompt社區(qū)的歸宿？

現(xiàn)階段，除了應(yīng)對(duì)技術(shù)變化，云中江樹正在面臨的另一大課題，是如何讓LangGPT真正可持續(xù)地運(yùn)營下去。

“LangGPT能有今天的成績(jī)，是理想主義的成果，”云中江樹坦言，“但用愛發(fā)電走不遠(yuǎn)，也做不大?！?/p>

今年4月，碩士畢業(yè)近一年后，云中江樹辭去滴滴自動(dòng)駕駛算法工程師的工作，開始全身心投入LangGPT的運(yùn)作，并著手探索商業(yè)化。

云中江樹透露，LangGPT的社區(qū)運(yùn)營和商業(yè)化探索將分開進(jìn)行。

一方面，他希望LangGPT繼續(xù)以開源社區(qū)的形式存在，作為Prompt創(chuàng)意的聚集地，并繼續(xù)為想要學(xué)習(xí)AI的人系統(tǒng)性地輸出有價(jià)值的內(nèi)容；另一方面，“Prompt本身不適合商業(yè)化，單純做Prompt的交易利潤很薄，很難走得長(zhǎng)遠(yuǎn)”。

這并非LangGPT獨(dú)有的難題。無獨(dú)有偶，國外最大的Prompt社區(qū)FlowGPT今年也開始在定位上尋求轉(zhuǎn)型。

將時(shí)間拉回2023年，F(xiàn)lowGPT發(fā)布時(shí)，OpenAI還未發(fā)布GPTs。

2023年1月，還在伯克利大學(xué)就讀的黨嘉成（Jay）用3天時(shí)間做出了FlowGPT的網(wǎng)站原型。網(wǎng)站正式上線后便迅速出圈，不到一年時(shí)間，全球月活便超400萬。2023年5月，F(xiàn)lowGPT獲得DCM Ventures的種子輪投資。

今年2月，F(xiàn)lowGPT又完成新一輪1000萬美元Pre-A輪融資，由硅谷風(fēng)險(xiǎn)投資基金Goodwater Capital領(lǐng)投，老股東DCM Ventures跟投。與此同時(shí)，F(xiàn)lowGPT的定位也從Prompt社區(qū)轉(zhuǎn)型為AI Native APP/Agent平臺(tái)。

對(duì)于這次轉(zhuǎn)變，黨嘉成曾對(duì)媒體表示，“Prompt就是AI Native的代碼。用戶在平臺(tái)上用Prompt，和用一個(gè)軟件沒有區(qū)別。之所以當(dāng)時(shí)以Prompt為主體，是因?yàn)榇蠹矣X得這個(gè)詞最克制。3月的時(shí)候意識(shí)到可以做AI Native APP。Prompt需要迭代，當(dāng)時(shí)很多人愿意去分享Prompt，是希望知道怎么能提高Prompt本身。

創(chuàng)作者創(chuàng)作出來之后就希望大家能用，用了之后能留反饋，創(chuàng)作者能根據(jù)反饋去做修改。這個(gè)事本身就很像產(chǎn)品迭代的過程?！?/p>

這種面向C端創(chuàng)作者開源、免費(fèi)的模式讓FlowGPT網(wǎng)站上沉淀了大量?jī)?yōu)質(zhì)創(chuàng)意，但內(nèi)容倫理的風(fēng)險(xiǎn)也隨之而來。黨嘉成對(duì)媒體坦言：“如果你想讓大家做任何事，就會(huì)有人做任何事。我們決定在保證這個(gè)平臺(tái)不被查封的情況下，給大家最大的自由度?！?/p>

鑒于國內(nèi)外市場(chǎng)環(huán)境差異，不同于FlowGPT的to C策略，LangGPT選擇從B端切入。目前，LangGPT會(huì)根據(jù)客戶需求，向客戶提供一整套服務(wù)，包括智能體的定制、SaaS工具、技術(shù)咨詢、Prompt方法論培訓(xùn)等形式。同時(shí)，對(duì)于徘徊在灰色地帶的內(nèi)容，LangGPT均不予收錄。

具體到落地場(chǎng)景方面，云中江樹表示，LangGPT社群衍生出的應(yīng)用中，內(nèi)容方面的應(yīng)用是效果最好的?！艾F(xiàn)在AI比我們還要懂人性，它可以將創(chuàng)作者的創(chuàng)作風(fēng)格、目標(biāo)受眾畫像以及內(nèi)容平臺(tái)的流量規(guī)律總結(jié)出一套公式，成為內(nèi)容行業(yè)的‘效率殺器’。”

目前，除了文字Prompt，云中江樹也在嘗試多模態(tài)Prompt所能調(diào)動(dòng)的模型能力邊界。

圖源：云中江樹

關(guān)于未來，云中江樹依然要面臨巨大的不確定性，一方面來自于模型能力升級(jí)對(duì)AI應(yīng)用產(chǎn)品的“降維打擊”，另一方面則來自于商業(yè)和人性的深不可測(cè)。

現(xiàn)在，云中江樹仍在不斷推演LangGPT更優(yōu)的商業(yè)路徑?！拔覀冞€是希望找到真正的高價(jià)值場(chǎng)景，幫客戶提效?！钡f般變化中，不變的是云中江樹投身未來的篤定：

“只干技術(shù)對(duì)人的異化太強(qiáng)了，我希望能真正投入這個(gè)時(shí)代，希望在有生之年見證AGI的實(shí)現(xiàn)。只要確定是未來，哪怕再小的機(jī)會(huì)我也要去嘗試，在全新的生態(tài)里找到自己的位置，然后全力以赴。我很相信二八法則，如果我在細(xì)分領(lǐng)域里做到前20%，同樣能產(chǎn)生很大的價(jià)值?！?/p>

本文為創(chuàng)業(yè)邦原創(chuàng)，未經(jīng)授權(quán)不得轉(zhuǎn)載，否則創(chuàng)業(yè)邦將保留向其追究法律責(zé)任的權(quán)利。如需轉(zhuǎn)載或有任何疑問，請(qǐng)聯(lián)系editor@cyzone.cn。