Shopping Cart

購物車內沒有任何商品。

如何駕馭你的大語言助理

外面訪間的課程中,大多都主推PROMPT魔法的懶人包、底層邏輯,然而使用者往往在應用上仍舊有些不如預期般好用的感受。而在聖誕節仍舊要上班的今天,我們將送給各位語言模型「使用前」的前置準備基礎步驟,來打造你個人的專屬助理,強化生產力效率等課題。

我們經常說到,要先設定目標,再去將作業的執行與細節一一的釐清出來。就如同你打算要去旅行,你就得透過旅行地點的目標和你想要前往的最重要原因做出關係性,同時把整個計畫逐一的鋪陳在腦中或者可被記錄的工具上。

Double Diamond Process

就是一個輔助在你的語言助理開始作業前的最佳養成步驟。語言模型本身就具有多聊天方塊的特性,使用者可以在每個聊天的方塊獨立成為各自的任務專案,而在方塊前利用兩次的發散與收斂:

Discover探索(發散型):給予你的語言模型要執行目標的相關資料,你可以上傳整合好的pdf,txt,甚至應用可以連結雲端的連結擴增,讓模型本身的知識以外,透過給予探索上的資料加權,讓自身與語言模型助理理解需要達成目標的各種影響可能性。

Define定義(收斂型):將目標做出具體且讓不同立場的人皆可理解的說明,並且將探索步驟的各種資料中,提取出相近的關鍵字,企圖收斂與聚焦,讓目標得以被精準的定義。

Develop建立(發散型):建立目標多路徑計畫,提供自身與語言模型在目標的建立上可參考的工作模式,流程,範例等。提供達成目標的過程提供比較基礎,確保在執行過程中的變因能有效與有跡可循的找到前人的知識或者是過往經驗反饋。

Delivery傳達(收斂型):許多的團隊或者開發的工具,其中最大的問題是服務的範圍受限,或者沒有想過普及或是發布的課題。而根本的原因在於工具本身技術面繁複或是解決問題上的目標不夠明確。因此,透過最後再簡化的傳遞模式,確定目標的呈現為這者套流程最重要的關鍵之一。

當你在上述的四個步驟與你的大語言模型助理建構好了關係,可以進入到下一步:建構語言模型助理「角色」

Create your AI Assistance

第一個方塊討論的是確認我們遭遇的課題以及想要完成的目標,第二的階段就是我們找到幫手,並且請幫手給予協助。針對我們第一模塊作業上「想被幫助」的地方去創造出語言模型。當你的語言模型使用的邏輯靠近在這樣的方向時,語言模型助理的開發就不會僅只限於一個單位。你必須碎化目標區塊的中間過程,找到作業在需要幫助的小區塊,單獨的針對這些項目去執行助理角色的定義。而這樣的過程中可以讓輔助的精確度上升,並且也會因為有系統的分工下,達到整合與有組織的合作模式。而事實上這就是為什麼會使用語言模型助理人們於技術落差的首要原因。

舉例當我們需要的是旅行計畫的語言模型助理,我們可以先用Double Diamond Process創造語言模型的核心知識,確定在旅遊的目的地,旅遊想要獲得的感受下。針對『美食』、『購物』、『住宿』、『交通』等各自開發對應的助理角色,來面對後續執行上的輔助建議,而不是統一的混用下,事實上也容易在這樣的過程中讓語言模型逐漸產生幻覺,而做出不精準的回覆或者是不符合需求的建議等。

有了這樣的基礎概念後,設定你的助理角色:從角色的立場方向,角色需要提供的資訊,可能會提供的範例,角色對應互動的其他角色關係,互動語氣與最後要產出建議的格式等。而這樣的作業建議是目前大多數AI課程在教的東西,已經相當實用。不過如果想要讓你的助理等級再次提升,我們必須要進入下一個養成階段建議。

三、MOAT護城河

零樣本提示Zero-Shot Prompting是一種直接利用模型預先知識的方法,而少樣本提示Few-Shot Prompting則通過提供範例來引導模型學習。選擇哪種方法取決於具體任務的需求,以及模型是否需要學習新的邏輯或模式。所以如果你的語言助理執行的事件越需要仰賴「參考資料」,使用者必須在問答上要請他回答有所本:

例如: 在所有的提問上,必須補上「請將回答結果列舉出參考資料來源」

而在少樣本模式上,大多會使用矩陣的表單或是方向,讓問答上增加層次,而這樣的應用層面會在涉入到情緒、利益評估等。

例如:在提問後面,增加「請在回答結果上補出判斷的評分,評分需參考xxx+ooo」

強化護城河上的品質接下來,為了不要讓你的助理跳躍思考,我們可以在對話上加入「步驟」Chain of Thought,請語言助理將結果的產出過程一步一步地呈現,這樣可以協助使用者在使用過程中發現到流程上的除錯或者微調的機會。而最具體的方式就是在問答的句子後面補上「請在答案的提出過程中,明確一步一步的指出答案生成的推理邏輯」。

而如果有上述的步驟後,挑選出更複雜或者更細緻需要被再度討論的範圍,先獨立出分解Decomposition的任務,緩慢工作執行的成果發生機會,去強化內容的廣度與可能性。而這個方式的使用策略為:「針對在步驟上的第N個節點,我需要針對這個部分做出詳細的討論,並且記錄到答案生成的邏輯資料庫裏面」。最後在護城河建立的策略為,要求多角度的建議:在相同的對話問答上,要求語言助理同時間轉換數個角色給予自身的結果建議和改善的提案,提供使用者有更多元的立場去思考答案的可執行性。而這樣的使用策略上,我們不需要刻意的去重新形塑助理角色,而是直接給予角色的數量或者範圍,並且要求語言模型切換回答即可。例如:「請在你給予的答案後,N個XXX去分析結果的可行性,並且給予修改上的建議提案」。

護城河的策略執行是選項,並非如角色上必須有養成全滿足的必須性。但是護城河的指令應用上,會讓你助理的答案豐富且有深度,這也是為什麼高手的語言模型得以使用的出神入化的原因。

最後的一個模組是資料庫:

簡而言之就是不要限縮使用單一的語言模型助理,定期的將你上述的結果歸納成為一份一分的資料後,回到Double Diamond Process模組去深化模型的能力。

你可以使用多語言模型openAI/ Claude/ Gemini/ Copilot等來做同樣的事情,訓練類似的輔助工具。因為隨這技術上的時間推演,能夠從既有的技術去獲得更好的整合api或是更簡便的設定等,都是在這個時代上保持領先的一個關鍵要點。期待大家能夠應用這樣的技術於2025年度提升自己,面對全新年度的挑戰。

Reference: Autodesk University 2024 | CP1823 The Art of Prompting AI: Inventor Rules