|
大家好，我是在管理咨詢行業工作超10年的顧問輕舟，擁抱AI，效率賦能。
導讀：本文內容較多，包括3個主題，大家根據不同興趣定位章節閱讀。- 我用扣子+Kimi語言模型開發了智能體——AI秒讀標書
昨天，月之暗面與字節旗下的「扣子Coze」在上海聯合舉辦了一場線下開發者活動。前不久，Kimi 大模型已經入駐了字節跳動旗下的「扣子Coze」開發平臺，成為首個入駐的第三方大模型。開發者在扣子（）上，可以體驗到 Kimi 大模型全新的 Tool Calling 能力和超強的用戶意圖識別能力，將這顆全新的'大腦'與平臺上豐富的插件、工作流等能力結合，低門檻地打造各種業務場景下的 AI Agents。 這場線下活動，也是為了幫助開發者更好使用 Kimi 大模型這項全新的 Tool Calling 能力， 以及超長的文本能力、Variable、LTM、Task、Multiagent 等眾多強大功能目前都可以在扣子（）實現。下圖就是我在「扣子Coze」平臺開發的一個AI Bot（Agent智能體）—AI投標助手（https://www./s/iYEcHfpq/），使用了kimi大語言模型。過去只能配置字節自己的云雀語言模型。
扣子bot開發頁面配置kimi模型非常簡單，如下圖所示，選擇不同版本的moonshot模型，從回復隨機性、最大回復長度、上下輪輪次三個方面配置好就可以。moonshot-v1-8k: 它是一個長度為 8k 的模型，適用于生成短文本。 moonshot-v1-32k: 它是一個長度為 32k 的模型，適用于生成長文本。 moonshot-v1-128k: 它是一個長度為 128k 的模型，適用于生成超長文本。
扣子（coze）字節跳動旗下，新一代一站式 AI Bot （即AI Agent）開發平臺。無論你是否有編程基礎，都可以在扣子平臺上快速搭建基于 AI 模型的各類問答 Bot，從解決簡單的問答到處理復雜邏輯的對話。而且你可以將搭建的 Bot 發布到各類社交平臺和通訊軟件上，讓更多的用戶與你搭建的 Bot 聊天。月之暗面 （Moonshot AI）是一家成立于2023年的中國AI創業公司，月之暗面獲得了阿里、紅杉、小紅書、美團等多方的超10億美金融資，估值達到180億，成為AI領域的獨角獸公司。kim是月之暗面非常爆火的一款AI產品。月之暗面旗下的 Kimi 開放平臺為開發者提供 Kimi 智能助手背后的同款大模型 API，允許開發者將 Kimi 大模型卓越的長文本處理能力和指令遵循能力接入到自己的產品中。扣子已經是國內智能體開發功能比較完善、生態比較豐富的平臺了。但大語言模型的調用是Agent智能體的核心能力，所以，能夠調用什么樣的大語言模型，對智能體開發平臺就有很大影響。這次kimi全面接入扣子，對扣子而言，如虎添翼，極大的增強了bot的問答效果，特別是對于長文檔閱讀理解與處理、聯網搜索，這是kimi的強項。kimi畢竟是后起之秀，即使有大額融資，經濟實力也比不過百度、字節、騰訊、阿里等大巨頭。kimi發布開發者平臺公測，開放API相對較晚，目前kimi還沒有自己的智能體開發平臺。與扣子的合作，可以借助扣子的開發平臺，加速自己面向開發者的業務構建，實現B端的快速突破。我親測了智譜智能體平臺、文心智能體平臺、扣子智能體平臺，目前來看，扣子智能體平臺是資源最豐富、操作最便捷、最好用的。雖然國內版扣子據了解遠不如海外版扣子，但是kimi大模型加持后，創建的Bot質量輸出還是很不錯的。下面根據我的使用感受，簡單總結扣子平臺開發智能體Agent（扣子叫Bot）的核心特點和優勢，供大家快速了解。扣子的插件市場已經很豐富了，有扣子官方出的插件，也有開發者提供的插件。所謂插件通俗理解就是做智能體的積木塊，有了現成的插件，你就可以不用再通過編程等技術方式單獨開發，可以大大降低Agent的開發難度，提高開發效率，真正實現零代碼開發自己的Agent。目前扣子平臺的插件，比剛剛上線的文心智能體平臺要豐富很多，文心智能體大概只有十幾款工具可用。當然了，智能體平臺是一個生態，相信大家很快就會豐富起來。bot商店有開發者發布的bot，不過親自體驗了一些，應該說質量參差不齊，總體質量一般，很多bot的效果不如直接與kimi、文心等這樣的AI工具對話的效果。bot商店有個很好的功能，選擇公開配置選項后，可以篩選出公開了bot配置信息的智能體，就是你可以看到別人開發的智能體的prompt信息。
會看到中上位置有一個prompt選項，點擊一下，會很驚奇吧，他的prompt及所有配置信息全部可以看到。也就是說你按照他的配置，可以復制出一個一模一樣的bot，也可以在他的基礎上優化、借鑒。這個功能不得不說是一個很好的學習智能體的方式。
以下是創建一個新的bot的頁面，設計起來很方便，完全不用懂代碼。配置語言模型，無需懂配置參數，編寫prompt，提示詞優化功能非常好用，驚嘆AI的語文確實比我們學得好。中間是各種技能配置，插件點擊添加，直接在插件市場選好添加即可，基本不用專有參數配置，除非你要做比較復雜的智能體。工作流就是智能體的任務比較復雜，要用流程化的方式，把多個prompt單獨設計，流程串聯。零代碼的人有一點難度。可以配置私有知識庫，操作簡便。帶有私有知識庫的bot，參數配置不會公開。
最右側是調試區域，需要點贊的是，對話框有文檔上傳功能，這個對于一些長文檔理解類智能體，非常友好。可以不斷地在右側通過問答調試提示詞及配置信息，到理想情況下就可以發布了。包括bot商店、豆包、飛書，這幾個都是自己自己的應用平臺。除此以外，還可以在微信平臺發布，以及掘金平臺發布。不過目前可能跨平臺的Bot功能使用還存在一些問題，比如我在扣子制作的“AI秒讀標書”Bot，在Bot商店可以正常使用文檔上傳功能，但是發布到豆包的版本，就沒有文檔上傳按鈕了。在飛書里面的使用也存在發揮不太穩定的情況。跨平臺發布，bot的封裝、功能一致性、穩定性還需要優化。講了這么多，總的有個實戰環節，我給大家分享一個我自己做的智能體——AI投標助手。在扣子上的使用地址為：https://www./s/iYEcHfpq/
這款智能體，可以實現上傳采購文件后，不需要輸入任何提示詞，就可以自動提取出標書文件中多達20多項的關鍵信息，自動標注原文內容、引用章節、所在頁碼。這款智能體的開發，也非常感謝公眾號的一位用戶，他看完文章后，私信交流希望可以有一整個prompt，能夠一次性把標書的所有關鍵信息都整體出來，而不是一條一條的問答。我寫了比較完整的提示詞，測試了kimi對話，發現達不到理想的效果。于是我做了這款智能體，剛好扣子接入了kimi大模型，而我測試AI讀標書，最穩定、最精準的輸出就是kimi。剛好可以在扣子平臺實現功能需求。最終AI問答，和智能體自運行對比下來，智能體的執行效果要好很多。實際上現在AI大模型在特定的具體業務場景中使用的精準性、穩定性、專業性還存在一定差距，相當于汽車智能駕駛分級的初級階段。AI Agent/AI Bot是大模型應用的重要載體，在落地行業、場景應用方面的前景十分廣闊。AI Agent/AI Bot就像APP一樣，基礎大模型廠商的競爭必然最后是一個寡頭格局，剩下少數的幾家、十幾家，如同手機操作系統。應用商店則會多一些，為基礎大模型、行業大模型接入，智能體開發者提供平臺資源、技術和用戶支撐。
智能體就是應用商店的一個個APP，不過借助AI技術，智能體的開發比APP更加容易，開發一個好的智能體，核心競爭力已經不在于編程和代碼的技術因素，而在于專家級的業務理解、專有知識和數據積累。所以，我給大家介紹智能體，一定要是我自己親自實踐過，才會拿出來跟大家分享。
我是在管理咨詢行業工作超10年的顧問輕舟，擁抱AI，效率賦能。 下期見~
AI咨詢圈，讓腦力工作者學習AI少走彎路，基于職場角色+工作場景，賦能AI實踐，讓閱讀更有效率、更具價值。
|
