技術文章 » 微軟部落格上幾篇 Semantic-kernel （SK）文章

微軟部落格上幾篇 Semantic-kernel （SK）文章

2023-03-31 12:01:16

自從最近微軟開源Semantic-kernel (SK) 來幫助開發人員在其應用程式中使用AI大型語言模型（LLM）以來，Microsoft一直在忙於改進它，釋出了有關如何使用它的新指南並行布了5篇文章介紹他的功能。

開發人員可以使用Semantic-kernel （SK） 建立自然語言提示、生成響應、提取資訊、呼叫其他提示或執行可以用文字表示的其他任務。微軟在3月17日開源Semantic-kernel （SK）時，提示是專案描述的關鍵部分：「Semantic-kernel  （SK）是一個輕量級SDK，可讓您將C#和Python等傳統程式語言與最新的大型語言模型（LLM）AI'提示'混合在一起，具有提示模板，連結和規劃功能。

微軟將更好的提示列為SK的四個關鍵優勢之一：

  • 快速整合：SK旨在嵌入任何型別的應用程式中，使您可以輕鬆測試和執行LLM AI。
  • 擴充套件：藉助 SK，您可以連線外部資料來源和服務，使其應用程式能夠將自然語言處理與實時資訊結合使用。
  • 更好的提示：SK的模板化提示可讓您使用有用的抽象和機制快速設計語意函數，以釋放LLM AI的潛力。
  • 新奇但熟悉：傳統程式語言程式碼始終可供您作為一流的合作伙伴，幫助您快速完成工程設計，可以兩全其美。

微軟（3月30日）釋出了一篇題為「Semantic-kernel  規劃器：嵌入和語意記憶的改進」[1]文章，詳細介紹了該專案規劃器技能的[2]改進，允許使用者根據語意查詢建立和執行計劃。這篇文章解釋了最近的調整，使規劃器技能更加通用。

image

調整涉及將嵌入整合到 Planner 技能中，以增強其可用性和功能。嵌入[3]是數位向量或陣列，表示模型處理的令牌的含義和上下文。嵌入用於編碼和解碼輸入和輸出文字，可以幫助LLM理解令牌之間的關係並生成相關且連貫的文字。它們用於文字分類、摘要、翻譯和生成，包括影象和程式碼生成。

微軟在文章中說到：「隨著Semantic-kernel 在Alpha階段的發展，我們將優先考慮使用嵌入進行規劃建立的其他方法，這些方法將更加強大，」 ，3月22日還有一篇文章「Semantic-kernel 嵌入和記憶：使用聊天UI探索GitHub Repos」[4] ，文章中進行了展示了嵌入，該文章解釋了他們如何幫助開發人員提出有關GitHub儲存庫的問題或使用自然語言查詢探索GitHub儲存庫。與嵌入一起，這是在SK記憶體[5]（嵌入集合）的幫助下完成的，這有助於為提示（或SK世界中的ASK）提供更廣泛的上下文。

image

這篇文章重點介紹了一個範例應用程式GitHub Repo Q&A Bot[5]，它展示了開發人員如何使用SK函數下載任何GitHub儲存庫，將其儲存在記憶體（嵌入集合）中，並使用聊天UI進行查詢。

微軟表示，該範例可用作儲存和查詢專案的指南，例如：

  • 大型內部程式手冊
  • 學生教育材料
  • 公司合同
  • 產品檔案

微軟在週一還有一篇題為「如何在幾分鐘內將Semantic-kernel 部署到Azure」 [6]的文章，這是通過Azure Function完成的，Azure Function是微軟的Serverless 計算服務，允許使用者在不管理伺服器或基礎設施的情況下執行程式碼。該演示使用的是 Visual Studio Code，需要安裝 Azure Tools [7]擴充套件。

如果你一直在關注Semantic-kernel  的GitHub倉庫 ：https://github.com/microsoft/semantic-kernel/ [8]，可以看到自從開源以來，star的增長非常快，目前已經有3717個star，並且各項功能的開發也在緊鑼密鼓的進行之中，正在新增對其他LLM 模型支援，例如例子 https://github.com/microsoft/semantic-kernel/tree/main/samples/apps/hugging-face-http-server[9]，這也是第一個Python語言的例子 ，還有更多的語言支援在進行當中。

image

相關連結：