微軟開源了一個 助力開發LLM 加持的應用的 工具包 semantic-kernel

在執行長薩蒂亞·納德拉（Satya Nadella）的支援下，微軟似乎正在迅速轉變為一家以人工智慧為中心的公司。最近微軟的眾多產品線都採用GPT-4加持，從Microsoft 365等商業產品到「新必應」搜尋引擎，再到低程式碼/無程式碼Power Platform等面向開發的產品，包括軟體開發元件Power Apps[1]。

非常重要的一點是這些產品都是使用.NET 構建的， 這些專案可以快速的使用LLM 加持，我們寫程式的同學肯定都會想微軟是怎麼做的，正好微軟在3月17日在釋出了一篇部落格文章： [Hello, Semantic Kernel!](https://devblogs.microsoft.com/semantic-kernel/hello-world/)[2], 在這篇文章中微軟已經開源了一個內部孵化專案，Github的倉庫：https://github.com/microsoft/semantic-kernel [3]，該專案可以幫助開發人員快速輕鬆地將尖端的人工智慧模型整合到他們的應用程式中。這使您能夠在應用中構建新體驗，從而為使用者帶來無與倫比的工作效率：例如總結冗長的聊天交流，標記通過Microsoft Graph新增到待辦事項列表中的重要「下一步」，或者計劃一個完整的假期，而不僅僅是預訂飛機上的座位。

語意核心（簡稱SK）是一種創新的輕量級軟體開發套件（SDK），旨在將人工智慧（AI）大型語言模型（LLM）與傳統程式語言整合。藉助 SK，開發人員可以輕鬆地為其應用程式注入複雜的技能，例如提示連結、摘要、遞迴推理、基於嵌入的記憶體等。SK 支援提示模板[4]、函數鏈、向量化記憶體[5]和開箱即用的智慧規劃[6]功能。

SK旨在支援和封裝來自最新 AI 研究的多種設計模式，以便開發人員可以為他們的應用程式注入複雜的技能[7]，如提示[7]連結、遞迴推理、總結、zero/few-shot 學習、上下文記憶、長期記憶、嵌入[8]、語意索引、 規劃，以及存取外部知識庫以及您自己的資料。

SK最初的目標是 C#開發人員，但也為資料科學家的最愛的 Python提供了預覽支援，而微軟也根據從社群反饋中學到的內容，正在考慮支援[9]其他語言，包括自己的TypeScript。

微軟將SK的主要優勢列為：

• 快速整合：SK旨在嵌入任何型別的應用程式中，使您可以輕鬆測試和執行LLM AI。
• 擴充套件：藉助 SK，您可以連線外部資料來源和服務，使其應用程式能夠將自然語言處理與實時資訊結合使用。
• 更好的提示：SK的模板化提示可讓您使用有用的抽象和機制快速設計語意函數，以釋放LLM AI的潛力。
• 新奇但熟悉：傳統程式語言程式碼始終可供您作為一流的合作伙伴，幫助您快速完成工程設計，可以兩全其美。

為了幫助開發人員入門，微軟提供了一個免費的LinkedIn學習課程[10]。它的描述是：「人工智慧的未來終於來了，它改變了軟體開發人員的遊戲規則。探索語意核心 （SK） 的可能性，這是 AI 驅動的開發的新面孔，封裝在輕量級、易於使用的多層軟體開發套件中。使用SK快速啟動和執行，SK是Microsoft AI生態系統的最新成員，使開發人員能夠輕鬆地將LLM AI功能整合到他們的應用程式中。

除了LinkedIn學習課程之外，Microsoft 還解釋了開發人員如何克隆儲存庫並嘗試以下範例：

• 簡單的聊天摘要[11]：使用現成的技能，並輕鬆地將這些技能應用到你的應用中。
• 圖書創作者[12]：使用規劃師解構複雜的目標，並在應用中設想使用規劃師。
• 身份驗證和 API[13]：使用基本聯結器模式進行身份驗證並連線到 API，並設想將外部資料整合到應用的 LLM AI 中。
• Github倉庫問答[14]：使用嵌入和記憶體來儲存最近的資料，並允許您對其進行查詢。

在執行範例和筆電之前，您可能需要滿足一些軟體要求：

1. Azure Functions 核心工具[15]，用於將核心作為本地 API 執行，這是 Web 應用所需的。
2. 需要OpenAI API[16] 金鑰或 Azure OpenAI 服務金鑰[17]才能開始使用。
3. 用於安裝 Web 應用的依賴項的Yarn[18]。
4. SK 支援 .NET Standard 2.1，建議使用 .NET 6+。但是，倉庫中的某些範例需要 .NET 7[19] 和 VS Code Polyglot 擴充套件[20]才能執行筆電

SK 入門

下面是如何從 C# 控制檯應用使用語意核心的快速範例，這裡我們使用VS Code Polyglot 來做

相關連結：

• [1]Power Apps:https://powerapps.microsoft.com/zh-cn/ 
• [2] Hello, Semantic Kernel!: https://devblogs.microsoft.com/semantic-kernel/hello-world/
• [3] Github的倉庫：https://github.com/microsoft/semantic-kernel
• [4]提示模板: https://github.com/microsoft/semantic-kernel/blob/main/docs/PROMPT_TEMPLATE_LANGUAGE.md 
• [5] 向量化記憶體: https://github.com/microsoft/semantic-kernel/blob/main/docs/EMBEDDINGS.md 
• [6] 智慧規劃 https://github.com/microsoft/semantic-kernel/blob/main/docs/PLANNER.md 
• [7] 技能: https://github.com/microsoft/semantic-kernel/blob/main/docs/SKILLS.md 
• [8] 嵌入: https://github.com/microsoft/semantic-kernel/blob/main/docs/EMBEDDINGS.md 
• [9] 支援其他語言： https://aka.ms/sk/python
• [10] LinkedIn學習課程 https://www.linkedin.com/learning/introducing-semantic-kernel-building-ai-based-apps/introducing-semantic-kernel
• [11] 簡單的聊天摘要 https://github.com/microsoft/semantic-kernel/blob/main/samples/apps/chat-summary-webapp-react/README.md
• [12] 圖書創作者 https://github.com/microsoft/semantic-kernel/blob/main/samples/apps/book-creator-webapp-react/README.md
• [13] 身份驗證和 API https://github.com/microsoft/semantic-kernel/blob/main/samples/apps/auth-api-webapp-react/README.md
• [14] Github倉庫問答 https://github.com/microsoft/semantic-kernel/blob/main/samples/apps/github-qna-webapp-react/README.md
• [15] Azure Functions 核心工具 https://learn.microsoft.com/azure/azure-functions/functions-run-local 
• [16] OpenAI API https://openai.com/api/
• [17] Azure OpenAI 服務金鑰 https://learn.microsoft.com/azure/cognitive-services/openai/quickstart?pivots=rest-api
• [18] Yarn https://yarnpkg.com/getting-started/install
• [19] .NET 7 https://dotnet.microsoft.com/download
• [20] Polyglot 擴充套件 https://www.cnblogs.com/shanyou/p/17247652.html