Microsoft推出了小语言侧模型Win11 MU，以帮助系统配置自然语言搜索体验

微软今天在6月24日的新闻中宣布，MU将启动，这是一个集成在Windows 11中的新设备的小语言模型。该模型旨在为用户提供智能的自然语言互动体验，并进一步优化系统配置的搜索能力。去年，Microsoft推出了个人Copilot+计算机，该计算机配备了一个专用的神经处理单元（NPU），具有40多个主计算机功能。这些计算机配备了Phi-Silica，Phi-Silica是本地SLM（小语言模型），可为Microsoft第一方应用程序和设备上的第三方开发人员应用提供语言智能功能。如今，微软提出了Windows 11的新本地语言模型MU。微软的目标是基于AI创建智能代理，该代理可以理解用户自然语言的咨询，并在系统配置应用程序中的现有搜索表中集成问题。为此，Microsoft使用MU模型在配置应用程序中接受新的代理功能。最近，它向Windows Insider开放了开发渠道的成员，仅限于使用Copilot + PC的用户。根据他们的家，MUS像Phi-Silica一样，旨在在NPU中有效发挥功能，这使它们可以以每秒100多个令牌的速度在本地运行。在官方博客出版物中，微软对MU语言模型的设计和培训过程进行了详细的介绍。这是MU语言模型的一般描述：MU是具有3.3亿参数的编码器的模型。与具有相同大小的解码器模型相比，编码器的解码器的体系结构将令牌的初始潜伏期降低了约47％，并且可以将解码速度提高4.7倍。 MU在某些组件中使用重量交换技术来减少参数总数。微软使用Azurentrenénvidia a100 gpu to我在自动学习平台上的mu。 MU是PHI-3.5米尼大小的十分之一，但其性能几乎与PHI-3.5-MINI相似的调谐相当。此外，此模型适用于处理多个单词。对于简短或部分单词输入，系统配置应用程序将继续在搜索框中显示词汇和语义的搜索结果。对于有兴趣体验此新代理AI功能的人，您可以下载Windows 11 Build 26120.3964（KB5058496）或更高版本，以在Windows配置应用程序中体验此新功能。