微软发布ChatGPT 版必应 用的是 .NET 技术

news/2024/5/3 11:29:03/文章来源:https://blog.csdn.net/sD7O95O/article/details/128962630

微软在今天在Redmond 线下举办媒体一场活动,发布了新版的微软必应,在桌面上推出了测试版,移动版也即将推出。微软首席执行官纳德拉称Al-powered搜索为公司自云15年以来最大的事情。

03dbdbc4b80c7d38283c3bc9fae77674.png

2023年1月初,微软已经在讨论将OpenAI的技术纳入Word、PowerPoint、Outlook和其他应用程序,这样用户就可以用简单的提示自动生成文本,2023年1月下旬,微软宣布即将会把ChatGPT加入Azure云服务。新版微软必应+Chatgpt的测试版会推出,在面对谷歌刚刚宣布发布Bard聊天机器人的时刻,这场发布会就更容易引人注目。

微软的大量云服务,包括必应搜索,他们的技术栈都是.NET , 都是用2014宣布开源的跨平台的 .NET ,必应早在2018年就从.NET Framework升级到.NET Core 2.1, 具体参见 https://devblogs.microsoft.com/dotnet/bing-com-runs-on-net-core-2-1/。.NET Core为Bing 带来了的显著性能改进。

d126f6b76aba6b06151d178a8df3585f.png

下面将汇总一下微软的开发博客——这些博客均涉及微软将产品和服务迁移到.NET 6的成果。博客按时间由近及远排序。

《Microsoft Teams’ Infrastructure and Azure Communication Services’ Journey to .NET 6》: https://devblogs.microsoft.com/dotnet/microsoft-teams-infrastructure-and-azure-communication-services-journey-to-dotnet-6/

50b6ea10eb0d08e6390fc9314e1fbfa6.png

迁移到 .NET Core 是由多种因素驱动的:

  1. 成本降低:Azure 计算成本平均节省 29%。

  2. 性能提升:性能提升30-50%,包括P99 CPU利用率和P99服务时延。

  3. 服务和网络现代化:访问框架中的最新功能,例如轻量级应用程序内存占用,支持Linux上的容器,更好的异常处理,从而在恶劣的条件下获得更好的可靠性以及最新的安全修复。

  4. 提高工程满意度和生产力

《Microsoft Commerce’s .NET 6 Migration Journey》:https://devblogs.microsoft.com/dotnet/microsoft-commerce-dotnet-6-migration-journey/

一个特别重要的例子是,一个服务从 .NET Framework 迁移到 .NET Core 3.1,同时尽可能多地保留其他相同内容(尽管此更改也包括对 .NET Core 的依赖项更新,以及在迁移其代码时所做的小改进)。下图显示了服务延迟提高了约 78%,并且在最初部署后(使用相同的负载、环境和硬件运行)显著提高了稳定性!

ae5a5c47cb2cf4402e9174d5377237fd.png

随着我们更复杂的服务迁移到 Kubernetes 中,我们的迁移需要的不仅仅是 .NET:

  • 从Windows 到Linux

  • .NET 框架到 .NET Core(3.1,在某些情况下为 5.0,现在是 6.0)

  • 平台转向容器和Kubernetes(远离虚拟机)

  • 更换构建和发布系统,以利用最新的安全性和合规性改进并支持容器化应用程序。

  • 随着我们在迁移时利用平台和 .NET 中的增强和改进,以及我们的合作伙伴对依赖项执行了相同的操作,还有更多功能。虽然这些好处并不完全归功于我们的 .NET Core 迁移,但它们是通过迁移实现的,我们非常感谢 .NET 团队在迁移过程中提供的所有帮助和支持!

《Microsoft Teams Assignments Service’s Journey to .NET 6》:https://devblogs.microsoft.com/dotnet/microsoft-teams-assignments-service-dotnet-6-journey/

888a35f267279cdd50ab8be49e7810f0.png在迁移后,我们确实看到了一些 CPU 和延迟的改进,但最一致的改进是内存消耗(进程\专用字节)的减少。随着我们继续调整我们的代码库,我们对此迁移解锁的更有针对性的优化感到非常兴奋!例如,我们可以利用它来减少更多代码路径中的分配,因为大多数 BCL API 现在都支持它作为 的替代方法。此外,我们现在可以访问 .NET 6 (https://docs.microsoft.com/en-us/dotnet/core/runtime-config/) 中的大量新配置选项,并期待调整和调整运行时以更好地适应我们的所有工作负载。

《OneService Journey to .NET 6》:https://devblogs.microsoft.com/dotnet/one-service-journey-to-dotnet-6/

05e48101b3650e69c04f979c0bdef521.png

在两年多的时间里,我们将大量 .NET Framework 4.7.2 应用、库和测试项目转换为 .NET 6,验证了功能和性能等效性(或更好),现在几乎完全在生产中的 .NET 6 上运行。该项目取得了重大成功,有助于降低运营成本并改善开发人员体验。

突出:

  • 基础设施成本降低 29%。

  • 迁移服务的 CPU利用率 平均提高 30%。

  • 主 API 的 P95 延迟降低了 8-27%。

  • 减少了技术债务,现在可以轻松地升级到年度 .NET 版本。

  • 更快乐、更高效的团队。

《Exchange Online Journey to .NET Core》:https://devblogs.microsoft.com/dotnet/exchange-online-journey-to-net-core/

出于三个原因,我们之所以有动力迁移到 .NET Core。首先,我们非常需要提高性能和成本效益。任何基于云的供应商都知道,每一次低效率都会花费真金白银。第二,知道 .NET Framework 不再积极开发,我们希望迁移到一个为未来开辟道路的现代框架。第三,可能更重要的是它很酷,有光泽和新鲜。70d6be9fd53db3861b8c02277a0cd5d4.png10f6719ef0b07f5ae751b73fd80d4657.png

《The Azure Cosmos DB Journey to .NET 6》:https://devblogs.microsoft.com/dotnet/the-azure-cosmos-db-journey-to-net-6/

6cb5658b9fff61d4c998d97f00f6a980.pngAzure Cosmos DB's API网关是一种低延迟的 Azure 服务。它以多种方式利用 .NET 来实现其性能和延迟要求。多年来,每次 .NET 升级都产生了许多好处,既包括新的 API,这些 API 提供了更好的方法来管理性能,并改进了框架中的现有 API 和运行时行为。我们正在积极与 .NET 团队合作,采用 .NET 7,并期待在即将发布的 .NET 版本中推出更多影响深远的性能功能。

《Microsoft Graph’s Journey to .NET 6》:https://devblogs.microsoft.com/dotnet/microsoft-graph-dotnet-6-journey/

四年前,该服务在 IIS 上运行,在 .NET Framework 4.6.2 上 ASP.NET。目前,该服务在 HTTP 上运行.sys.NET 6 上 ASP.NET 核心,在 .NET Core 3.1 和 .NET 5 上暂时停止。每次升级时,我们都观察到 CPU 利用率有所提高,尤其是在 .NET Core 3.1 和最近的 .NET 6 中。

  1. 从 .NET 框架到 .NET Core 3.1,我们观察到在相同的流量下 CPU 减少了 30%。

  2. 从 .NET Core 3.1 到 .NET 5,我们没有观察到要报告的有意义的差异。

  3. 从 .NET 5 到 .NET 6,我们观察到在相同的流量下,CPU 又减少了 10%。

CPU 利用率的大幅降低转化为更好的延迟、吞吐量和有意义的计算容量成本节约,从而有效地帮助我们实现目标。

87c1b86e3239f15353f9bef8330a6d97.png

《Azure Active Directory’s gateway is on .NET 6.0!》:https://devblogs.microsoft.com/dotnet/azure-active-directorys-gateway-is-on-net-6-0/

Azure 活动目录的网关服务是一个反向代理,用于处理构成 Azure 活动目录 (Azure AD) 的数百个服务。如果使用了 office.com、outlook.com、portal.azure.com 或 xbox.live.com 等服务,则表示你已使用 Azure AD 的网关。网关提供 TLS 终止、自动故障转移/重试、异地邻近路由、限制和向 Azure AD 中的服务分段等功能。该网关存在于全球 54 个 Azure 数据中心,每天为大约 1850 亿个请求提供服务。直到最近,Azure AD 的网关还在 .NET 5.0 上运行。截至 2021 年 9 月,它已在 .NET 6.0 上运行。

d10b8ae1c7311d1fb23f686bb0ef73e7.png

这些博客都在强烈凸显着.NET的进步:

  • 更低的CPU消耗

  • 更低的内存占用

  • 更低的响应延迟

  • 更高的吞吐量

  • 更完善的脚手架

  • 更强大的测试和监控工具

  • ……

之后类似的博客还会发布在:Developer Stories - .NET Blog (microsoft.com) :https://devblogs.microsoft.com/dotnet/category/developer-stories/ , 有兴趣的读者可以加入收藏夹持续关注。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_194.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

python 调用 chatgpt

1. 安装 openai 的包: 我们在 pycharm 中安装包 pip3 install openai 2. 我们查找 chatgpt 账户的 api 的 key 1. 首先我们进入到官网: OpenAI 2. 接下来我们点击 api 即可: 3. 查找自己账户的 key: 我们依次点击 Personal &…

在Matlab上用API调用chatgpt模型

在这个快节奏的数字时代 深度学习技术正逐渐成为大家的热门话题 如果你也是一名程序员或者科研工作者 那么你一定听说过GPT模型 是一种非常流行的自然语言处理模型 各大平台都已经接入了ChatGpt模型 将其应用各行对应的领域 下面介绍如何在Matlab中使用API调用chtgpt模型…

ChatGPT|一文读懂GPT-4!

前言 大家好,我是小满同学,感谢各位的点赞、收藏、评论 今天早上一早醒来,发现各大科技圈公众号平台开始刷屏OpenAI发布的新模型GPT4.0,看这个版本号就已经知道又是一大波特性的更新 于是立马起来开始学习! GPT-4 发…

ChatGPT为什么可以取代那么多职位?

最近的ChatGPT段子满天飞,以至于,不聊ChatGPT咱都不好意思在社交媒体上发言了。 这种力度的出圈,各种长期离线好友,甚至我妈都来问我,这是啥玩意啊? “十年老友,不请自来”?这架势&…

ChatGPT快速开始 (Node版本)

近期公司大佬让我调研一下ChatGPT,虽然网络上已经热火朝天了,感觉很多人都在应用它,但是ChatGPT 对大多数人来说依旧是一个很陌生的东西,对我来说也是。只能一点点的去了解去学习,浅显的先从账号注册、接口调用来看一看…

抱抱脸:ChatGPT背后的算法——RLHF | 附12篇RLHF必刷论文

文 | 卖萌酱大家好,我是卖萌酱。前几天,抱抱脸公司(HuggingFace)发表了一篇博客[1],详细讲解了ChatGPT背后的技术原理——RLHF。笔者读过之后,觉得讲解的还是蛮清晰的,因此提炼了一下核心脉络&a…

工具 | VSCode+ChatGPT 编程利器

本文首发微信公众号:全副武装的大师兄(一个分享前沿技术,生活感受的公众号,关注我,率先了解好玩的工具) 托了GPT同学的福,最近编程时,常会在ChatGPT中说明自己的需求以生成代码&…

Java调用ChatGPT(基于SpringBoot),实现可连续对话和流式输出的ChatGPT API(可自定义实现AI助手)

目录1. 配置阶段1.1 依赖引入1.2 配置application.yml文件1.3 注解添加2 使用2.1 生成回答2.1.1 测试2.2 生成图片2.2.1 测试2.3 下载图片2.3.1 测试2.4 生成流式回答2.4.1 流式回答输出到IDEA控制台2.4.2 流式回答输出到浏览器页面3 AI助手展示本文Demo地址:https:…

奇舞周刊第486期:ChatGPT 的狂飙之路

记得点击文章末尾的“ 阅读原文 ”查看哟~下面先一起看下本期周刊 摘要 吧~奇舞推荐■ ■ ■ChatGPT 的狂飙之路最近随着 ChatGPT 爆火出圈,网络上各种关于 ChatGPT 的争论声也不断;有些人把它当成一个更高级的聊天机器人,有人兴奋地看到了创…

阿里巴巴达摩院通义千问【附申请链接】阿里版ChatGPT

🥑 Welcome to Aedream同学 s blog! 🥑 文章目录报名测试实际体验效果阿里云作为数一数二的全球云平台,阿里的大语言模型通义千问还是值得期待的,凭借强大的算力支持还是有机会赶上人工智能发展浪潮。 早前阿里巴巴达摩院关于人工…

如何在QQ群中接入ChatGPT机器人

最近ChatGPT很火,但是每次要在浏览器上输入显得很麻烦。那么能不能在我们日常使用的软件中接入它让我们能方便的使用它呢?下面为你介绍如何在QQ群中接入chatgpt。环境介绍今天我们的分享主要围绕着大部分用户Windows电脑。基于nodejs。所需工具nodejs(版…

InstructGPT论文详解(学习ChatGPT必看论文)

InstructGPT论文详解(Training language models to follow instructions with human feedback,学习ChatGPT必看论文)返回论文和资料目录 1.导读 继ChatGPT大火后,越来越多人想了解ChatGPT相关技术。OpenAI官网虽然没有给出ChatG…

解放生产力!chatGPT接入Excel与Word教程(需要魔法上网,不用的都是骗人的)

解放生产力!chatGPT接入Excel与Word教程(需要魔法上网,不用的都是骗人的)!!!默认你注册过openAI账号了并使用过chatGPT了,本文就不教如何注册GPT啦,网上全是教程&#xf…

已获得百度文心一言内测资格,和ChatGPT3.5简单对比测评

今日获得了百度刚发布的文心一言的内测资格。整体感觉还不错哟。 闲来无事,使用同样的问题,用文心一言和我们基于ChatGPT的GPT-3.5-Turbo接口开发的免费镜像网站作了一下对比。给各位同学提前做一下参考。 传送门:https://ai.bo-e.com/ 接口…

ChatGPT技术与市场动态

ChatGPT服务器,深度拆解(2023)ChatGPT发布之后,引发了全球范围的关注和讨论,国内各大厂商相继宣布GPT模型开发计划。据各公司官网,2023年2月7日,百度宣布将推出ChatGPT类似产品“文心一言”&…

PHP - ChatGpt 学习 仅供参考

由于最近ChatGpt 大火,但是门槛来说是对于大家最头疼的环节, 由此ChatGpt 有一个API 可以仅供大伙对接 让我来说下资质: 1:首先要搞得到一个 ChatGpt 的账户, 会获得一个KEY,该key为访问API核心&#xff0…

ChatGPT王炸更新!能联网获取新知识,可与5000+个应用交互,网友:太疯狂了

梦晨 杨净 发自 凹非寺量子位 | 公众号 QbitAI都说ChatGPT是AI的“iPhone时刻”,现在属于它的“应用商店”来了。OpenAI刚刚又甩出一个王炸——宣布推出插件功能,赋予ChatGPT使用工具、联网、运行计算的能力。例如在官方演示中,ChatGPT一旦接…

chatgpt的多种免费使用方式

很多朋友因为各种限制无法开通#ChatGPT Plus,而申请OpenAI的GPT-4 API也要慢慢排队(我的也还没下来)。于是在这里我搜集了X个可以免费使用的方法。 注:哪有什么真正免费,只不过有人在替你付钱。因此下述的方法都有限制…

ChatGPT带你轻松入门嵌入式,实现51、STM32、Arduino、树莓派、Linux各种点灯程序...

关注星标公众号,不错过精彩内容作者 | strongerHuang微信公众号 | strongerHuang最近两个月什么最火?我想 ChatGPT 必定算其中一个。这东西能有多火?我之前一直以为只有在互联网等技术领域比较火,直到前不久,我们当地政…

搭建个人专属ChatGPT(零成本且不需要XX)

本篇文章假定读者已经拥有OpenAPI帐号,并且已经获取了API访问的secret key。 本文部分内容由ChatGPT生成 ChatGPT网页版开发 本章节描述了如何从零开发一个私有化版本的 ChatGPT 网站,主要使用技术栈为 NextJS TailwindCSS chatgpt ,其中 …