ChatGPT 每天运行开销达 70 万美元,微软开发自主芯片尝试降低成本
叶紫网 北京时间 4 月 21 日早间消息,据报道,芯片行业研究公司 SemiAnalysis 迪伦,首席分析师・帕特尔(Dylan Patel)表示,由于 ChatGPT 在昂贵的计算基础设施上运行,OpenAI 每天为运行 ChatGPT 可能的投资成本高达 70 万美元(当前约 481.6 万元人民币)。
帕特尔指出,ChatGPT 需要庞大的算力,才能基于用户的输入信息做出反馈,包括撰写求职信、生成教学计划,以及帮助用户优化个人资料等。他表示:“大部分成本都来自于昂贵的服务器。”
此外,帕特尔最初的估计基于 OpenAI 的 GPT-3 模型,而在采用最新的 GPT-4 模型之后,ChatGPT 现在的运行成本可能更高。
对此,OpenAI 尚未对此做出回应。
帕特尔和 SemiAnalysis 的另一位分析师阿夫扎尔・艾哈迈德(Afzal Ahmad)表示,此前外界已经注意到,训练 ChatGPT 背后的大语言模型可能要花费上亿美元,但运营费用,或者说人工智能推理的成本,以任何合理的部署规模来看都远远超过了训练成本。他们指出:“事实上,按周来看,ChatGPT 的推理成本超过了训练成本。”
过去几年,使用 OpenAI 语言模型的公司也一直在承担高昂的价格。创业公司 Latitude 开发了一款基于用户输入信息生成故事情节的人工智能地下城游戏。该公司首席执行官尼克・沃尔顿(Nick Walton)表示,运行该模型,以及相应的购买亚马逊 AWS 云服务器的费用 2021 年达到每月 20 万美元(当前约 137.6 万元人民币)。因此,沃尔顿最终决定改用 AI21 Labs 支持的语言软件提供商。这帮助他将公司的人工智能成本降低了一半,至每月 10 万美元(当前约 68.8 万元人民币)。
沃尔顿在接受采访时表示:“我们会开玩笑说,我们有人类员工和人工智能员工,在这两类员工身上花费的成本大致相同。我们每个月在人工智能上花掉数十万美元,而且我们也不是一家大型初创公司,所以这是一笔巨大的开支。”
近期有报道称,为了降低生成式人工智能模型的运行成本,微软正在开发一款代号为“雅典娜”的人工智能芯片。该项目于 2019 年启动。在此几年前,微软与 OpenAI 达成了 10 亿美元的投资协议,要求 OpenAI 仅在微软的 Azure 云服务器上运行其模型。
微软启动这一芯片项目的背后有两方面思考。知情人士透露,微软高管意识到,他们在自主芯片开发方面落后于谷歌和亚马逊。与此同时,微软正在寻找更便宜的方案去替代英伟达的 GPU 芯片。
目前,微软大约有 300 多名员工正在开发这款芯片。消息人士称,该芯片最早可能在明年发布,供微软和 OpenAI 内部使用。微软拒绝对此消息置评。
热门推荐
-
微软将阻止 IE11 和 Edge IE 访问网页端 SharePoint 和 OneDrive
些过时浏览器的用户升级到现代浏览器,主推基于 Chromium 的 Edge 浏览器。目前访问会跳转... -
i9-13900英特尔 ES 版处理器开盖,芯片比 12 代酷睿的大
i9-13900 的英特尔 ES 版本处理器打开盖子,测量芯片 die 尺寸为 257 mm2,比 ... -
《微软飞行模拟器》40 周年更新:畅玩四款旧版游戏
而且这些游戏并非静止的图像,玩家可以在 40 周年更新中畅玩这些旧版本。如果你更喜欢现代风格的飞机和... -
三星将增加显示驱动 IC、图像传感器外包生产
叶紫网10 月 20 日消息,三星电子计划增加非内存芯片的生产外包。台湾代工厂联电可能会为三星电子提... -
微软Office 365 将支持邮件“延迟发送”功能
用户宣布了大量的新功能,该公司也在专注于改善 Outlook 的一个现有功能,即延迟发送。根据微软... -
微软Surface Pro X升级版上市 搭载微软SQ 2 预装Windows 10家庭版
11月1日,升级版Surface Pro X正式上市,16+256GB版本12188元,16+512... -
24K黄金XboxOne X限定主机,财大气粗的微软真的很会玩!
Xbox Game Pass官推最近公布了一款限定主机图,图片中是一个外观金闪闪的Xbox,官方称这... -
育碧 Ubisoft+ 订阅上线微软 Xbox 主机:每月 17.99 美元
这一订阅不包含在微软 Xbox Game Pass 订阅中,需要单独订阅,并将育碧账号连接到 Xbo... -
Win10 22H2 是 Win10 的最终版本,Win11 LTSC 长期支持版明年推出
Channel,LTSC)将根据它们的特定生命周期继续接收更新。例如,Windows 10 LTSC... -
新版微软自带输入法终于更新了:可以和第三方输入法告别了
有关注的网友都知道,近期Windows正式推送了Win10 1903,伴随而来的是一大波新鲜功能,对... -
微软Surface Laptop Go超轻薄触控本 搭载10代酷睿 12寸高颜值
上个月初,微软发布了Surface系列的全新产品——Surface Laptop Go,售价4388... -
AI研发团队已成热门领域 微软超8000人研发团队
AI这样的一个领域可能很多人已经开始慢慢的知晓,科研成果也取得了很大的成功。 -
微软首款折叠屏电脑Surface Neo来啦!!很不错的亚子鸭!!
微软这个品牌相信没有哪个朋友会不知道吧,叶紫小编小木有最初开始去了解这个品牌还是针对它旗下的平板电脑... -
美股三大股指全线上涨,哔哩哔哩涨逾 4%,微软、特斯拉涨超 6%
芯片龙头股普遍上涨,其中英伟达涨幅超过 7%,德州仪器涨幅超过 6%,AMD 涨幅超过 5%。电动汽... -
《我的世界》没有 PS5 原生版本,主要是因为索尼不给开发商套件
菲尔・斯宾塞表示,索尼不愿意将 PS5 的开发套件提供给微软,在其他开发者拿到套件时,微软却没有得到... -
《Minecraft Java 版》游戏玩家需在 9 月 19 日前迁移至微软帐户
早在 2020 年,微软下 Minecraft 我的世界开发商 Mojang 就宣布,Minecra... -
微软 Visual Studio 2022 17.4 预览版 2 发布:允许同时激活多个 Git 存储库
此更新解决了预览版 1 中国报告的一系列问题带来了许多新功能。微软希望参与测试预览版的用户继续通过开... -
腾讯优图发布AI手语翻译机用人工智能帮助听障人士正常交流
在全球无障碍宣传日之际,腾讯优图实验室联合深圳市信息无障碍研究会共同发布了“优图AI手语翻译机”,致... -
微软在台上市 Surface Pro X!最轻薄笔记本!重量只有774 克!
Surface 又再添一个成员啦~ 微软在正式在台湾上市了Surface Pro X,是Surfac... -
英特尔 ARM 英伟达共同发布规范草案,统一 AI 数据交换格式
草案中和英伟达推荐使用人工智能系统 8 位的 FP8 浮点处理格式。他们表示,FP8 为了加快人工智... -
微软发布 Windows 11 21H1 版本 Build 22000.1098
此版本中的主要更改包括:此更新包含对内部 OS 功能的杂项安全改进。此版本没有记录其他问题。叶紫网获... -
微软 Win10 / Win11 官方优化工具 PowerToys 0.68.0 发布
优化工具 PowerToys 于今天发布了 0.68.0 版本更新,本次更新修复了此前版本中用户反馈... -
官翻 Surface Pro 9 已上架微软官网,享有两年有限硬件质保
官翻 Surface Pro 9 (Wi-Fi) 微软官网已上架,售价 6288 元起。据介绍,每一... -
苹果买下了原本属于惠普的 67 英亩老园区,加紧自研基带芯片
建立硬件和软件工程中心。现在,苹果买了原本属于惠普的苹果 67 英亩老园区,这似乎是它在该地区的首次... -
苹果推出智能音箱HomePod 高能芯片A8助它轻松打败亚马逊与谷歌!
据外媒9to5Mac报道,苹果公司在前不久已宣布:2月9日售价349美元的智能音箱HomePod将会...