ChatGPT 每天运行成本是多少?

跨境快讯 2024-01-30 00:02:20 woniu
2
导读:在本文中,我们将深入研究 ChatGPT 的日常运营成本,并揭示导致其巨额开支的因素。 ChatGPT 每次查询的费用是多少?

根据具体情况和定价等级,估计每个查询的 ChatGPT 成本可能会有所不同。

根据 SemiAnalysis 首席分析师 Dylan Patel 的报告,维持 ChatGPT 的正常运行每天的成本约为 70 万美元,相当于每个查询 36 美分。

然而,由于各种未知变量,这一估计存在不确定性。ChatGPT 背后的组织 OpenAI 在其网站上提供自己的定价信息。OpenAI 提供针对不同价位对话进行优化的 ChatGPT 模型。

例如,GPT-3.5-turbo 模型的定价为每 1,000 个代币 0.002 美元,其中每个代币代表一个单词的几个字母,1,000 个代币大约等于 750 个单词。

根据这一定价结构,我们可以说 ChatGPT 中的一次查询成本约为 0.2 美分。

然而,每次查询 0.2 美分的价格反映了订阅 ChatGPT Plus 级别的用户的成本,该级别的费用为每月 20 美元,并提供额外的好处。但对于免费用户来说,每次查询的成本可能要高得多。

OpenAI 通过与微软等公司的合作,部分补贴免费用户的费用。

ChatGPT 每天的费用是多少?

每天运行 ChatGPT 的成本是一个根据不同的估算而变化的主题。如上所述,每天运行 ChatGPT 的成本约为700,000 美元。

该估算基于成本模型,该模型表明运行 ChatGPT 的计算硬件费用为每天 694,444 美元。然而,一些未知变量可能会影响实际成本,例如收到的查询数量、GPU 性能和利用率、GPU 价格和可用性、功耗和冷却要求以及维护和折旧成本。

另一位消息人士称,运行 ChatGPT 的每日成本为 10 万美元。此估算考虑了与在 Microsoft Azure 云平台上托管 ChatGPT 相关的费用。

据估计,Azure 上的单个 A100 GPU 每小时成本为 3 美元,ChatGPT 上生成的每个单词金额为 0.0003 美元

考虑到这些因素,在至少使用 8 个 GPU 且平均响应 30 个单词的情况下,每个响应的成本约为 1 美分。根据此计算,OpenAI 每天可能花费 10 万美元或每月 300 万美元的运行成本。

虽然具体成本可能会有所不同,并且取决于用户数量、GPU 性能和其他运营考虑因素等因素,但运营 ChatGPT 显然需要大量财务资源。由于支持其 AI 功能所需的基础设施非常复杂,OpenAI 投入了大量资金来保持 ChatGPT 的正常运行。

Microsoft 需要花费多少 ChatGPT 费用?

据报道,微软在 2019 年向 OpenAI 投资了 100 亿美元。作为 OpenAI 的主要合作者和投资者之一,微软通过提供 Azure 云服务以及潜在的名为 Athena 的自有专有 AI 芯片来支持 ChatGPT 和其他 AI 项目。虽然微软与 OpenAI 的具体财务安排尚未公开,但可以合理地假设微软承担了与运行 ChatGPT 相关的部分成本。

此外,微软还拥有对其自身产品和服务的 GPT-4 源代码和数据的独家访问权。这意味着微软与OpenAI之间更深层次的合作,进一步凸显了微软参与ChatGPT的开发和运营。

关于成本结构,ChatGPT托管在微软的Azure平台上,该平台根据客户使用的资源向客户收费。然而,这种成本结构仅占运行 ChatGPT 的硬件成本的一小部分(约 3%),这表明 Microsoft 可能会资助与 ChatGPT 运营相关的大部分费用。

Google_search">与 Google 搜索相比,ChatGPT 搜索的费用是多少?

比较 ChatGPT 搜索与 Google 搜索的成本揭示了一些有趣的见解。谷歌是全球最受欢迎和最赚钱的搜索引擎之一,通过搜索广告产生了可观的收入。

尽管单独运行谷歌搜索引擎的确切成本并未公开披露,但可以使用每次查询平均收入 (ARPU) 等指标进行估算。报告显示,2020 年 Google 来自搜索广告的 ARPU 约为 0.05 美元,这表明每次查询的粗略成本约为 2.5 美分。

相比之下,ChatGPT 的每次查询成本更高,估计为 36 美分。根据这些粗略估计,ChatGPT 的每次查询成本为 36 美分,比 Google 的每次查询成本高出约 14 倍

ChatGPT 计算资源的成本是多少?

由于运行模型的大量要求,ChatGPT 计算资源的成本是一个重要的考虑因素。ChatGPT 依赖于 CPU 和 GPU 集群的组合,成本根据操作规模而变化。

报告显示,ChatGPT 的计算资源成本可以从每小时几百美元到数千美元不等。这个广泛的范围反映了所执行任务的复杂性、所使用模型的大小以及使用持续时间。

为了运行 ChatGPT,OpenAI 利用了先进的硬件,例如 Nvidia 的 A100 GPU。

据SemiAnalysis估计,OpenAI 使用约 3,617 台 HGX A100 服务器,总计 28,936 个 GPU,每台服务器的价格约为 20 万美元。这意味着大约7.23 亿美元的巨额硬件投资。

此外,运行 ChatGPT 需要大量功耗。

预计每天的电力成本约为 52,000 美元,加上大量的折旧费用,ChatGPT 的总计算硬件成本预计约为每天 694,444 美元

这些数字突显了支持 ChatGPT 计算资源的基础设施、功耗和维护所需的大量财务投资。

ChatGPT 研究人员和开发人员的成本是多少?

在考虑与 ChatGPT 相关的费用时,研究人员和开发人员的成本是一个关键组成部分。这些高技能人员在聊天机器人的开发、改进和维护中发挥着关键作用。

人工智能领域的研究人员和开发人员的薪水很高,往往每年数十万至数百万美元。

Glassdoor 数据显示, OpenAI 的 AI 研究人员的平均年薪约为 15 万美元,而微软的 AI 开发人员的平均年薪为 127,000 美元。

保守估计,大约有 100 到 200 名研究人员和开发人员全职从事 ChatGPT 工作,总工资成本可能会达到相当大的数字,每年可能达到数百万美元。然而,值得注意的是,仅工资成本并不能涵盖与研究人员和开发人员相关的全部费用。

必须考虑其他因素,例如福利、税收、设备、培训和其他运营成本。据估计,包括这些因素在内的雇主成本可能会增加工资支出约 30%。当考虑到工资和相关成本,以及计算资源等其他费用时,ChatGPT 的总研发支出可能相当可观。

根据项目的规模和复杂程度,单是每天的成本就可以达到数十万美元,甚至超过百万美元大关

ChatGPT 数据存储和维护的成本是多少?

数据存储和维护是运行 ChatGPT 的关键组成部分。该模型需要大量的存储容量来容纳用于训练和微调的大型数据集。存储如此广泛的数据需要大量费用,包括基础设施成本,具体取决于数据访问的数量和频率等因素。

数据存储的确切成本取决于多种因素,例如存储类型(热、冷或归档)、存储的数据量以及所选云服务提供商的定价结构。

例如,Azure 的 Blob 存储服务提供热 Blob 存储,价格约为每月每 GB 0.0184 美元,而冷 Blob 存储成本约为每月每 GB 0.01 美元

对于像 ChatGPT 这样依赖大量数据的模型来说,这些成本可能会显着累积。

此外,数据维护是确保 ChatGPT 性能和安全性的关键方面。虽然在没有详细信息的情况下很难估计数据维护的具体成本,但很明显,维护像 ChatGPT 这样的大规模语言模型会产生大量费用。数据维护包括安全措施、备份解决方案、加密、压缩、索引和处理,这些共同构成了总体成本。

为什么 ChatGPT 这么贵?

ChatGPT 使用最先进的深度学习模型,需要大量的计算能力和内存。这有助于程序很好地理解和处理人类语言。为了确保聊天机器人顺利工作,OpenAI 必须使用强大的服务器和高性能计算机,这可能会很昂贵

ChatGPT 昂贵的另一个原因是它每天都会收到大量用户的查询。有如此多的问题需要回答,需要花费大量的工作和资源来处理所有问题并得出正确的答案

满足如此高的需求还需要大量的计算能力和资源,以确保聊天机器人快速准确地做出响应。

正如您现在可能已经了解的那样,ChatGPT 的开发和维护也会增加其成本。OpenAI 拥有一支专家团队,他们始终致力于改进聊天机器人并解决任何问题。他们的技能和努力增加了运行 ChatGPT 服务的总体费用。

此外,存储和管理 ChatGPT 使用的大量数据也增加了开支。OpenAI 投资强大的数据存储系统,并采取严格的安全措施来保护用户交互并保证数据安全。管理所有这些数据需要资源并增加总体成本。

结论

运营 ChatGPT 需要花费大量资金,因为它需要复杂的基础设施、大量的计算能力、持续的开发工作以及 OpenAI 及其合作伙伴的大量财务投资。尽管确切的成本尚未透露,但运行 ChatGPT 显然需要大量投资。然而,ChatGPT 的好处是相当可观的,因为它可以改变人们与计算机交互的方式,并在人工智能方面取得进步。

文章翻译自:mlyearning;原文链接:https://www.mlyearning.org/how-much-does-chatgpt-cost-to-run-per-day/

版权声明: woniu 发表于 2024-01-30 00:02:20。
转载请注明: ChatGPT 每天运行成本是多少? | 跨境湾

相关文章