(资料图片)
据 21ic 获悉,因为微软支持的 OpenAI 的生成式人工智能聊天模型 ChatGPT 每天投入的运行成本高达 70 万美金,为了降低生成式人工智能模型的运行成本,微软正在开发一款代号为“Athena”的人工智能芯片。
据悉,近日全球半导体行业研究公司 SemiAnalysis 首席分析师 Dylan·Patel 表示,由于 ChatGPT 运行在价格昂贵的计算基础设施之上,OpenAI 每天为运行 ChatGPT 投入的成本可能高达 70 万美金。
Dylan·Patel 表示,无论是撰写求职信、生成教学计划、帮助用户优化个人资料,还是基于事实或假设对事物进行判断分析,ChatGPT 均需要庞大的算力才能基于用户的输入信息做出反馈,而这部分成本都来自于昂贵的服务器。
Dylan·Patel 及其同事 Afzal·Ahmad 均认为,虽然训练 ChatGPT 背后的大语言模型可能要花费上亿美元,但其运营费用或其背后的内容生产成本会更高,即使采用任何合理的部署规模都远远超过了其训练成本。
近日传言微软为了降低生成式人工智能模型的运行成本正在开发一款代号为“Athena”的 AI 芯片。报道称该项目自 2019 年以来一直在生产中,并可供一小部分 Microsoft 和 OpenAI 员工进行测试。
微软之前与 OpenAI 达成了 10 亿美元的投资协议,要求 OpenAI 仅在微软的 Azure 云服务器上运行其模型。此前有消息称,因为短缺导致微软为一些内部团队配给 GPU。而英伟达的处理器售价很高,因此微软期望以相同工作负载的更便宜方式来运行。
除了强大的性能之外,英伟达的芯片还具有显着的软件优势,大部分 AI 工作负载都是为它们设计的,并且拥有数十年的开发人员经验。目前微软大约有 300 多名员工正在开发这款芯片。
消息人士称,该芯片最早可能在明年发布供微软和 OpenAI 内部使用,微软官方对此没有回复,但是否也让 Azure 客户使用还正在讨论中。谷歌开发了自己的 AI 芯片系列 TPU,是目前唯一开发 LLM 的竞争对手芯片,而亚马逊拥有自己的替代产品线 Trainium。
据悉,“Athena”基于 5nm 工艺节点,专为大型语言模型 (LLM) 等训练软件而构建,这些软件是近几个月出现的生成式 AI 激增的核心,但这些模型的增长一直受到 AI 训练芯片市场领导者英伟达GPU 短缺的困扰。
下一篇:最后一页
X 关闭
-

环球快播:微软为降低生成式人工智能运行成本开发 AI 芯片
据21ic获悉,因为微软支持的OpenAI的生成式人工智能聊天模型ChatGPT每天投入的运行成本高达70万美金,为了
-

截图!长按保存分享!Cocos Creator
一种3D截图方案背景参考TRUESPACEwithCocos技术分享[1]中的动态生成海报的介绍,以及作者的支持。实现一个
-

you are the one i want to see_you are the one-报资讯
1、就是你了!意思是。2、你就是最合适的人选。本文到此分享完毕,希望对大家有所帮助。
-

西安:赏华服走秀品千年古韵|环球今日报
4月25日,“长安上巳节”华服走秀及花车巡游活动在西安大唐不夜城步行街举行,来自西安多家高校社团及华服
- 1深圳:积极推进旅游业恢复 扎实推动经济稳定增长
- 2保定定州提出一系列发展措施 引领体品产业向智能化品牌化高端化迈进
- 3河北省财政厅充分发挥财政职能作用 促进交通运输事业发展
- 4太原阳曲人才公寓项目开启施工招标工作 共有1954套人才公寓满足人才居住需求
- 5山西出口钢构件顺利发货 为企业加强科技创新开辟了更为广阔的发展空间
- 6上半年泰州姜堰实现新签约亿元和1000万美元以上项目95个 计划总投资208.319亿元
- 7清华博士非洲修电站 因为他,“内卷”成为网络热词
- 8内蒙古新增本土确诊病例3例 均在呼伦贝尔满洲里市
- 931省份新增新冠肺炎确诊病例67例 其中本土50例
- 10浙江新增本土确诊病例45例 其中宁波6例、绍兴39例

