首页 滚动 > > 正文

下一代人工智能超级计算机即将上线 将推动生成式AI大模型的发展

来源:站长之家 发布日期:2023-07-28 12:06:42 分享到:


(资料图片)

编程客栈()7月28日 消息:随着 Cerebras、pythonInflection、亚马逊和其他公司推出新硬件,下一代人工智能超级计算机将可用于新的生成式人工智能模型。

大型语言模型和其他类型的生成人工智能的使用正在迅速增长。通过ChatGPT、Bard、Copilot等,现在几乎每个数字生态系统中都有聊天机器人,其中GPT-4等模型仍然处于领先地位。但下一代生成式人工智能模型即将出现。为了训练这些复杂的人工智能系统,科技公司正在构建新一代人工智能超级计算机。

Cerebras 推出2Exaflop 超级计算机

新一代的一个例子来自 Cerebras,该公司刚刚推出了其 Condor Galaxy1系python统,具有2Exaflops 的能力。它仅用了10天就组装完毕并投入运行,由32台 Cerebras CS-2计算机组成。据该公司称,Condor Galaxy 的规模有望在未来12周内扩大一倍。它的所有者是 G42,一家总部位于阿布扎比的控股公司,拥有9家人工智能公司,其中包括中东最大的云计算提供商之一 G42Cloud。

在接下来的18个月内,Cerebras 计划安装更多系统,以在9个安装中达到36Exaflops。这将使其成为专注于人工智能工作负载的最大超级计算机之一。

云提供商提供对 Nvidia H100GPU 的访问

除了 Inflection 之外,每个主要云平台都推出了由 Nvidia H100GPU 提供支持的新实例。就在昨天,AWS 推出了 P5实例,最多可运行20,000个 H100GPU。Microsoft Azure、Google 和 Core Weave 提供类似的硬件。

通过轻松访问扩展资源,开发人员可以快速构建生成式 AI 应用程序原型,因为使用 Transformer 引擎的 H100的训练时间可以大大减少。在 MLPerf 基准测试中,Core Weave 和 Nvidia 最近在不到11分钟的时间内在约3js,500个 GPU javascript上训练了一个具有1750亿个参数的GPT-3模型。

关键词:

x 广告

河北印发出台通用机场布局规划(2021-2030年)

到2030年,全省形成以A类通用机场为主体、B类通用机场为补充,功能完善、覆盖广泛的通用机场体系,全省通用机场达到23个。其中,到2025年全

复原民国旧菜单 一批“消失的名菜”重现羊城

  中新网广州12月5日电 (记者 程景伟)“粤宴中国·消失的名菜”活动4日晚在广州博物馆镇海楼广场举行,一批业已失传或十分罕见的传统粤

青海再度“双清零”:战“疫”催生定点救治医院反思与成长

  中新网西宁12月5日电 题:青海再度“双清零”:战“疫”催生定点救治医院反思与成长  作者 潘雨洁  全面停诊、四下无人;火线冲

世界海拔最高高铁客运站山丹马场站运营

  中新网兰州12月5日电 (记者 杨艳敏)记者从中国铁路兰州局集团有限公司获悉,12月5日10时29分随着嘉峪关南至西安北D2696次动车组列车

千年古都洛阳为何要建青年友好型城市?

  中新网洛阳12月5日电 题:千年古都洛阳为何要建青年友好型城市?  记者 肖开霖 李贵刚  千年古都洛阳日前公布《洛阳市建设青年

甘肃万余河长公示牌拥有“电子身份证” 局地启“千里眼”治水

  中新网兰州12月5日电 (记者 冯志军)记者5日从甘肃省水利厅获悉,今年以来,甘肃全面推动河长公示牌信息化建设,为全省河流换发“电子

满洲里市向呼伦贝尔市“手递手”异地转运3批次隔离人员

  (抗击新冠肺炎)满洲里市向呼伦贝尔市“手递手”异地转运3批次隔离人员  中新网呼伦贝尔12月5日电 (记者 张玮)5日,内蒙古自治区呼

2021年度法治人物沈云如:让群众过上“有身份的生活”

  中新网杭州12月5日电 题:2021年度法治人物沈云如:让群众过上“有身份的生活”  作者 郭其钰 张先登  行程10余万公里,为辖区3

x 广告

Copyright   2015-2022 亚太海洋网版权所有  备案号:沪ICP备2020036824号-11   联系邮箱: 562 66 29@qq.com