最佳体验请使用Chrome67及以上版本、火狐、Edge、Safari浏览器 ×

创建银行
创建开票

    他一口气买了2万个H100,单价40000美金

    编者:杨清瑶@芯视点 阅读379 来源: 芯视点 2024/03/20 05:50:04 文章 外链 公开

    这是孟买郊区一个闷热的三月夜晚,一群人焦急地在一家名为 Yotta Data Services 的初创公司的后门徘徊。他们踱步、停顿、焦躁。临近午夜,晚了 10 个小时,一辆卡车停了下来,载着他们一直在等待的贵重货物:来自Nvidia 公司的半导体。

    该公司的产品之所以如此令人垂涎,是因为它们对于人工智能的发展至关重要,这项技术在世界各地的行业中引发了狂热。尽管OpenAI和谷歌等公司已在美国投入数十亿美元研发此类芯片,但 Yotta 却在印度对人工智能的前景下了最大的赌注。

    首席执行官兼联合创始人苏尼尔·古普塔(Sunil Gupta)在国内较知名的科技公司和企业集团中脱颖而出,部分原因在于他与英伟达名人首席执行官黄仁勋( Jensen Huang)建立的关系。Yotta 预计将出席周一在加利福尼亚州举行的 Nvidia 开发者大会,这是人工智能在美国以外市场潜力的早期例子。

    “我雄心勃勃,我饥渴难耐,”52 岁的古普塔说道,“我愿意为人工智能的未来下注。”

    640 - 2024-03-20T134152.468.png

    Yotta 的战略是从印度的数据中心提供高性能计算能力,以便该国的企业、初创企业和研究人员能够开发自己的人工智能服务。Nvidia 的芯片是市场上最先进的,对于训练大型语言模型和构建 OpenAI 的 ChatGPT 和微软公司的编码助手 GitHub Copilot 等应用程序至关重要。古普塔认为,由于延迟问题,他比国外的云计算服务更具优势,他发誓要提供世界上最便宜的 Nvidia AI 芯片访问权限。他甚至考虑让预算紧张的印度初创公司给他股权而不是现金。

    需求站在他一边。根据 Spherical Insights & Consulting 的一份报告,全球人工智能市场预计将从 2022 年的 1685 亿美元增长到2032 年的 2 万亿美元以上。

    “这是一场淘金热,”桑福德·伯恩斯坦公司分析师史黛西·拉斯贡 (Stacy Rasgon)说。“人工智能仍处于早期阶段,公司无法购买足够的此类产品。”

    英伟达的崛起

    随着人工智能服务的需求,该芯片制造商的股价飙升(市值)

    640 - 2024-03-20T134156.414.png

    本月,印度的新时代开局并不顺利。该国海关官员对 Yotta 购买的 Nvidia 芯片的异常高价值感到困惑,导致需要额外的文书工作和官僚批准。回到孟买郊外的数据中心,古普塔在大厅的大理石地板上踱步了大半天,一边打电话一边释放他的芯片。

    送货卡车终于停了下来,工人们卸下了 Yotta 从 Nvidia 订购的 4,000 多个 H100 芯片中的第一批。这些功能强大的图形处理单元(GPU)每个售价为 30,000 至 40,000 美元,被称为 Hoppers,以向计算机科学先驱 Grace Hopper 致敬。

    毫不夸张地说,对于古普塔来说,这次芯片交付是一次神圣的过程。一位牧师在盒子上装饰着朱红色的标记和一串串黄色的菊花,夜空中弥漫着古梵文的赞美诗。一架携带相机的无人机记录了古普塔象征性地在卡车附近的地板上砸碎了一个椰子。“这是一个梦想的时刻,”他在派对的爆炸声中说道。

    640 - 2024-03-20T134202.638.png

    640 - 2024-03-20T134207.158.png

    Yotta 购买的 Nvidia 芯片数量到 6 月份将达到约 20,000 块,但按照全球标准来看,这个数量并不大。微软公司等科技巨头购买了数万个 H100,Meta Platforms Inc.的马克·扎克伯格表示,他的目标是在年底前购买 35 万个 H100。尽管如此,英伟达的供应仍远低于需求,因此首席执行官黄仁勋必须在企业巨头和国家元首施压要求分配的情况下调整分配。

    印度正受到特别关注。9月,黄会见了印度总理纳伦德拉·莫迪,并表示他将优先考虑来自该国数据中心运营商的任何订单。“你有数据,你有人才,”黄当时说道。“这将成为世界上最大的人工智能市场之一。”

    第二天,古普塔接到 Nvidia 团队的电话,询问他是否可以在西部城市浦那与首席执行官会面。尽管已经是晚上,会议将在第二天早上举行,但古普塔很快就同意了。他跳上车,连夜开了三个半小时的车去参加会议。这证明了 Yotta 将会超越。

    640 - 2024-03-20T134211.357.png

    古普塔在这个领域有着极大的诚意。他在数据中心业务上工作了数十年,并于 2019 年在房地产亿万富翁Niranjan Hiranandani的支持下共同创立了 Yotta 。作为云计算运营商,Yotta 为 Wells Fargo & Co. 等公司提供数据存储和计算能力,这些公司可以根据需要扩大或缩小规模,而无需购买和安装自己的硬件。

    该国最大的两家企业集团塔塔集团和信实工业有限公司也计划开发人工智能基础设施,但尚未订购英伟达最先进的芯片。

    英伟达发言人拒绝就 Yotta 订单的具体细节发表评论,并指出更多内容将于本周披露。Gupta 在 Nvidia GPU 技术大会上发表讲话,他被告知黄仁勋将在周一的主题演讲中讨论 Yotta。

    引起关注的原因之一是人工智能的全球失衡。如果这项技术有潜力改变几乎所有行业,正如黄仁勋和微软首席执行官萨提亚·纳德拉(Satya Nadella)所说,那么印度、印度尼西亚或土耳其等国家将面临无法进入的风险。在印度,这可能会阻碍科学研究、初创企业的发展,更广泛地说,也会阻碍莫迪创建技术超级大国的雄心。“GPU 差异”是描述这种困境的一个越来越流行的术语。

    “没有自己的人工智能基础设施和模型的国家将在人工智能竞赛中惨败,”非营利性人工智能和机器人研究园区 ARTPARK 的联合创始人 Umakant Soni表示。
    古普塔认为,显然需要开发印度本土的人工智能模型,并用当地语言和文化多样性进行训练。“印度需要主权人工智能,印度需要主权模型,”他说。

    地缘政治正在帮助他。美国和中国之间日益紧张的关系导致拜登政府对其地缘政治竞争对手的技术出口实施全面控制,其中包括 Yotta 正在购买的 H100 Nvidia 芯片。在美国一位重要议员敦促商务部调查总部位于阿布扎比的人工智能公司G42与中国的联系后,中东的云提供商也受到了审查。

    古普塔认为他可以为印度客户以及亚洲和中东的其他客户提供服务。Yotta 已在印度四个城市拥有六个数据中心,并在印度东北部开设了一个新数据中心。这位企业家以古希腊数字“八”为他的公司命名,代表“七十亿”。

    “印度正在追赶,”风险投资公司3one4 Capital的合伙人Nruthya Madappa表示。“但由于人才基础,我们看到追赶速度非常非常快。”

    孟买郊外的七层数据中心周围有电子围栏,配备了 850 个摄像头,并设有七层安全措施。庞大的柴油储罐可容纳足够的燃料,以便在停电时使设施运行 48 小时。

    Gupta 与 Nvidia 的合作伙伴关系要求制定如此严格的协议以及构建 AI 云业务的严格规范。为此,他封锁了该设施的整个六楼。Nvidia 团队将在未来几周内抵达并启动并运行网络,目标是在 5 月中旬开始运营。Gupta 将第一个 H100 云服务称为 Shakti,印地语中的“力量”一词。

    他说,他的网络上线当天的容量就已售罄,并且还有来自印度及其他地区的公司的等候名单。Gupta 已经在期待 Nvidia 芯片的下一次交付,计划于 6 月份交付超过 16,000 颗。不过,他至少会做一件事不同的事情:雇佣警卫,因为这批货物的价值可能高达数亿美元。

    “安全?!我从来没想过这点!” 古普塔说。“很多人都想要这些。”


    声明:本网站部分内容来源于网络,版权归原权利人所有,其观点不代表本网站立场;本网站视频或图片制作权归当前商户及其作者,涉及未经授权的制作均须标记“样稿”。如内容侵犯了您相关权利,请及时通过邮箱service@ichub.com与我们联系。
     0  0

    微信扫一扫:分享

    微信里点“+”,扫一扫二维码

    便可将本文分享至朋友圈。

      
    
    
    分享
     0
      验证