辉达顶级AI晶片 在eBay上卖破122万元

  • 发表时间:
    , 文章来源:UDN, 新闻取自各大新闻媒体,新闻内容并不代表本网立场

    辉达最新绘图处理器H100在eBay上售价超过40,000美元。路透(photo:UDN)
    辉达最新绘图处理器H100在eBay上售价超过40,000美元。路透(photo:UDN)

    随着训练和运作人工智慧(AI)软体所需的晶片需求激增,辉达(Nvidia)最先进的绘图显卡在eBay上售价超过40,000美元(约新台币122万元)。

    CNBC报导,脸书母公司Meta前顾问技术长卡麦克(John Carmack)14日发布一则推文表示,辉达的H100处理器在eBay上的标价约40,000至46,000美元不等。有些零售商过去提供这款处理器的价格约36,000美元。

    这款去年发表的处理器是辉达最新的旗舰款AI晶片,效能超越号称在AI应用上「最耐操」的A100处理器,A100的售价则为约10,000美元。

    开发商正利用H100建构所谓的大型语言模型(LLM),这种模型也是聊天机器人ChatGPT等AI应用的核心。运作这些系统的成本相当昂贵,需要功能强大的电脑来一次处理极大量的数据好几天或好几周,也仰赖高超的运算能力来生成文字、图像或预测。

    要训练一套AI模型,尤其是像ChatGPT这样的庞大模型,一次需要数百个辉达的高阶晶片同时运作。

    微软已砸下数亿美元购买上万个辉达A100晶片来建构ChatGPT。辉达掌控了AI晶片绝大多数市场。

    辉达也提供名为DGX的超级电脑,这台电脑共有八个绘图处理器同时运作。辉达今年稍早宣布的新服务,将让企业能以每月37,000美元的租赁价格连上DGX电脑。在这个价格方案,系统使用的是较旧款的A100处理器。

    辉达表示,H100是第一个为特有AI架构Transformer做最优化处理的晶片,这种架构构成了近期许多AI进展。业界专家表示,为了建构比目前可用的还要更大、更需要数据的模型,将需要更效能强大的晶片。