随着ChatGPT的兴起,AI大模型已成为各国各企业优先策划的重点领域之一,AI大模型俨然成为了2023年的“新风口”,想要研发出成功的AI大模型,大数据和大算力是最核心的两大需求,因此如何提高数据处理能力和算力已成为很多企业首要攻克事情。
近日,百度集团执行副总裁、百度智能云事业群总裁沈抖在2023 NAVIGATE领航者峰会上发表演讲,主题会《大模型产业智能化时代的新引擎》。
在演讲中,沈抖提到:未来所有企业都会强依赖大模型,并且所有产品都将基于大模型来开发,而且现在的AI大模型不再以CPU为主,而是以GPU为主,为了通过GPU来解决大模型训练过程中的大规模并发计算的问题,因此百度投入资金研发昆仑芯,预计将在明年年初规模上市,该产品将是昆仑芯3,可在很大程度上解决算力问题。
沈抖以GPT-3为参考例子,谈到AI大模型对算力需求,当GPT-3每训练一次,将需要约10的23次方计算量,若是用现在比较先进的A100这样算力,每秒可计算20万亿次,需要1000片计算100天。
据了解:昆仑芯1代AI芯片于2020年量产,在百度搜索引擎、小度等业务中部署数万片,是国内唯一一款经历过互联网大规模核心算法考验的云端AI芯片。
昆仑芯2代AI芯片于2021年8月量产,是国内首款采用GDDR6显存的通用AI芯片,相比昆仑芯1代AI芯片性能提升2-3倍,且在通用性、易用性方面也有显著增强。