过去,机器学习的部署受到算法的大小和速度以及对昂贵硬件的需求的限制。实际上,麻省理工学院的一份报告发现,机器学习可能正在接近计算极限。另一项Synced研究估计,华盛顿大学的Grover虚假新闻检测模型在大约两周的时间里培训费用为25,000美元。据报道,OpenAI花费了高达1200万美元来训练其GPT-3语言模型,而Google估计花费了6,912美元来训练BERT,这是一种双向转换器模型,可为11种自然语言处理任务重新定义最先进的技术。
英特尔和Deci表示,该合作伙伴关系将使英特尔芯片能够“大规模”进行机器学习,从而有可能通过降低成本和延迟来实现新的推理应用。Deci已经致力于提高英特尔处理器上著名的ResNet-50神经网络的推理速度,将模型的等待时间减少了11.8倍,并将吞吐量提高了11倍。
Deci首席执行官兼联合创始人YonatanGeifman表示:“通过优化在英特尔硬件上运行的AI模型,Deci可以使客户获得更快的速度,并可以在英特尔CPU上实现具有成本效益的,更通用的深度学习用例。”“我们很高兴与英特尔合作,为我们共同的客户提供更大的价值,并期待建立成功的合作伙伴关系。”
“张承辉博客” 英特尔与Deci合作加速芯片上的机器学习 https://www.zhangchenghui.com/241301