1. 站长资讯平台首页
  2. 投稿

Bing现在比Google更大规模地使用BERT

SEO资讯Bing现在比Google更大规模地使用BERT


Bing现在比Google更大规模地使用BERT

Bing今天透露,它已经在Google之前的搜索结果中使用了BERT,并且还在大规模使用。

Google在搜索结果中对BERT的使用目前正在影响美国 10%的搜索结果以及两个国家/地区的精选摘要。另一方面,Bing现在在全球范围内使用BERT。

自4月份以来,Bing就一直在使用BERT,比Google提前了大约半年。在Bing 的博客文章中,Bing详细介绍了将BERT扩展到全局搜索结果时遇到的挑战。

Bing承认,在全球范围内将像BERT这样的深度学习模型应用于网络搜索可能会非常昂贵。微软的“ Azure”云计算服务最终使它成为可能。

最初估计需要数万台服务器才能实现,是使用2000多个Azure GPU虚拟机完成的。Bing从在20个CPU内核上以每个推理77毫秒的速度为三层BERT模型提供服务,转变为在Azure虚拟机上使用GPU模型在6毫秒内提供64个推理的服务。

从在CPU模型上运行BERT到在GPU模型上运行BERT的转换导致吞吐量提高800倍:

“通过这些GPU优化,我们能够在四个地区使用2000多个Azure GPU虚拟机,每秒在全球范围内提供超过一百万个BERT推论。Azure N系列GPU VM对于以高可用性,敏捷性和可观的成本节省来实现必应的Bing变革性AI工作负载和产品质量改善至关重要,特别是随着深度学习模型的复杂性不断增长。

Bing现在比Google更大规模地使用BERT

到目前为止,Bing搜索的这些改进已在全球范围内提供。

作者:站长资讯平台,如若转载,请注明出处
分享本页
返回顶部