Hugging Face 的 transformer 模型在 GitHub 上现在有 6.2 万 star 量，一个星 1600 美元。 五年前，一家来自纽约的创业公司 Hugging Face 宣布，它为那些颇感无聊的青少年打造了一款 iPhone 聊天机器人应用，可以分享一些电脑生成的人脸和笑话，也可以和 Siri 玩互动 ...

一周之内完成融资，这就是 Transformer 的力量吗？ Hugging Face 的 transformer 模型在 GitHub 上现在有 6.2 万 star 量，一个星 1600 美元。 五年前，一家来自纽约的创业公司 Hugging Face 宣布，它为那些颇感无聊的青少年打造了一款 iPhone 聊天机器人应用，可以分享一些电脑 ...

在过去的一年中，英特尔、Habana Labs和Hugging Face基于开源项目、集成开发者体验与科学研究，不断提升人工智能应用的效率并降低使用门槛，在创建和训练高质量Transformer模型上取得了重大进展。 Transformer模型为包括自然语言处理（NLP）、计算机视觉（CV）、语音 ...

通信世界网消息（CWW）在过去的一年中，英特尔、Habana Labs和Hugging Face基于开源项目、集成开发者体验与科学研究，不断提升人工智能应用的效率并降低使用门槛，在创建和训练高质量Transformer模型上取得了重大进展。 Transformer模型为包括自然语言处理（NLP ...

最近，NLP明星公司Hugging Face发布了一个叫做Infinity的产品，可以以1ms延时完成Transformer的推理，性能相当高了。 但是，厉害归厉害，还是有点贵——1年至少要十几万块 （2万美元）。 先来认识一下这个方法：Transformer-deploy。 它可以用一行命令优化和部署Hugging ...

几天前，Hugging Face旗下“明星”开源库Transformers的Star数量超过了100,000。 而且，Transformers应该是GitHub上最快达成这一里程碑的开源项目。 毋庸置疑地是，Hugging Face 绝对是这个时代最耀眼的AI公司之一。 过去一年，Hugging Face的搜索指数甚至远超生成式AI领域的明星 ...

Hugging Face 发布了 《超大规模实战指南：在 GPU 集群上训练大语言模型（LLMs）》，这是一份开源指南，详细探讨了跨 GPU 集群进行大语言模型训练的方法和技术。该指南基于使用多达 512 个 GPU 进行的超过 4000 次扩缩实验，重点是优化吞吐量、GPU 利用率和训练效率。

最近，NLP明星公司Hugging Face发布了一个叫做Infinity的产品，可以以1ms延时完成Transformer的推理，性能相当高了。 但是，厉害归厉害，还是有点贵——1年至少要十几万块（2万美元）。 先来认识一下这个方法：Transformer-deploy。 它可以用一行命令优化和部署Hugging Face ...

现在，你可以用 GitHub 上最火的 NLP 项目做机器翻译了。 没错，就是 Hugging Face （抱抱脸）标星 26.9k 的 Transformer 项目。在最新更新的版本里，抱抱脸发布了 1008 种模型，正式涉足机器翻译领域。 模型涵盖 140 种不同语言组合，中文翻英文，英文译法语，法语翻 ...

你在用 PyTorch 写 transformer 吗？请关注下这个项目。 大多数关于在生产中部署 Transformer 类模型的教程都是基于 PyTorch 和 FastAPI 构建的。两者都是很好的工具，但在推理方面的性能不是很好。 而如果你花费时间进行研究，可以在 ONNX Runtime 和 Triton 推理服务器上 ...