TAG：自然语言

GPT-3 这个自然语言处理 AI 在去年「出圈」了，被公认是继 AlphaGo 之后「人工智能史上又一里程碑」。它在互联网上「阅读」了 5000 亿词，模型达到 1750 亿参数，从而变得通用。但给 AI 硬灌数据，实在是烧钱耗力。但好在，GPT-3 正在孕育出能够实现商业化的后代。就在刚刚，GitHub、OpenAI、微软联合打造了一个全新的代码生成 AI：GitHub Copilot（以下简称为 Copilot）。简单来说，Copilot 可以根据程序员的注释写代码，自动补全代码，提供与代...

做啦 6 月 28 日消息 今日，字节跳动火山翻译团队宣布推出 LightSeq 训练加速引擎，并向全球开发者开源。Transformer 是自然语言处理、计算机视觉等 AI 技术领域最常用的基础模型，被广泛应用在机器翻译、文本生成、文本摘要、图像处理、时间序列预测等任务中。训练和推理则是 AI 技术的两个主要过程，相当于学习知识和解决问题。据悉，LightSeq 训练加速引擎能够支持 Transformer 的完整加速，从词嵌入层、编码层、解码层，到最后的损失函数层，业内首次实现了全流程支持。...