AI Infra 是连接算力和应用的 AI 中间层基础设施，涵盖了数据准备、模型训练、模型部署和应用整合等环节，其中的基础软件工具有较高商业化潜力；目前 AI Infra 产业处于高速增长的发展早期，未来几年内各细分赛道有望保持 30%+ 高速增长。

Self-Attention 是 Transformer 中最核心的思想，我们在阅读 Transformer 论文的过程中，最难理解的可能就是自注意力机制实现的过程和繁杂的公式。

在 ChatGPT 计算处理完之后，也需要将结果再做逆转换，形成文字形式，反馈给用户。这种转换包括 Tokenizer 和 Embedding，本文要介绍这两个模块。

OpenAI 的 GPT 系列模型，包括其它科技公司研发的各种最先进的 NLP 模型，甚至图像处理模型，广泛采用了 Attention 注意力机制进行建模，它可谓是当前 NLP 神经网络的灵魂机制。