您现在的位置是：首页 >技术交流 >NLP领域的知识体系构建及成长之路网站首页技术交流

NLP领域的知识体系构建及成长之路

jq_98 2024-10-12 00:01:03
简介NLP领域的知识体系构建及成长之路

前言

博主准备去C9读CS博士了，其中的路有多难走，只有我自己知道，anyway，感谢那个不曾放弃的自己

由于以后可能会接触到大模型相关的知识，所以现在想迫切的构建一下自己的知识体系，之前也只是对于CV领域比较熟悉，CNN、MLP以及一点点RNN的知识，但是当前最重要的Transformer确实是过于疏忽了，希望通过自己的努力，尽快把这些知识补齐，不至于落下太多。(不了解深度学习的头牌：Transformer，必定会落后时代的发展)

当然，这篇博客的出发点不仅仅是做一些知识的积累，也还是希望能够构建一些相关领域的知识体系，以及上手一些代码，实现更快的成长。

无论如何，还是要坚持写博客，更新博客的习惯，尽早成为浏览量1000k+的博主，如果当前博客的内容还不够多，不妨点个关注和收藏，follow一下这个系列，我会努力更新，谢谢 >_<

推荐博客

NLP 以及 LLM 的知识体系构建：

从Word Embedding到Bert模型—自然语言处理中的预训练技术发展史

Transfomer：

深度学习中的注意力模型（2017版）
哈佛大学NLP研究组：The Annotated Transformer（2018）
Jay Alammar可视化地介绍Transformer：The Illustrated Transformer

经典论文

ELMo：Embeddings from Language Models (2018)
Transformer: Attention is all you need (2017)
GPT: Improving Language Understanding by Generative Pre-Training (2018)
BERT( Bidirectional Encoder Representations from Transformers.): Pre-training of Deep Bidirectional Transformers for Language Understanding（2019）

风语者！平时喜欢研究各种技术，目前在从事后端开发工作，热爱生活、热爱工作。

站长推荐