NLP的历史发展，从n-gram => word2vec => nplm => seq2seq => transformer => GPT
- 统计词频: n-gram、bag_of_words
- 词向量: skip-gram、cbow、word2vec
- 短句: nplm
- 长句: rnn、seq2seq
- 段落：transformer、gpt
- 大语言模型: ChatGPT
多是LLM实践
- LLM Api调用，包括chat、embedding
- 各类Agent
- ChatAgent: 支持会话上下文的Agent
- ToolAgent: 支持Tool调用的Agent
- SearchAgent: 支持检索的agent