2021北京智源大会-感受

1. 多模态。其实我们在2019年就做了多模态的应用，是图文搜索，可惜做得不够深入。
2. 预训练模型。大模型面临的问题是，让模型把知识吐出来；小模型一般需要微调才能使用，微调包括任务数据集、知识图谱、业务数据等。
3. CPM系列模型，很大，最大。
4. 悟道2.0发布。
5. 文澜1.0发布。
6. 国内在人工智能和深度学习领域，做了很多工作。