Koorye's Blog

随着深度学习的发展，模型结构和训练方法不断演进，推动了计算机视觉和自然语言处理等领域的突破。近年来，大模型和迁移学习成为研究热点，极大地提升了模型的性能和泛化能力。

本文将从传统视觉模型的发展、Transformer的发展、大模型时代以及预训练+迁移学习的范式转变等方面，系统地综述大模型与迁移学习的发展历程。