什么是深度学习 深度学习是机器学习的一个分支,靠多层神经网络让机器自己从海量数据中提炼规律。 以图像识别为例,传统算法需要人工设计“边缘”、“纹理”等特征,而卷积神经网络能够自动从像素到轮廓到物体,逐层学习层次化特征,实现端到端的学习。 训练主要靠两个环节:前向传播把输入逐层算出结果,反向传播根据输
论文链接:AN IMAGE IS WORTH 16X16 WORDS: TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE ViT:把图像看成 patch token 序列,而不是像素网格或卷积特征图,然后直接用标准Transformer Encoder 做全局建