在这里插入图片描述
在这里插入图片描述
https://www.bilibili.com/video/BV18Q4y1o7NY
只有c0被保留下来并做最后的softmax分类
这个公式表示的很清楚了

在这里插入图片描述
从 transformer cls_token说开去：
在这里插入图片描述transformer的encoder和conv encoder提取出的编码格式就不同。
transformer的编码格式：num_patches(+1,由于有特殊token在前，例如ViT中的分类token，DPT中的read token),embedding_dim

怎么从transformer的编码返回到原图？
其实是一件非常自然的事
在这里插入图片描述
在这里插入图片描述
作者提出了三种read策略：
1.直接把read token忽略 2.resnet的做法——把read token加到其他token上3.dense net的做法：把read token和其他token concat，然后对每个token仿射变换到embedding_dim
在这里插入图片描述
在这里插入图片描述

# transformer # 深度学习
GitHub 加速计划 / vi / vision
15.85 K
6.89 K
下载
pytorch/vision: 一个基于 PyTorch 的计算机视觉库，提供了各种计算机视觉算法和工具，适合用于实现计算机视觉应用程序。
最近提交(Master分支：2 个月前 )
868a3b42 6 天前
e9a32135 15 天前
Logo
GitCode 开源社区

旨在为数千万中国开发者提供一个无缝且高效的云端环境，以支持学习、使用和贡献开源项目。

更多推荐

[转载]在Windows环境下安装GNU Radio

转自：在Windows环境下安装GNURadio_恐弱智_新浪博客GNU Radio是用Python开发的，大部分开源的工程能够在Linux环境下运行良好，而Windows下却运行的很勉强，而且安装配置都很复杂。GNU Radio算是个例外了，不光提供了Windows的二进制安装，还有比较详细的说明。我是Python小白，所以折腾了好久才弄好，特意记录下来，免得以后再装还折腾。GNU Radio的

avatar GitCode 开源社区

centOS 8 使用dnf安装Docker

DNF是什么？CentOS 8使用YUM软件包管理器版本v4.0.4。现在，该版本使用DNF(已删除YUM)。DNF是软件包管理器。它会在Linux发行版上安装，执行更新并删除软件包。使用DNF安装Docker跳过具有损坏依赖性的程序包一个有效的解决方案是使您的CentOS 8系统使用以下--nobest命令安装最符合条件的版本：sudo dnf install docker...

avatar GitCode 开源社区

定时同步数据库表(mysql+linux+crontab)

sync.sh里面的参数需要改变，ip/username/password/database/tablesync.sh#!/bin/sh# Please change the IP and password of the data source db.# Then change the table name.filename=/home/nington/db/$(date +%Y-%m

avatar GitCode 开源社区