本发明提供了一种基于孪生网络的目标跟踪方法,包括:步骤1,读入要跟踪的图像序列或者视频的第一帧,并通过框选的方式指定所要跟踪的目标的位置;步骤2:记录跟踪目标的位置,并将目标的RGB图像输入网络,得到特征图;步骤3:读入图像序列或者视频的下一帧,选择上一帧目标位置周围的部分图像输入网络,得到特征图;步骤四:将两张特征图进行卷积操作,获得新的特征图;步骤五:在新的特征图上用小卷积核进行卷积,得到更抽象的特征图;步骤六:将最后的特征图经过全连接层,输出目标在当前帧的坐标与图像中心的偏移量以及宽高比;步骤七:根据步骤六的输出,在当前帧画出目标的位置。