syncnet训练的问题： IndexError: Caught IndexError in DataLoader worker process 0.

[yuanmaitian]

大佬，我用了LWR1000数据集按照你的方法处理了后，按照8:2分了train、val集，训练时发现报了图中错误

[yuanmaitian]

[yuanmaitian]

报了step=1时syncnet_eval的索引超界，会不会是syncnet_batch_size设32过小了？

[bjfrbjx]

打个日志看看self.img_names是不是空的，大概率是路径错误导致self.img_names = sorted((i.replace("\\", "/") for i in glob(join(self.vidname, '*.jpg'))),key=lambda x:int(basename(x).split(".")[0]))[:-syncnet_T]这行得到的是空的

[yuanmaitian]

打个日志看看self.img_names是不是空的，大概率是路径错误导致self.img_names = sorted((i.replace("\\", "/") for i in glob(join(self.vidname, '*.jpg'))),key=lambda x:int(basename(x).split(".")[0]))[:-syncnet_T]这行得到的是空的

看起来是有图片的

[yuanmaitian]

total trainable params 65235072
0%| | 0/17721 [00:00<?, ?it/s]self.img_names: ['/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/0.jpg', '/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/1.jpg', '/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/2.jpg', '/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/3.jpg', '/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/4.jpg', '/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/5.jpg', '/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/6.jpg', '/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/7.jpg', '/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/8.jpg', '/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/9.jpg', '/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/10.jpg', '/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/11.jpg']
postive_img_name: /root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/4.jpg
random is False
window_fnames: ['/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/3.jpg', '/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/11.jpg', '/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/10.jpg', '/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/1.jpg', '/root/workspace/processed_data/train/38b15271635728cb5c9875e3b36df941_3.18_3.4/11.jpg'], len(window_fnames): 5
len(window): 5
这个是打印结果

[bjfrbjx]

直接在tl=random.choices(tl,k=syncnet_T)前一行打印，自己分析一下就好了。

[bjfrbjx]

直接在tl=random.choices(tl,k=syncnet_T)前一行打印，自己分析一下就好了。

主要是变量tl

[yuanmaitian]

postive_img_name = random.choice(self.img_names)这一行随机选择一张图片是为什么？作为负样本？我感觉这一行会出bug，当随机选取的id值比较靠后（使得加5会超出index索引），估计这是问题所在

[bjfrbjx]

postive_img_name = random.choice(self.img_names)这一行随机选择一张图片是为什么？作为负样本？我感觉这一行会出bug，当随机选取的id值比较靠后（使得加5会超出index索引），估计这是问题所在

原版就是这样，随机选取一张做锚点。
为了保证取syncnet_T不出错，在上一行尾部加了[:-syncnet_T]（就是sorted((i.replace("\\", "/") for i in glob(join(self.vidname, '*.jpg'))),key=lambda x:int(basename(x).split(".")[0]))[:-syncnet_T]），以保证从任意一张开始都能成功的连续取到syncnet_T张。

[yuanmaitian]

postive_img_name = random.choice(self.img_names)这一行随机选择一张图片是为什么？作为负样本？我感觉这一行会出bug，当随机选取的id值比较靠后（使得加5会超出index索引），估计这是问题所在

原版就是这样，随机选取一张做锚点。 为了保证取syncnet_T不出错，在上一行尾部加了[:-syncnet_T]（就是sorted((i.replace("\\", "/") for i in glob(join(self.vidname, '*.jpg'))),key=lambda x:int(basename(x).split(".")[0]))[:-syncnet_T]），以保证从任意一张开始都能成功的连续取到syncnet_T张。

是的，调试发现了。我每次训练出现 IndexError: Caught IndexError in DataLoader worker process 0.这个bug的时间不定，有时早，有时晚一点，但一定会出现，所以跟随机化可能有关？也可能跟数据集有关？