1.我们在下载的第一次发现有几个文件有损坏,所以我们后来检测了一下md5,重新下载了几个有损坏的文件,就成功解压了。
解压方式你可以搜索一下在linux分卷压缩的命令
2.我finetune的时候学习率仍然是2e-5,5e-5,1e-4(就是把1e-3的学习率乘下面的scale),我的确有调整过step,比如把10,20,30调整成了5,15,20,但是我发现效果差不多,所以按照config.py的设置是可以得到结果的,这个结果在30个epoch内就可以得到
Originally posted by @RetroCirce in #28 (comment)