pipeline并行支持动态修改batch_size和num_microbatches吗？

[yhcc]

在最近的大模型中都提到了逐渐增大batch size的训练trick，我感觉在CAI比较直接的方法应该就是随着模型的训练，dataloader动态修改输出的batch大小，同时让engine中的schedule动态update num_microbatches的数量（由于模型比较大，一般整个训练过程中都只能保持forward的batch size为1）。这个直接修改的方案可能会有潜在的bug嘛？

[kurisusnowdeng]

目前不太支持因为本身pytorch的dataloader不方便这么做。如果您有好的修改意见可以将相关代码PR到我们的仓库中。非常感谢！

[yhcc]

dataloader非常方便修改的吧？因为传入一个batch sampler，然后这个batch sampler输出的batch大小是变化的就ok。我主要担心CAI这边是否有风险

[kurisusnowdeng]

那相同的用就ok，我们并没有特别修改dataloader

[yhcc]

所以动态修改num_microbatches对于PipelineSchedule来说应该是没有风险的，对吧？