多张GPU时显存未正确分配|GPU memory is not properly allocated when using multiple GPUs #2618
Description
我在服务器上有8张4090，设置0-1-2-3-4-5-6-7后，batch_size仅为4就提示显存不足，而改为0-1两张卡，batch_size设置为8，正常运行，每张卡有15g显存占用，显然不合理，我3060 6g笔记本都能跑8的batch_size，
{{ message }}
我在服务器上有8张4090，设置0-1-2-3-4-5-6-7后，batch_size仅为4就提示显存不足，而改为0-1两张卡，batch_size设置为8，正常运行，每张卡有15g显存占用，显然不合理，我3060 6g笔记本都能跑8的batch_size，