Skip to content

预测速度很慢 #3

@Biaocsu

Description

@Biaocsu

您好,请问您那边训练模型时,机器配置怎样的,预测时速度又怎样?
我这边使用4张卡(每张卡16G显存),max_enc_len=512,其余参数未变,batch_size最大只能设置到3。因为数据量很大,训练数据有40多万条,这导致训练很慢。
预测时,因为对显存要求较低,batch_size=30,发现预测速度平均1.8673982858657836s/条。这很不合理,请问你那边当初有这样的问题吗?或者可能导致的原因在哪,多谢

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions