1.5B在eval时候两个任务一个gpu是可以的。

7B+在eval belebele时会OOM,所以分配时脚本不同。

eval_fast.py:

import subprocess
import argparse
import os
import socket

# 参数列表
task_name_list = [
    "flores_mt_en_to_id",
    "flores_mt_en_to_vi",
    "flores_mt_en_to_th",
    "flores_mt_en_to_ms",
    "flores_mt_id_to_en",
    "flores_mt_vi_to_en",
    "flores_mt_th_to_en",
    "flores_mt_ms_to_en",
    "ceval",
    "mmlu",
    "arc_challenge",
    "arc_easy",
    "hellaswag",
    "belebele",
]

# 解析命令行参数
parser = argparse.ArgumentParser(description="Run evaluation")
parser.add_argument("--model_names", type=

点赞(0) 打赏

评论列表 共有 0 条评论

暂无评论

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部