Dataset Viewer
Auto-converted to Parquet Duplicate
results
dict
config
dict
{ "agieval": { "accuracy": [ 72.43, 65.34, 74.66 ], "consistency": 81.79 }, "math": { "accuracy": [ 65.88, 64.58, 67.86 ], "consistency": 62.18 }, "mmlu_pro": { "accuracy": [ 66.63, 55.16, 70.68 ], "consistency": 73.19 ...
{ "model": "vllm", "model_args": "", "batch_size": "auto", "batch_sizes": [], "device": "null", "use_cache": "null", "limit": "null", "bootstrap_iters": 100000, "gen_kwargs": "null", "random_seed": 0, "numpy_seed": 1234, "torch_seed": 1234, "fewshot_seed": 1234, "model_dtype": "bfloat16", ...
{ "agieval": { "accuracy": [ 54.59, 44.62, 59.66 ], "consistency": 62.54 }, "math": { "accuracy": [ 49.21, 46.88, 51.18 ], "consistency": 42.9 }, "mmlu_pro": { "accuracy": [ 45.3, 32.34, 51.94 ], "consistency": 52.79 }...
{ "model": "vllm", "model_args": "", "batch_size": "auto", "batch_sizes": [], "device": "null", "use_cache": "null", "limit": "null", "bootstrap_iters": 100000, "gen_kwargs": "null", "random_seed": 0, "numpy_seed": 1234, "torch_seed": 1234, "fewshot_seed": 1234, "model_dtype": "bfloat16", ...
{ "agieval": { "accuracy": [ 69.71, 60.77, 71.2 ], "consistency": 83.13 }, "math": { "accuracy": [ 51.29, 49.66, 54.2 ], "consistency": 48.96 }, "mmlu_pro": { "accuracy": [ 58.75, 49.3, 63.16 ], "consistency": 75.24 } ...
{ "model": "vllm", "model_args": "", "batch_size": "auto", "batch_sizes": [], "device": "null", "use_cache": "null", "limit": "null", "bootstrap_iters": 100000, "gen_kwargs": "null", "random_seed": 0, "numpy_seed": 1234, "torch_seed": 1234, "fewshot_seed": 1234, "model_dtype": "bfloat16", ...
{ "agieval": { "accuracy": [ 68.78, 61.41, 74.49 ], "consistency": 75.77 }, "math": { "accuracy": [ 71.04, 69.66, 72.72 ], "consistency": 67.71 }, "mmlu_pro": { "accuracy": [ 65.1, 50.28, 69.23 ], "consistency": 72.31 ...
{ "model": "vllm", "model_args": "", "batch_size": "auto", "batch_sizes": [], "device": "null", "use_cache": "null", "limit": "null", "bootstrap_iters": 100000, "gen_kwargs": "null", "random_seed": 0, "numpy_seed": 1234, "torch_seed": 1234, "fewshot_seed": 1234, "model_dtype": "bfloat16", ...
{ "agieval": { "accuracy": [ 51.57, 38.46, 63.8 ], "consistency": 58.7 }, "math": { "accuracy": [ 42.91, 40.72, 45.22 ], "consistency": 38.26 }, "mmlu_pro": { "accuracy": [ 40.63, 31.49, 47.65 ], "consistency": 51.43 }...
{ "model": "vllm", "model_args": "", "batch_size": "auto", "batch_sizes": [], "device": "null", "use_cache": "null", "limit": "null", "bootstrap_iters": 100000, "gen_kwargs": "null", "random_seed": 0, "numpy_seed": 1234, "torch_seed": 1234, "fewshot_seed": 1234, "model_dtype": "bfloat16", ...
{ "agieval": { "accuracy": [ 63.89, 50.85, 70.98 ], "consistency": 69.95 }, "math": { "accuracy": [ 53.46, 51.7, 54.42 ], "consistency": 48.04 }, "mmlu_pro": { "accuracy": [ 49.91, 36.47, 55.76 ], "consistency": 57.31 ...
{ "model": "vllm", "model_args": "", "batch_size": "auto", "batch_sizes": [], "device": "null", "use_cache": "null", "limit": "null", "bootstrap_iters": 100000, "gen_kwargs": "null", "random_seed": 0, "numpy_seed": 1234, "torch_seed": 1234, "fewshot_seed": 1234, "model_dtype": "bfloat16", ...

nvidia/llm-robustness-leaderboard-evals(複製)

データの内容

大規模言語モデルのロバスト性を評価する leaderboard の評価結果のデータ。列は results(agieval の accuracy を含む構造体)と config(model と model_args)である。元のカードは空で、この説明は列名と調査メモから書いた。

データの概要

項目 値
行数 6(1 構成・1 分割の合計)
列数 2
容量 5.92 KB(ファイル 8 本)
ファイルの形式 json 6
公開 public

構成と分割

構成(config) 分割(split)ごとの行数 列数
default train 6 2

列(構成 default・分割 train)

列 型 先頭の行の値
results struct{agieval: struct{accuracy: list<float64>, consistency: float64}, math: struct{accuracy: list<float64>, consistency: float64}, mmlu_pro: struct{accuracy: list<float64>, consistency: float64}} {agieval, math, mmlu_pro}
config struct{model: string, model_args: string, batch_size: string, batch_sizes: list<null>, device: string, …} {model, model_args, batch_size, batch_sizes, …}

行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

nvidia/llm-robustness-leaderboard-evals をリビジョン 0f343f6ce456ef0e96d9f2a4383ae17038dd187a の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。

出典

論文

  • 元のカードに論文へのリンクは見つからなかった

アノテーションの方法

元のカードにアノテーションの節が無かった。下の「調査メモの記述」と「元のカード」を参照。

微調整に使うときの注意

  • 調査メモの台帳での区分: A(許諾型のライセンスだけで、疑義の注記が無い)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
  • Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
  • 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ 節 ライセンス(記載) 確認 注記
nvidia_nemotron.md 付録. 取得した nvidia 組織のデータセット全件の簡易一覧 (L415) apache-2.0 確認済 確認印なし(各ファイルの凡例により確認済扱い) / 原文注記: × 商品カタログ/ロバスト性評価

元のカード

(元のカードは空だった)

Downloads last month
103