results dict | config dict |
|---|---|
{
"agieval": {
"accuracy": [
72.43,
65.34,
74.66
],
"consistency": 81.79
},
"math": {
"accuracy": [
65.88,
64.58,
67.86
],
"consistency": 62.18
},
"mmlu_pro": {
"accuracy": [
66.63,
55.16,
70.68
],
"consistency": 73.19
... | {
"model": "vllm",
"model_args": "",
"batch_size": "auto",
"batch_sizes": [],
"device": "null",
"use_cache": "null",
"limit": "null",
"bootstrap_iters": 100000,
"gen_kwargs": "null",
"random_seed": 0,
"numpy_seed": 1234,
"torch_seed": 1234,
"fewshot_seed": 1234,
"model_dtype": "bfloat16",
... |
{
"agieval": {
"accuracy": [
54.59,
44.62,
59.66
],
"consistency": 62.54
},
"math": {
"accuracy": [
49.21,
46.88,
51.18
],
"consistency": 42.9
},
"mmlu_pro": {
"accuracy": [
45.3,
32.34,
51.94
],
"consistency": 52.79
}... | {
"model": "vllm",
"model_args": "",
"batch_size": "auto",
"batch_sizes": [],
"device": "null",
"use_cache": "null",
"limit": "null",
"bootstrap_iters": 100000,
"gen_kwargs": "null",
"random_seed": 0,
"numpy_seed": 1234,
"torch_seed": 1234,
"fewshot_seed": 1234,
"model_dtype": "bfloat16",
... |
{
"agieval": {
"accuracy": [
69.71,
60.77,
71.2
],
"consistency": 83.13
},
"math": {
"accuracy": [
51.29,
49.66,
54.2
],
"consistency": 48.96
},
"mmlu_pro": {
"accuracy": [
58.75,
49.3,
63.16
],
"consistency": 75.24
}
... | {
"model": "vllm",
"model_args": "",
"batch_size": "auto",
"batch_sizes": [],
"device": "null",
"use_cache": "null",
"limit": "null",
"bootstrap_iters": 100000,
"gen_kwargs": "null",
"random_seed": 0,
"numpy_seed": 1234,
"torch_seed": 1234,
"fewshot_seed": 1234,
"model_dtype": "bfloat16",
... |
{
"agieval": {
"accuracy": [
68.78,
61.41,
74.49
],
"consistency": 75.77
},
"math": {
"accuracy": [
71.04,
69.66,
72.72
],
"consistency": 67.71
},
"mmlu_pro": {
"accuracy": [
65.1,
50.28,
69.23
],
"consistency": 72.31
... | {
"model": "vllm",
"model_args": "",
"batch_size": "auto",
"batch_sizes": [],
"device": "null",
"use_cache": "null",
"limit": "null",
"bootstrap_iters": 100000,
"gen_kwargs": "null",
"random_seed": 0,
"numpy_seed": 1234,
"torch_seed": 1234,
"fewshot_seed": 1234,
"model_dtype": "bfloat16",
... |
{
"agieval": {
"accuracy": [
51.57,
38.46,
63.8
],
"consistency": 58.7
},
"math": {
"accuracy": [
42.91,
40.72,
45.22
],
"consistency": 38.26
},
"mmlu_pro": {
"accuracy": [
40.63,
31.49,
47.65
],
"consistency": 51.43
}... | {
"model": "vllm",
"model_args": "",
"batch_size": "auto",
"batch_sizes": [],
"device": "null",
"use_cache": "null",
"limit": "null",
"bootstrap_iters": 100000,
"gen_kwargs": "null",
"random_seed": 0,
"numpy_seed": 1234,
"torch_seed": 1234,
"fewshot_seed": 1234,
"model_dtype": "bfloat16",
... |
{
"agieval": {
"accuracy": [
63.89,
50.85,
70.98
],
"consistency": 69.95
},
"math": {
"accuracy": [
53.46,
51.7,
54.42
],
"consistency": 48.04
},
"mmlu_pro": {
"accuracy": [
49.91,
36.47,
55.76
],
"consistency": 57.31
... | {
"model": "vllm",
"model_args": "",
"batch_size": "auto",
"batch_sizes": [],
"device": "null",
"use_cache": "null",
"limit": "null",
"bootstrap_iters": 100000,
"gen_kwargs": "null",
"random_seed": 0,
"numpy_seed": 1234,
"torch_seed": 1234,
"fewshot_seed": 1234,
"model_dtype": "bfloat16",
... |
nvidia/llm-robustness-leaderboard-evals(複製)
データの内容
大規模言語モデルのロバスト性を評価する leaderboard の評価結果のデータ。列は results(agieval の accuracy を含む構造体)と config(model と model_args)である。元のカードは空で、この説明は列名と調査メモから書いた。
データの概要
| 項目 | 値 |
|---|---|
| 行数 | 6(1 構成・1 分割の合計) |
| 列数 | 2 |
| 容量 | 5.92 KB(ファイル 8 本) |
| ファイルの形式 | json 6 |
| 公開 | public |
構成と分割
| 構成(config) | 分割(split)ごとの行数 | 列数 |
|---|---|---|
default |
train 6 |
2 |
列(構成 default・分割 train)
| 列 | 型 | 先頭の行の値 |
|---|---|---|
results |
struct{agieval: struct{accuracy: list<float64>, consistency: float64}, math: struct{accuracy: list<float64>, consistency: float64}, mmlu_pro: struct{accuracy: list<float64>, consistency: float64}} |
{agieval, math, mmlu_pro} |
config |
struct{model: string, model_args: string, batch_size: string, batch_sizes: list<null>, device: string, …} |
{model, model_args, batch_size, batch_sizes, …} |
行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は HYUKI5/dataset-catalog にある。
複製について
nvidia/llm-robustness-leaderboard-evals をリビジョン 0f343f6ce456ef0e96d9f2a4383ae17038dd187a の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。
出典
- 元のデータセット: https://huggingface.co/datasets/nvidia/llm-robustness-leaderboard-evals
- 複製したリビジョン:
0f343f6ce456ef0e96d9f2a4383ae17038dd187a(2024-12-17 10:28:48+00:00) - 元のライセンス表記:
apache-2.0
論文
- 元のカードに論文へのリンクは見つからなかった
アノテーションの方法
元のカードにアノテーションの節が無かった。下の「調査メモの記述」と「元のカード」を参照。
微調整に使うときの注意
- 調査メモの台帳での区分: A(許諾型のライセンスだけで、疑義の注記が無い)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
調査メモの記述
| メモ | 節 | ライセンス(記載) | 確認 | 注記 |
|---|---|---|---|---|
nvidia_nemotron.md |
付録. 取得した nvidia 組織のデータセット全件の簡易一覧 (L415) | apache-2.0 | 確認済 | 確認印なし(各ファイルの凡例により確認済扱い) / 原文注記: × 商品カタログ/ロバスト性評価 |
元のカード
(元のカードは空だった)
- Downloads last month
- 103