Skip to main content
aflah
Projects
rope-pct-exps
Log in
Sign up
Overview
Workspace
Runs
Automat.
Sweeps
Reports
Artifacts
Aflah's workspace
Personal workspace
Automated workspace
Changes are only visible to you.
Runs
92
Name
8 visualized
llama_3_2_1b_50_pct
llama_3_2_1b_50_pct
llama_3_2_1b_50_pct
llama_3_2_1b_50_pct
llama_3_2_1b_50_pct
llama_3_2_1b_50_pct
llama_3_2_1b_50_pct
llama_3_2_1b_50_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
Llama-3_2_1B-RoPE-50Pct
Llama-3_2_1B-RoPE-50Pct
Llama-3_2_1B-RoPE-25Pct
Llama-3_2_1B-RoPE-25Pct
Llama-3_2_1B-RoPE-50Pct
Llama-3_2_1B-RoPE-50Pct
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-SLURM
Llama-3_2_1B-No-SLURM
Llama-3_2_1B-No-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-With-Eval-No-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-With-Eval-No-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-With-Eval-No-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-With-Eval-No-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-No-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-No-SLURM
Llama-3_2_1B-TE-No-SLURM
Llama-3_2_1B-TE-No-SLURM
Llama-3_2_1B-TE-No-SLURM
Llama-3_2_1B-TE-No-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-No-SLURM
Llama-3_2_1B-Softmax-RMS-Rope-Fusion-No-SLURM
Llama-3_2_1B-Rope-Fusion-No-SLURM
Llama-3_2_1B-Rope-Fusion-No-SLURM
Llama-3_2_1B-TE-No-SLURM
Llama-3_2_1B-TE-No-SLURM
Llama-3_2_1B-GAS-3-No-SLURM
Llama-3_2_1B-GAS-3-No-SLURM
Llama-3_2_1B-GAS-3-No-SLURM
Llama-3_2_1B-GAS-3-No-SLURM
Llama-3_2_1B-Softmax-RMS-Fusion-No-SLURM
Llama-3_2_1B-Softmax-RMS-Fusion-No-SLURM
Llama-3_2_1B-Softmax-Fusion-No-SLURM
Llama-3_2_1B-Softmax-Fusion-No-SLURM
Llama-3_2_1B-Softmax-Fusion-No-SLURM
Llama-3_2_1B-Softmax-Fusion-No-SLURM
Llama-3_2_1B-Softmax-Fusion-No-SLURM
Llama-3_2_1B-Softmax-Fusion-No-SLURM
Llama-3_2_1B-RMS-Fusion-No-SLURM
Llama-3_2_1B-RMS-Fusion-No-SLURM
Llama-3_2_1B-No-SLURM
Llama-3_2_1B-No-SLURM
1.1B-BS-48-No-TE-With-Softmax-RMS-RoPe-Fusion
1.1B-BS-48-No-TE-With-Softmax-RMS-RoPe-Fusion
Llama-3_2_1B-Half-Depth-No-SLURM
Llama-3_2_1B-Half-Depth-No-SLURM
Llama-3_2_1B-2x-Depth-No-SLURM
Llama-3_2_1B-2x-Depth-No-SLURM
Llama-3_2_1B-2x-Depth-No-SLURM
Llama-3_2_1B-2x-Depth-No-SLURM
Llama-3_2_1B-2x-Depth-No-SLURM
Llama-3_2_1B-2x-Depth-No-SLURM
1-50
of 92
Settings
Add panels
validation
2
runtime
7
1-6 of 7
train
2
train/lm_loss
train/lm_loss
1k
2k
3k
4k
Step
4
6
8
10
llama_3_2_1b_50_pct
llama_3_2_1b_25_pct
train/learning_rate
train/learning_rate
1k
2k
3k
4k
Step
0.0001
0.0002
0.0003
0.0004
llama_3_2_1b_50_pct
llama_3_2_1b_25_pct
System
31
1-6 of 31
system/gpu.7.pcieLinkGen
system/gpu.7.pcieLinkGen
100
200
300
400
Time (minutes)
0
2
4
6
8
10
llama_3_2_1b_50_pct
llama_3_2_1b_50_pct
llama_3_2_1b_50_pct
llama_3_2_1b_50_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
system/gpu.6.pcieLinkGen
system/gpu.6.pcieLinkGen
100
200
300
400
Time (minutes)
0
2
4
6
8
10
llama_3_2_1b_50_pct
llama_3_2_1b_50_pct
llama_3_2_1b_50_pct
llama_3_2_1b_50_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
system/gpu.5.pcieLinkGen
system/gpu.5.pcieLinkGen
100
200
300
400
Time (minutes)
0
2
4
6
8
10
llama_3_2_1b_50_pct
llama_3_2_1b_50_pct
llama_3_2_1b_50_pct
llama_3_2_1b_50_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
llama_3_2_1b_25_pct
Add section