Oups

[picoclvr.git] / README.txt

diff --git a/README.txt b/README.txt
index a4cd46b..489a792 100644 (file)
--- a/README.txt
+++ b/README.txt
@@ -1,3 +1,8 @@
+18.10.2023
+
+./main.py --task=qmlp --model=352M --nb_train_samples=250000 --result_dir=results_qmlp_352M --batch_size=2
+
+~11h per epoch on 3090 Ti
 
 ======================================================================
 For the stack experiment:
@@ -18,3 +23,6 @@ For the arithmetic expressions experiments
 
 ./main.py --task=expr --nb_blocks=48 --dim_model=1024 --nb_train_samples=2500000 --result_dir=results_expr_48b_d1024_2.5M
 ======================================================================
+25.07.2023
+
+./main.py --task=sandbox --nb_train_samples=10000 --nb_test_samples=1000 --nb_blocks=4 --nb_heads=1 --nb_epochs=20