Fabryka.Praca

FABRYKA. / PRACA

Nad czym pracujemy.

Wczytuję wspólny plan…

HISTORIA

Ostatnie zmiany.

Brak zmian.

Drabinka / testy od małych modeli do 1B

Jeden dobry rozmiar nie mówi, czy metoda skaluje. Testy całej drabinki mają pokazać, czy dane i receptura pomagają również poza pojedynczym checkpointem.

01 / DLA KAŻDEGO

Mały model jest próbą.
Większy sprawdza, czy wniosek przetrwa.

Zmieniamy dane albo sposób treningu. Zamiast od razu wydawać cały budżet na duży model, sprawdzamy pomysł w mniejszej skali. Potem pytamy: czy ta sama zmiana pomaga również większemu modelowi?

PYTANIE

Czy dane A są lepsze od B?

Jedna zmiana, którą chcemy zrozumieć.

TANIA PRÓBA

Małe modele

Porównujemy warianty i sprawdzamy szum.

SPRAWDZENIE

Większa skala

Patrzymy, czy przewaga się utrzymuje.

DECYZJA

Co trenujemy dalej?

Wynik uzasadnia następny run lub zmianę pomysłu.

Schemat procesu badawczego. Nie przedstawia wyników ukończonych runów ani gwarancji oszczędności.

02 / CO ZNACZY „DRABINKA”

Ten sam pomysł.
Kolejne rozmiary.

Parametry to liczby, których model uczy się podczas treningu. M oznacza milion, B — miliard. Rozmiar modelu nie jest liczbą tokenów treningowych. Każdy szczebel pozwala sprawdzić, co zmienia się wraz ze skalą.

Wybierz rozmiar, żeby zobaczyć zakres testów ↓Rozszerzenie capability / zakres zaplanowany w kodzie

8M / wspólny rdzeń diagnostyki

Składnia, morfologia, śledzenie bytów, wiedza i pytania naukowe. Zakres testów nie jest dowodem zmierzonej zdolności modelu.

Te szczeble opisują harmonogram diagnostyki. Nie deklarujemy, że każdy model został wytrenowany lub że wszystkie zbiory są już gotowe. Dokładne liczby parametrów liczymy dla konkretnego checkpointu.

Dwie drabinki, dwa różne pytania

Capability: 8 → 16 → 32 → 64 → 128 → 256 → 512 → 1000M. Jak zmieniają się zdolności i pokrycie testów? Zachowujemy wspólny rdzeń, a dodatkowe testy raportujemy oddzielnie.

Protokół decyzji: 8 → 25 → 50 → 120M. Czy ranking tych samych wariantów danych w małym modelu przewiduje ranking w większym? To osobna seria opisana w publicznym repo ladder.

GoLLeM, Pollock i zewnętrzne modele mogą dawać punkty odniesienia, ale różne dane, języki i budżety nie tworzą kontrolowanej serii skalowania.

03 / NAJWAŻNIEJSZE PYTANIE

Czy zwycięzca małej próby
wygrywa również w większej?

Sam wyższy wynik dużego modelu nie wystarcza. Potrzebujemy sprawdzić kolejność tych samych wariantów. Jeśli lepszy zestaw danych pozostaje lepszy po zwiększeniu modelu, mała próba zaczyna być użyteczna przy podejmowaniu decyzji.

MAŁY MODEL
  1. A Wariant danych A
  2. B Wariant danych B
  3. C Wariant danych C
?

Czy kolejność
się utrzyma?

WIĘKSZY MODEL
  1. ? Ten sam wariant A
  2. ? Ten sam wariant B
  3. ? Ten sam wariant C

Przykład ilustracyjny, bez danych pomiarowych. A, B i C pokazują pytanie o transfer. To nie tabela wyników Fabryki.

Kolejność się utrzymuje

Mamy argument, że małe modele mogą pomagać wybierać wariant do większego runu. Trzeba jeszcze uwzględnić zmienność i pokrycie testów.

Kolejność się odwraca

Pomysł zależy od skali. Mała próba nie daje podstawy do automatycznego wyboru większego treningu — ten wynik też jest wartościowy.

Dla technicznych: jak sprawdzamy transfer?

Ten sam zbiór 4–6 wariantów danych na porównywanych szczeblach. Przypięte dane, rewizje, budżety i protokół. Zgodność rankingów mierzymy m.in. korelacją Spearmana; analizujemy również seedy, szum i brak regresji w innych testach.

Publiczne repo opisuje implementację tej procedury. Pełna empiryczna kalibracja i zmierzony transfer rankingów pozostają otwarte. Nie traktujemy diagnostycznej accuracy jako jedynego kryterium decyzji treningowej.

04 / CO SPRAWDZAMY

Język, wiedza, rozumowanie.
Wspólny rdzeń i testy dodatkowe.

JĘZYK

Czy model rozpoznaje poprawne zdanie?

BLiMP / Supplement, morfologia WUG. Polski micro wykorzystuje kandydaty MultiBLiMP.

WIEDZA I ŚLEDZENIE

Czy rozróżnia sytuacje i pamięta relacje?

Entity Tracking, EWoK, COMPS i ARC-Easy w planie wspólnego rdzenia.

DODATKOWE ZDOLNOŚCI

Co ujawnia się przy większej skali?

PIQA, HellaSwag, Winogrande, OpenBookQA, ARC-Challenge i wybrane MMLU według harmonogramu.

Dla technicznych: co utrzymujemy porównywalne?

Te same identyfikatory przykładów, wersje zbiorów, prompting i polityka scoringu. Zamrożone, zagnieżdżone próbki micro/core. Stały rdzeń ma siedem zadań; niepełnych testów nie uzupełniamy zerami i nie zmieniamy mianownika po cichu.

Obok diagnostyki capability mierzymy walidacyjny BPB — liczbę bitów na bajt tekstu. Tokenowy perplexity wymaga tej samej polityki tekstu i tokenizera. Przedziały bootstrapowe dla przykładów nie zastępują niezależnych seedów treningowych.

Planowanie testu od danego rozmiaru jest hipotezą harmonogramu, nie odkrytym progiem zdolności. Wymienienie benchmarku nie oznacza, że jego import, prawa użycia i przegląd danych są już domknięte.

05 / GDZIE JESTEŚMY

Narzędzia już są.
Pełny dowód dopiero zbieramy.

JEST / CZĘŚCIOWO ZMIERZONE

Scorer i pierwsze pomiary.

Publiczne repo, deterministyczny scoring i częściowe porównanie Polish micro: Koliber oraz Pollock na tych samych parach. To pomiar agreement, z jawnymi ograniczeniami.

Zobacz rzeczywiste pomiary ↗
OTWARTE / DO UDOWODNIENIA

Pokrycie i transfer.

Pełne baterie, wyniki na kolejnych szczeblach, kalibracja szumu i zgodność rankingów. Częściowe pomiary nie dowodzą, że drabinka już wybiera najlepszą recepturę.

Stan implementacji i braki ↗

Obserwacja źródeł: 5 października 2026. Ta strona opisuje proces i aktualny zakres dowodów, nie monitoruje aktywnych jobów GPU.

Edycja wspólnego planu

Odczyt jest publiczny. Zmiany zapisują osoby z kluczem redakcyjnym.

Klucz pozostaje w pamięci tej karty. Zamknięcie lub odświeżenie kończy tryb edycji.

Edytuj inicjatywę

Wszystkie zapisane pola są publiczne. Dodawaj wyłącznie ustalenia przeznaczone do publikacji.

Najbliższy zakres pracy