[#682] LLM-y, datasety i długie pętle benchmarków na DGX Spark – Lech Kalinowski

Jak wygląda codzienna praca z lokalnymi modelami, gdy pojedyncze wywołanie zamienia się w wielogodzinny cykl eksperymentów? Na przykładzie własnego homelabu z NVIDIA DGX Spark Lech pokaże, jak wykorzystuje lokalną infrastrukturę do pracy z LLM-ami, datasetami i powtarzalnymi benchmarkami. Osią prezentacji będzie droga od pomysłu do wyniku: przygotowanie danych, uruchamianie kolejnych wariantów eksperymentu i porównywanie rezultatów. Prelegent przyjrzy się organizacji długich przebiegów, diagnozowaniu problemów oraz temu, co warto automatyzować, żeby eksperymenty nie wymagały ciągłego nadzoru. Całość oparta będzie na konkretnych przykładach z codziennej pracy – z konfiguracją, wynikami i ograniczeniami napotkanymi po drodze.