Spotkanie odbywa się na platformie ClickMeeting.

Czy lokalne modele językowe są już gotowe, by zastąpić komercyjne API od big techów w krytycznych systemach produkcyjnych? Architektura rozwiązań open-source rozwija się błyskawicznie, jednak przejście od zachwytu nad lokalnym uruchomieniem modelu na własnym sprzęcie do stabilnego wdrożenia biznesowego wymaga czegoś więcej niż tylko znajomości Ollamy czy vLLMa. Przyjrzymy się dojrzałości lokalnych LLM-ów z perspektywy inżynierskiej i finansowej. Przeanalizujemy konkretne przypadki użycia, w których lokalne modele wygrywają pod kątem prędkości, suwerenności danych oraz kosztów, a także te, w których próbując ominąć chmurowe API, wpada się w spiralę utrzymaniową.

Paweł Kiszczak - AI/ML Engineer specjalizujący się w projektowaniu i wdrażaniu zaawansowanych systemów agentowych oraz rozwiązań opartych na sztucznej inteligencji. Aktywny członek społeczności SpeakLeash oraz Bielik (z którymi współtworzy projekty niemal od samego początku) oraz współtwórca modelu Bielik-Minitron-7B. Autor licznych wdrożeń komercyjnych oraz aplikacji wspierających rozwój polskiego LLM-a. Ekspert w obszarze architektury AI w formule on-premises, realizowanej z zachowaniem najwyższych standardów branż regulowanych. W wolnych chwilach zgłębia techniki optymalizacji modeli językowych, ze szczególnym uwzględnieniem strukturalnego pruningu oraz destylacji.

TBA

TBA

Nie kończymy na webinarze. Budujemy najmocniejszą grupę praktyków AI w Polsce. Sprawdź więcej: 👉 ainowpolska.pl