Započnite razgovor

ML inženjering i MLOps

Pretvaranje notebook-ova u pipeline-ove za treniranje, registre modela i deployment koji preživi drugog inženjera.

  • Python
  • PyTorch
  • MLflow
  • Airflow
  • Dagster
  • Ray
  • Docker
  • Kubernetes

Istraživački i produkcijski kod odgovaraju na različita pitanja. Uzimamo model koji već radi na laptopu vašeg istraživača i dajemo mu ponovljiva treniranja, verzionisane podatke i artefakte, registar i put do produkcije koji ne zavisi od toga da li se neko seća tačne komande.

Prvo pitanje koje postavljamo jeste da li danas možete ponovo istrenirati prošlomesečni model — tačno, ne otprilike. Ako je odgovor ne, sve nizvodno je nagađanje: ne možete pripisati regresiju, vratiti se unazad sa sigurnošću, niti reprodukovati produkcijski incident. Popravka je obično jeftina i skoro uvek prva.

Zatim zapišemo kako to radi, jer je poenta da vaš tim posle toga bude vlasnik. Pipeline koji razume samo jedan konsultant lošiji je ishod od notebook-a koji je zamenio.

Šta dobijate

  • Ponovljivi pipeline-ovi za treniranje sa praćenim izvršavanjima i fiksiranim verzijama podataka
  • Registar modela, pravila promocije i povratak unazad
  • Batch i real-time servisi za inferencu sa autoskaliranjem
  • Praćenje drifta, kašnjenja i troškova sa alarmima koji se jave pre korisnika

Česta pitanja

Da li pravite modele ili samo inženjering oko njih?
Uglavnom inženjering oko njih, i to kažemo namerno. Ako imate data scientist-a čiji model radi, mi smo najbrži put do toga da radi u produkciji. Ako vam treba istraživanje novih modela, nismo pravi tim i reći ćemo to na prvom pozivu.
Imamo jednu veliku skriptu za treniranje. Odakle počinjete?
Od ponovljivosti, pa tek onda razlaganja. Fiksirati zavisnosti i podatke, dobiti da isto izvršavanje dvaput da iste težine, i tek tada podeliti na korake. Obrnut redosled je način na koji timovi dobiju lep pipeline koji svakog utorka pravi drugačiji model.
Možete li da smanjite naš račun za GPU?
Često da — kroz batching, pravilno dimenzionisanje, spot kapacitete sa checkpointing-om i gašenje treniranja čiji rezultat niko ne čita. Taj posao nudimo u odnosu na izmereni trošak, da vidite da li se isplati pre nego što se obavežete.

Sledeći korak

Recite nam šta mora da izađe i do kada.

Jedan poziv, bez prezentacije. Ako nismo pravi tim za to, reći ćemo — i obično uputiti na nekoga ko jeste.

Započnite razgovor branislav@thrivee.io

Odgovor obično u roku od jednog radnog dana · CET / CEST (UTC+1 / UTC+2)