KI Ordbok / B
Hva er Batch-behandling?
Å kjøre mange forespørsler til en modell på én gang, i stedet for én og én. Gir lavere kostnad og høyere gjennomstrømning, men brukes ikke der man trenger umiddelbart svar.
Engelsk: Batch processing
KI Ordbok / B
Å kjøre mange forespørsler til en modell på én gang, i stedet for én og én. Gir lavere kostnad og høyere gjennomstrømning, men brukes ikke der man trenger umiddelbart svar.
Engelsk: Batch processing