Autre truc qui peut rentrer en compte: si ton LLM ...
# french-speaking
u
> Autre truc qui peut rentrer en compte: si ton LLM utilise des tools pour faire des appels fonctions, la latence dépendra du backend qui permet de traiter ces appels sauf si les appels sont asynchrones @marem