Hey zusammen, hatte sich von euch mal jemand die ...
# german-speaking
d
Hey zusammen, hatte sich von euch mal jemand die verbrauchten LLM tokens eurer Assistenten angeschaut und auch das was abgerechnet wird? Wir wollten bald live gehen mit unserem Telefon Support und ich wunderte mich über extrem hohe Token usages. Wir haben über andere Kanäle exakt die selben prompts (minimal verändert), Tools etc. und bei Vapi sind die Token Verbräuche knapp 10x so hoch. Dann hatte ich mal unseren eigenen API Key von OpenAi eingesetzt, auf mal ist der Token Verbrauch normal (pro Anruf 20k Token statt 230k Token. Dann habe ich mir auch das pricing angeschaut. OpenAI APi Key: 2,00 usd auf 1 mio token Vapi OpenAi: 0,06$ auf 1 mio token. Abgerechnet wir aber 2,00$ auf 1 mio token von Vapi, aber der Token Verbrauch ist 10x höher als mit dem eigenen key, was bedeutet dass Vapi demnach 20$ auf 1 mio Token abrechnet. Habt ihr eure call logs auch mal analysiert? Auch ggf. den selben call mit dem Vapi OpenAi oder eigenen call gemacht? Grüße
2 Views