traces.sample.json

{"meta":{"source":"SYNTHETIC sample (schema-faithful) — replace with real `pnpm load` capture","count":329,"durationMs":60000,"cacheHitRate":0.237,"piiCaught":13,"dollarsSaved":0.0437,"models":["llama3.2","gpt-4o-mini","llama-3.3-70b-versatile"]},"events":[{"t":116,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":795,"tokens":1238,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":206,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":3455,"tokens":107,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":293,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2052,"tokens":1323,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":1552,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1557,"tokens":1798,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":1635,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1702,"tokens":1700,"costUsd":0.000765,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":1672,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1241,"tokens":1414,"costUsd":0.000636,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":1761,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1266,"tokens":902,"costUsd":0.000812,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":1806,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2069,"tokens":695,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":1901,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":570,"tokens":1696,"costUsd":0.000763,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":1942,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1761,"tokens":1370,"costUsd":0.000617,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":1976,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":4,"tokens":1972,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":2092,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1835,"tokens":1840,"costUsd":0.001656,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":2183,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":13,"tokens":1429,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":2240,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2518,"tokens":389,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":2350,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1689,"tokens":1770,"costUsd":0.001593,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":2373,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1286,"tokens":138,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":2443,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":2405,"tokens":1514,"costUsd":0.001363,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":3051,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1055,"tokens":463,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":4281,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":16,"tokens":392,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":4322,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":7,"tokens":1492,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":4347,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2295,"tokens":533,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":4410,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":647,"tokens":720,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":4433,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1365,"tokens":397,"costUsd":0.000179,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":4513,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":16,"tokens":97,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":4533,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2218,"tokens":740,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":4625,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":12,"tokens":1270,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":4718,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":505,"tokens":1238,"costUsd":0.000557,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":4816,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2010,"tokens":1831,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":4911,"model":"gpt-4o-mini","provider":"openai","status":422,"latencyMs":2242,"tokens":461,"costUsd":0.000207,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":false,"piiCategories":[]},{"t":4976,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":480,"tokens":718,"costUsd":0.000323,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":5021,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":3,"tokens":1866,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":5128,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1401,"tokens":2178,"costUsd":0.00196,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":6411,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2445,"tokens":1539,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":6473,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2375,"tokens":2116,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":6592,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":911,"tokens":384,"costUsd":0.000346,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":6658,"model":"llama-3.3-70b-versatile","provider":"groq","status":422,"latencyMs":1777,"tokens":905,"costUsd":0.000815,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":true,"piiCategories":["pii.email"]},{"t":6721,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":686,"tokens":1067,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":6754,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2411,"tokens":394,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":7495,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1599,"tokens":1390,"costUsd":0.001251,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":7527,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2551,"tokens":1525,"costUsd":0.000686,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":7631,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1487,"tokens":241,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":8270,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1177,"tokens":560,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":8360,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":9,"tokens":833,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":8761,"model":"llama-3.3-70b-versatile","provider":"groq","status":422,"latencyMs":1507,"tokens":145,"costUsd":0.000131,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":true,"piiCategories":["pii.card"]},{"t":8795,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1907,"tokens":2068,"costUsd":0.000931,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":8877,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":17,"tokens":1520,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":8986,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":867,"tokens":907,"costUsd":0.000816,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":9082,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":998,"tokens":2011,"costUsd":0.000905,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":9148,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":3,"tokens":2059,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":9222,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":10,"tokens":1746,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":9326,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2385,"tokens":1811,"costUsd":0.000815,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":9443,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1721,"tokens":137,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":9541,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":2073,"tokens":361,"costUsd":0.000325,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":9587,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1747,"tokens":747,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":9662,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":18,"tokens":1628,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":9708,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":4,"tokens":597,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":9755,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1540,"tokens":1172,"costUsd":0.000527,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":9849,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1697,"tokens":365,"costUsd":0.000164,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":9887,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1168,"tokens":1394,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":9966,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2251,"tokens":1345,"costUsd":0.000605,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":10081,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":962,"tokens":1609,"costUsd":0.000724,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":10985,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1542,"tokens":700,"costUsd":0.000315,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":11021,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":3749,"tokens":1506,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":11100,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":16,"tokens":1131,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":11132,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2089,"tokens":597,"costUsd":0.000269,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":11188,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1714,"tokens":932,"costUsd":0.000419,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":11250,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":386,"tokens":1784,"costUsd":0.000803,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":11284,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":644,"tokens":485,"costUsd":0.000218,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":11329,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":13,"tokens":2186,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":11447,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":523,"tokens":64,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":11470,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1324,"tokens":1563,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":11514,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":437,"tokens":1394,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":11556,"model":"llama-3.3-70b-versatile","provider":"groq","status":422,"latencyMs":559,"tokens":442,"costUsd":0.000398,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":true,"piiCategories":["pii.email"]},{"t":12805,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":944,"tokens":971,"costUsd":0.000437,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":12906,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":881,"tokens":1498,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":12934,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":17,"tokens":2095,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":13003,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":344,"tokens":455,"costUsd":0.000205,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":13082,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2095,"tokens":1735,"costUsd":0.000781,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":13172,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":11,"tokens":1792,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":13252,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":998,"tokens":1697,"costUsd":0.000764,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":13302,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2484,"tokens":378,"costUsd":0.00017,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":13395,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":530,"tokens":1351,"costUsd":0.001216,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":13494,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":17,"tokens":1919,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":14633,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1964,"tokens":1967,"costUsd":0.00177,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":14750,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":376,"tokens":547,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":14793,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2254,"tokens":2146,"costUsd":0.000966,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":14884,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":17,"tokens":1759,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":14913,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1762,"tokens":1189,"costUsd":0.000535,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":14962,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1594,"tokens":345,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":15912,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":3897,"tokens":2098,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":16346,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":18,"tokens":1695,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":16375,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":694,"tokens":2011,"costUsd":0.00181,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":16494,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":725,"tokens":1104,"costUsd":0.000994,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":16560,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":428,"tokens":1170,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":16590,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":10,"tokens":1065,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":16664,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":2090,"tokens":938,"costUsd":0.000844,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":16724,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1170,"tokens":656,"costUsd":0.00059,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":16834,"model":"gpt-4o-mini","provider":"openai","status":422,"latencyMs":386,"tokens":255,"costUsd":0.000115,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":true,"piiCategories":["pii.card"]},{"t":16910,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":11,"tokens":1635,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":16989,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2577,"tokens":1895,"costUsd":0.000853,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":17023,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1563,"tokens":2027,"costUsd":0.000912,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":17134,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":663,"tokens":1192,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":17188,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":426,"tokens":1123,"costUsd":0.000505,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":17220,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":3617,"tokens":811,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":17338,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":2372,"tokens":2086,"costUsd":0.001877,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":17395,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1520,"tokens":436,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":17446,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1005,"tokens":1302,"costUsd":0.001172,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":17535,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":2252,"tokens":965,"costUsd":0.000868,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":18097,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2204,"tokens":1542,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":18137,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":10,"tokens":625,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":18214,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2178,"tokens":168,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":18266,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1275,"tokens":1616,"costUsd":0.000727,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":18288,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1900,"tokens":1192,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":18333,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1541,"tokens":1738,"costUsd":0.001564,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":18401,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":10,"tokens":1152,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":18477,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1827,"tokens":1141,"costUsd":0.000513,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":19000,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":3261,"tokens":2178,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":19114,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":182,"tokens":1805,"costUsd":0.001624,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":19153,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2175,"tokens":1765,"costUsd":0.000794,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":19184,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2119,"tokens":200,"costUsd":0.00009,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":19245,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":753,"tokens":1466,"costUsd":0.001319,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":19349,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1379,"tokens":556,"costUsd":0.0005,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":20713,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":2007,"tokens":1029,"costUsd":0.000926,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":20746,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2500,"tokens":1101,"costUsd":0.000495,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":20830,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":296,"tokens":543,"costUsd":0.000489,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":20883,"model":"llama3.2","provider":"ollama","status":422,"latencyMs":635,"tokens":1584,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":true,"piiCategories":["pii.card"]},{"t":20926,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":17,"tokens":832,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":20973,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":16,"tokens":2130,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":22176,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":9,"tokens":955,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":22261,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":783,"tokens":2088,"costUsd":0.00094,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":22293,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":2102,"tokens":1055,"costUsd":0.000949,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":22336,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":18,"tokens":84,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":22428,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":4,"tokens":285,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":22543,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":14,"tokens":1083,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":22632,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":10,"tokens":1088,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":22721,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1650,"tokens":362,"costUsd":0.000326,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":22805,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1771,"tokens":1146,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":22833,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2020,"tokens":116,"costUsd":0.000052,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":22879,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":9,"tokens":1741,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":22901,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":6,"tokens":2093,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":22984,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":17,"tokens":724,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":23058,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1552,"tokens":508,"costUsd":0.000457,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":23170,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":372,"tokens":762,"costUsd":0.000686,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":23204,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":6,"tokens":289,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":23275,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":676,"tokens":1418,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":23297,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":9,"tokens":1576,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":23338,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":3,"tokens":795,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":23367,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":847,"tokens":1863,"costUsd":0.000838,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":23426,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2227,"tokens":1387,"costUsd":0.000624,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":23455,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1442,"tokens":1645,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":23512,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":5,"tokens":401,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":23580,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":16,"tokens":601,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":23619,"model":"llama3.2","provider":"ollama","status":422,"latencyMs":2046,"tokens":2154,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":true,"piiCategories":["pii.ssn"]},{"t":23697,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":3015,"tokens":485,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":23775,"model":"llama3.2","provider":"ollama","status":422,"latencyMs":858,"tokens":751,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":false,"piiCategories":[]},{"t":23874,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1301,"tokens":126,"costUsd":0.000113,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":23989,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":916,"tokens":1996,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":24062,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1816,"tokens":2168,"costUsd":0.001951,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":24825,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2084,"tokens":516,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":24899,"model":"gpt-4o-mini","provider":"openai","status":422,"latencyMs":1231,"tokens":1902,"costUsd":0.000856,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":true,"piiCategories":["pii.ssn"]},{"t":24988,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":2588,"tokens":1362,"costUsd":0.001226,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":25023,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":4,"tokens":1300,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":25612,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":549,"tokens":2033,"costUsd":0.000915,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":25658,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":3,"tokens":1445,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":26077,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1111,"tokens":1442,"costUsd":0.001298,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":27234,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1184,"tokens":1249,"costUsd":0.001124,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":28174,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":2401,"tokens":1628,"costUsd":0.001465,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":28272,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":6,"tokens":1009,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":28294,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":7,"tokens":728,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":28392,"model":"llama3.2","provider":"ollama","status":422,"latencyMs":1621,"tokens":112,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":true,"piiCategories":["pii.email"]},{"t":28482,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2486,"tokens":2001,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":28551,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1606,"tokens":1284,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":28626,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1132,"tokens":474,"costUsd":0.000427,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":28684,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":529,"tokens":2070,"costUsd":0.000931,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":29613,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2085,"tokens":1325,"costUsd":0.000596,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":29670,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1993,"tokens":1101,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":30598,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1469,"tokens":703,"costUsd":0.000316,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":31854,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":2487,"tokens":1310,"costUsd":0.001179,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":33031,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1162,"tokens":265,"costUsd":0.000238,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":33071,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1677,"tokens":1505,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":33108,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":487,"tokens":1361,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":34485,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":250,"tokens":1975,"costUsd":0.000889,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":34523,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1112,"tokens":1446,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":34579,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1681,"tokens":1882,"costUsd":0.001694,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":34686,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":635,"tokens":1402,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":34781,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":2465,"tokens":1119,"costUsd":0.001007,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":34848,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":538,"tokens":579,"costUsd":0.000261,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":34928,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":12,"tokens":1392,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":35009,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":11,"tokens":63,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":35091,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":12,"tokens":1950,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":35174,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":2205,"tokens":753,"costUsd":0.000678,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":35244,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1814,"tokens":1423,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":35337,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":328,"tokens":424,"costUsd":0.000382,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":35365,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":360,"tokens":810,"costUsd":0.000365,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":35422,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":371,"tokens":703,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":35480,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1507,"tokens":281,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":35523,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":2570,"tokens":1822,"costUsd":0.00164,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":35603,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1807,"tokens":996,"costUsd":0.000448,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":35686,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":6,"tokens":191,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":35726,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":5,"tokens":2087,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":35841,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":688,"tokens":498,"costUsd":0.000448,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":36331,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":459,"tokens":1443,"costUsd":0.000649,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":36447,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":7,"tokens":1338,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":37426,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":493,"tokens":107,"costUsd":0.000048,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":37504,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":10,"tokens":1904,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":37562,"model":"llama-3.3-70b-versatile","provider":"groq","status":422,"latencyMs":1478,"tokens":1283,"costUsd":0.001155,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":true,"piiCategories":["pii.email"]},{"t":37605,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1968,"tokens":993,"costUsd":0.000894,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":37666,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":9,"tokens":331,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":37782,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1399,"tokens":437,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":37882,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":548,"tokens":420,"costUsd":0.000189,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":37940,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":5,"tokens":1009,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":38037,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1690,"tokens":1773,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":38074,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":9,"tokens":2165,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":38143,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1140,"tokens":1334,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":38172,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1321,"tokens":1903,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":38194,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":14,"tokens":1527,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":38219,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1605,"tokens":324,"costUsd":0.000292,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":38316,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":996,"tokens":1229,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":38419,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":7,"tokens":736,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":38449,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1042,"tokens":1670,"costUsd":0.001503,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":38494,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":428,"tokens":720,"costUsd":0.000648,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":38608,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2647,"tokens":1627,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":38684,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1504,"tokens":147,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":38767,"model":"llama3.2","provider":"ollama","status":422,"latencyMs":1861,"tokens":1702,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":false,"piiCategories":[]},{"t":38802,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":814,"tokens":952,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":38869,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":7,"tokens":837,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":38930,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":391,"tokens":2122,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":38990,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":732,"tokens":403,"costUsd":0.000363,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":39673,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2342,"tokens":629,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":39763,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1641,"tokens":1267,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":39817,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":2057,"tokens":1814,"costUsd":0.001633,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":39921,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":367,"tokens":788,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":39952,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":11,"tokens":972,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":40022,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":463,"tokens":828,"costUsd":0.000373,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":41268,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":7,"tokens":112,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":42072,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1762,"tokens":2083,"costUsd":0.000937,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":43459,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":3945,"tokens":2082,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":43533,"model":"gpt-4o-mini","provider":"openai","status":422,"latencyMs":2021,"tokens":1462,"costUsd":0.000658,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":true,"piiCategories":["pii.phone"]},{"t":43589,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":4,"tokens":1637,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":43699,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1946,"tokens":1631,"costUsd":0.001468,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":43783,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":9,"tokens":1503,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":43901,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1596,"tokens":1876,"costUsd":0.001688,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":43922,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1150,"tokens":1746,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":43962,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":8,"tokens":1009,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":44374,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2535,"tokens":91,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":44491,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":9,"tokens":384,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":44584,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":869,"tokens":1981,"costUsd":0.001783,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":44655,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1849,"tokens":1978,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":44700,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":465,"tokens":1597,"costUsd":0.001437,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":44795,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":10,"tokens":61,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":44886,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":463,"tokens":450,"costUsd":0.000202,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":44985,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1205,"tokens":782,"costUsd":0.000704,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":45078,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":638,"tokens":1910,"costUsd":0.000859,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":45147,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":13,"tokens":1077,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":45187,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":522,"tokens":1876,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":45286,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":10,"tokens":836,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":45361,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":259,"tokens":552,"costUsd":0.000497,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":45446,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1698,"tokens":852,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":45469,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":718,"tokens":1450,"costUsd":0.001305,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":45525,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":991,"tokens":1993,"costUsd":0.001794,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":45584,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":16,"tokens":1134,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":45674,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":15,"tokens":1925,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":45771,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1248,"tokens":664,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":45866,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":3351,"tokens":1315,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":45915,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":3066,"tokens":1925,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":46645,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":901,"tokens":1599,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":46758,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2304,"tokens":1223,"costUsd":0.00055,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":47341,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":3442,"tokens":1835,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":48417,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1966,"tokens":1456,"costUsd":0.000655,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":48499,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":3991,"tokens":107,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":48582,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":363,"tokens":245,"costUsd":0.00011,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":48619,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2396,"tokens":1527,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":48676,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1685,"tokens":1114,"costUsd":0.001003,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":49628,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1857,"tokens":1790,"costUsd":0.001611,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":49675,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":3295,"tokens":1515,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":50139,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":13,"tokens":575,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":50236,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":553,"tokens":518,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":50284,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":15,"tokens":1480,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":51018,"model":"llama3.2","provider":"ollama","status":422,"latencyMs":1943,"tokens":135,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":false,"piiCategories":[]},{"t":51065,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":250,"tokens":831,"costUsd":0.000748,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":51099,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1650,"tokens":195,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":51156,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2074,"tokens":739,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":51272,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2531,"tokens":1334,"costUsd":0.0006,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":51302,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1213,"tokens":541,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":51405,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":278,"tokens":450,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":51471,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1041,"tokens":1832,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":51580,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1743,"tokens":980,"costUsd":0.000882,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":51642,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2507,"tokens":1904,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":51720,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1761,"tokens":1927,"costUsd":0.000867,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":51804,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":568,"tokens":216,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":51856,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":8,"tokens":461,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":51880,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":17,"tokens":95,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":53046,"model":"gpt-4o-mini","provider":"openai","status":422,"latencyMs":1793,"tokens":788,"costUsd":0.000355,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":true,"piiCategories":["pii.phone"]},{"t":53084,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1743,"tokens":1274,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":53167,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":1468,"tokens":1912,"costUsd":0.001721,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":53216,"model":"gpt-4o-mini","provider":"openai","status":422,"latencyMs":2536,"tokens":1898,"costUsd":0.000854,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":true,"piiCategories":["pii.phone"]},{"t":53282,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":2071,"tokens":603,"costUsd":0.000271,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":53332,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":15,"tokens":1251,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":53377,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":988,"tokens":589,"costUsd":0.00053,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":53420,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":896,"tokens":235,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":53464,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":13,"tokens":791,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":53492,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2336,"tokens":306,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":53570,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2344,"tokens":1244,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":53661,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":462,"tokens":204,"costUsd":0.000092,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":54971,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":9,"tokens":210,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":55080,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":2211,"tokens":577,"costUsd":0.000519,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":55168,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":619,"tokens":1948,"costUsd":0.000877,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":56165,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1147,"tokens":1410,"costUsd":0.000634,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":56203,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":16,"tokens":1152,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":56264,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1525,"tokens":1623,"costUsd":0.00073,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":56332,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":15,"tokens":1597,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":56398,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1807,"tokens":1297,"costUsd":0.000584,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":56487,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":9,"tokens":297,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":56592,"model":"llama-3.3-70b-versatile","provider":"groq","status":422,"latencyMs":1724,"tokens":557,"costUsd":0.000501,"cacheHit":false,"fallbackUsed":false,"guardrail":"block","pii":true,"piiCategories":["pii.phone"]},{"t":56686,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":304,"tokens":150,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":57861,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1846,"tokens":1007,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":57895,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1506,"tokens":521,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":57921,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1629,"tokens":369,"costUsd":0.000166,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":58000,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1513,"tokens":1805,"costUsd":0.000812,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":58041,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":737,"tokens":604,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":58084,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2311,"tokens":363,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":58126,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":2215,"tokens":1670,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":58146,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1212,"tokens":608,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":58190,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1813,"tokens":1415,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":58245,"model":"gpt-4o-mini","provider":"openai","status":200,"latencyMs":1451,"tokens":530,"costUsd":0.000238,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":58295,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1356,"tokens":1245,"costUsd":0,"cacheHit":false,"fallbackUsed":true,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":58392,"model":"llama-3.3-70b-versatile","provider":"groq","status":200,"latencyMs":2191,"tokens":407,"costUsd":0.000366,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":58458,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":12,"tokens":1130,"costUsd":0,"cacheHit":true,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]},{"t":59158,"model":"llama3.2","provider":"ollama","status":200,"latencyMs":1877,"tokens":919,"costUsd":0,"cacheHit":false,"fallbackUsed":false,"guardrail":"ok","pii":false,"piiCategories":[]}]}