STREAMING BENCHMARK 01 / 01
პირველი token — რამდენ ხანში?
შეადარე Azure Foundry-ისა და OpenRouter-ის მოდელები ერთი და იმავე prompt-ით. TTFT და სრული პასუხის დრო ცალ-ცალკე იზომება.
კონფიგურაციის შემოწმება…
შემოწმება02 — RESULTS
შედეგები
ჯერ ტესტი არ გაშვებულა
TTFT შედარება
მოდელების მედიანა · ნაკლები დრო უკეთესია
შედეგების შემდეგ აქ გამოჩნდება შედარება
ცდების ჟურნალი
მონაცემები მხოლოდ ამ გვერდის მეხსიერებაში რჩება
| # | MODEL | ROUND | TTFT | TTLB | STATUS |
|---|---|---|---|---|---|
| შედეგები ჯერ არ არის — ჯერ მიუთითე მოდელი და დაიწყე ტესტი. | |||||
რას ზომავს ეს გვერდი?
TTFT ითვლება სერვერიდან მოთხოვნის დაწყებიდან stream-ში პირველ არაცარიელ ტექსტურ delta-მდე. TTLB ცალკე ზომავს stream-ის დასრულებამდე დროს. ორივე კლიენტის მხრიდან დანახული მაჩვენებელია და მოიცავს ქსელს, რიგს და სერვისის დამუშავებას — არა მხოლოდ მოდელის სუფთა inference დროს.