Lewati ke konten

Pelacak TPS

Pelacak TPS adalah ekstensi bawaan yang menampilkan token-per-detik (tok/s) langsung untuk model utama dan run subagent di area status. Status langsung sengaja bersifat perkiraan; TPS akhir model utama dihitung dari usage output provider dengan gate keandalan terhadap stall, stream pendek, dan panggilan tool.

Dibundel bersama Selesai

Dimuat otomatis bersama Selesai; tidak diperlukan npm install per ekstensi.

Entri manifest
./tps.ts
Permukaan runtime
Otomatis

Penyiapan dan prasyarat

  • Dibundel bersama Selesai dan dimuat otomatis; tidak diperlukan instalasi atau konfigurasi.
  • Baris status muncul di sesi TUI interaktif; run headless tetap mencatat pengukuran tetapi tidak memiliki permukaan status untuk ditampilkan.

Yang disiapkan

  • Menampilkan tok/s langsung untuk model utama saat streaming, menggunakan usage output provider bila tersedia dan perkiraan bila tidak.
  • Melacak run subagent secara terpisah: tok/s per-agent langsung saat eksekusi, ringkasan setelah setiap run, dan total subagent yang digabungkan.
  • Menerapkan gate keandalan gaya pi-tps: stall, stream yang sangat pendek, pembaruan jarang, dan laju yang tidak masuk akal disaring dari pengukuran akhir.
  • Menandai pengukuran yang terikat panggilan tool agar tidak dihitung sebagai TPS model utama yang bersih.

Yang dapat dikonfigurasi

Pelacak TPS bersifat otomatis: mendengarkan event message dan tool, menampilkan tok/s langsung di area status, dan tidak memerlukan konfigurasi.

Tidak ada konfigurasi user

Kemampuan ini tidak mengekspos pengaturan yang dapat diedit user. Perilakunya dikontrol oleh command dan aturan runtime yang didokumentasikan di bawah.

Bukti source

Tidak ada pengaturan user: ambang batas adalah konstanta tetap di sumber ekstensi.

Yang dapat dilakukan

  • Memantau throughput model utama langsung saat Selesai menjawab.
  • Melihat throughput per-subagent langsung saat agent delegasi berjalan, termasuk mode paralel dan berantai.
  • Membaca ringkasan TPS akhir yang andal di akhir generasi atau run subagent.

Perintah, tool, dan shortcut

Tidak ada slash command atau shortcut yang didaftarkan. Ekstensi hanya menulis slot status tps.

Batasan dan keamanan

  • Angka langsung adalah perkiraan secara desain; angka akhir model utama adalah satu-satunya nilai yang melewati gate keandalan.
  • Laju dibatasi pada maksimum yang masuk akal dan diabaikan saat kualitas stream tidak memenuhi gate.
  • Ekstensi tidak pernah membaca isi prompt atau pesan — hanya pengatur waktu dan penghitung usage.

Source evidence

Selesai version: 0.10.0