Alternatif Cloudflare AI Gateway: routing, pembayaran, dan margin aplikasi

Bandingkan alternatif Cloudflare AI Gateway berdasarkan jalur permintaan dan hubungan pembayaran yang ingin Anda ubah. OpenRouter, LiteLLM, Portkey, dan Kong menangani akses model yang dipilih, gateway, atau persyaratan monetisasi. ShareAI berkaitan dengan routing aplikasi yang ada yang memenuhi syarat inference melalui pengaturan Builder yang disetujui, dengan margin aplikasi yang diizinkan dan pendapatan yang diatribusikan. Ini adalah tanggung jawab yang berbeda, bahkan ketika beberapa opsi mengekspos API model yang kompatibel.

Ditinjau pada 23 Oktober 2026. ShareAI menerbitkan perbandingan ini dan mengoperasikan satu program yang dibahas. Fakta produk berasal dari referensi resmi terkini, dengan tangkapan layar sumber aktual. Kode yang dijalankan adalah buku besar sintetis offline. Tidak ada migrasi gateway langsung, pembayaran stablecoin, biaya pelanggan, kualifikasi endpoint, atau tolok ukur kinerja yang dilakukan.

Cloudflare sudah mendokumentasikan penagihan terpadu, kunci penyedia, penyedia HTTPS kustom, dan jalur pembayaran mesin beta. Perbandingan yang mengasumsikan hanya meneruskan permintaan yang dibayar melalui akun penyedia pemilik aplikasi melewatkan cakupan saat ini. Mulailah dengan kredensial, kredit, dan konfigurasi pembayaran yang sebenarnya, lalu evaluasi perjalanan komersial aplikasi yang hilang.

Apa yang saat ini didukung oleh Cloudflare AI Gateway

Referensi penagihan terpadu menjelaskan kredit prabayar untuk akses model yang memenuhi syarat dan biaya pembelian kredit sebesar 5%, dengan tarif inference penyedia diteruskan. Biaya pembelian tersebut dan margin aplikasi downstream adalah biaya yang berbeda. Alasan untuk mempertahankannya: evaluasi gateway saat ini ketika akses model dan kontrol operasionalnya sudah sesuai dengan arsitektur aplikasi yang diterapkan dan persyaratan pembayarannya.

Dokumentasi penyedia kustom secara eksplisit mencakup endpoint HTTPS, termasuk contoh model yang di-hosting sendiri. Jalur kompatibilitas terpadu memerlukan format chat-completions yang didokumentasikan; jalur spesifik penyedia mendukung struktur permintaan dan jalur URL yang ditambahkan sendiri. Menyediakan endpoint Anda sendiri oleh karena itu bukan merupakan keunikan eksklusif ShareAI. Bandingkan autentikasi aktual, pemetaan jalur, dan onboarding yang diterima dari implementasi yang dipilih.

Referensi pembayaran mesin menjelaskan jalur beta menggunakan dompet stablecoin untuk model terbuka yang dipilih. Persyaratan saat ini mencakup akun berbasis di AS dan kartu kredit yang terdaftar. Jalur permintaan dan negosiasi pembayaran yang didukung lebih sempit dibandingkan semua lalu lintas gateway. Jangan ubah kemampuan yang didokumentasikan tersebut menjadi klaim bahwa setiap pengguna aplikasi atau penyedia secara otomatis menerima perjalanan pembayaran yang sama.

Aplikasi tinjauan kode AI memerlukan pembayar yang dapat dijelaskan untuk setiap permintaan.

Pertimbangkan aplikasi tinjauan kode hipotetis dengan pelanggan bisnis yang sudah ada. Aplikasi ini menggunakan kunci penyedia produksi yang disimpan, alias kunci berbeda untuk eksperimen, model HTTPS kustom, dan respons yang di-cache. Produk ingin menawarkan inferensi yang dibayar pelanggan dengan margin aplikasi. Keuangan perlu mengetahui apakah setiap tinjauan yang dikirimkan mengonsumsi kredit penyedia, kredit gateway, atau otorisasi pembayaran lain yang didukung.

Label model dan tag biaya tidak cukup sebagai bukti. Aplikasi harus membedakan tinjauan logis dari upaya berulang, mengidentifikasi kredensial yang sebenarnya digunakan, dan mempertahankan apakah respons berasal dari cache. Upaya ulang masih dapat menciptakan penggunaan penyedia. Respons yang di-cache dapat dikirimkan tanpa aktivitas upstream yang sama. Penetapan harga pelanggan memerlukan kebijakan eksplisit untuk kedua kasus tersebut daripada menyalin secara buta biaya permintaan yang ditampilkan.

Skenario ini juga memerlukan jalur pengecualian. Kunci produksi kedaluwarsa sementara alias yang disimpan lainnya tetap valid. Gateway berhasil mengembalikan tinjauan menggunakan sumber pendanaan lain. Itu berguna secara operasional, tetapi keuangan masih dapat menerima tagihan yang tidak terduga. Bandingkan prioritas kredensial dan pendanaan cadangan sebelum menyimpulkan bahwa respons yang berhasil berarti pelanggan atau akun yang dimaksud telah membayar.

Pilih tanggung jawab yang Anda ingin alternatif miliki.

Sebuah aplikasi dapat mempertahankan komponen Cloudflare sambil mengevaluasi jalur inferensi atau komersial lainnya. Hal itu memerlukan integrasi nyata dan penjelasan yang jelas kepada pelanggan. Tidak ada sinkronisasi otomatis, konektor bawaan, atau dompet bersama di antara produk yang diimplikasikan. Setiap permintaan yang dikenakan biaya memerlukan pemilik yang bertanggung jawab untuk penerimaan, pengulangan, koreksi, dan pembayaran.

Lacak ulasan dari penerimaan hingga uang diterima

Pertahankan pengamatan tersebut tetap terhubung tanpa memperlakukannya sebagai dapat dipertukarkan. Sebuah tag dapat mengatribusikan biaya ke ruang kerja tanpa mengotorisasi perubahan harga. Sebuah dasbor dapat menampilkan margin tanpa mengumpulkannya. Otorisasi pembayaran dapat mendahului penyelesaian akhir. Produk, dukungan, dan keuangan harus dapat menjelaskan ulasan logis yang sama dan penyesuaian eksplisitnya.

OpenRouter: bandingkan akses terkelola dan inferensi yang didanai pengguna

OpenRouter quickstart menjelaskan akses terkelola di seluruh penyedia model. Panduan OAuth secara eksplisit memungkinkan pengguna mengotorisasi aplikasi dengan kunci yang dikendalikan pengguna dan membayar permintaan dari kredit OpenRouter mereka sendiri. Kelebihan: bandingkan perjalanan yang didukung tersebut ketika aplikasi ulasan kode ingin pelanggan mendanai inferensi mereka sendiri daripada membebankan setiap permintaan kepada pemilik aplikasi.

Pertimbangan: evaluasi otorisasi pengguna, penanganan kunci, penyedia yang diizinkan, pendanaan cadangan, dan ketentuan akun saat ini. Referensi atribusi aplikasi menjelaskan asosiasi dengan penggunaan dan peringkat. Asosiasi yang didokumentasikan tersebut saja tidak menetapkan biaya tambahan aplikasi atau penyelesaian yang diterima. Inferensi yang dibayar pengguna bukanlah hal unik untuk ShareAI; bandingkan pengaturan komersial yang disetujui secara lengkap.

Untuk pelanggan tinjauan kode, latih skenario pemutusan pengguna, alokasi yang habis, dan model yang penyedianya berubah. Pertahankan identitas pengguna dan aplikasi tanpa mengirimkan kredensial server ke browser. Verifikasi akun pembayaran yang sebenarnya dan harga aplikasi yang disepakati secara terpisah. Respons model yang berhasil tidak dengan sendirinya membuktikan bahwa aplikasi menghasilkan uang.

LiteLLM: bandingkan harga khusus dan margin penagihan internal

Referensi LiteLLM harga khusus mendokumentasikan biaya model, diskon penyedia, dan margin penyedia untuk penagihan internal. Keuntungan: bandingkan kontrol yang ada saat aplikasi tinjauan kode ingin mengevaluasi pemetaan biaya sendiri dan alokasi biaya. Klaim bahwa setiap gateway lain tidak memiliki margin akan mengabaikan cakupan yang didokumentasikan ini.

Pertimbangan: evaluasi penerapan yang dipilih, pencarian harga, anggaran, dan alur kerja pengumpulan. Referensi saat ini mencatat bahwa biaya input dan output nol secara eksplisit melewati pemeriksaan anggaran, termasuk cakupan kunci dan tim. Referensi ini juga menjelaskan pemetaan penyedia harga saat penyedia routing dan harga berbeda. Tampilan nol yang ditampilkan oleh karena itu memerlukan investigasi daripada asumsi bahwa beban kerja gratis.

Untuk model tinjauan khusus, periksa permintaan non-nol yang diketahui dan harga yang dikonfigurasikan sebelum mengaktifkan kebijakan anggaran produksi. Bandingkan biaya penyedia asli, jumlah yang dialokasikan secara internal, dan harga komersial yang diterima pelanggan secara terpisah. Perhitungan margin internal yang benar tidak menyediakan checkout aplikasi di sekitarnya, perjanjian pelanggan, atau ketentuan pelepasan keuangan.

Portkey: bandingkan kontrol gateway dan observabilitas

Dokumentasi terkini Portkey menjelaskan kemampuan gateway, observability, guardrail, dan administrasi, dengan referensi terpisah untuk deployment dan fitur. Kelebihan: bandingkan cakupan yang dipilih ketika tim code-review perlu memahami lalu lintas model dan menerapkan kontrol gateway. Evaluasi produk dan deployment yang sebenarnya daripada menyimpulkan setiap fitur komersial dari jumlah model yang disebutkan.

Tradeoffs: tentukan edisi, hosting, kebijakan routing, data yang disimpan, dan kepemilikan pembayaran secara tepat. Sebuah trace dan kontrol pengeluaran menjawab pertanyaan yang berbeda dari menerima pembayaran pelanggan. Demikian pula, referensi self-hosting tidak secara otomatis menetapkan bahwa setiap dashboard yang dikelola, fitur perusahaan, atau kewajiban dukungan termasuk dalam deployment yang dipilih.

Untuk aplikasi review, bandingkan upaya penyedia yang gagal, respons fallback, dan hasil cache sebagai observasi terpisah dalam pekerjaan logis yang sama. Pertahankan atribusi pelanggan yang terpercaya dan kesalahan sebenarnya yang ditampilkan ke aplikasi. Hasil yang berguna adalah review yang dapat dijelaskan dengan pendanaan nyata dan perlakuan komersialnya, daripada hanya jumlah permintaan yang berhasil.

Kong: bandingkan kebijakan gateway dengan metering dan billing.

Halaman Kong AI monetization menjelaskan jalur gateway dan monetisasi yang lebih luas. Referensi entitlement terkini menghubungkan entitlements rate-card yang dikelola dengan penegakan gateway yang terpisah. Kelebihan: evaluasi layanan yang dipilih ketika aplikasi review ingin kebijakan gateway dan komersialisasi penggunaan dipertimbangkan bersama.

Tradeoffs: tentukan kompatibilitas layanan dan deployment, penegakan kebijakan yang sebenarnya, metering, dan integrasi koleksi. Gateway pada infrastruktur perusahaan adalah fakta arsitektur yang berbeda dari lokasi layanan billing yang dikelola. Hindari membandingkan seluruh keluarga produk dengan satu endpoint proxy atau mengasumsikan setiap kemampuan yang di-hosting termasuk dalam gateway on-premises.

Untuk pelanggan yang sedang dalam proses peninjauan, periksa bagaimana hak yang dibeli menjadi keputusan runtime yang sebenarnya dan bagaimana peninjauan yang gagal atau berulang mencapai catatan komersial. Pertahankan aturan yang dipilih pada waktu efektifnya. Saldo dan plugin penegakan dapat keduanya ada sementara aplikasi masih perlu memenuhi syarat integrasi lengkap mereka dan menjelaskan koreksi finansial.

ShareAI: bandingkan biaya tambahan aplikasi yang disetujui dan penyelesaian

ShareAI Builder Program berkaitan dengan aplikasi yang sudah ada dengan pengguna sendiri. Lalu lintas AI yang memenuhi syarat dialihkan melalui ShareAI, Builder mengonfigurasi biaya tambahan atau margin yang diizinkan, dan pelanggan akhir membayar ShareAI untuk inferensi tersebut. Pendapatan yang dikaitkan dengan aplikasi mengikuti program. Keuntungan: evaluasi pengaturan ini ketika aplikasi yang ditinjau menginginkan pembayaran inferensi yang disetujui dan perjalanan atribusi.

Tradeoffs: persetujuan aplikasi, lalu lintas yang memenuhi syarat, akses model, dan ketentuan akun adalah hal yang penting. Validated company Builders memiliki periode peninjauan 45 hari sebelum pembayaran. Saat ini, individu mengakumulasi nilai inferensi untuk penggunaan ShareAI, tanpa pencairan tunai atau transfer akun. Aplikasi tetap dibangun, dihosting, didistribusikan, dan dipelihara di tempat lain. Langganan lain, pengiriman dukungan, dan tanggung jawab finansial tetap menjadi tanggung jawab eksplisit.

Penyediaan infrastruktur model atau endpoint khusus termasuk dalam onboarding Provider atau Prosumer yang berlaku, terpisah dari atribusi Builder. Penyedia khusus Cloudflare dan gateway lainnya sudah menangani kontrol endpoint. Bandingkan penerimaan aktual, pengalihan, pembayar, dan penyelesaian daripada mengklaim eksklusivitas. ShareAI tidak menetapkan protokol pembayaran mesin asli, layanan merchant-of-record umum, atau pengganti untuk setiap kebijakan gateway.

Prioritas kredensial dapat mengubah akun mana yang mendanai permintaan

Panduan penagihan terpadu memberikan prioritas kredensial kepada kunci penyedia permintaan, kemudian alias penyedia default yang tersimpan, lalu kredit penagihan terpadu yang memenuhi syarat. Alias tersimpan non-default tidak digunakan oleh jalur terpadu tersebut. Referensi BYOK menjelaskan konfigurasi kunci tersimpan dan alias yang terpisah. Kunci yang ada di akun tidak membuktikan bahwa permintaan tertentu menggunakannya.

Untuk aplikasi ulasan, verifikasi jalur yang dipilih ketika kunci produksi hilang atau gagal. Kontrol yang didokumentasikan dapat memerlukan kredensial penyedia atau mencegah fallback penagihan terpadu pihak ketiga yang memenuhi syarat; Workers AI memiliki mode terpisah. Tinjau konfigurasi dan cakupan penyedia secara tepat. Juga bedakan kebijakan nol-retensi penyedia dari konfigurasi pencatatan gateway itu sendiri, yang memerlukan keputusan eksplisit tersendiri.

Biaya khusus, pembayaran yang dinegosiasikan, dan harga aplikasi berbeda.

Referensi biaya khusus menjelaskan pemetaan tingkat token input, output, dan cache, termasuk format token spesifik penyedia dan biaya nol yang dicatat untuk cache hit gateway. Analitik tersebut tidak dengan sendirinya menetapkan harga jual kembali hilir yang diterima. Pertahankan biaya hulu aktual, kebijakan pelanggan, dan koreksi alih-alih mengasumsikan biaya yang ditampilkan adalah faktur yang dibayar.

Jalur pembayaran mesin beta memerlukan negosiasi metode pembayaran eksplisit dan mendukung endpoint permintaan dan set model yang ditentukan. Otorisasi maksimum yang ditandatangani berbeda dari jumlah aktual yang diselesaikan. Bandingkan persyaratan yang didokumentasikan tersebut sebelum merekomendasikannya ke aplikasi ulasan. Tidak ada transaksi stablecoin atau kompatibilitas dengan ShareAI yang diuji atau diimplikasikan di sini.

Untuk aritmatika saja, 1000 USD inferensi ditambah dengan biaya tambahan hipotetis 15% menghasilkan biaya tambahan kotor 150 USD dan total 1150 USD. Jumlah sintetis ini bukan merupakan biaya Cloudflare atau ShareAI, pendapatan yang diterima, laba bersih, atau hasil pajak. Biaya pembelian kredit aktual, pengembalian dana, koreksi, dan kelayakan memengaruhi hasil bisnis.

Periksa aritmatika tanpa membingungkannya dengan pembayaran.

Fixture yang dieksekusi di bawah ini mendeduplikasi aktivitas identik, menolak duplikat yang bertentangan, dan mencatat penyesuaian eksplisit menggunakan sen USD integer. Ini tidak memilih kunci penyedia, mengirimkan ulasan, mengotorisasi dompet, atau mengumpulkan pembayaran. Hasil tersebut memerlukan aplikasi nyata dan bukti komersial seputar perhitungan.

import assert from "node:assert/strict";
const records = [
  {id: "usage-a", customer: "demo", cents: 60000n, kind: "usage"},
  {id: "usage-b", customer: "demo", cents: 50000n, kind: "usage"},
  {id: "usage-a", customer: "demo", cents: 60000n, kind: "usage"},
  {id: "adjustment-b", customer: "demo", cents: -10000n, kind: "adjustment"}
];
function netCents(rows) {
  const seen = new Map();
  let total = 0n;
  for (const row of rows) {
    assert.equal(row.customer, "demo");
    const fingerprint = [row.customer, row.cents.toString(), row.kind].join("|");
    if (seen.has(row.id)) {
      if (seen.get(row.id) !== fingerprint) throw new Error("Conflicting duplicate");
      continue;
    }
    if (row.cents < 0n && row.kind !== "adjustment") throw new Error("Invalid sign");
    seen.set(row.id, fingerprint);
    total += row.cents;
  }
  return total;
}
const base = netCents(records);
assert.equal(base, 100000n);
assert.throws(() => netCents([...records,
  {id: "usage-a", customer: "demo", cents: 1n, kind: "usage"}
]));
const numerator = base * 1500n; // Hypothetical 15 percent in basis points.
if (numerator % 10000n !== 0n) throw new Error("Define contractual rounding first");
const surcharge = numerator / 10000n;
assert.equal(surcharge, 15000n);
const usd = cents => `${cents / 100n}.${(cents % 100n).toString().padStart(2, "0")}`;
console.log(JSON.stringify({baseUSD: usd(base), grossSurchargeUSD: usd(surcharge),
  totalUSD: usd(base + surcharge), paidReceiptVerified: false}));

Output yang diamati adalah 1000 USD inferensi ilustratif, 150 USD biaya tambahan bruto, dan total 1150 USD, tanpa tanda terima pembayaran yang terverifikasi. Pertahankan identitas ulasan logis, upaya aktual, pendanaan, dan koreksi eksplisit dalam produksi. Jumlah yang benar tidak dapat menentukan akun mana yang membayar atau kapan nilai yang diatribusikan menjadi tersedia.

Pindahkan satu alur kerja ulasan dengan pengecualian pendanaannya terlebih dahulu.

• Inventarisasi kontrol gateway aktual, kredensial, penyedia, dan harga pelanggan.
• Pilih inferensi, gateway, atau tanggung jawab komersial yang perlu diubah.
• Pertahankan pelanggan tepercaya dan identitas ulasan logis di seluruh pengulangan dan cache hit.
• Latih kredensial yang hilang, pendanaan cadangan, dan koreksi eksplisit.
• Verifikasi bukti pembayaran aktual tanpa pengumpulan langsung yang duplikat.
• Pertahankan catatan asli dan rollback hingga perjalanan pelanggan lengkap memenuhi syarat.

Pertahankan Cloudflare ketika pengaturan saat ini sesuai. Bandingkan alternatif yang dipilih berdasarkan permintaan yang dapat dijelaskan, biaya pelanggan yang diterima, dan penyelesaian aktual. Mulailah dengan satu ulasan yang penerimaannya, pengarahannya, pengiriman yang berguna, dan pengecualian keuangannya dapat dijelaskan secara konsisten oleh produk, dukungan, dan keuangan.

Pertanyaan yang sering diajukan