ประเมินต้นทุน LLM API ของคุณก่อนตัดสินใจ
เลือกโมเดล กรอกปริมาณ token ต่อเดือน และตั้งอัตราการชนแคช เครื่องคำนวณใช้ตัวคูณจริงที่เราเผยแพร่บนฐาน 0.4 CNY ต่อ 1M token โดยไม่ต้องสมัครสมาชิก
เครื่องคำนวณนี้ต่างจากการเดาอย่างไร
การประเมินต้นทุนส่วนใหญ่เป็นการคำนวณคร่าว ๆ เครื่องนี้ทำงานบนตัวคูณต่อโมเดลชุดเดียวกับที่เกตเวย์เรียกเก็บเงินจริง
| เครื่องคำนวณนี้ | การประเมินคร่าว ๆ | |
|---|---|---|
| แหล่งอัตรา | ตัวคูณต่อโมเดลที่เผยแพร่แบบสด | ความทรงจำหรือบทความบล็อก |
| การจำลองแคช | อัตราการชนแคชปรับได้จากพื้น 0.1x | มักถูกมองข้าม |
| สกุลเงิน | CNY ตรงกับที่คุณถูกเรียกเก็บ | ปน USD/CNY |
| ความครอบคลุมโมเดล | ทุกโมเดลข้อความที่เกตเวย์กำหนดเส้นทาง | หนึ่งหรือสองโมเดล |
เหมาะกับใคร
มีประโยชน์ถ้าคุณ
- ต้องการการประเมินต้นทุนที่อ้างอิงได้ก่อนย้ายทราฟฟิกไปยังโมเดล
- ต้องเปรียบเทียบโมเดล 0.1x กับโมเดลแนวหน้าที่ปริมาณเท่ากัน
- อยากเห็นว่าอัตราการชนแคชที่สูงขึ้นลดอัตราที่แท้จริงของคุณอย่างไร
- กำลังตั้งงบใช้จ่าย LLM รายเดือนเป็น CNY
มีประโยชน์น้อยถ้าคุณ
- ต้องการตัวเลขเป็น USD เครื่องคำนวณนี้ทำงานเป็น CNY
- เรียกเก็บตามภาพหรือตามการเรียกใช้แทนที่จะตาม token (แถวเหล่านั้นถูกยกเว้น)
- ต้องการใบเสนอราคาที่รับประกัน การใช้งานจริงขึ้นอยู่กับพรอมป์ตและเอาต์พุตของคุณ
- ต้องการราคาดั้งเดิมของผู้ให้บริการสำหรับโมเดลที่เกตเวย์ไม่กำหนดเส้นทาง
วิธีอ่านผลลัพธ์
การคำนวณเรียบง่ายและโปร่งใส แต่การประเมินก็คือการประเมิน
- ต้นทุน = อัตราที่แท้จริง × ปริมาณ token ของคุณ อัตราที่แท้จริงผสมอัตราปกติและอัตราแคชตามเปอร์เซ็นต์การชนแคชของคุณ
- อัตราแคชใช้พื้น 0.1x ของตัวคูณโมเดลตามเอกสาร การประหยัดจากแคชจริงขึ้นอยู่กับการใช้พรอมป์ตซ้ำ
- จำนวน token คุณต้องประเมินเอง คืออินพุตบวกเอาต์พุต การใช้งานจริงแปรผันตามความยาวพรอมป์ตและการตอบ
- โมเดลตามภาพและตามการเรียกใช้ถูกยกเว้นเพราะไม่ได้เรียกเก็บตาม token
กฎเบื้องหลังตัวเลข
ไม่มีอะไรซ่อนเร้นที่นี่ อัตราของแต่ละโมเดลคือตัวคูณคูณด้วยฐาน
นี่คือการประเมินจากอัตราที่เผยแพร่และข้อมูลที่คุณกรอก ไม่ใช่ใบเสนอราคา ต้นทุนจริงขึ้นอยู่กับการใช้ token จริงและพฤติกรรมแคชในเวิร์กโหลดของคุณ
เป็นการประเมินเท่านั้น อิงตามตัวคูณที่เผยแพร่และข้อมูลที่คุณกรอก โมเดลตามภาพและตามการเรียกใช้ถูกยกเว้น
เครื่องคำนวณราคา — คำถามที่พบบ่อย
อัตรามาจากไหน
จากตัวคูณต่อโมเดลที่เกตเวย์เผยแพร่ นำมาใช้กับฐาน 0.4 CNY ต่อ 1M token กฎเดียวกับที่หน้าราคาแสดงไว้
อัตราการชนแคชทำอะไร
อินพุตที่แคชเรียกเก็บจากพื้น 0.1x ของตัวคูณโมเดล การเพิ่มเปอร์เซ็นต์การชนแคชจะลดอัตราที่แท้จริงแบบผสมของคุณ
ผลลัพธ์เป็นราคาที่รับประกันหรือไม่
ไม่ใช่ เป็นการประเมิน ต้นทุนจริงของคุณขึ้นอยู่กับจำนวน token อินพุตและเอาต์พุตจริง และอินพุตถูกแคชมากแค่ไหน
ทำไมทุกอย่างเป็น CNY
เพราะการเรียกเก็บเงินและเครดิตเติมล่วงหน้ากำหนดเป็น CNY เครื่องคำนวณตรงกับวิธีที่คุณถูกเรียกเก็บจริง
พอใจกับการประเมินไหม
ซื้อคีย์แล้วเริ่มได้เลย เครดิตเติมล่วงหน้า ไม่มีวันหมดอายุ