Tag: inference
3 รายการ
Blog

aichina-aizai
GLM ช่วยสร้าง inference stack ของตัวเอง: ยังไม่ใช่วงจร self-improvement ปิด
อ่านกรณี Z.ai แยกงาน agent ออกจากอำนาจตัดสินใจ production และวางหลักฐานสำหรับ infrastructure automation
aillmdeepseek
DeepSeek V4.1 Flash ลด KV Cache: ต้นทุน Agent อาจเปลี่ยนก่อนโมเดล Pro รุ่นถัดไปมา
สรุปสถาปัตยกรรม 552B MoE ที่ activate input 8B/output 16B การลด HBM/SSD และการ reroute model aliases วันที่ 14 ก.ย.

aiinferencehardware
Jalapeño ชิป Inference ของ OpenAI: ทำไม Latency กับไฟต้องวัดพร้อมกัน
อ่านผลทดสอบชิป Jalapeño แบบไม่หลงตัวเลข แยก prefill, decode, throughput และ performance per watt เพื่อมองผลต่อ AI agent จริง