Bài viết

Bài viết đọc cho vui, kiểu vừa nhâm nhi cà phê vừa tháo tung mọi thứ ra xem bên trong có gì, xuống tận con ốc sâu nhất. Đọc xong, hiểu sâu hơn, đánh giá tỉnh hơn, quyết định chắc tay hơn.

17/10/2026 · 30 phút đọc · Phần 5 · Thiết kế phần mềm từ trong ra ngoài

Thiết kế hệ thống bán vé nhiều service mà AI viết code: người quyết gì, AI cần đọc gì

Hệ thống bán vé concert: chọn ghế, giữ chỗ, thanh toán, phát vé, thông báo, soát vé, phòng chờ ngày mở bán. Người quyết gì, chia service ra sao, đo bán trùng ghế và webhook thanh toán lặp, và viết tài liệu thế nào để AI mở rộng tính năng.
17/10/2026 · 20 phút đọc · Phần 7 · LLM từ trong ra ngoài

Harness: skills, subagent, MCP và hooks quanh một mô hình

Vòng lặp agent 20 dòng ở bài 6 và một công cụ như Claude Code khác nhau ở phần bao quanh: harness. Tự viết một MCP server theo đặc tả 2026-07-28, đo xem skills, subagent và định nghĩa công cụ tốn bao nhiêu ngữ cảnh, và dùng hooks làm hàng rào thật.
17/10/2026 · 14 phút đọc · Phần 6 · LLM từ trong ra ngoài

Từ mô hình tới ứng dụng: công cụ, agent và RAG

Một ứng dụng LLM là văn bản bao quanh mô hình. Cho Qwen gọi công cụ, viết vòng lặp agent, rồi trả lời câu hỏi về chính các bài viết trên trang này bằng RAG với BM25, kèm những chỗ mô hình nhỏ làm sai và cái giá của mỗi kỹ thuật.
17/10/2026 · 13 phút đọc · Phần 5 · LLM từ trong ra ngoài

Phục vụ nhiều người cùng lúc: batching và lượng tử hóa

Một bản mô hình phục vụ nhiều người thế nào: batching cho 16 người gần như giá của một, continuous batching cho slot trống vào ngay, KV cache quyết định bao nhiêu người vừa bộ nhớ, và lượng tử hóa từ 32 xuống 8, 4, 3, 2 bit thì mất gì.
17/10/2026 · 17 phút đọc · Phần 4 · LLM từ trong ra ngoài

Huấn luyện: từ số ngẫu nhiên tới chữ tiếng Việt

Trọng số của mô hình từ đâu ra? Huấn luyện một GPT 3 triệu tham số trên Wikipedia tiếng Việt trong một phút bằng CPU: dữ liệu, tokenizer, hàm loss, vòng lặp huấn luyện, xem chữ dần thành hình, và đo mô hình như một thuật toán nén.
17/10/2026 · 14 phút đọc · Phần 3 · LLM từ trong ra ngoài

Prefill và decode: KV cache và bức tường bộ nhớ

Vì sao token đầu tiên đến chậm còn các token sau đều đều, KV cache làm gì, và vì sao khi sinh chữ, thứ giới hạn tốc độ là băng thông bộ nhớ chứ không phải sức tính. Thêm KV cache vào GPT tự viết, đo, và thử số thực 16-bit.
17/10/2026 · 20 phút đọc · Phần 2 · LLM từ trong ra ngoài

Một bước, một token: tự viết GPT từ đầu

Viết lại Qwen2.5 bằng khoảng 70 dòng PyTorch: embedding, attention, RoPE, MLP, rồi nạp trọng số thật và cho ra đúng từng token như transformers. Kèm temperature, top-p, repetition penalty, và vì sao vòng sinh chữ chậm dần.
17/10/2026 · 21 phút đọc · Phần 1 · LLM từ trong ra ngoài

Token: chữ biến thành số như thế nào

Mô hình ngôn ngữ không đọc chữ mà đọc số. Từ byte UTF-8 của tiếng Việt, tự viết một tokenizer BPE, mở tokenizer của GPT-4, GPT-4o, Qwen và DeepSeek, rồi đo xem tiếng Việt tốn bao nhiêu token và điều đó ảnh hưởng tới giá, tốc độ và cách stream ra sao.