Claude 1 Triệu Token: Đọc Cả Cuốn Sách Trong Một Lần — Và Nhớ Hết

Cách đây ba ngày, Anthropic lặng lẽ bật một công tắc.

Context window của Claude — cái “khung nhìn” văn bản mà AI đọc và xử lý cùng lúc — bất ngờ nhảy từ 200.000 token lên 1 triệu token. Mở ra cho tất cả. Không cần chờ danh sách chờ, không tính phí thêm, cũng chẳng giới hạn gói dùng.

Nghe có vẻ toàn thuật ngữ kỹ thuật, nhưng đọc hết bài này là anh em sẽ hiểu ngay chuyện gì vừa xảy ra — và tại sao nó ảnh hưởng trực tiếp tới công việc hàng ngày của mình, chứ không chỉ xoay quanh dân code đâu.

“Context window” là cái gì?

Cứ tưởng tượng context window như bộ nhớ tạm của AI vậy.

Khi anh em dán văn bản vào Claude, ChatGPT hay Gemini, con AI sẽ đọc qua, nhớ lại, rồi dựa trên đó mà trả lời. Context window chính là sức chứa tối đa mà nó có thể “nhét” vào đầu cùng lúc.

Nhưng cái khó ở đây là: tất cả đều tính chung. Câu hỏi của anh em, file tài liệu upload lên, lịch sử chat trước đó, thậm chí cả câu trả lời nó vừa sinh ra — tất cả đều chiếm chỗ.

Khi chạm trần, AI sẽ từ chối xử lý hoặc bắt đầu “quên” những gì ở đầu cuộc trò chuyện. Chắc anh em từng gặp cảnh này rồi: đang trao đổi hăng say, nhắc lại ý từ lúc nãy mà nó trả lời ngơ ngác như chưa từng biết. Đơn giản là context window đã đầy.

1 triệu token to cỡ nào?

Token không phải là từ. Nó là những mảnh văn bản — trung bình cứ 4 ký tự tiếng Anh sẽ thành 1 token. Vậy 1 triệu token tương đương khoảng 750.000 từ.

Nghe vẫn hơi trừu tượng đúng không? Để dễ hình dung, anh em thử đối chiếu với những thứ này:

Trước đây với mức 200K token, Claude chỉ nhét vừa khoảng một tiểu thuyết dày hoặc 300 trang. Dùng để chat bình thường thì ổn, nhưng gặp việc nặng thì đã hơi đuối.

Giờ đây, với mức 1 triệu token, anh em có thể “nhét” trọn bộ giáo trình, cả kho sổ sách tài chính, hoặc nguyên codebase của dự án vào cùng một lúc. Một lần paste, xong.

Sao phải quan tâm? — Góc nhìn từ Việt Nam

Mình biết nhiều anh em đang thầm nghĩ: “Nghe có vẻ đỉnh, nhưng liên quan gì tới mình chứ?”.

Thực ra, nó liên quan trực tiếp lắm. Dưới đây là vài tình huống rất đời thường ở Việt Nam:

Luận văn thạc sĩ, tiến sĩ: Trước đây paste được vài chương là hết chỗ. Giờ anh em nhét nguyên luận văn 200 trang kèm cả tài liệu tham khảo vào, nhờ Claude phân tích bố cục, tìm lỗ hổng lập luận, kiểm tra trích dẫn chéo. Anh em nào đang ấp ủ luận văn mà chưa dám thử thì thật là tiếc lắm.

Hồ sơ pháp lý: Hợp đồng thuê đất 80 trang, điều khoản vay ngân hàng, hợp đồng mua bán… loại tài liệu mà đọc đến trang 67 thì quên mất trang 12 nói gì. Claude giờ giữ nguyên bộ trong đầu, và tìm ra chỗ nào mâu thuẫn với chỗ nào.

Tài liệu nghiên cứu: Dân nghiên cứu ở các viện, trường đại học Việt Nam giờ có thể nạp cả chục bài báo khoa học cùng lúc, nhờ Claude tổng hợp, so sánh phương pháp, tìm điểm chung giữa các nghiên cứu. Tiết kiệm mấy tuần đọc thủ công.

Codebase dự án startup: Ngành công nghệ Việt Nam đang phát triển nhanh, nhiều anh em dev đang làm sản phẩm riêng. Giờ có thể paste nguyên codebase vào để refactor, tìm bug, hay nhờ Claude viết tài liệu kỹ thuật cho cả dự án. Không còn phải paste từng file một nữa.

Claude đứng đâu so với phần còn lại? (Tháng 3/2026)

Đây là bảng so sánh tổng quan — cạnh tranh hơn anh em nghĩ nhiều đấy:

Nhìn vào bảng sẽ thấy Claude không phải là ông lớn duy nhất ở ngưỡng 1 triệu token. GPT-4.1 hay Gemini 2.5 cũng đang chạy ngang ngửa. Nhưng mà — chỉ nhìn vào kích thước cửa sổ thôi thì chưa nói lên được gì.

Phần quan trọng nhất mà ít ai nói: AI có thật sự dùng hết context không?

Đây mới là phần thú vị, và cũng là điều hơi “khó nuốt” với cả ngành.

Một nhóm nghiên cứu tại Chroma đã thử nghiệm 18 mô hình AI hàng đầu và nhận ra một điều: hiệu năng của tất cả đều giảm khi lượng văn bản đầu vào tăng lên. Không có ngoại lệ. Lượng context thực sự mà mô hình xử lý tốt — chứ không phải con số trên quảng cáo — thường chỉ rơi vào khoảng 50-65%.

Tức là một AI tuyên bố hỗ trợ 1 triệu token, thì khả năng cao nó đã bắt đầu “lơ mơ” ở mức 500-650K.

Nhưng có một ngoại lệ đáng chú ý: Claude.

Benchmark đáng chú ý: MRCR v2 (Multi-Needle Retrieval)

Bài test MRCR v2 hoạt động như sau: các nhà nghiên cứu giấu 8 thông tin cụ thể rải rác trong 1 triệu token văn bản, rồi bảo AI tìm và trả lời chính xác tất cả. Tưởng như trò “tìm kim trong đống rơm” vậy, nhưng thử thách này có tới 8 cây kim nằm sâu trong 1.500 trang rơm.

Con số 76-78% của Opus 4.6 không chỉ cao, mà còn gấp gần 4 lần phiên bản tiền nhiệm, và hơn cả đối thủ gần nhất tới hơn hai lần.

Chính khoảng cách này mới là điều đáng nói. Có context window rộng 1 triệu token mà không thể tìm ra mẩu thông tin bên trong thì cũng bằng thừa. Claude thì làm được.

Vấn đề “lạc giữa tài liệu”

Các mô hình AI đều có một thói quen khá rõ: chúng nhớ rất tốt thứ ở đầu và cuối đoạn văn bản, nhưng thường “trôi” qua phần giữa.

Dân nghiên cứu gọi hiện tượng này là “lost in the middle” (lạc giữa đống tài liệu). Lý do nằm ở cách mô hình mã hóa vị trí: các phép toán nội tại sẽ tự động giảm trọng số cho phần ở giữa.

Mẹo nhỏ cho anh em: khi upload nhiều file vào bất kỳ AI nào, cứ đặt tài liệu quan trọng nhất ở đầu và cuối. Phần tài liệu tham khảo thì để ở giữa là ổn.

Claude 4.6 đã tích hợp thêm context compaction — cơ chế tự động tóm tắt khi cuộc trò chuyện kéo dài, nhằm giữ lại những ý chính quan trọng. Chưa hoàn hảo 100%, nhưng đã là một bước tiến rất đáng ghi nhận.

Chi phí: Nhiều context hơn có đắt hơn không?

Đây chắc chắn là phần anh em quan tâm nhất, nhất là khi quy đổi ra tiền Việt.

Dùng qua giao diện chat (claude.ai)

Nếu anh em đang dùng gói trả phí hàng tháng (~20 USD, tương đương khoảng 520.000₫ theo tỷ giá ~25.955 VND/USD), thì giá vẫn giữ nguyên bất biến. Dù anh em dùng 10K token hay 900K token, hóa đơn hàng tháng vẫn y hệt.

Dùng qua API (cho dân dev và startup)

Đây mới là điểm phân hóa rõ rệt:

Claude hiện là nhà cung cấp lớn hiếm hoi không tính phí tăng dần ngay cả khi anh em dùng hết ngưỡng context window. Một request dài 900K token vẫn được tính đơn giá ngang ngửa với request chỉ 9K token.

Chưa hết, với tính năng prompt caching, những request lặp lại trên cùng một ngữ cảnh có thể giảm tới 90% chi phí. Tức là anh em upload một file dài và đặt nhiều câu hỏi khác nhau, thì chỉ tốn phí đầy đủ cho lần hỏi đầu tiên. Những lần sau sẽ rẻ hơn rất nhiều.

Muốn tính toán chi phí cho dự án cụ thể? Anh em có thể thử ngay công cụ đếm token AI của mình — công cụ tính giá theo thời gian thực cho hầu hết các mô hình hàng đầu.

Hạn chế thật sự — Mình nói thẳng

Mình không muốn tô hồng tình hình quá. Công nghệ nào cũng có những cái giá phải trả:

Độ trễ có thể tăng. Việc xử lý 1 triệu token thường mất vài giây trước khi dòng chữ đầu tiên hiện ra. Nếu anh em chỉ hỏi nhanh một câu vắn tắt, có thể sẽ thấy hơi chậm. Nhưng nếu là phân tích một dossier 500 trang, thì độ trễ này hoàn toàn xứng đáng.

Càng nhiều context chưa chắc đã ra kết quả tốt hơn. Nếu trong file upload chỉ có 10% nội dung liên quan, 90% còn lại chỉ là nhiễu, AI rất dễ bị phân tán sự chú ý, dẫn đến sai sót ở những chỗ quan trọng. Thà chọn lọc kỹ còn hơn nhét cả ổ Google Drive vào Claude chỉ vì thấy nó “xứng sức”.

Vấn đề “lạc giữa tài liệu” vẫn chưa biến mất hoàn toàn. Dù đã cải thiện, mô hình vẫn phản hồi tốt nhất với thông tin ở đầu và cuối. Vì vậy, thứ tự sắp xếp file vẫn là một yếu tố cần lưu ý.

Context thực tế vẫn nhỏ hơn 1 triệu token. Đúng như nghiên cứu của Chroma đã chỉ ra, hiệu năng sẽ giảm dần trước khi chạm ngưỡng trần. Hãy coi 1 triệu là giới hạn lý thuyết. Trong thực tế, khoảng 500-700K token mới là vùng an toàn để AI vận hành ổn định — nhưng con số đó vẫn là khổng lồ so với trước đây.

Vậy dùng sao cho ngon?

Dưới đây là vài mẹo thực chiến để anh em sử dụng hiệu quả nhất:

1. Đặt tài liệu quan trọng ở đầu và cuối. Phần nội dung tham khảo phụ thì để ở giữa là hợp lý nhất.
2. Cẩn trọng khi upload. Chỉ đưa vào những tài liệu thực sự cần thiết, tránh nhét tràn lan gây nhiễu.
3. Tận dụng cho các tác vụ lớn. Luận văn, hợp đồng pháp lý, codebase hệ thống, hay kho dữ liệu nghiên cứu — đây chính là lúc 1 triệu token phát huy tối đa sức mạnh.
4. Kết hợp với prompt engineering. Đặt câu lệnh rõ ràng, chỉ đích danh cho Claude biết cần tìm hoặc phân tích gì trong mớ tài liệu. Muốn đào sâu kỹ năng này, anh em có thể tham khảo Context Engineering Master — cẩm nang hướng dẫn cách cấu trúc input để AI thực sự “ăn” trọn vẹn những gì anh em cung cấp.

Bức tranh lớn

Cách đây một năm, hầu hết mô hình AI đều chạm trần ở mức 128K token — tương đương khoảng 200 trang. Đủ để trò chuyện, nhưng chưa đủ sức cho các tác vụ nghiệp vụ phức tạp.

Giờ đây, ngưỡng 1 triệu token đã dần trở thành chuẩn mực mới, còn Llama 4 Scout của Meta thậm chí đã “phá đảo” với con số 10 triệu. Context window đang được mở rộng nhanh hơn mọi dự đoán, và điều này đang thay đổi hoàn toàn cách AI vận hành.

Bước nhảy vọt từ 200K lên 1 triệu không đơn thuần là con số “lớn hơn”. Nó đã vượt qua một ngưỡng công nghệ quan trọng. Nó có nghĩa là AI giờ đây có thể “ôm trọn” nguyên bộ dự án của anh em trong đầu — từ file dữ liệu, bối cảnh dự án, cho tới lịch sử trao đổi. Mối quan hệ giữa người dùng và AI đang chuyển dịch từ “công cụ hỏi đáp từng câu” sang “đối tác nắm rõ toàn cảnh”.

Muốn so sánh kỹ hơn giữa Claude với ChatGPT và Gemini? Anh em có thể đọc bài ChatGPT vs Claude vs Gemini: Mình đã dùng thử cả 3 và đây là sự thật để xem phân tích chi tiết các điểm mạnh-yếu, vượt ra ngoài phạm vi context window.

Cuộc chạy đua về context window vẫn chưa có hồi kết. Nhưng tại thời điểm này, Claude đang là con AI biết cách tận dụng context tốt nhất. Và chính khả năng “dùng được” mới là chỉ số đáng giá nhất.