Giới hạn, rủi ro và chi phí khi làm việc với AI

Mỗi “nhân viên” có kiểu sai riêng. Nhân viên mới hay quên quy trình; nhân viên lâu năm hay chủ quan. AI cũng có những kiểu sai lặp đi lặp lại, xuất phát trực tiếp từ cách nó hoạt động mà bạn đã học ở bài LLM hoạt động thế nào02-01.

Ví dụ: sửa triệu chứng và sửa nguyên nhân

Dashboard của Mộc OMS thỉnh thoảng bị lỗi trắng trang. Chị Lan nhờ agent sửa, và lần đầu nhận được bản “sửa” này:

// ❌ Sửa triệu chứng: nuốt lỗi, trả về 0 để trang không trắng
export async function countTodayOrders(branchId: string) {
  try {
    return await queryTodayOrderCount(branchId);
  } catch {
    return 0; // Trang không còn lỗi, nhưng dashboard báo "0 đơn" sai sự thật
  }
}

Trang hết trắng, nhưng giờ dashboard có thể báo “0 đơn” trong khi bếp đang ngập việc, và không ai biết có lỗi. Đây là kiểu sửa nguy hiểm nhất: giấu lỗi đi. Khi được yêu cầu tìm nguyên nhân gốc, agent phát hiện lỗi xảy ra khi branchId rỗng (người dùng owner không thuộc chi nhánh nào):

// ✅ Sửa nguyên nhân: xử lý rõ ràng trường hợp owner xem tất cả chi nhánh
export async function countTodayOrders(branchId: string | null) {
  // owner không gắn chi nhánh: đếm toàn chuỗi; lỗi khác vẫn được ném ra để Sentry ghi nhận
  return branchId === null
    ? queryTodayOrderCountAllBranches()
    : queryTodayOrderCount(branchId);
}

Ba mô hình tính tiền

Tại thời điểm viết (2026), chi phí công cụ AI coding thường theo một trong ba mô hình (hoặc kết hợp). Giá cụ thể thay đổi thường xuyên, hãy xem trang giá chính thức của từng nhà cung cấp.

Vì sao phiên agent dài tốn kém

Nhớ lại: mô hình đọc lại toàn bộ ngữ cảnh ở mỗi lượt. Một phiên agent gồm nhiều lượt (đọc file, chạy lệnh, sửa, chạy lại), mỗi lượt gửi lại cả ngữ cảnh đang có. Ngữ cảnh lại lớn dần theo thời gian. Kết quả: tổng token vào của một phiên tăng nhanh hơn nhiều so với độ dài phiên.

Ví dụ minh họa với số giả định (không phải số đo thật): ngữ cảnh lượt đầu khoảng 15 nghìn token (hướng dẫn hệ thống, AGENTS.md, prompt), mỗi lượt thêm khoảng 3 nghìn token (file đọc, output lệnh).

Phiên dài gấp 6 lần nhưng tổng token vào gấp hơn 20 lần. Đây là lý do kinh tế đằng sau lời khuyên ở bài Context engineering02-05: phiên ngắn, tập trung, làm mới khi chuyển việc.

Nhiều nhà cung cấp có bộ nhớ đệm prompt (prompt caching): phần ngữ cảnh lặp lại giữa các lượt được tính giá thấp hơn đáng kể. Các agent thường tự tận dụng điều này, nên chi phí thực tế thấp hơn phép tính thô ở trên; nhưng xu hướng “phiên dài tốn hơn nhiều” vẫn đúng.

Công thức ước tính

Với mô hình trả theo token, chi phí một phiên xấp xỉ:

Chi phí phiên ≈ (token vào không đệm × giá vào)
              + (token vào được đệm × giá vào có đệm)
              + (token ra × giá ra)

Bạn không cần tính tay. Hầu hết công cụ hiển thị mức dùng token hoặc chi phí theo phiên, và bảng điều khiển API có báo cáo theo ngày. Một hàm nhỏ giúp bạn ngoại suy từ số đo thật, với giá là tham số bạn tự điền từ trang giá chính thức:

// Ước tính chi phí AI hằng tháng từ số đo thực tế của một tuần chạy thử
type UsageSample = {
  sessionsPerWeek: number;      // số phiên đã chạy trong tuần thử
  avgInputTokens: number;       // token vào trung bình mỗi phiên (đọc từ công cụ)
  avgOutputTokens: number;      // token ra trung bình mỗi phiên
};

type Pricing = {
  inputPerMillion: number;      // giá cho 1 triệu token vào (lấy từ trang giá chính thức)
  outputPerMillion: number;     // giá cho 1 triệu token ra
};

export function estimateMonthlyCost(u: UsageSample, p: Pricing, peakFactor = 1.5) {
  const weekly =
    (u.sessionsPerWeek * u.avgInputTokens * p.inputPerMillion +
      u.sessionsPerWeek * u.avgOutputTokens * p.outputPerMillion) / 1_000_000;
  // Một tháng khoảng 4,3 tuần; nhân hệ số dự phòng cho giai đoạn làm nhiều
  return weekly * 4.3 * peakFactor;
}

Lập ngân sách cho dự án nhỏ: đo – ngoại suy – đặt hạn mức

1. Liệt kê nhu cầu: ai dùng AI vào việc gì? Ví dụ: chị Lan code hằng ngày; sau này có thêm Khoa code part-time ở giai đoạn mở rộng; một bot review PR tự động; sau này là tính năng AI trong sản phẩm (tính riêng, xem bài Chọn model, tối ưu chi phí12-05).
2. Chọn mô hình tính tiền cho từng nhu cầu: người dùng hằng ngày thường hợp thuê bao; tự động hóa trong CI thường dùng API theo token.
3. Chạy thử một đến hai tuần, ghi lại mức dùng thực tế từ công cụ.
4. Ngoại suy ra tháng, nhân hệ số dự phòng cho giai đoạn làm nhiều (sắp ra mắt, sửa lỗi gấp).
5. Đặt hạn mức và cảnh báo trên bảng điều khiển của nhà cung cấp API: hạn mức chi tiêu tháng, cảnh báo khi đạt một tỷ lệ nhất định.
6. Xem lại hằng tháng: so thực tế với dự toán, tìm phiên bất thường.

Mẫu bảng ngân sách (điền số của bạn):

Chi phí ẩn đáng kể hơn hóa đơn

Hóa đơn AI thường không phải khoản lớn nhất. Các chi phí ẩn:

• Thời gian review và kiểm chứng của bạn: đây là nút thắt thật. Code sinh nhanh hơn tốc độ bạn đọc là dấu hiệu phải chia nhỏ việc và tăng test tự động.
• Nợ kỹ thuật từ code phình, không nhất quán: trả lãi về sau (bài Nợ kỹ thuật và refactor11-04).
• Sự cố do lỗi lọt qua: một ngày dashboard sai trong mùa Trung thu đắt hơn cả năm tiền thuê bao.

Cách giữ chi phí hợp lý

• Phiên ngắn, một việc một phiên, lọc output lệnh, chỉ bật MCP cần thiết.
• Chọn mô hình theo việc: mô hình mạnh cho lập kế hoạch và việc khó; mô hình nhanh, rẻ hơn cho việc vặt, nếu công cụ cho phép chọn.
• Tránh vòng sửa đi sửa lại: sau hai lần chỉnh không được, làm lại phiên với prompt tốt hơn.
• Mỗi dự án, mỗi mục đích một khóa API riêng, có hạn mức, để biết tiền đi đâu và khoanh vùng khi bị lộ.