Từ chatbot đến coding agent: vòng lặp agent và công cụ

Bản chất: một LLM được đặt trong vòng lặp

Ở bài trước, bạn đã biết LLM chỉ làm một việc: đọc ngữ cảnh rồi viết tiếp. Một coding agent là LLM đặt trong một vòng lặp, cộng với một bộ công cụ. Phần mềm bao quanh mô hình (thường gọi là harness, “bộ khung”) làm ba việc: đưa yêu cầu của bạn và mô tả các công cụ vào ngữ cảnh, thực thi những công cụ mà mô hình yêu cầu, rồi đưa kết quả trở lại ngữ cảnh để mô hình đọc và quyết định bước tiếp.

Ba nhịp của vòng lặp:

• Suy nghĩ (reason): mô hình đọc toàn bộ ngữ cảnh (yêu cầu, những gì đã thấy) và quyết định: cần xem thêm file nào, chạy lệnh gì, hay đã đủ để trả lời.
• Hành động (act): mô hình viết ra một lời gọi công cụ có cấu trúc, ví dụ “đọc file src/features/orders/create-order.ts” hoặc “chạy lệnh npm test“.
• Quan sát (observe): bộ khung thực thi và trả kết quả (nội dung file, output của lệnh, thông báo lỗi) vào ngữ cảnh. Vòng lặp quay lại bước suy nghĩ.

Vòng lặp dừng khi mô hình quyết định việc đã xong, khi bạn dừng nó, hoặc khi chạm giới hạn (số bước, ngữ cảnh đầy).

Mô hình không tự “bấm nút”

Một hiểu lầm phổ biến: AI “điều khiển máy tính của bạn”. Chính xác hơn, mô hình chỉ viết ra yêu cầu; phần mềm agent trên máy bạn mới là thứ thực thi, và nó thực thi theo luật bạn đặt. Một lời gọi công cụ, ở dạng đơn giản hóa, trông giống thế này:

{
  "tool": "run_command",
  "input": {
    "command": "npm run typecheck",
    "reason": "Kiểm tra lỗi kiểu sau khi sửa hàm tính tổng tiền"
  }
}

Tên công cụ và định dạng cụ thể khác nhau giữa các agent, nhưng nguyên lý giống nhau. Hiểu điều này giúp bạn thấy rõ: mọi rủi ro đều đi qua cửa công cụ, và bạn kiểm soát được cánh cửa đó bằng quyền hạn.

Một phiên làm việc điển hình

Giả sử bạn giao: “Build đang lỗi, hãy sửa”. Một agent tốt có thể đi qua các bước như sau:

Chú ý bước cuối: agent chạy lại build để xác nhận, rồi đưa bằng chứng. Đó là hành vi bạn muốn thấy, và bạn có thể yêu cầu rõ trong prompt.

“Trông có vẻ xong” không phải là xong

Đây là phần quan trọng nhất của bài. Hãy nghĩ về vòng lặp agent: nó dừng khi mô hình cho rằng việc đã xong. Nếu không có công cụ nào cho nó biết code có chạy đúng hay không, thì tín hiệu duy nhất để dừng là “code trông có vẻ hợp lý”. Và như bài trước đã nói, LLM rất giỏi viết code trông hợp lý.

Hậu quả: bạn trở thành vòng kiểm tra. Bạn phải tự mở app, tự bấm thử, tự phát hiện lỗi, tự mô tả lại cho agent. Năng suất của cả hệ thống bị giới hạn bởi tốc độ bạn kiểm tra thủ công.

Ngược lại, khi agent có cách tự kiểm chứng, vòng lặp tự đóng lại: viết code, chạy kiểm tra, thấy lỗi, sửa, chạy lại, cho tới khi xanh. Bạn chỉ cần nghiệm thu kết quả cuối.

Các công cụ kiểm chứng xếp theo độ rẻ

Bạn không cần có đủ tất cả ngay từ ngày đầu. Nhưng ngay cả một lệnh type check và vài unit test cho hàm tính tiền cũng đã thay đổi chất lượng làm việc của agent một cách rõ rệt. Module 8 sẽ đi sâu; bài Vì sao kiểm thử là dây an toàn08-01 giải thích kỹ lý do.

Đòi bằng chứng, không đòi lời hứa

Khi agent báo “đã sửa xong”, câu hỏi của bạn luôn là: bằng chứng đâu? Bằng chứng tốt gồm:

• Lệnh đã chạy và output thật (ví dụ “12 test passed”).
• Ảnh chụp màn hình giao diện sau khi sửa.
• Danh sách file đã thay đổi và lý do.
• Với lỗi: mô tả nguyên nhân gốc, không chỉ triệu chứng.