1. Bản Chất Của Harness Engineering: Vì Sao Prompt Không Cứu Được AI Agent

Đa số kỹ sư và nhà phát triển hiện nay đang cố gắng tối ưu hóa AI Agent ở sai tầng kiến trúc: Khi Agent gặp lỗi, họ viết lại Prompt. Khi nó lại sai, họ thêm chỉ dẫn dài dằng dặc, đổi sang model đắt hơn hoặc nới rộng context window và hy vọng lần chạy sau sẽ có kết quả khác. Nhưng nhiều sự cố của Agent không phải là lỗi tư duy của mô hình, mà là lỗi của môi trường xung quanh nó.

⚠️ Nghịch Lý Tối Ưu Hóa: Prompt vs. Harness

Khi một Agent thất bại trong thực tế, các triệu chứng điển hình thường gặp là:

• Nó không biết tập tin hoặc tài liệu nào thực sự quan trọng trong dự án.
• Nó dùng đúng công cụ nhưng áp dụng sai thư mục hoặc sai thời điểm.
• Nó quên sạch các quyết định chiến lược đã thống nhất ở phiên làm việc trước.
• Nó tự tuyên bố "Đã hoàn thành!" dù chưa hề chạy bất kỳ lệnh kiểm thử nào.
• Nó lặp đi lặp lại một hành động lỗi mà không hề nhận ra điều kiện môi trường chưa thay đổi.
• Nó tự ý thực hiện hành động rủi ro cao mà đáng lẽ phải xin phê duyệt của con người.

Mô hình không nhất thiết là nguyên nhân gây lỗi. Chính hệ thống bao quanh mô hình chưa hoàn thiện.

Hệ thống đó được gọi là Harness (Bộ khung điều phối & môi trường). Thiết kế Harness đang nhanh chóng trở thành một môn kỹ thuật độc lập mang tính quyết định thành bại của AI trong doanh nghiệp.


| Tiêu chí | Can thiệp bằng Prompt | Xây dựng bằng Harness |

| :--- | :--- | :--- |

| Phạm vi tác động | Thay đổi duy nhất 1 lần chạy (One attempt) | Nâng cấp toàn bộ các lần chạy tương lai (Every attempt) |

| Bản chất | Lời khuyên, gợi ý dạng văn bản mềm | Hạ tầng ràng buộc, giám sát và thực thi cứng |

| Xử lý bất định | Cố gắng ép mô hình luôn trả lời đúng | Chấp nhận sự bất định của mô hình và bọc nó trong rào chắn tự kiểm tra |

| Khả năng mở rộng | Prompt càng dài, chi phí token càng cao, dễ trôi dạt ngữ cảnh | Tách bạch não bộ, công cụ và trạng thái lưu trữ |

🧠 Triết Lý Nền Tảng: The Model Is Not The Agent

Mô hình ngôn ngữ lớn (LLM) là một cỗ máy suy luận xuất sắc: nó biết phân tích, sinh mã, so sánh và lựa chọn. Nhưng để trở thành một Agent, nó bắt buộc phải tương tác với thế giới thực:

1. Thấu hiểu mục tiêu nhiệm vụ.
2. Tìm đúng ngữ cảnh liên quan.
3. Chọn và gọi công cụ chính xác.
4. Duy trì trạng thái qua nhiều phiên làm việc.
5. Tuân thủ chính sách bảo mật và phân quyền.
6. Tự thanh tra kết quả đầu ra.
7. Tự phục hồi sau khi gặp sự cố cục bộ.
8. Cung cấp bằng chứng chứng minh công việc đã hoàn tất.


Quy tắc bất biến:

• Mô hình là cỗ máy suy luận (Reasoning Engine) nằm bên trong hệ thống.
• Harness là tất cả mọi thứ xung quanh giúp cho suy luận đó có thể vận hành và tạo ra sản phẩm thực tế.
• Một mô hình mạnh mẽ nằm trong một Harness yếu kém vẫn chỉ tạo ra một Agent vụng về, thất thường.