Human handoff không phải là một nút fallback
Human handoff là cơ chế chuyển quyền xử lý từ AI assistant sang một người hoặc một hàng đợi có chủ sở hữu rõ ràng. Một handoff tốt phải chuyển được lý do chuyển, context cần thiết, trạng thái đang dở và người chịu trách nhiệm tiếp theo. Nếu chatbot chỉ trả lời “hãy liên hệ nhân viên” nhưng không tạo owner hoặc không giữ context, đó chưa phải là một handoff vận hành được.
D2 tách hai việc dễ bị trộn lẫn: RAG giúp hệ thống tìm và dùng nguồn tri thức; human handoff quyết định khi nào AI nên dừng tự xử lý và ai phải tiếp quản. Vì vậy một assistant có retrieval tốt vẫn cần cơ chế escalation riêng.
Khi nào AI assistant nên chuyển sang người thật?
D2 khuyến nghị thiết kế trigger theo rủi ro và trạng thái nghiệp vụ, thay vì dùng một confidence score duy nhất cho mọi tình huống.
- Người dùng yêu cầu gặp người thật. Đây là trigger trực tiếp; hệ thống không nên ép người dùng đi qua thêm nhiều vòng bot.
- Thiếu evidence hoặc nguồn đã lỗi thời. Nếu câu trả lời cần dữ liệu mà hệ thống không có nguồn đủ tin cậy, handoff an toàn hơn việc suy đoán.
- Hành động có hậu quả đáng kể. Những thao tác tạo cam kết, gửi nội dung ra ngoài, thay đổi dữ liệu quan trọng hoặc tạo side effect nên có approval hoặc handoff khi policy yêu cầu.
- Lặp lỗi hoặc không tiến triển. Nếu assistant đã thử nhưng vẫn quay lại cùng lỗi, cần chuyển state sang người thay vì tạo loop vô hạn.
- Vượt quyền hoặc policy boundary. AI không nên tự mở rộng quyền chỉ để hoàn thành yêu cầu. Khi thiếu quyền, route sang owner phù hợp.
- Context mơ hồ nhưng chi phí đoán sai cao. Hệ thống có thể hỏi lại trước; nếu vẫn không đủ điều kiện ra quyết định, chuyển người là một outcome hợp lệ.
Không có một ngưỡng confidence phần trăm phổ quát phù hợp cho mọi doanh nghiệp. Ngưỡng phải gắn với loại tác vụ, mức độ ảnh hưởng và khả năng khôi phục nếu quyết định sai.
Context transfer contract
Handoff thường thất bại khi nhân viên phải hỏi lại từ đầu. D2 dùng một context transfer contract tối thiểu gồm: correlation ID; intent và câu hỏi chưa giải quyết; reason code; tóm tắt những gì AI đã thử; evidence đã dùng; dữ liệu người dùng thực sự cần và được phép chuyển; action đã thực hiện hoặc chưa thực hiện; priority/queue; timestamp và trạng thái cuối đã xác nhận.
Không nên mặc định chuyển toàn bộ transcript hoặc mọi dữ liệu người dùng. Nguyên tắc an toàn hơn là chuyển tối thiểu context cần thiết cho mục đích xử lý, theo quyền truy cập của người nhận.
Queue, ownership và SLA nội bộ
Một handoff chỉ hoàn tất về mặt vận hành khi có nơi tiếp nhận. Queue có thể theo team, chủ đề, sản phẩm, vùng địa lý hoặc mức ưu tiên. Mỗi item cần state có thể theo dõi, ví dụ new → assigned → in_progress → resolved, và có đường reopened khi vấn đề quay lại.
SLA hoặc SLO nội bộ nên được định nghĩa theo năng lực thật của đội vận hành. Trang này không giả định một thời gian phản hồi cố định. Điều cần đo là item đã được assign chưa, ai đang sở hữu nó, quá thời hạn nội bộ chưa và escalation tiếp theo là gì.
Ngăn loop giữa AI và con người
Để tránh bot tạo lại cùng một handoff khi nhân viên chưa xử lý xong: dùng handoff ID ổn định; đánh dấu trạng thái human_owned; không tự trả quyền cho AI cho đến khi có resume condition; deduplicate notification/ticket side effect; dùng timeout có owner thay thế thay vì retry vô hạn; lưu outcome cuối để lần tương tác sau không lặp lịch sử cũ.
Approval và handoff không hoàn toàn giống nhau
Human approval là việc một người phê duyệt hoặc từ chối một action cụ thể rồi workflow tiếp tục. Human handoff rộng hơn: người thật tiếp quản xử lý. Một AI Agent có thể cần approval trước một tool call nhưng vẫn giữ ownership của workflow; ngược lại, cuộc hội thoại có thể handoff hoàn toàn sang support mà không có tool call nào.
Điểm chung là cả hai cần boundary rõ: action nào bị chặn, ai có quyền quyết định, trạng thái nào được ghi và workflow tiếp tục từ đâu sau quyết định của con người.
Logging, privacy và audit boundary
Log nên đủ để trả lời trigger nào xảy ra, ai nhận, lúc nào, state trước/sau và action nào đã được xác nhận. Không cần mặc định lưu vô thời hạn mọi nội dung nhạy cảm. Retention, quyền truy cập và dữ liệu nào được giữ phải theo policy của doanh nghiệp. D2 không coi việc “có log” là bằng chứng tuân thủ pháp lý; log chỉ là một thành phần giúp truy vết.
Nên đo human handoff như thế nào?
Các metric sau là định nghĩa vận hành, không phải số liệu hiệu quả D2 tuyên bố: tỷ lệ handoff theo reason code; thời gian từ trigger đến khi có owner; backlog chưa assign/quá SLO; tỷ lệ reopen hoặc bounce giữa queue; tỷ lệ context transfer thiếu trường bắt buộc; số handoff trùng do retry/idempotency; outcome sau xử lý nếu process có state kết thúc rõ.
Mục tiêu không phải làm tỷ lệ handoff bằng 0. Một hệ thống tốt phải tự xử lý đúng phần được phép và chuyển người đúng lúc khi boundary yêu cầu.
Checklist triển khai
Trước production, xác nhận trigger có reason code; context transfer có schema; queue có owner; side effect có idempotency; timeout có escalation path; resume condition rõ; audit event không chứa dữ liệu thừa; dashboard phân biệt bot-resolved, human-resolved và unresolved; và người vận hành có thể override khi cần.