AI của bạn sẽ hỏng. Người vận hành sẽ không biết cách chạy khi không có nó.

---

Hệ thống sập. Không phải trôi dạt dần hay suy giảm hiệu năng từ từ — mà là một sự cố thực sự. Việc triển khai mô hình thất bại. Điểm cuối suy luận không thể truy cập. Đường ống dữ liệu thượng nguồn bị hỏng. Lần đầu tiên trong nhiều tháng, người vận hành phải chạy luồng công việc mà không có sự trợ giúp của AI.

Họ đứng hình. Không phải vì kém cỏi, mà vì họ không thể nhớ cách làm.

Đây là sự phụ thuộc ẩn của các luồng công việc tăng cường AI. Hệ thống không chỉ tăng tốc các quy trình hiện có. Nó định hình lại chúng. Và khi hệ thống biến mất, quy trình gốc không còn nguyên vẹn. Bối cảnh, trí nhớ cơ bắp, bản năng xử lý sự cố mà người vận hành từng có cho luồng thủ công đã suy giảm vì không dùng đến.

Sự mai một kỹ năng diễn ra lặng lẽ

Mọi tổ chức triển khai AI đều trải qua sự mai một kỹ năng. Người vận hành từng tự đưa quyết định giờ chỉ đánh giá và xác nhận. Nhà phân tích từng tự xây dựng phân loại từ dữ liệu thô giờ chỉ xác nhận hoặc sửa các gợi ý tự động. Người ra quyết định từng cân nhắc các tín hiệu cạnh tranh giờ chỉ đánh giá liệu khuyến nghị của hệ thống có hợp lý không.

Mỗi thứ trong số này là một kỹ năng khác nhau. Đánh giá không giống với tạo ra. Xác nhận không giống với phân tích. Chấp nhận không giống với quyết định. Qua nhiều tháng vận hành ở chế độ tăng cường AI, các năng lực gốc mai một mà không ai nhận ra, vì hệ thống chưa từng hỏng.

Khi hệ thống thực sự hỏng, khoảng trống lộ ra ngay lập tức. Người vận hành thiếu sự luyện tập gần đây cần thiết để tạo đầu ra với tốc độ. Họ thiếu các mô hình tư duy được xây qua việc tiếp xúc lặp lại với các trường hợp biên. Họ thiếu tự tin để quyết định mà không có lưới an toàn thuật toán.

Các tổ chức trải qua mô hình này nhận ra nó qua ba triệu chứng:

Tê liệt quyết định. Người vận hành dừng lại và chờ chỉ đạo thay vì vận dụng phán đoán. Họ được huấn luyện để xác nhận, không phải để khởi tạo. Không có đầu ra để xác nhận, họ chẳng biết bắt đầu từ đâu.

Sốc về khối lượng. Quy trình thủ công từng xử lý mười ca mỗi giờ giờ phải xử lý một trăm. Ngay cả khi người vận hành giữ được kỹ năng, họ vẫn thiếu hạ tầng quy trình — mẫu biểu, bảng tra cứu, phím tắt — mà AI đã thay thế.

Mất trí nhớ quy trình. Tài liệu luồng công việc gốc đã lỗi thời. Các đường leo thang mặc định AI luôn hiện diện. Kế hoạch dự phòng thủ công chưa từng được diễn tập. Người vận hành không chỉ thiếu kỹ năng, họ thiếu cả chính quy trình.

Phép thử cho luồng công việc tăng cường AI không phải là nó chạy tốt thế nào khi hệ thống sẵn sàng, mà là tổ chức có thể sống sót qua vài giờ, vài ngày, hay vài tuần khi hệ thống không hoạt động hay không.

Bài toán "black start" cho hệ thống AI

Ngành điện có một khái niệm gọi là khả năng "black start" — khả năng khởi động lại một lưới điện đã tối đen hoàn toàn mà không lấy điện từ lưới khác. Đó là năng lực được thiết kế, đòi hỏi đào tạo, trang thiết bị và diễn tập thường xuyên. Không có nó, sự cố mất điện không thể phục hồi.

Hoạt động tăng cường AI cần phiên bản "black start" của riêng chúng. Không phải chuyển đổi dự phòng tự động, mà là thủ công — khả năng để người vận hành chạy luồng công việc độc lập, ở thông lượng giảm, dùng các quy trình dự phòng đã được ghi chép, diễn tập và duy trì. Đây không phải lập kế hoạch thảm họa, mà là tính liên tục trong vận hành.

Hầu hết các tổ chức bỏ qua điều này. Kế hoạch phục hồi là "chờ hệ thống quay lại". Nhưng hệ thống không phải lúc nào cũng quay lại nhanh. Trôi dạt mô hình sau một lần tái huấn luyện thất bại có thể mất nhiều ngày để chẩn đoán. Hỏng đường ống dữ liệu có thể mất nhiều tuần để sửa. Việc ngừng hỗ trợ API bên thứ ba có thể buộc tái triển khai kéo dài nhiều tháng. Trong lúc đó, vận hành vẫn phải tiếp tục.

Thiết kế cho khả năng vận hành, không chỉ tính sẵn sàng

Khả năng vận hành nghĩa là hệ thống có thể được con người vận hành trong điều kiện suy giảm. Điều đó đòi hỏi:

Duy trì quy trình thủ công. Luồng dự phòng đã ghi chép phải được kiểm tra ít nhất thường xuyên như luồng tự động. Nếu người vận hành không thể chứng minh họ có thể chạy quy trình thủ công trong thời gian yêu cầu, thì phương án dự phòng đó không tồn tại.

Luân chuyển vai trò người vận hành. Người vận hành chỉ xác nhận sẽ không bao giờ giữ được kỹ năng tạo ra. Luân chuyển thường xuyên — tuần thủ công hoặc các đợt luyện tập theo lịch — giữ cho các đường tư duy sống động.

Hạ dần một cách nhẹ nhàng. Khi hệ thống bắt đầu hỏng, quá trình chuyển sang vận hành thủ công nên diễn ra theo từng giai đoạn, không đột ngột. Hệ thống suy giảm từng bước cho người vận hành thời gian thích nghi. Hệ thống sụp đổ không báo trước chẳng để lại nền tảng nào.

Khả năng phục hồi của hoạt động tăng cường AI được quyết định bởi điều xảy ra trong những khoảng trống, không phải trong vận hành bình thường. Những khoảng trống sẽ đến. Câu hỏi là người vận hành lấp đầy chúng có biết phải làm gì không.

Nếu hệ thống AI của bạn ngừng hoạt động một tuần, đội của bạn sẽ chậm hơn, hay sẽ hoàn toàn không thể vận hành?

Nghĩ rằng lập luận này phù hợp với sự kiện của bạn? Hãy kể cho tôi về khán phòng — lịch trình có chọn lọc.