Lãnh đạo kỹ thuật trong kỷ nguyên của các tác tử tự hành

Lãnh đạo các đội phần mềm luôn là về việc quản lý những người viết code. Bạn tuyển kỹ sư, bạn định hướng, bạn xem xét đầu ra. Quyền chủ động luôn nằm ở con người.

Điều đó đang thay đổi. Các tác tử AI giờ đây viết code, ra quyết định và thực hiện hành động một cách độc lập. Chúng không cần xin phép. Chúng không cần được chỉ cách giải quyết vấn đề — chúng tự tìm ra. Chúng không còn là công cụ nữa. Chúng là những người tham gia.

Lãnh đạo những người tham gia không phải con người là một kỹ năng khác về bản chất.

Vấn đề lòng tin đã khác

Khi bạn thuê một kỹ sư, bạn đánh giá khả năng phán đoán của họ qua phỏng vấn, đánh giá và hành vi quan sát được. Theo thời gian, bạn xây dựng một mô hình về khi nào nên tin họ và khi nào nên kiểm tra lại công việc của họ. Mô hình này được xây trên ngữ cảnh chung — bạn biết họ nghĩ thế nào, ưu tiên điều gì, hay mắc sai ở đâu.

Bạn không thể xây dựng mô hình này với một tác tử AI — ít nhất không theo cùng một cách. Hành vi của tác tử AI được quyết định bởi dữ liệu huấn luyện, prompt và công cụ của nó. Nó không có tính cách nhất quán. Nó không có giá trị. Nó không có loại thành tích mà con người tích lũy.

Lòng tin vào các tác tử AI phải được thiết kế, chứ không phải được khám phá.

Nghịch lý giám sát

Các tác tử tự hành tạo ra một nghịch lý: chúng càng tự chủ, càng cần nhiều giám sát.

Một quy trình AI đơn giản — phân loại tài liệu này, điều phối ticket kia — thì dễ giám sát. Bạn có thể lấy mẫu đầu ra, đo độ chính xác và hiệu chỉnh ngưỡng. Một tác tử tự hành khám phá, lập kế hoạch và thực thi trong nhiều phút hoặc nhiều giờ thì khó giám sát hơn nhiều, vì không gian hành động khả dĩ lớn hơn và các chế độ thất bại đa dạng hơn.

Điều này nghĩa là tăng tính tự chủ đòi hỏi tăng đầu tư vào khả năng quan sát, ranh giới và cơ chế dự phòng. Các tác tử tự chủ trong phạm vi ràng buộc của chúng. Các ràng buộc chính là nơi lãnh đạo diễn ra.

Điều gì thay đổi ở vai trò lãnh đạo

Lãnh đạo các tác tử tự hành thay đổi ý nghĩa của việc là một nhà lãnh đạo kỹ thuật theo năm cách cụ thể:

1. Từ người đánh giá thành người đặt ranh giới: Thay vì xem xét những gì tác tử tạo ra, bạn định nghĩa không gian mà nó hoạt động. Các ràng buộc trở nên quan trọng hơn đầu ra.

1. Từ người chỉ đạo thành người xử lý ngoại lệ: Thay vì bảo tác tử phải làm gì, bạn xử lý những trường hợp nó không thể giải quyết. Giá trị của bạn nằm ở các trường hợp ngoại lệ.

1. Từ người kiểm soát chất lượng thành người hiệu chỉnh lòng tin: Thay vì kiểm tra từng đầu ra, bạn đo lường khi nào tác tử đáng tin và khi nào không. Bạn quyết định nơi nào sự tự chủ an toàn và nơi nào cần giới hạn.

1. Từ người ứng phó sự cố thành người thiết kế hệ thống: Thay vì sửa những gì tác tử làm hỏng, bạn thiết kế hệ thống khiến việc hỏng hóc khó xảy ra hơn. Thiết kế ở thượng nguồn quan trọng hơn phản ứng ở hạ nguồn.

1. Từ người cố vấn thành hình mẫu: Thay vì dạy con người những gì bạn biết, bạn mã hóa khả năng phán đoán của mình vào các ranh giới và vòng phản hồi định hình hành vi của tác tử. Kinh nghiệm của bạn trở thành hạ tầng.

Những gì bạn không thể ủy thác

Có ba điều mà các tác tử tự hành không bao giờ nên kiểm soát nếu thiếu sự giám sát của con người:

1. Việc mở rộng quyền hạn của chính chúng: Không bao giờ được phép để một tác tử thay đổi ranh giới của chính nó.

1. Việc diễn giải ngữ cảnh mơ hồ: Khi ngữ cảnh không rõ ràng, tác tử nên dừng lại, chứ không phải đoán.

1. Quyết định rằng điều gì đó là một ngoại lệ: Tác tử có thể nhận diện một trường hợp ngoại lệ, nhưng con người nên quyết định phải làm gì với nó.

Đây không phải là những ràng buộc kỹ thuật. Chúng là những quyết định lãnh đạo về nơi quyền chủ động trú ngụ.

Câu hỏi thực sự

Câu hỏi không phải là liệu các tác tử có trở nên đủ tự chủ để thay thế các nhà lãnh đạo kỹ thuật hay không. Câu hỏi là liệu các nhà lãnh đạo kỹ thuật có phát triển được kỹ năng để lãnh đạo các hệ thống hành động độc lập — để đặt ranh giới bảo vệ tổ chức trong khi vẫn cho tác tử không gian để trở nên hữu ích.

Điều đó khó hơn lãnh đạo con người. Con người có bản năng về điều gì là phù hợp. Các tác tử chỉ có những ràng buộc mà bạn thiết kế.

Nếu một trong các tác tử AI của bạn bắt đầu hành xử theo những cách bạn không ngờ tới, liệu hệ thống của bạn có phát hiện ra trước khi nó gây tổn hại thực sự — và liệu bạn có biết cách ứng phó không?

Nghĩ rằng lập luận này phù hợp với sự kiện của bạn? Hãy kể cho tôi về khán phòng — lịch trình có chọn lọc.