Chi phí thực sự của một tính năng AI "miễn phí"

Tính năng AI đắt nhất mà bạn từng triển khai chính là tính năng được xây dựng miễn phí.

Tôi đã chứng kiến điều này xảy ra nhiều lần đến mức không đếm xuể. Một nhóm demo một mô hình, mô hình rất ấn tượng, ai đó nói "chúng ta có thể xong trước thứ Sáu," và một tuần sau đã có một tính năng AI mới trên production mà không có dòng ngân sách, không có người chủ, không có kế hoạch bảo trì. Bản demo thì miễn phí. Còn tính năng thì sẽ tốn cả một gia tài, và chẳng ai lập ngân sách cho nó.

Vấn đề không phải là mọi người đánh giá thấp AI. Mà là họ tính giá sai thứ. Họ tính giá của mô hình — các lệnh gọi API, sức mạnh tính toán, giấy phép. Nhưng mô hình gần như không bao giờ là phần đắt nhất.

Chi phí không xuất hiện trên hóa đơn

Đây là những gì một tính năng AI "miễn phí" thực sự tiêu tốn, từng khoản một.

Dữ liệu. Mô hình không tự nhiên hiểu được doanh nghiệp của bạn. Nó cần tài liệu của bạn, dữ liệu sản phẩm, các ví dụ lịch sử, các trường hợp ngoại lệ. Ai đó phải chọn lọc, làm sạch, gán nhãn và duy trì tính cập nhật cho chúng. Đó không phải là một dự án. Đó là một chi phí liên tục, bắt đầu trước khi tính năng ra mắt và không bao giờ kết thúc.

Đánh giá. Làm sao bạn biết tính năng đã đủ tốt? Bạn cần một bộ dữ liệu kiểm thử, một đường cơ sở (baseline), một quy trình kiểm tra chất lượng khi mô hình thay đổi bên dưới bạn. Các mô hình được cập nhật, và mỗi lần cập nhật lại thay đổi hành vi. Không có lớp đánh giá, bạn không có tiêu chuẩn chất lượng. Bạn chỉ có một niềm hy vọng.

Vận hành. Tính năng cần giám sát, cơ chế leo thang (escalation) và một lộ trình con người rà soát cho những đầu ra quan trọng. Ai đó phải theo dõi tỷ lệ lỗi, bắt kịp câu trả lời sai trước khi khách hàng phát hiện, và quyết định khi nào mô hình cần được huấn luyện lại hoặc thay thế. Đây chính là lớp biến một bản demo thành một dịch vụ.

Huấn luyện lại và bảo trì. Mô hình bị trôi (drift). Dữ liệu thay đổi. Thế giới vận động. Một tính năng chính xác vào tháng Ba sẽ trở nên tầm thường vào tháng Chín, và phải có ai đó nhận ra và sửa nó. Đó không phải chi phí một lần. Đó là khoản đăng ký mà bạn chưa từng đăng ký.

Và khoản mục mà ai cũng quên: nhân công rà soát. Mọi đầu ra AI chạm tới khách hàng, hợp đồng hay ranh giới tuân thủ đều cần một con người kiểm tra. Nhân công đó là thật, diễn ra liên tục, và tăng theo khối lượng. Tính năng miễn phí đang lặng lẽ cộng thêm khối lượng thời gian rà soát tương đương một nhân sự vào tuần của ai đó.

Mô hình là phần rẻ nhất của một tính năng AI. Mọi thứ xung quanh nó — dữ liệu, đánh giá, vận hành, rà soát — mới là nơi tiền thực sự đổ vào.

Vì sao xảy ra việc đánh giá thấp chi phí

Việc tính giá sai không phải là ngẫu nhiên. Nó mang tính cấu trúc.

Bản demo cho thấy mô hình làm những điều ấn tượng, và phần ấn tượng đó chính là phần hiện tại thực sự rẻ. Các phần đắt đỏ thì vô hình vào lúc demo. Không ai demo đường ống dữ liệu. Không ai demo bộ đánh giá. Không ai demo lộ trình leo thang. Vì vậy quyết định được đưa ra dựa trên chi phí nhìn thấy được — các lệnh gọi API — còn các chi phí vô hình sẽ đến sau, như những bất ngờ, tức là chúng đến dưới dạng khẩn cấp.

Lý do cấu trúc còn lại: các tính năng AI được xây dựng như những thí nghiệm rồi được đưa lên production mà không qua bất kỳ nghi thức nào. Thí nghiệm chẳng tốn gì vì nó bỏ qua mọi thứ — không hợp đồng dữ liệu, không đánh giá, không vận hành, không rà soát. Rồi nó hoạt động, ai cũng thích, và nó ở lại. Việc thăng cấp không bao giờ kích hoạt một đợt rà soát ngân sách, nên tính năng mãi mãi sống trên ngân sách của thí nghiệm, vốn bằng không.

Khung tính giá giúp khắc phục vấn đề

Hãy tính giá tính năng như một dịch vụ, chứ không phải một dự án. Dự án thì có điểm kết thúc. Dịch vụ thì chạy mãi mãi.

Chi phí dịch vụ có bốn khoản, và tất cả đều lặp lại định kỳ: bảo trì dữ liệu, vì dữ liệu nguồn thay đổi; đánh giá, vì mô hình thay đổi; vận hành, vì production không bao giờ ngủ; nhân công rà soát, vì đầu ra quan trọng. Cộng bốn khoản lại, nhân với vòng đời của tính năng, rồi so sánh với phương án thay thế — tự làm việc đó mà không cần AI, hoặc mua một sản phẩm đã bao gồm phần bảo trì.

Khi bạn tính giá theo cách đó, các quyết định trở nên sắc bén hơn. Tính năng trông có vẻ miễn phí giờ đã có giá thật, và bỗng nhiên việc so sánh với giá của nhà cung cấp trở thành so sánh giữa những con số thật, thay vì một thứ miễn phí đối đầu một thứ phải trả tiền. Giá của nhà cung cấp bắt đầu có vẻ hợp lý, bởi phần lớn giá đó chính là khoản bảo trì mà bạn sắp sửa đánh giá thấp.

Câu hỏi cần đặt ra trước bản demo

Trước khi để bản demo ấn tượng bắt đầu đếm ngược, hãy hỏi một câu: ai trả tiền cho việc bảo trì?

Không phải ai xây dựng nó. Mà là ai bảo trì nó — dữ liệu, đánh giá, vận hành, rà soát. Nếu câu trả lời là "chúng ta sẽ tìm cách sau," thì bạn vừa xác định được chi phí thực sự của tính năng, và nó sẽ được trả bằng việc chữa cháy. Nếu câu trả lời là một cái tên và một dòng ngân sách, bạn mới có cơ hội có được một tính năng thực sự "miễn phí" — nghĩa là nó tốn đúng những gì bạn đã lên kế hoạch, và đó là loại miễn phí duy nhất đáng kể.

Tính năng AI miễn phí là một huyền thoại. Mô hình rẻ là có thật, và nó chính là cái bẫy. Chi phí luôn nằm ở lớp xung quanh mô hình, và lớp xung quanh mô hình chính là phần mà bản demo không bao giờ cho bạn thấy.

Hãy tính giá dịch vụ, chỉ định người chủ, và lập ngân sách bảo trì trước khi xây dựng tính năng. Bản demo vẫn sẽ gây ấn tượng với bạn. Chỉ là nó sẽ không còn đánh lừa bạn nữa.

Nghĩ rằng lập luận này phù hợp với sự kiện của bạn? Hãy kể cho tôi về khán phòng — lịch trình có chọn lọc.