Nên đòi hỏi gì trong một hợp đồng AI

Hầu hết các hợp đồng AI được viết cho một thế giới mà phần mềm không thể sai. Nhưng phần mềm có thể sai. Sai rất nhiều. Và sai một cách tự tin.

Đó chính là khoảng cách giữa hợp đồng bạn đang ký và rủi ro bạn thực sự gánh lấy. Hợp đồng phần mềm doanh nghiệp tiêu chuẩn bảo vệ bạn khỏi việc phần mềm của nhà cung cấp không làm được điều đã hứa. Hợp đồng AI phải bảo vệ bạn khỏi điều tệ hơn: phần mềm của nhà cung cấp làm đúng điều đã hứa, một cách tự tin, sai lầm, và gây hại cho khách hàng của bạn.

Các nhà cung cấp biết rõ điều này. Các mẫu hợp đồng được viết để giữ rủi ro ở phía bàn của bạn. Việc của bạn là đẩy nó trở lại.

Ba điều khoản quan trọng nhất

Hầu hết các hợp đồng AI có hai mươi trang nhiễu loạn — giới hạn trách nhiệm, bồi thường, xử lý dữ liệu, những điều khoản mẫu đọc giống hệt nhau ở mọi ngành. Thực sự quan trọng là ba điều khoản, và đó là ba điều khoản mà nhà cung cấp sẽ phản kháng gay gắt nhất.

Thứ nhất: một điều khoản về độ chính xác có ý nghĩa. SLA của nhà cung cấp sẽ hứa hẹn uptime. Uptime không phải là độ chính xác. Một hệ thống online 99,9% thời gian nhưng sai 15% thời gian không phải là hệ thống bạn muốn. Bạn cần một điều khoản định nghĩa “hoạt động đúng” nghĩa là gì cho trường hợp sử dụng của bạn, nêu rõ một phép đo, và gắn nó với thứ gì đó — một khoản tín dụng, một biện pháp khắc phục, một lối thoát. Nhà cung cấp sẽ nói độ chính xác không thể đảm bảo vì nó phụ thuộc vào dữ liệu và prompt của bạn. Điều đó đúng một phần, và chính vì vậy điều khoản cần định nghĩa đường cơ sở: dữ liệu nào, prompt nào, bộ kiểm thử nào, tỷ lệ chấp nhận được là bao nhiêu. Hãy làm cho nó đo lường được, nếu không thì nó không phải là điều khoản.

Thứ hai: một điều khoản về quyền dữ liệu bao trùm rủi ro thực sự. Phần hiển nhiên là dữ liệu của bạn — nhà cung cấp không được dùng nó để huấn luyện mô hình của họ, không được chia sẻ nó, không được giữ nó làm con tin. Đó giờ chỉ là điều kiện tối thiểu. Phần mà hầu hết mọi người bỏ sót là phía đầu ra: điều gì xảy ra khi dữ liệu khách hàng của bạn đi qua mô hình và câu trả lời của mô hình bị dùng để chống lại bạn? Bạn cần sự rõ ràng về việc ai sở hữu đầu ra, ai chịu trách nhiệm khi một đầu ra sai, và nghĩa vụ của nhà cung cấp khi mô hình của họ tạo ra thứ gì đó có hại. Điều khoản dữ liệu không chỉ về dữ liệu của bạn đi vào. Nó còn về các đầu ra đi ra.

Thứ ba: một điều khoản thoát thực sự có thể thực thi. Câu đáng sợ nhất trong mua sắm AI là “bạn có thể hủy bất cứ lúc nào”. Hủy không phải là rời đi. Rời đi nghĩa là bạn có thể mang theo dữ liệu, lịch sử đánh giá, prompt, nhật ký sử dụng và kiến thức đã học — ở định dạng dùng được, trong thời gian hợp lý, mà không phải trả tiền chuộc để xuất dữ liệu. Mô hình của nhà cung cấp sẽ thay đổi. Nhu cầu của bạn sẽ thay đổi. Điều khoản thoát chính là bảo hiểm để bạn không bao giờ bị kẹt với một hệ thống mà mình không thể rời bỏ.

Hợp đồng bảo vệ bạn là hợp đồng nêu rõ phép đo, sở hữu đầu ra, và cho phép bạn ra đi với tất cả. Bất cứ thứ gì kém hơn chỉ là một tờ biên nhận, không phải hợp đồng.

Ba điều khoản họ phản kháng gay gắt nhất

Điều khoản độ chính xác bị phản kháng vì nó là một yêu cầu mới trong mua sắm phần mềm — các nhà cung cấp không quen bị đo lường về tính đúng đắn, và họ biết phép đo đó sẽ phơi bày họ. Điều khoản về đầu ra dữ liệu bị phản kháng vì nó phân bổ trách nhiệm theo hướng các nhà cung cấp không thích: về phía họ. Và điều khoản thoát bị phản kháng vì mọi nhà cung cấp đều biết chi phí chuyển đổi là cách khóa chặt khách hàng mạnh nhất của họ, và một lối thoát dễ dàng sẽ phá hủy quyền định giá của họ.

Khi nhà cung cấp phản kháng, sự phản kháng ấy cho bạn biết điều gì đó. Nếu họ từ chối nêu rõ phép đo, hãy hỏi vì sao — một nhà cung cấp tự tin vào sản phẩm của mình lẽ ra phải hoan nghênh một đường cơ sở rõ ràng. Nếu họ từ chối trách nhiệm đầu ra, hãy hỏi họ sợ điều gì. Nếu họ từ chối điều khoản thoát, hãy hỏi họ đang bảo vệ điều gì. Sự phản kháng chính là thông tin. Hãy dùng nó.

Cuộc đàm phán thực tế

Bạn sẽ không đạt được mọi thứ. Điều khoản độ chính xác sẽ có các ngoại lệ cho việc cập nhật mô hình và mô hình bên thứ ba. Trách nhiệm đầu ra sẽ bị giới hạn ở mức nào đó. Điều khoản thoát sẽ có một mốc thời gian. Điều đó ổn — mục tiêu không phải là một hợp đồng hoàn hảo. Mà là một hợp đồng trong đó rủi ro được đặt lên bàn, được nêu tên và được phân bổ, thay vì âm thầm nằm ở phía bạn.

Cách để có được các điều khoản bạn cần: hãy làm cho chúng trở nên nhàm chán. Đội ngũ pháp lý của nhà cung cấp đã từng thấy các điều khoản bổ sung AI quyết liệt và có sẵn đối sách cho những điều khoản quyết liệt đó. Điều họ không có đối sách là sự cụ thể. Hãy đến với phép đo đã định nghĩa, đường cơ sở đã nêu tên, các danh mục dữ liệu đã liệt kê, mốc thời gian thoát đã xác định. Nhà cung cấp nào không đáp ứng được một bộ điều khoản cụ thể, hợp lý, đo lường được thì đang nói cho bạn biết điều gì đó.

Và hãy định giá cho nó. Điều khoản độ chính xác mà bạn không có được trong hợp đồng cơ bản thường sẵn có với một mức phí cao hơn — việc nhà cung cấp sẵn sàng đứng sau sản phẩm ở một mức giá nhất định là thông tin thực về việc sản phẩm tốt đến đâu. Bậc cao cấp đi kèm SLA thực sự đôi khi chính là cái giá trung thực của sản phẩm mà bạn thực sự cần.

Câu hỏi định hình toàn bộ quá trình xem xét

Trước khi gửi hợp đồng cho bộ phận pháp lý, hãy đặt câu hỏi nên định hình toàn bộ cuộc đàm phán: hệ thống này làm gì khi nó sai?

Nếu câu trả lời liên quan đến khách hàng, sự tuân thủ hoặc tiền bạc của bạn, hợp đồng phải bao trùm nó. Nếu câu trả lời là “không quan trọng lắm”, hợp đồng có thể nhẹ nhàng hơn. Chi phí của việc sai là con số duy nhất cho bạn biết phải đàm phán quyết liệt đến đâu, và đó là con số mà mẫu tiêu chuẩn bỏ qua.

Hợp đồng AI khác với mọi hợp đồng phần mềm bạn từng ký vì sản phẩm có thể thất bại mà không hề hỏng hóc. Nó có thể online, phản hồi nhanh, và hoàn toàn sai. Hợp đồng bảo vệ bạn là hợp đồng nêu rõ phép đo, sở hữu đầu ra, và cho phép bạn ra đi với tất cả. Có được ba điều đó, thì hai mươi trang điều khoản mẫu muốn viết gì cũng được.

Nghĩ rằng lập luận này phù hợp với sự kiện của bạn? Hãy kể cho tôi về khán phòng — lịch trình có chọn lọc.