Ba nhóm ứng dụng này khác hẳn phần còn lại của AI trong doanh nghiệp, vì đầu ra của chúng quyết định điều gì đó về một con người cụ thể: người này được phỏng vấn hay không, được vay hay không, phí bảo hiểm bao nhiêu.
Đó là lý do chúng nằm ở nhóm rủi ro cao — hệ thống có thể gây thiệt hại đáng kể đến quyền và lợi ích hợp pháp của tổ chức, cá nhân.
Nghĩa vụ đi kèm mức rủi ro cao
| Nghĩa vụ | Nội dung thực tế |
|---|---|
| Tự phân loại và nộp thông báo | Nhà cung cấp tự đánh giá, phân loại và nộp thông báo qua Cổng thông tin một cửa về AI, khai thông tin hệ thống, mục đích, dữ liệu đầu vào, biện pháp giảm thiểu rủi ro |
| Đánh giá tác động | Hệ thống rủi ro cao có yêu cầu đánh giá tác động theo quy định |
| Giám sát của con người | Con người phải giám sát được và can thiệp được vào các quyết định quan trọng — nguyên tắc nền của toàn bộ đạo luật |
| Trách nhiệm bồi thường | Bên triển khai chịu trách nhiệm bồi thường thiệt hại do hệ thống rủi ro cao gây ra, kể cả khi đã tuân thủ đầy đủ quy định |
| Dữ liệu cá nhân | Toàn bộ nghĩa vụ theo Luật Bảo vệ dữ liệu cá nhân, và hồ sơ ứng viên, hồ sơ tín dụng thường chứa dữ liệu thuộc nhóm nhạy cảm |
Vấn đề trung tâm: giải thích được vì sao từ chối
Đây là điểm khó nhất và cũng là điểm phân biệt các nhóm ứng dụng này với mọi ứng dụng AI khác.
Khi một người bị từ chối, họ có quyền hỏi vì sao. Với quy trình do con người thực hiện, câu trả lời tồn tại — người đánh giá có lý do. Với hệ thống học máy, câu trả lời thường là một phân bố xác suất trên hàng nghìn đặc trưng, không quy được về một lý do trình bày được.
Ba hệ quả:
- Không giải trình được thì không phản biện được. Người bị ảnh hưởng mất khả năng chỉ ra rằng hệ thống đã dựa trên thông tin sai về họ;
- Không giải trình được thì không phát hiện được thiên lệch. Hệ thống có thể đang loại một nhóm người vì lý do không hợp pháp mà không ai biết;
- Không giải trình được thì doanh nghiệp không tự bảo vệ được khi có khiếu nại.
Thiên lệch: cơ chế và cách phát hiện
Thiên lệch trong hệ thống AI hiếm khi đến từ việc ai đó cố ý. Nó đến từ dữ liệu huấn luyện phản ánh các quyết định trong quá khứ. Nếu trong quá khứ một nhóm ít được tuyển, hệ thống học từ dữ liệu đó sẽ tái tạo mẫu hình ấy — và trình bày nó dưới dạng một con số khách quan.
Điểm nguy hiểm: loại bỏ trường giới tính, độ tuổi khỏi dữ liệu không giải quyết được vấn đề. Mô hình có thể suy ra các đặc điểm đó từ những trường tưởng như trung tính — trường học, khoảng trống trong quá trình làm việc, địa chỉ, sở thích.
Cách phát hiện thực tế: đo tỷ lệ đầu ra theo nhóm. Không cần hiểu bên trong mô hình, chỉ cần thống kê tỷ lệ được chọn theo giới tính, độ tuổi, khu vực và so sánh. Chênh lệch lớn không tự động là vi phạm, nhưng là dấu hiệu cần rà.
Bảy việc bắt buộc trước khi triển khai
- Xác định rõ vai trò của hệ thống trong quy trình. Nó lọc sơ bộ, xếp hạng để tham khảo, hay ra quyết định cuối? Đây là quyết định thiết kế quan trọng nhất và nên nghiêng về vế đầu.
- Giữ con người ở khâu quyết định cuối, với đủ thông tin, đủ thời gian và đủ thẩm quyền để không đồng ý. Quyền ghi đè chỉ có trên giấy thì không tính.
- Thông báo cho người bị ảnh hưởng rằng có hệ thống tự động tham gia vào quy trình.
- Xây cơ chế khiếu nại và xem xét lại bởi con người, với đầu mối cụ thể và thời hạn trả lời.
- Đo tỷ lệ đầu ra theo nhóm định kỳ và lưu kết quả.
- Lưu nhật ký đầy đủ: đầu vào, đầu ra, phiên bản mô hình, người phê duyệt, thời điểm. Không có nhật ký thì không giải trình được bất cứ điều gì.
- Rà nghĩa vụ về dữ liệu cá nhân, đặc biệt khi hồ sơ chứa dữ liệu thuộc nhóm nhạy cảm và khi hệ thống đặt hạ tầng ngoài lãnh thổ.
Riêng với tuyển dụng
Ngoài các nghĩa vụ trên, cần lưu ý pháp luật lao động có quy định về chống phân biệt đối xử trong lao động. Một hệ thống sàng lọc tạo ra chênh lệch có hệ thống giữa các nhóm có thể chạm vào quy định này, độc lập với pháp luật về AI.
Ngoài ra, hồ sơ ứng viên chứa dữ liệu cá nhân của người chưa có quan hệ hợp đồng với doanh nghiệp — nên căn cứ pháp lý cho việc xử lý, thời hạn lưu trữ và việc xoá sau khi kết thúc tuyển dụng cần được xác định rõ, không mặc định giữ mãi trong kho hồ sơ.
Một nguyên tắc để cân nhắc
Với nhóm ứng dụng này, câu hỏi đúng không phải "hệ thống chính xác bao nhiêu phần trăm" mà là: "khi hệ thống sai với một người cụ thể, người đó có cách nào để được xem xét lại không?"
Một hệ thống chính xác 95% nghe rất tốt, nhưng nếu quy mô là mười nghìn hồ sơ thì 5% là năm trăm con người bị xử lý sai. Rủi ro ở nhóm ứng dụng này không tính bằng tỷ lệ trung bình mà tính bằng số người bị ảnh hưởng, và bằng việc họ có lối thoát hay không.
Hỏi đáp nhanh
Dùng AI sàng lọc hồ sơ tuyển dụng có thuộc nhóm rủi ro cao không?
Thường là có. Hệ thống sàng lọc tuyển dụng, chấm điểm tín dụng, đánh giá rủi ro bảo hiểm đều ra quyết định ảnh hưởng đáng kể tới quyền và lợi ích hợp pháp của cá nhân, nên thuộc nhóm rủi ro cao với đầy đủ nghĩa vụ tương ứng.
Bỏ trường giới tính, độ tuổi khỏi dữ liệu có tránh được thiên lệch không?
Không. Mô hình có thể suy ra các đặc điểm đó từ những trường tưởng như trung tính như trường học, khoảng trống trong quá trình làm việc, địa chỉ, sở thích. Cách phát hiện thực tế là đo tỷ lệ đầu ra theo nhóm và so sánh, chứ không phải xoá trường dữ liệu.
Vì sao khả năng giải thích lại quan trọng với nhóm ứng dụng này?
Ba lý do: không giải trình được thì người bị ảnh hưởng không phản biện được khi hệ thống dựa trên thông tin sai về họ; không phát hiện được thiên lệch; và doanh nghiệp không tự bảo vệ được khi có khiếu nại.
Giữ con người phê duyệt cuối là đủ chưa?
Là điều kiện cần nhưng phải có thực chất: người phê duyệt cần đủ thông tin, đủ thời gian và đủ thẩm quyền để không đồng ý. Quyền ghi đè chỉ tồn tại trên giấy, không ai được đào tạo để dùng và hệ thống không lưu vết đủ để xem lại, thì không đáp ứng yêu cầu về giám sát của con người.
Hồ sơ ứng viên không trúng tuyển có được giữ lại không?
Hồ sơ ứng viên chứa dữ liệu cá nhân của người chưa có quan hệ hợp đồng với doanh nghiệp, nên căn cứ pháp lý cho việc xử lý, thời hạn lưu trữ và việc xoá sau khi kết thúc tuyển dụng cần được xác định rõ. Giữ mãi trong kho hồ sơ mà không có căn cứ và thời hạn là rủi ro về dữ liệu cá nhân.
Lưu ý: Bài viết tổng hợp quy định đang có hiệu lực tại thời điểm đăng và chỉ mang tính tham khảo, không thay thế ý kiến pháp lý cho một vụ việc cụ thể. Văn bản pháp luật có thể được sửa đổi; vui lòng đối chiếu bản mới nhất hoặc trao đổi với luật sư trước khi quyết định.