Quốc hội Mỹ bức xúc vì AI của Amazon nhận diện 28 nghị sỹ là tội phạm truy nã_ket qua ti so bong da

TheốchộiMỹbứcxúcvìAIcủaAmazonnhậndiệnnghịsỹlàtộiphạmtruynãket qua ti so bong dao Gizmodo, phần mềm nhận diện khuôn mặt gây tranh cãi của Amazon có tên Rekognition đã xác định nhầm 28 nghị sỹ thuộc Quốc hội Mỹ là những kẻ phạm tội. Sai lầm của Rekognition chỉ bị phát hiện khi Liên đoàn tự do dân sự Mỹ ở Bắc California (ACLU) sử dụng AI này để thử quét khuôn mặt của 535 nghị sỹ quốc hội Mỹ và đối chiếu với bộ dữ liệu 25 ngàn bức ảnh chụp phạm nhân công khai.

Rekognition đã nhận diện 28 nghị sỹ Quốc hội Mỹ là phạm nhân truy nã. Có khoảng 11 trong số các nghị sỹ Quốc hội bị xác định sai là người da màu, một sự khác biệt đáng báo động. Các thử nghiệm cho thấy, khả năng nhận diện khuôn mặt của AI thường kém chính xác hơn đối với những người da màu. Tính tổng thể Quốc hội Mỹ, tỷ lệ lỗi chỉ là 5% nhưng với các nghị sỹ là người da màu, tỷ lệ lỗi lên tới 39%.

Trong số những người bị xác định nhầm là phạm nhân có 6 người là nghị sỹ của nhóm Congressional Black Caucus (một tổ chức chính trị do các nghị sỹ là người Mỹ gốc Phi trong Quốc hội Mỹ lập nên) đã gửi thư tới CEO Amazon Jeff Bezos vào hôm thứ Sáu (27/7) sau khi ACLU phát hành các tài liệu nội bộ chỉ ra sai lầm của AI Rekognition.

Luis Gutiérrez và Mark DeSaulnier, hai trong số các nghị sỹ Quốc hội Mỹ gửi thư cho Jeff Bezos yêu cầu tạm dừng sử dụng Rekognition.

Bức thư có đoạn ghi: "Công nghệ nhận diện khuôn mặt ngày càng chính xác, dễ sử dụng và tiết kiệm chi phí hơn. Chúng tôi hiểu rằng, công nghệ sẽ giúp việc thực thi pháp luật trở nên thuận lợi và dễ dàng hơn. Tuy nhiên công nghệ này luôn đi kèm với rủi ro, bao gồm cả việc xâm phạm quyền riêng tư, thiên vị, phân biệt chủng tộc và giới tính".

Về phần mình, Amazon thừa nhận công nghệ này vẫn chưa thực sự hoàn hảo và còn nảy sinh một số lỗi lập trình. Hơn nữa việc AI phải nhận diện hàng trăm khuôn mặt không có trong dữ liệu hệ thống có thể làm nảy sinh những sai lầm trong việc nhận diện và đối chiếu. Tuy nhiên Amazon cũng cam kết sẽ tiếp tục cải thiện AI sao cho đạt ngưỡng chính xác tối đa lên tới 95%.

Amazon gần đây liên tục khuyến khích các cơ quan thực thi pháp luật thí điểm sử dụng AI Rekognition để phục vụ cho điều tra. Tuy nhiên theo công bố của ACLU,  nếu AI vẫn còn tình trạng xác định nhầm người da màu như hiện nay thì sẽ gây ra những sai lầm chết người.

AI Rekognition bắt đầu được sử dụng từ hồi tháng 5/2018 tại sở cảnh sát Orlando. Chi phí sử dụng cho mỗi lần phát hiện chỉ khoảng 12 USD (279 ngàn đồng).

Vụ việc trên là bằng chứng rõ ràng nhất cho những hạn chế của AI trong việc tham gia vào các hoạt động đời sống, đặc biệt là phát hiện tội phạm và hỗ trợ cảnh sát.