NIST đã phát hiện ra 2 thuật toán gán sai giới tính dành cho phụ nữ da màu. Điểm đáng lo ngại là nó xác định sai người lớn tuổi nhiều gấp 10 lần so với người trung niên.

Các hệ thống do Mỹ phát triển để nhận diện khuôn mặt có tỷ lệ lỗi cao hơn khi nhận diện những nhóm người bản địa châu Mỹ, người Mỹ gốc Phi và người châu Á, trong khi tỷ lệ nhận diện nhầm cao nhất là đối với người da đỏ.

Tuy nhiên, một số thuật toán được phát triển tại châu Á cho ra kết quả chính xác như nhau khi nhận diện những khuôn mặt người châu Á và người gốc châu Âu. Do đó, các nhà nghiên cứu gợi ý những sai lệch này có thể được hiệu chỉnh.

Nghiên cứu trên được công bố trong bối cảnh hệ thống nhận diện khuôn mặt được triển khai rộng rãi. Nhiều người xem công nghệ này như là công cụ quan trọng để truy bắt tội phạm cũng như theo dõi những kẻ khủng bố. Trong khi đó, các công ty công nghệ xem nó là “chìa khóa” để giúp xác định người trong ảnh chụp hoặc thay cho mật khẩu để mở khóa điện thoại thông minh.

Tuy nhiên, giới chuyên gia lo ngại rằng, hệ thống tiên tiến này có nguy cơ nhận diện nhầm dẫn đến bắt giam người vô tội và cơ sở dữ liệu của hệ thống có thể bị truy cập trái phép hoặc bị sử dụng sai mục đích.

Hiện các thành phố của Mỹ như San Francisco, Oakland và Berkeley thuộc tiểu bang California hay Somerville và Brookline thuộc tiểu bang Massachusetts đã cấm chính quyền sử dụng công nghệ này.