Người lái xe chuyển tuyến đang bị khóa tài khoản Uber của họ

Uber có thể háo hức nắm lấy công nghệ tiên tiến trong hành trình thống trị con đường, nhưng một sự cố gần đây liên quan đến một tài xế chuyển giới và tính năng bảo mật nhận dạng khuôn mặt của ứng dụng chia sẻ xe đã cho thấy một trong nhiều cạm bẫy của việc dựa vào các thuật toán máy tính. Janey Webb, một tài xế Uber chuyển tuyến ở Iowa, đã thấy mình bị khóa ứng dụng vào tháng trước khi tính năng này không nhận ra cô ấy, khiến cô ấy bỏ lỡ những ngày làm việc và thu nhập, CNBC báo cáo .



Hệ thống nhận dạng khuôn mặt của Uber, Kiểm tra ID thời gian thực , được triển khai vào tháng 9 năm 2016 và yêu cầu tài xế gửi ảnh tự chụp không liên tục để xác minh danh tính của họ. Sử dụng Dịch vụ nhận thức của Microsoft, tính năng an toàn sẽ so sánh ảnh tự chụp với ảnh tài xế mà Uber lưu trong hồ sơ (được cung cấp tại thời điểm đăng ký tài xế và quy trình xác minh ban đầu với ứng dụng) và tạm thời đình chỉ tài khoản của tài xế nếu ảnh không khớp .

Đó có vẻ là một tính năng an toàn tốt, trừ khi, như trong trường hợp của Webb, bạn đang chuyển đổi và đang trong quá trình chuyển đổi. CNBC báo cáo rằng Webb bắt đầu làm việc cho Uber vào tháng 10 năm 2017, cùng thời điểm cô bắt đầu chuyển đổi. Những thay đổi về ngoại hình của cô ấy cuối cùng đã làm dấy lên một lá cờ đỏ trong thuật toán của Kiểm tra ID theo thời gian thực.



Webb nói với CNBC rằng cô đã thực hiện các bước để ghi lại quá trình chuyển đổi của mình trong ứng dụng một cách siêng năng để tránh các vấn đề với tính năng bảo mật và cập nhật cho các hành khách tiềm năng. Nhưng điều này vẫn chưa đủ. Ngay trước ngày thứ tư nổi tiếng về mật độ giao thông vào cuối tuần tháng 7, tài khoản của Webb đã bị đóng băng và cô ấy được nhắc lái xe hai giờ đến trung tâm hỗ trợ trực tiếp duy nhất của Uber ở Iowa để giải quyết vấn đề. Cô ấy được cho là đã nói rằng vấn đề có thể phát sinh một lần nữa.



Webb nói với CNBC: “Không thể mong đợi một người chuyển giới cập nhật giấy phép của họ ba tháng một lần chỉ để tránh bị vô hiệu hóa. Uber chưa trả lời yêu cầu bình luận của họ.

Tuy nhiên, ngoài Uber, vấn đề của Webb với Kiểm tra ID theo thời gian thực chạm đến những lo ngại ngày càng tăng về tương lai của công nghệ nhận dạng khuôn mặt và các thuật toán máy tính nói chung, nói chung, mà nói chung không ảnh hưởng đến các cộng đồng bị thiệt thòi. Google hợp tác với GLAAD để giúp xây dựng AI bao gồm LGBTQ sau khi phát hiện ra rằng các cụm từ vô thưởng vô phạt như Tôi đồng tính tự động được đăng ký là tiêu cực khi người dùng đăng lên các nền tảng truyền thông xã hội như Twitter và Facebook.

Năm ngoái, tranh cãi nổ ra khi người dùng YouTube chuyển giới phát hiện ra rằng các nhà nghiên cứu đang làm việc trên công nghệ nhận dạng khuôn mặt đã sử dụng video của họ để cung cấp dữ liệu cho AI, giúp dạy nó nhận dạng khuôn mặt của những người đang trải qua quá trình chuyển đổi y tế. Việc này được thực hiện mà người dùng YouTube không biết hoặc không đồng ý.



Nhiều người trong các cộng đồng bị thiệt thòi vẫn nghi ngờ về AI và công nghệ nhận dạng khuôn mặt nói chung. Vào tháng 9 năm ngoái, một báo cáo của Đại học Stanford tuyên bố rằng công nghệ nhận dạng khuôn mặt có thể xác định ai đó là LGBTQ + đã gây ra tranh cãi, cả hai đều bị cáo buộc phát hiện thiếu sót trong báo cáo và quan điểm rằng công nghệ này có thể được sử dụng cho những người LGBTQ +.

Các học giả như Sherry Turkle, giáo sư tại Viện Công nghệ Massachusetts, cho biết trong một phỏng vấn với NBC OUT rằng những người kỳ lạ sẽ đúng khi đáp ứng công nghệ nhận dạng khuôn mặt như vậy với sự hoài nghi. Thông tin này có thể được sử dụng để giúp các chính phủ xây dựng đăng ký của những người LGBTQ +, một động thái một vài quốc gia đang thực thi.

'Trước hết, ai sở hữu công nghệ này, và ai là người có kết quả?' Turkle nói. 'Vấn đề bây giờ là' công nghệ 'là một cụm từ cửa miệng thực sự có nghĩa là' hàng hóa. ' Điều đó có nghĩa là, công nghệ của bạn có thể biết được giới tính của tôi khi nhìn vào khuôn mặt của tôi, và bạn có thể mua và bán thông tin này với mục đích kiểm soát xã hội. '

Cuộc tranh luận đạo đức về công nghệ này có thể sẽ tiếp tục nóng lên khi các tính năng như Kiểm tra ID theo thời gian thực trở nên phổ biến. Việc tạm ngưng tài khoản của Webb có ảnh hưởng lớn đến thu nhập của cô ấy và cô ấy sẽ không phải là phụ nữ chuyển giới cuối cùng có trải nghiệm như vậy. AI đang phát triển với tốc độ nhanh chóng, việc xây dựng dữ liệu tích lũy như hiện nay, điều này sẽ chỉ trở nên khó khăn hơn trong việc quay trở lại và thay đổi theo thời gian. Nhưng ở cả hai bên của sự thất bại, dường như có sự đồng thuận về một điều: Hậu quả đối với những người bị gạt ra ngoài lề phải là trung tâm.