Một tháng, 500.000 khuôn mặt được quét nhận dạng : Trung Quốc đã sử dụng trí tuệ nhân tạo để lập hồ sơ sắc tộc như thế nào.
Paul Mozur, VNTB, 18/05/2019
Chính phủ Trung Quốc đã bị dư luận quốc tế rộng rãi lên án vì đã đàn áp khốc liệt những người Hồi giáo thiểu số ở khu vực miền tây Trung Quốc, bao gồm cả việc giam giữ khoảng 1 triệu người Hồi giáo trong các trại tập trung.
SenseTime là một trong những công ty trí tuệ nhân tạo Trung Quốc đang phát triển công nghệ nhận dạng khuôn mặt. Ảnh Gilles Sabrié - Thời báo New York
Giờ đây, các tài liệu và các cuộc phỏng vấn cho thấy rằng các nhà chức trách Trung Quốc cũng đang sử dụng một hệ thống rộng lớn, bí mật của công nghệ nhận dạng khuôn mặt tiên tiến để theo dõi và kiểm soát người Duy Ngô Nhĩ, một cộng đồng sắc tộc thiểu số khá lớn theo đạo Hồi. Đây là ví dụ đầu tiên được biết đến của việc một chính quyền cố tình sử dụng trí tuệ nhân tạo để lập hồ sơ chủng tộc, các chuyên gia cho biết như vậy.
Công nghệ nhận dạng khuôn mặt, được tích hợp vào các mạng lưới camera giám sát được mở rộng nhanh chóng, chỉ nhắm tới riêng người Duy Ngô Nhĩ dựa trên ngoại hình của họ và lưu giữ các hồ sơ đi lại của họ để tìm kiếm và xem xét. Thực tiễn này đã khiến cho Trung Quốc trở thành quốc gia đi đầu trong việc áp dụng công nghệ của thế hệ tiếp theo để theo dõi người dân, có khả năng mở ra một kỷ nguyên mới của tệ phân biệt chủng tộc tự động hóa.
Công nghệ và công dụng nhằm lưu giữ các hồ sơ của cộng đồng 11 triệu người Duy Ngô Nhĩ ở Trung Quốc được mô tả bởi 5 người có những hiểu biết trực tiếp về các hệ thống này, 5 người này yêu cầu được giấu tên vì họ sợ bị trả thù. Thời báo New York cũng đã xem xét các cơ sở dữ liệu được cảnh sát sử dụng, các tài liệu về việc mua sắm của chính quyền và các tài liệu quảng cáo được phân phối bởi các công ty trí tuệ nhân tạo đã kiến tạo các hệ thống này.
Chính quyền Trung Quốc đã duy trì một mạng lưới giám sát rộng lớn, bao gồm cả việc truy tìm DNA của nhiều người, ở Tân Cương - khu vực miền tây Trung Quốc, nơi nhiều người Duy Ngô Nhĩ gọi là quê hương. Nhưng quy mô của các hệ thống mới chưa từng được biết đến, đã mở rộng giám sát sang nhiều khu vực khác của quốc gia này.
Người mua hàng xếp hàng để kiểm tra nhận dạng bên ngoài Kashgar Bazaar mùa thu năm ngoái. Các thành viên của nhóm thiểu số người Duy Ngô Nhĩ theo đạo Hồi đã chịu sự giám sát và đàn áp của Trung Quốc trong nhiều năm. Ảnh Paul Mozur
Cảnh sát Trung Quốc hiện đang sử dụng công nghệ nhận dạng khuôn mặt để nhắm vào người Duy Ngô Nhĩ hiện đang sinh sống tại các thành phố giàu có thuộc miền đông Trung Quốc như Hàng Châu và Ôn Châu và trên khắp tỉnh duyên hải Phúc Kiến, có 2 người (trong số 5 người được đề cập trên đây) đã cho biết như vậy. Cơ quan thực thi pháp luật của thành phố Tam môn hiệp (Sanmenxia = 三 门 峡) , miền trung Trung Quốc, dọc theo sông Hoàng Hà, trong năm nay (2019), đã vận hành một hệ thống tới 500.000 lần trong một tháng trời để sàng lọc xem ai là người Duy Ngô Nhĩ .
Các tài liệu của cảnh sát cho thấy nhu cầu đối với các khả năng như vậy đang lan rộng. Bắt đầu vào năm 2018, các tài liệu mua sắm cho biết gần hai chục sở cảnh sát của 16 tỉnh và khu vực khác nhau trên khắp Trung Quốc đã tìm kiếm loại công nghệ như vậy. Chẳng hạn, hồi năm ngoái, cơ quan thực thi pháp luật của tỉnh Thiểm Tây thuộc miền trung Trung Quốc, đã nhắm tới việc trang bị một hệ thống camera thông minh mà "sẽ hỗ trợ việc nhận dạng khuôn mặt để xác định các đặc điểm chủng tộc của người Duy Ngô Nhĩ và người không thuộc sắc dân Duy Ngô Nhĩ.
Một số sở cảnh sát và các công ty công nghệ mô tả hoạt động thực tiễn này là "nhận dạng thiểu số", mặc dù có 3 người (trong số 5 người được đề cập trên đây) nói rằng cụm từ đó là một uyển ngữ để ám chỉ một công cụ được sử dụng để tìm cách xác định nhân dạng của riêng những người Duy Ngô Nhĩ. Người Duy Ngô Nhĩ thường trông khác biệt với cộng đồng người Hán của Trung Quốc, người Duy Ngô Nhĩ trông giống với người Trung Á hơn. Sự khác biệt như vậy giúp cho phần mềm dễ dàng hơn trong việc phát hiện, định dạng người Duy Ngô Nhĩ.
Trong nhiều thập kỷ, các quốc gia dân chủ đã có một sự gần như độc quyền về công nghệ tiên tiến. Ngày nay, một thế hệ các công ty khởi nghiệp mới phục vụ cho nhu cầu độc đoán, toàn trị của Bắc Kinh đang bắt đầu thành lập dựa trên công nghệ mới nổi bật như trí tuệ nhân tạo. Các công cụ tương tự có thể tự động hóa đặc điểm nhân dạng dựa trên màu da và sắc tộc các vùng khác.
Clare Garvie, cộng tác viên của Trung tâm bảo mật và công nghệ tại Georgetown Law cho biết "Hãy nhìn nhận việc ứng dụng rủi ro nhất của công nghệ này, có một khả năng lớn là sẽ có một người nào đó sẽ thử dùng nó. Nếu quý vị tạo ra một công nghệ mà có thể phân loại con người theo các đặc điểm sắc tộc, thì sẽ có người sử dụng nó để đàn áp sắc tộc đó".
Từ quan điểm công nghệ, việc sử dụng thuật toán để định dạng một con người dựa trên chủng tộc hoặc sắc tộc đã trở nên tương đối dễ dàng. Các công ty như IBM đã quảng cáo các phần mềm có thể phân loại con người thành các nhóm lớn.
Ảnh chụp màn hình từ trang web CloudWalk chi tiết có thể sử dụng cho công nghệ nhận dạng khuôn mặt của nó. Một trong số đó : công nhận các nhóm người nhạy cảm trên mạng xã hội.
Bản dịch tài liệu tiếp thị cho công nghệ nhận dạng khuôn mặt của CloudWalk - Nguồn : The New York Times
Nhưng Trung Quốc đã phá vỡ nền tảng mới bằng cách xác định một nhóm sắc tộc phục vụ cho các mục đích thực thi pháp luật. Một công ty mới khởi nghiệp Trung Quốc, Công ty CloudWalk, đã phác thảo một kinh nghiệm mẫu trong việc tiếp thị các hệ thống giám sát của riêng mình. Công ty này cho biết rằng công nghệ này có thể nhận ra "các nhóm người nhạy cảm".
Trên trang web của mình, công ty này cho biết rằng "Nếu ban đầu, một người Duy Ngô Nhĩ sống trong một khu phố, và trong vòng 20 ngày tiếp theo, có sáu người Duy Ngô Nhĩ khác xuất hiện, ngay lập tức, hệ thống sẽ ngay lập tức báo động" cho các cơ quan thực thi pháp luật.
Có hai người nói rằng "Trong thực tế, các hệ thống này là không hoàn hảo. Thông thường, độ chính xác của chúng phụ thuộc vào các yếu tố môi trường như ánh sáng và vị trí các camera".
Tại Hoa Kỳ và Châu Âu, tranh luận trong cộng đồng trí tuệ nhân tạo tập trung vào những định kiến vô thức của người thiết kế ra công nghệ này. Các thử nghiệm gần đây cho thấy các hệ thống nhận dạng khuôn mặt được thực hiện bởi các công ty như IBM và Amazon kém chính xác hơn trong việc xác định đặc điểm nhân dạng của những người có màu da sẫm.
Những nỗ lực của Trung Quốc đặt ra nhiều vấn đề gai góc hơn. Mặc dù công nghệ nhận dạng khuôn mặt sử dụng các đặc điểm như tông màu da và hình dạng khuôn mặt để phân loại hình ảnh trong các bức ảnh hoặc các băng video theo yêu cầu của con người nhằm phân dựa trên các định nghĩa xã hội về chủng tộc hoặc sắc tộc. Cảnh sát Trung Quốc, với sự giúp đỡ của các công ty khởi nghiệp, đã làm được điều đó.
Ông Jennifer Lynch, giám đốc kiện tụng giám sát tại Quỹ Biên giới Điện tử (Electronic Frontier Foundation) cho biết "có một thứ gì đó có vẻ gây sốc xuất phát từ Hoa Kỳ, nơi mà có nhiều khả năng nhất là tệ phân biệt chủng tộc đã được ấn định trong việc ra quyết định thuật toán của chúng tôi, nhưng không phải theo cái cách công khai như thế này. Ví dụ, chẳng có một hệ thống được thiết kế để nhận dạng một người nào đó là người Mỹ gốc Phi".
Các công ty trí tuệ nhân tạo của Trung Quốc đứng đằng sau các phần mềm này bao gồm Yitu, Megvii, SenseTime và CloudWalk, mỗi công ty trị giá hơn 1 tỷ đô la. Một công ty khác, Hikvision, bán máy ảnh và phần mềm để xử lý hình ảnh, đã cung cấp chức năng nhận dạng (sắc tộc) thiểu số, nhưng đã bắt đầu loại bỏ nó vào năm 2018, một người cho biết như vậy.
Giá trị của các công ty đã tăng vọt trong năm 2018 khi Bộ Công an Trung Quốc, cơ quan cảnh sát hàng đầu, đã dành riêng hàng tỷ đô la cho hai kế hoạch của chính quyền, được gọi là Skynet và Sharp Eyes, để vi tính hóa việc theo dõi, giám sát, và thu thập tin tức tình báo.
Trong một tuyên bố, một nữ phát ngôn viên của SenseTime cho biết rằng người này "đã kiểm tra các đội có liên quan", những người mà không biết rằng công nghệ của họ đang được sử dụng để lập hồ sơ. Megvii tuyên bố rằng họ tập trung vào "các giải pháp thương mại không chính trị", và rằng "chúng tôi quan tâm đến an sinh và an toàn của từng công dân, chứ không theo dõi, giám sát các nhóm người". Cloud CloudWalk và Yitu không trả lời các yêu cầu bình luận.
Bộ Công an Trung Quốc cũng không trả lời các câu hỏi được fax tới.
Trong lúc bán các sản phẩm có tên như Fire Eye, Sky Eye và Dragonfly Eye, các công ty khởi nghiệp hứa hẹn sẽ sử dụng trí tuệ nhân tạo để phân tích các cảnh quay từ các camera giám sát của Trung Quốc. Công nghệ này vẫn chưa được phát triển hoàn toàn - năm 2017 Yitu mới đạt tỷ lệ thành công là một phần ba khi cảnh sát phản ứng với báo động ở nhà ga xe lửa - và nhiều camera của Trung Quốc không đủ mạnh để phần mềm nhận dạng khuôn mặt có thể hoạt động một cách hiệu quả.
Tuy nhiên, họ đã giúp thúc đẩy một cấu trúc Trung Quốc để kiểm soát xã hội. Để giúp cho các thuật toán hoạt động tốt, cảnh sát Trung Quốc đã tập hợp các cơ sở dữ liệu hình ảnh khuôn mặt của những người có hồ sơ tội phạm, mắc bệnh tâm thần, sử dụng ma túy và những người khiếu kiện chính quyền vì bất bình. Một cơ sở dữ liệu quốc gia về tội phạm hiện chưa bị bắt (hiện còn tại đào) gồm khoảng 300.000 khuôn mặt, trong khi danh sách những người có tiền sử sử dụng ma túy ở thành phố Ôn Châu có tổng cộng 8.000 khuôn mặt, họ cho biết như vậy.
Một camera an ninh trong một khu vực được xây dựng lại của Thành phố cổ ở Kashgar, Tân Cương. Ảnh Thomas Peter / Reuters
Trong khi sử dụng một quá trình gọi là học máy, các kỹ sư đã cung cấp dữ liệu cho các hệ thống trí tuệ nhân tạo để đào tạo họ trong việc nhận ra các mô thức, dạng loại, hoặc các đặc điểm. Trong trường hợp thanh lọc, họ sẽ cung cấp hàng ngàn hình ảnh được định rõ của cả những người thuộc sắc tộc Duy Ngô Nhĩ lẫn những người không thuộc sắc tộc Duy Ngô Nhĩ. Điều đó sẽ giúp tạo ra chức năng phân biệt các nhóm sắc tộc.
Các công ty trí tuệ nhân tạo nhận tiền từ các nhà đầu tư lớn. Fidelity International và Qualcomm Ventures thuộc một tập đoàn đã đầu tư 620 triệu đô la vào SenseTime. Sequoia đầu tư vào Yitu. Megvii được hỗ trợ bởi Sinovation Ventures, quỹ của nhà đầu tư công nghệ nổi tiếng Trung Quốc Kai-Fu Lee.
Một phát ngôn viên của Sinovation cho biết rằng gần đây Quỹ này đã bán một phần cổ phần của mình tại Megvii và từ bỏ vị trí trong hội đồng quản trị. Fidelity từ chối bình luận. Sequoia và Qualcomm đã không trả lời thư qua email.
Lee, một người thúc đẩy ngành trí tuệ nhân tạo của Trung Quốc, đã lập luận rằng Trung Quốc có lợi thế trong việc phát triển ngành trí tuệ nhân tạo vì các nhà lãnh đạo của họ ít bị làm phiền bởi "những rắc rối pháp lý" hoặc "những đồng thuận đạo đức".
Hồi năm ngoái, Lee đã viết rằng "Chúng tôi không phải là những khán giả thụ động trong câu chuyện về trí tuệ nhân tạo - chúng tôi là các tác giả của nó. Điều đó có nghĩa là các giá trị làm nền tảng cho tầm nhìn của chúng ta về một tương lai trí tuệ nhân tạo cũng hoàn toàn có thể trở thành những lời tiên tri tự trở thành hiện thực". Ông từ chối bình luận về công việc đầu tư của quỹ của ông vào Megvii hoặc các hoạt động thực tế của nó.
Một người (trong số 5 người được đề cập trên đây) cho biết rằng việc lập hồ sơ sắc tộc trong ngành công nghiệp công nghệ Trung Quốc không phải là một bí mật. Nó đã trở nên phổ biến đến nỗi một (trong 5 người được đề cập trên đây) đã so sánh nó với công nghệ không dây tầm ngắn Bluetooth. Các nhân viên tại Megvii đã được cảnh báo về sự nhạy cảm của việc thảo luận công khai nhắm tới mục đích sắc tộc, một người khác cho biết.
Viện cớ bạo lực sắc tộc trong các cuộc tấn công khủng bố ở Tân Cương và những cuộc tấn công khủng bố của người Duy Ngô Nhĩ ở nhiều những nơi khác, Trung Quốc đã dành những nguồn lực lớn lao cho việc theo dõi người Duy Ngô Nhĩ. Bắc Kinh đã tống giam hàng trăm ngàn người Duy Ngô Nhĩ và những người khác ở Tân Cương vào các trại cải tạo.
Các phần mềm này đã mở rộng các khả năng của nhà nước Trung Quốc trong việc định dạng người Duy Ngô Nhĩ đối với phần còn lại của quốc gia này. Một cơ sở dữ liệu quốc gia đã lưu trữ hình ảnh khuôn mặt của tất cả những người Duy Ngô Nhĩ rời khỏi Tân Cương, hai người (trong số 5 người được đề cập trên đây) cho biết như vậy.
Các tài liệu mua sắm của chính quyền Trung Quốc từ hai năm qua cũng cho thấy nhu cầu này đã lan rộng. Theo một tài liệu, tại thành phố Vĩnh Châu, phía nam tỉnh Hồ Nam, các quan chức thực thi pháp luật đã tìm kiếm phần mềm "để mô tả và tìm kiếm xem ai đó có phải là người Duy Ngô Nhĩ hay không".
Trong hai quận thuộc tỉnh Quý Châu, cảnh sát liệt kê một nhu cầu phân loại người Duy Ngô Nhĩ. Một quận yêu cầu về khả năng nhận dạng người Duy Ngô Nhĩ dựa trên các tấm ảnh chứng minh thư với độ chính xác cao là hơn 97 phần trăm. Trong một đại đô thị ở trung tâm của thành phố Trùng Khánh và khu vực Tây Tạng, cảnh sát đã đặt hàng các nhà thầu những phần mềm tương tự. Và một tài liệu mua sắm của tỉnh Hà Bắc đã mô tả cách thức cảnh sát cần phải được thông báo như thế nào khi có nhiều người Duy Ngô Nhĩ cùng đặt vé cho một chuyến bay trong cùng một ngày.
Năm 2018, các nhà chức trách đã tiến hành một nghiên cứu mô tả việc sử dụng các loại cơ sở dữ liệu khác. Được hoàn thành cùng với một quan chức cảnh sát Thượng Hải, nghiên cứu này cho biết các hệ thống nhận dạng khuôn mặt được lắp đặt gần các trường học có thể sàng lọc những người có hồ sơ trong cơ sở dữ liệu của những người mắc bệnh tâm thần hoặc các nghi phạm.
Một cơ sở dữ liệu được xây dựng bởi phần mềm Yitu mà The New York Times đã được nhìn thấy cho thấy rằng cảnh sát ở thành phố Tam môn hiệp (Sanmenxia) đã sử dụng phần mềm chạy trên các camera để cố gắng xác định các cư dân đến hơn 500.000 lần trong khoảng thời gian một tháng bắt đầu vào giữa tháng Hai.
Trong bộ mã cùng với các đuôi như "rec_gender" và "rec_sunglasses" là "rec _uygur", đuôi này sẽ hiển thị hồi đáp số 1, nếu phần mềm này tin rằng nó đã tìm thấy một người Duy Ngô Nhĩ. Trong nửa triệu nhận dạng mà các camera đã cố gắng ghi lại, phần mềm này cho rằng nó nhìn thấy những người Duy Ngô Nhĩ 2.834 lần. Các hình ảnh được lưu trữ cùng với bộ mã có các đuôi như trên sẽ cho phép cảnh sát kiểm tra lại.
Yitu và các đối thủ của nó có tham vọng mở rộng ra nước ngoài. Một sự thúc đẩy như vậy có thể dễ dàng đưa phần mềm định dạng sắc tộc vào tay các chính quyền khác, Jonathan Frankle, nhà nghiên cứu về trí tuệ nhân tạo tại Viện Công nghệ Massachusetts cho biết như vậy.
Một sĩ quan cảnh sát bí mật ở Kashgar.CreditPaul Mozur
Frankle nói "Tôi không nghĩ rằng đó là một sự thổi phồng khi nhìn nhận rằng đây là một mối đe dọa hiện hữu đối với nền dân chủ. Một khi một quốc gia áp dụng mô hình này theo một cách thức chuyên chế độc đoán nặng nề, nó sẽ sử dụng dữ liệu để cưỡng bức suy nghĩ và các quy tắc theo cách thức sâu rộng hơn nhiều so với những gì mà 70 năm trước đây Liên Xô đã thực hiện. Theo nghĩa này, thì đây là một cuộc khủng hoảng khẩn cấp mà trong đó chúng ta đang dần dần chìm vào cơn mộng du".
Paul Mozur
One Month, 500,000 Face Scans : How China Is Using A.I. to Profile a Minority, The New York Times, 14/04/2019
Mai Hưng dịch
Nguồn : VNTB, 18/05/2019
Paul Mozur là một phóng viên công nghệ có trụ sở tại Thượng Hải. Ông viết về các công ty công nghệ lớn nhất châu Á, cũng như an ninh mạng, văn hóa internet mới nổi, kiểm duyệt và sự giao thoa giữa địa chính trị và công nghệ ở châu Á. Trước đây ông làm việc cho Tạp chí Phố Wall. @paulmozur