Trong nhiều năm, các nhà hoạt động và học giả vẫn canh cánh lo ngại một điều khi nhận định, phần mềm phân tích khuôn mặt để xác định tuổi tác, giới tính và trạng thái cảm xúc một người xem chừng khá thiên vị, không đáng tin cậy, có tính cách xâm phạm đời tư... do đó không nên đưa vào kinh doanh. Đồng tình và thừa nhận một số lời chỉ trích ấy, gần đây Microsoft đã có kế hoạch loại bỏ các tính năng kể trên khỏi dịch vụ trí tuệ nhân tạo dùng để phát hiện, phân tích và nhận dạng khuôn mặt.

Cụ thể, trước hết hãng sẽ ngừng cung cấp cho người dùng mới, rồi sẽ loại bỏ dần đối với nhóm người dùng kỳ cựu. Những thay đổi này là một phần trong nỗ lực của công ty nhằm kiểm soát chặt chẽ hơn các sản phẩm trí tuệ nhân tạo của hãng. Sau hai năm đánh giá, một nhóm chuyên gia tại Microsoft đã quyết định phát triển thứ gọi là “Tiêu chuẩn AI có trách nhiệm”, giúp triệt hạ những tác động có hại cho xã hội từ công nghệ này.

Yêu cầu nhất thiết cần có là phải đảm bảo các hệ thống chỉ cung cấp thuẩn những giải pháp hợp lệ cho từng vấn đề mà chúng được thiết kế để giải quyết. Bên cạnh đó là duy trì chất lượng dịch vụ như nhau cho các nhóm nhân khẩu học đã xác định, bao gồm cả các nhóm bị thiệt thòi.

Trước khi chuẩn A.I mới được tung ra, một ê-kíp do tiến sĩ Natasha Crampton, nhân vật chịu trách nhiệm chính về trí thông minh nhân tạo của Microsoft, sẽ xem xét các công nghệ mới được sử dụng để đưa ra những quyết định quan trọng về khả năng tiếp cận của một người đối với việc làm, giáo dục, chăm sóc sức khỏe, dịch vụ tài chính hoặc cơ hội. Microsoft càng ngày càng quan tâm đến mặt tối-sáng của công cụ nhận dạng cảm xúc, bao gồm từ tức giận, khinh thường, ghê tởm, sợ hãi, hạnh phúc, trung lập, buồn bã đến ngạc nhiên… của một ai đó.

Bà Crampton băn khoăn, liệu biểu hiện trên khuôn mặt có phải là một chỉ báo đáng tin cậy về trạng thái cảm xúc bên trong của một người hay không. Các công cụ phân tích tuổi và giới tính hay để phát hiện các đặc điểm trên khuôn mặt như tóc và nụ cười… có thể hữu ích để giải thích hình ảnh trực quan cho người mù hoặc thị lực kém đấy, nhưng lại tiềm ẩn vấn đề khi ứng dụng đại trà cho mọi người.

Microsoft cũng sẽ đặt hệ thống điều khiển mới cho tính năng nhận dạng khuôn mặt của hãng, có khả năng thực hiện kiểm tra danh tính hoặc tìm kiếm một người cụ thể. Chẳng hạn Uber có thể sử dụng phần mềm trong ứng dụng để xác minh khuôn mặt của tài xế khớp với ID trong hồ sơ tài khoản của chính anh lái xe đó hay không. Microsoft cũng đưa ra một số yêu cầu. Đó là các nhà phát triển phần mềm muốn sử dụng công cụ nhận dạng khuôn mặt của Microsoft sẽ phải đăng ký quyền truy cập và giải thích cách họ dự định triển khai.

Người dùng cũng sẽ được yêu cầu đăng ký và giải thích cách họ sẽ sử dụng A.I. để đề phòng có những khả năng lạm dụng khác. Dịch vụ cũng có thể tạo bản sao giọng nói ai đó dựa trên mẫu bài phát biểu của họ, một công nghệ sẽ ứng dụng trong mảng sách đọc qua các phiên bản giọng của chính tác giả.

Trong thời gian qua khá nhiều công ty đã bị va vấp với các sản phẩm trí thông minh nhân tạo của chính các hãng. Cụ thể là hồi năm 2016, một chatbot tên Tay đã xuất hiện trên Twitter vốn được thiết kế để học hiểu biết về cuộc trò chuyện từ những người dùng đã tương tác. Phản cảm là con bot lại đăng những dòng tweet mang tính phân biệt chủng tộc và xúc phạm khiến Microsoft phải vội vàng gỡ bỏ.

Vào năm 2020, giới nghiên cứu phát hiện một bất ngờ là, các công cụ chuyển lời nói thành văn bản do Microsoft, Apple, Google, IBM và Amazon phát triển, hoạt động kém hiệu quả hơn đối với người… da màu. Hệ thống của Microsoft được đánh giá là tốt nhất mà cũng sai sót 15% đối với người da trắng, còn với người da đen lại sai đến 27%. Công ty đã thu thập dữ liệu giọng nói đa dạng để đào tạo A.I. nhưng lại không nắm hết được mức đa dạng của ngôn ngữ, bởi nó vươt ra ngoài lĩnh vực của nhân khẩu học. Hành trình khắc phục sự chênh lệch giữa giọng nói thành văn bản đã giúp cung cấp thông tin để Microsoft hiệu chỉnh trong các tiêu chuẩn A.I mới của mình.

Thật ra một cuộc tranh luận sôi nổi về tác hại tiềm tàng của A.I. đã được tiến hành suốt nhiều năm trong cộng đồng công nghệ. Những sai sót và lỗi của công nghệ này đã gây ra hậu quả thực sự đối với cuộc sống con người. Rồi phần mềm tự động nhận dạng và phân tích khuôn mặt cũng đã gây nên nhiều tranh cãi. Hệ quả là vào năm ngoái, chính Facebook đã phải quyết định đóng cửa hệ thống nhận dạng người trong ảnh sau một thời gian dài lưu hành.

Công nghệ nhận dạng khuôn mặt A.I cũng đã từng khiến một số đàn ông da đen bị bắt oan sau vụ Black Lives Matter ở Minneapolis. Sự cố ấy đã khiến Washington và Massachusetts phải ra quy định yêu cầu cần có sự giám sát của tư pháp đối với việc cảnh sát sử dụng đến công cụ nhận dạng khuôn mặt trong khi thi hành công vụ.