Ông lớn trong ngành công nghệ – Sony, mới đây đã giới thiệu một bộ dữ liệu hình ảnh huấn luyện AI, mà được lăng-xê rằng có tính đa dạng, không thiên lệch, và quan trọng nhất: đảm bảo tính minh bạch trong việc thu thập dữ liệu.
Không khó để nhìn nhận rằng AI đang ngày càng hiện diện trong mọi mặt của cuộc sống, và để tạo ra những sản phẩm đủ thông minh hơn, hữu ích hơn, “đời” hơn, các công nghệ này cần được huấn luyện bằng lượng dữ liệu khổng lồ từ Internet. Công nghệ máy tính thị giác (Computer Vision) không phải là một ngoại lệ.
Computer Vision hiện diện trong nhiều công nghệ quen thuộc như hệ thống nhận diện khuôn mặt, phân tích hoạt động con người hay công cụ tìm kiếm hình ảnh. Tuy vậy, việc phụ thuộc vào các nguồn dữ liệu trên Internet đang làm dấy lên các quan ngại về rủi ro đạo đức liên quan đến người dùng, cũng như những người huấn luận và phát triển AI.
FHIBE: Bộ dữ liệu hướng tới AI công bằng hơn
Trong bối cảnh đó, các nhà nghiên cứu đến từ Sony mới đây đã giới thiệu một bộ dữ liệu huấn luyện AI mới mang tên Fair Human-Centric Image Benchmark (FHIBE) – bộ tiêu chuẩn đánh giá tính công bằng của dữ liệu hình ảnh con người, được quảng bá là đa dạng hơn, minh bạch hơn và hạn chế thiên lệch trong quá trình xây dựng dữ liệu. Bộ dữ liệu bao gồm 10,318 hình ảnh của 1981 người từ 81 vùng địa lý khác nhau trên toàn thế giới. Số lượng hình ảnh này cho phép đảm bảo tính đa dạng, từ đó hạn chế những định kiến thiên lệch đối với các vấn đề liên quan đến con người. FHIBE cũng được cam kết là sẽ bảo vệ quyền sở hữu trí tuệ và hơn thế nữa, bộ dữ liệu này có sự đồng thuận của các bên tham gia.
ImageNet và thời kỳ bùng nổ của Computer Vision
Để hiểu vì sao những bộ dữ liệu như FHIBE lại mang tính đột phá, chúng ta cần nhìn lại giai đoạn bùng nổ của Computer Vision trong hơn một thập kỷ qua. Năm 2009, ImageNet ra đời như một một kho dữ liệu hình ảnh khổng lồ được thu thập từ mạng xã hội và các website chia sẻ ảnh trên Internet, đi kèm với các cuộc thi giúp những nhóm nghiên cứu AI so sánh thuật toán nhận diện hình ảnh trên cùng một chuẩn đánh giá. Tuy nhiên, phải đến năm 2012, bước ngoặt lớn của AI mới thực sự xảy ra khi AlexNet đạt kết quả vượt trội trong cuộc thi ImageNet và chứng minh sức mạnh của deep learning. Kể từ đó, các mốc tham chiếu không chỉ đơn thuần là công cụ đo lường, mà trở thành thước đo quan trọng để đánh giá tiến bộ của các mô hình AI. Cùng lúc đó, dữ liệu được nhìn nhận như nền móng của mọi đột phá: mô hình càng được huấn luyện trên dữ liệu lớn và chất lượng, khả năng học và xử lý vấn đề càng mạnh.
Dù vậy, chính cách xây dựng dữ liệu từ Internet cũng nhanh chóng bộc lộ nhiều vấn đề đạo đức. Các nhà nghiên cứu phát hiện những thiên lệch rất rõ ràng trong dữ liệu hình ảnh, từ phân biệt chủng tộc cho tới định kiến giới tính. Ví dụ, các từ khoá như “CEO” hay “doctor” thường gắn với đàn ông da trắng, trong khi “maid” hay “cleaner” lại gắn với phụ nữ hoặc người thuộc nhóm thiểu số. Không chỉ vậy, nhiều hình ảnh còn được sử dụng mà không có sự đồng thuận từ chủ sở hữu, dẫn đến tranh cãi về quyền riêng tư và sở hữu trí tuệ. Bên cạnh đó, vấn đề bảo vệ sở hữu trí tuệ và quyền được chấp thuận của chủ thể bức ảnh cũng thường bị các công ty công nghệ phớt lờ trong quá trình thu thập dữ liệu. Giới chuyên gia chỉ trích gay gắt việc ‘bình thường hóa’ quy trình huấn luyện AI dựa trên những nguồn tài nguyên thiếu minh bạch và đầy định kiến này. Hệ quả là hàng loạt tranh cãi pháp lý về quyền riêng tư và sở hữu hình ảnh đã nổ ra mà vẫn chưa có hồi kết. Tuy nhiên, cũng cần nhìn nhận khách quan rằng phần lớn các bộ dữ liệu đời đầu được xây dựng trong bối cảnh chưa tồn tại một khung đạo đức chuẩn mực để đánh giá tính công bằng cho các mô hình thị giác máy tính.
FHIBE và nỗ lực xây dựng dữ liệu công bằng hơn
Nhận thức được những vấn đề trên, các nhà nghiên cứu đã phát triển FHIBE theo hướng toàn diện hơn, trong đó không chỉ quan tâm đến quy mô dữ liệu mà còn đặt câu hỏi liệu bộ dữ liệu đó có thực sự phù hợp để đánh giá tính công bằng của AI hay không. Nhóm nghiên cứu đã lựa chọn hình ảnh con người bởi đây là lĩnh vực nhạy cảm nhất của Computer Vision và cũng là nơi các thiên lệch dễ bộc lộ rõ nhất.
Khác với nhiều bộ dữ liệu trước đây, FHIBE chỉ sử dụng ảnh từ các tình nguyện viên đã đồng ý cung cấp dữ liệu. Người tham gia cũng có thể tự chú thích thông tin của mình như độ tuổi, nguồn gốc tổ tiên, đại từ nhân xưng, tư thế hay tương tác trong ảnh. Đây được xem là cách tiếp cận mới trong học máy, bởi nó trao quyền mô tả danh tính cho chính người cung cấp dữ liệu thay vì để hệ thống hoặc người khác “dán nhãn” cho họ. FHIBE sau đó được sử dụng để đánh giá nhiều loại mô hình AI khác nhau, từ các mô hình chuyên biệt (narrow model) cho tới foundation model. Kết quả cho thấy các mô hình AI thường tạo ra chênh lệch lớn giữa các nhóm nhân khẩu học, đặc biệt khi phải xử lý nhiều đặc điểm nhạy cảm cùng lúc như giới tính hay nguồn gốc tổ tiên. Khi mở rộng sang các mô hình thị giác – ngôn ngữ, nhiều định kiến tiềm ẩn càng lộ rõ hơn. Chẳng hạn, mô hình BLIP-2 từng giải thích rằng một người được xem là “dễ mến” đơn giản “vì đó là phụ nữ”, cho thấy AI đã vô thức học lại các khuôn mẫu xã hội từ dữ liệu Internet.
FHIBE có phải lời giải cho AI công bằng?
Dù được xem là bước tiến đáng chú ý, FHIBE vẫn tồn tại nhiều giới hạn. Hạn chế trước hết là về quy mô dữ liệu. Với chỉ khoảng 10.000 hình ảnh, FHIBE khó có thể cạnh tranh với các bộ dữ liệu Internet khổng lồ mà các mô hình AI hiện nay đang sử dụng. Ngoài ra, chi phí xây dựng bộ dữ liệu này cũng rất lớn: mất nhiều năm phát triển và tiêu tốn hơn 750.000 USD. Điều đó đặt ra một câu hỏi quan trọng cho ngành AI: nếu muốn công nghệ phát triển theo hướng đạo đức hơn, liệu chúng ta có thể tiếp tục mở rộng dữ liệu theo logic “càng nhiều càng tốt” như trước đây?
Tuy nhiên, FHIBE vẫn cho thấy một hướng đi đáng chú ý khi khuyến khích việc để người tham gia tự mô tả danh tính của mình, đặc biệt với những yếu tố nhạy cảm như giới tính. Dẫu vậy, vấn đề không hoàn toàn đơn giản. AI vẫn cần hiểu cách con người nhìn nhận và đánh giá lẫn nhau trong thực tế xã hội. Vì thế, câu hỏi đặt ra là liệu dữ liệu tự chú thích có nên thay thế hoàn toàn các đánh giá khách quan, hay cả hai hình thức cần tồn tại song song để AI vừa công bằng hơn vừa phản ánh đúng cách con người vận hành ngoài đời thực. Dù câu trả lời là gì, FHIBE và hướng tiếp cận của Xiang cùng các cộng sự vẫn đánh dấu một bước tiến quan trọng: biến những tranh luận đạo đức về AI thành các phương pháp thực hành cụ thể và có thể kiểm chứng được.
Dịch từ Nature
