Công nghệ AI có khả năng tự động nhận diện, phân tích và tương tác với cảm xúc con người đang thu hút nhiều sự quan tâm và trở thành một xu hướng mới. Được biết đến với cái tên “AI cảm xúc,” công nghệ này đã bắt đầu thâm nhập vào nhiều lĩnh vực, từ kinh doanh đến các hoạt động của các tổ chức. Mặc dù hứa hẹn mang lại những đột phá đáng kể, AI cảm xúc cũng gây ra nhiều lo ngại về quyền riêng tư và cách dữ liệu cá nhân vô thức bị thu thập và sử dụng. Trong nghiên cứu “Rethinking Technological Acceptance in the Age of Emotional AI: Surveying Gen Z (Zoomer) Attitudes Toward Non-conscious Data Collection,” tác giả Manh-Tung Ho và cộng sự tiến hành đã khảo sát thái độ của thế hệ Z về công nghệ AI cảm xúc, đặc biệt là việc thu thập dữ liệu cảm xúc vô thức (NCDC). Nghiên cứu này đã được đăng trên tạp chí Technological Forecasting & Social Change.
AI Cảm xúc và ứng dụng
AI cảm xúc xuất phát từ nghiên cứu tiên phong của Rosalind Picard vào thập niên 1990 trong lĩnh vực tính toán cảm xúc, dần phát triển thành một hệ thống phức tạp có thể thu thập dữ liệu vô thức của con người. Những thiết bị và phần mềm AI cảm xúc có thể theo dõi các chỉ số như nhịp tim, nhịp thở, dáng đi, biểu cảm khuôn mặt tinh vi, cử chỉ, tông giọng, và mức độ dẫn điện của da mà người dùng thậm chí không nhận ra. Cùng với sự phát triển của học máy và dữ liệu lớn, AI cảm xúc ngày càng trở nên phức tạp, có thể đưa ra phản hồi chính xác hơn, cá nhân hóa phản hồi theo từng cá nhân và bối cảnh cụ thể.
Ứng dụng của AI cảm xúc vô cùng đa dạng. Về mặt thương mại, một ứng dụng phổ biến là công cụ phân tích giọng nói của Spotify giúp gợi ý danh sách phát dựa trên tâm trạng người dùng; xe thông minh Hana của Honda phát hiện tài xế buồn ngủ hoặc căng thẳng; công cụ phân tích cảm xúc khuôn mặt “Emote your Vote” của Affectiva đo lường mức độ tương tác cảm xúc của khán giả với mẫu quảng cáo thử nghiệm; phần mềm xử lý ngôn ngữ tự nhiên của Grammarly đánh giá tông giọng trong email; và Moxy, đồ chơi thông minh giúp trẻ em phát triển kỹ năng cảm xúc và nhận thức xã hội thông qua các hoạt động học tập qua trò chơi. Trong môi trường làm việc được số hóa, các công ty tuyển dụng như HireVue và Accenture sử dụng công nghệ theo dõi cảm xúc để tìm ứng viên phù hợp; Humanyze phân tích động lực làm việc qua các thiết bị đeo tay tích hợp Bluetooth và microphone dựa trên chuyển động và tương tác của nhân viên.
Ở cấp độ quốc gia, nhiều chính phủ đang bắt đầu ứng dụng công nghệ cảm biến cảm xúc để giảm chi phí chăm sóc sức khỏe và quản lý tốt hơn nhóm dân số già. Ví dụ, Dịch vụ Y tế Quốc gia (NHS) của Vương quốc Anh đầu tư vào các trợ lý hội thoại AI như Wysa để cung cấp tư vấn y tế trực tuyến. Tại Singapore, cơ quan xã hội Lion Befrienders phát triển phần mềm nhận diện khuôn mặt để phát hiện sớm các dấu hiệu trầm cảm, lo âu và suy giảm nhận thức ở người cao tuổi. Đồng thời, các quốc gia EU đang thử nghiệm robot cảm xúc như JustCat và Hobbit để hỗ trợ người cao tuổi gặp khó khăn về mặt nhận thức hoặc thể chất. Trong lĩnh vực an ninh công cộng, các quốc gia, đặc biệt là những quốc gia thận trọng với các rủi ro an ninh, đang sử dụng công nghệ AI cảm xúc để nâng cao khả năng phát hiện và ngăn chặn tội phạm và khủng bố. Ví dụ, công ty ELSYS của Nga tuyên bố phần mềm giám sát video của họ có thể phát hiện ý đồ xấu qua phân tích các chuyển động nhỏ của đầu. Công nghệ này đã được bán cho các nhà tổ chức Thế vận hội Sochi và Tokyo, đồng thời được lắp đặt tại các nhà máy điện hạt nhân và sân bay ở Nga và Nhật Bản.
Nhìn chung, trên bình diện sinh học – chính trị, việc lượng hóa cảm xúc vời được dùng với mục đích cải thiện trải nghiệm cuộc sống hàng ngày, tối ưu hóa môi trường làm việc, điều chỉnh, cải thiện mối quan hệ giữa người sử dụng lao động và nhân viên, nâng cao dịch vụ chăm sóc sức khỏe và chiến lược an ninh.
Mối lo ngại liên quan đến việc thu thập dữ liệu vô thức
Việc trao khả năng thu thập dữ liệu vô thức (Nonconscious data collection – NCDC) các tổ chức chính phủ và phi chính phủ làm dấy lên vô số lo ngại về pháp lý và đạo đức liên quan đến quyền riêng tư, tính công bằng, độ chính xác, quyền tự chủ, và nguy cơ lạm dụng. Về mặt khoa học, ngành công nghiệp AI cảm xúc cũng gặp nhiều tranh cãi.
Nhiều công nghệ AI cảm xúc dựa trên lý thuyết về “tính phổ quát của cảm xúc” của Paul Eckman, cho rằng biểu hiện cảm xúc của con người là giống nhau ở mọi nền văn hóa – một quan điểm đã bị nhiều nhà nghiên cứu chỉ trích. Ngoài ra, trong giới khoa học vẫn chưa có sự đồng thuận về khái niệm cảm xúc là gì và cách đo lường chính xác cảm xúc. Một số nhà nghiên cứu tin rằng cảm xúc phụ thuộc vào hoàn cảnh xã hội, trong khi những người khác cho rằng cảm xúc được lập trình sẵn trong cơ thể con người.
Mặt khác, khi các công nghệ AI cảm xúc phần lớn có nguồn gốc từ phương Tây (Silicon Valley). Các thuật toán của chúng hiếm khi được hiệu chỉnh lại để phù hợp với sự khác biệt về chủng tộc, dân tộc, giới tính và văn hóa. Với việc chưa có các quy định rõ ràng ở cấp quốc tế hoặc quốc gia về NCDC, nguy cơ thiên vị thuật toán, giám sát và xâm phạm quyền riêng tư càng gia tăng, trong khi tính khoa học của các công nghệ theo dõi cảm xúc vẫn chưa được chứng minh rõ ràng.
Khảo sát quan điểm của gen Z về việc thu thập dữ liệu vô thức
Với các mối quan ngại pháp lý, đạo đức liên quan đến công nghệ AI cảm xúc, nhóm tác giả lập luận rằng gen Z hoặc Thế hệ Z (1997–2012) đại diện cho nhóm dễ bị tổn thương nhất do chưa có các quy định quản lý rõ ràng về NCDC. Tuy niên, qua một nghiên cứu toàn cầu Z lại thể hiện sự chấp nhận cao đối với công nghệ AI, cho thấy 84% trong số họ thích trao đổi về sức khỏe tinh thần với chatbot hơn là con người.
Do đó, nhóm tác giả đã tiến hành khảo sát thái độ và nhận thức của 1.015 người thuộc thế hệ Z từ 48 quốc gia, nhằm làm sáng tỏ các yếu tố ảnh hưởng đến sự chấp nhận công nghệ mới và các chiến lược cần thiết để bảo vệ lợi ích của cá nhân và xã hội. Kết quả nghiên cứu cho thấy sinh viên ngành STEM và những người theo tôn giáo có xu hướng phản đối việc sử dụng công nghệ NCDC hơn so với các nhóm khác. Giới tính cũng là một yếu tố ảnh hưởng: nữ giới thể hiện mức độ không chấp nhận cao hơn nam giới. Đáng chú ý, mức độ tin tưởng đối với bên thu thập dữ liệu khác nhau giữa các khu vực: người tham gia từ các nước đang phát triển có xu hướng chấp nhận công nghệ này cao hơn, đặc biệt khi dữ liệu được thu thập bởi khu vực tư nhân thay vì chính phủ. Ngoài ra, nhận thức về sự cần thiết của luật pháp quốc tế điều chỉnh công nghệ NCDC cũng khác biệt theo mức độ thu nhập của quốc gia, trong đó những người đến từ quốc gia có thu nhập thấp và trung bình đánh giá nhu cầu này cao hơn.
Kết luận
Sau đại dịch COVID-19, nhiều công nghệ AI thu thập dữ liệu cảm xúc đã được phát triển với mục tiêu nâng cao hiệu suất và an toàn. Trong bối cảnh này, nhóm tác giả cho rằng, nếu không có quy định phù hợp, các công nghệ này có thể gây ra hệ lụy như tuyên truyền bằng thuật toán và xâm phạm quyền riêng tư.
Nghiên cứu cho thấy thái độ của Gen Z với việc thu thập cảm xúc vô thức chịu ảnh hưởng mạnh từ yếu tố văn hóa, chính trị và nhân khẩu học. Điều này đặt ra nhu cầu điều chỉnh các lý thuyết chấp nhận công nghệ truyền thống để phản ánh vai trò của giá trị văn hóa – như mô hình “mind-sponge” đã đề xuất.
Việc xây dựng các chính sách quản trị hiệu quả và phát triển công nghệ AI cảm xúc một cách có đạo đức đòi hỏi sự hiểu biết sâu sắc về rủi ro tiềm ẩn, cũng như cam kết về độ chính xác khoa học và sự nhạy cảm văn hóa.
Chi tiết nghiên cứu
Ho, M., Mantello, P., Ghotbi, N., Nguyen, M., Nguyen, H. T., & Vuong, Q. (2022). Rethinking technological acceptance in the age of emotional AI: Surveying Gen Z (Zoomer) attitudes toward non-conscious data collection. Technology in Society, 70, 102011. https://doi.org/10.1016/j.techsoc.2022.102011
