Những điểm chính của ZDNET

• Người Mỹ sử dụng AI để tìm kiếm thông tin – bao gồm cả bầu cử.
• Cử tri hỏi chatbot về thông tin bầu cử cơ bản và đề xuất ứng cử viên.
• Hệ thống AI có thể gây ảo giác và thêm các lớp sai lệch vào thông tin chính trị.

Hầu hết các công cụ tìm kiếm hiện nay đều đặt một lớp AI giữa bạn và thông tin bạn đang tìm kiếm, đặc biệt là Google.

Những điều cử tri hỏi chatbot

Các nhà nghiên cứu đã yêu cầu gần 2.500 người ở 35 bang tranh cử vào Thượng viện để truy vấn ChatGPT, Claude, Grok hoặc Gemini về cuộc bầu cử. Những người tham gia nghiên cứu kéo dài vài tuần trong tháng 10 cho đến cuộc bầu cử giữa kỳ vào ngày 3 tháng 11, là những người trưởng thành đã sử dụng chatbot hàng tuần.

Hầu hết người dùng đều hỏi chatbot những thông tin cơ bản về cuộc bầu cử, bao gồm cả những người có tên trong lá phiếu. Nhưng 36% đã yêu cầu chatbot giúp họ chọn ứng cử viên để bỏ phiếu, thường bằng cách mô tả các ưu tiên của họ và yêu cầu chatbot đánh giá ứng viên nào phù hợp với họ.

Truy vấn trước đây ít có khả năng xảy ra lỗi hơn một chút vì internet có rất nhiều dữ liệu về các thông tin cơ bản của một cuộc bầu cử, chẳng hạn như ai đang tranh cử ở đâu. Mặt khác, chatbot diễn giải các vị trí của ứng viên phức tạp hơn một chút và phụ thuộc đáng kể vào các nguồn mà chatbot sử dụng (ví dụ: một tuyên bố từ trang web của chính ứng viên sẽ đáng tin cậy hơn một clip truyền thông xã hội về đối thủ mô tả đặc điểm của họ theo một cách nhất định).

Trong một ví dụ, một người dùng đã yêu cầu ChatGPT cung cấp cho họ “ưu và nhược điểm” của từng ứng viên ở Virginia, một câu hỏi vốn mang tính chủ quan.

Khi nói đến việc giới thiệu ứng viên, chatbot rất đa dạng.

Các nhà nghiên cứu viết: “Khi người dùng hỏi sẽ bỏ phiếu cho ai nhưng chưa nói gì về bản thân họ, chỉ Grok thường xuyên đề xuất một ứng cử viên, trong 14% số cuộc trò chuyện”. “Sau khi người dùng chia sẻ quan điểm của họ, ChatGPT đã đề xuất một ứng cử viên trong 79% cuộc trò chuyện và Claude trong 40%, với Grok và Gemini ở giữa.”

AI và bầu cử

Pew Research nhận thấy 42% người trưởng thành ở Hoa Kỳ được khảo sát sử dụng chatbot để tìm kiếm thông tin. Đó là một phạm vi rộng có thể bao gồm thông tin bầu cử - nhưng Pew cũng nhận thấy rằng chỉ 8% người trưởng thành ở Hoa Kỳ cho biết đã sử dụng chatbot để tìm thông tin liên quan đến bầu cử trong cuộc bầu cử năm nay.

Tuy nhiên, những gì người dùng đang tìm kiếm lại quan trọng. Pew nhận thấy rằng trong nhóm đó, 76% đang tìm hiểu quan điểm của ứng viên về một số vấn đề nhất định và 71% là thông tin kiểm tra thực tế mà họ đã nghe về ứng cử viên hoặc các vấn đề.

Ngoài ra: OpenAI sẽ hợp nhất các tab trò chuyện và công việc của ChatGPT

Vì chatbot vẫn chưa phải là công cụ tóm tắt đáng tin cậy nên bản chất của những câu hỏi này gây ra rủi ro thông tin sai lệch nếu người dùng không kiểm tra các nguồn được liên kết của chatbot. Phần lớn người dùng không làm như vậy, ít nhất là khi nói đến Tổng quan về AI của Google. Ít nhất một nghiên cứu cho thấy nền tảng AI cung cấp cho người dùng thông tin “lỗi thời hoặc không chính xác” có thể đánh lừa cử tri trong một số trường hợp bằng cách bỏ lỡ thời hạn hoặc không đề cập đến một bước về hậu cần bỏ phiếu.

Chu kỳ bầu cử này đặc biệt bị cản trở bởi các tin giả sâu và thông tin sai lệch do AI tạo ra vì các công cụ đã trở nên phức tạp hơn nhiều kể từ cuộc bầu cử năm 2024. Theo báo cáo độc quyền của Politico và Semafor, OpenAI và Anthropic được cho là đã thiết lập các “phòng chiến tranh” bầu cử để giám sát việc lạm dụng và độ chính xác của thông tin.

Trong khi một nghiên cứu vào tháng 8 từ Trung tâm Tư pháp Brennan cho thấy chatbot đã chống lại một số thông tin sai lệch nhất định liên quan đến các chiến dịch thông tin sai lệch về bầu cử, thì các chatbot cũng phát hiện ra rằng các mô hình AI dễ dàng tạo ra “hình ảnh và video gây hiểu lầm liên quan đến bầu cử” khi được hỏi.

Nghiên cứu đã thử nghiệm ChatGPT, Gemini, Grok, Meta AI, Runway và Flux.2 cho biết: “Nhiều biện pháp bảo vệ để ngăn chặn điều này không hiệu quả, được áp dụng không nhất quán hoặc không có chức năng”.

Tuy nhiên, ngoài những yếu tố này, còn có một chủ đề rộng hơn trong việc sử dụng AI cũng có tác động không kém đối với sự tham gia của người dân: giảm tải nhận thức. Bối cảnh truyền thông chính trị có thể đã dày đặc và khó phân tích đối với cử tri đang cố gắng cập nhật thông tin. Việc xếp lớp một chatbot - có các bộ dữ liệu đào tạo mờ đục, bộ lọc và các cài đặt khác được xác định theo quyết định của phòng thí nghiệm AI - trên hết quá trình tìm kiếm thông tin đó có thể làm xáo trộn thêm vùng nước trong khi trông giống như một công cụ tóm tắt trung lập và tiện lợi.

Tại sao nghiên cứu này lại quan trọng

Mặc dù một số nghiên cứu kiểm tra cách các chatbot AI phản hồi các câu hỏi bầu cử bằng cách sử dụng các câu hỏi được tiêu chuẩn hóa, nhưng phương pháp này cho phép người dùng tự tương tác với các chatbot như bình thường. Mặc dù các truy vấn của các nhà nghiên cứu Yale và các truy vấn nghiên cứu được tiêu chuẩn hóa cho thấy nhiều điểm tương đồng, nhưng sự khác biệt này rất có giá trị cho việc đánh giá.

Các nhà nghiên cứu lưu ý: “Đây là một bước nhỏ hướng tới các đánh giá nhằm đo lường ảnh hưởng chính trị của AI đối với các câu hỏi mà người dùng thực sự hỏi”.

Ngoài việc người dùng tự báo cáo những gì họ đã hỏi chatbot, chỉ có phòng thí nghiệm AI mới có hồ sơ về những gì người dùng thực sự hỏi về các cuộc bầu cử. Vào tháng 10, Anthropic đã phân tích 250.000 cuộc trò chuyện với Claude và xác định rằng mọi người “hiếm khi hỏi Claude nên bỏ phiếu cho ai hoặc cái gì”, nhận thấy rằng “0,51% trong số tất cả các cuộc trò chuyện là cụ thể về bầu cử hoặc bỏ phiếu”, mặc dù họ dự kiến ​​các câu hỏi liên quan đến bầu cử sẽ tăng gần đến ngày 3 tháng 11.

Ngoài ra: 6 quy trình làm việc của tác nhân AI mà tôi sử dụng để xử lý các công việc hàng ngày

"Thường xuyên hơn, chúng tôi quan sát thấy mọi người hỏi Claude những câu hỏi có thể giúp họ đưa ra kết luận của riêng mình, chẳng hạn như quan điểm của các ứng cử viên về một vấn đề cụ thể. Các yêu cầu vi phạm chính sách liêm chính trong bầu cử của chúng tôi thậm chí còn ít phổ biến hơn, xuất hiện trong khoảng 0,002% cuộc trò chuyện", báo cáo của Anthropic cho biết.

Các nhà nghiên cứu của Yale cho biết bước tiếp theo cho một nghiên cứu giống như nghiên cứu của họ là xác định mức độ chính xác và không thiên vị của các mô hình trong phản hồi của họ, cũng như những gì mô hình tìm hiểu về người dùng và liệu đề xuất của họ có thực sự phù hợp với nhu cầu của người dùng hay không.

Các nhà nghiên cứu giải thích: "Trong các cuộc trò chuyện nhiều lượt, người dùng thường trả lời các câu hỏi của chatbot và những câu trả lời đó dẫn đến các đề xuất của nó. Các câu hỏi mà mô hình đặt ra sẽ định hình những gì người dùng nói và những gì nó đề xuất".