Câu chuyện này do Grist sản xuất và xuất bản cùng với WIRED. Đây là một phần của Distorted, một loạt bài của Grist khám phá sự lan truyền của thông tin sai lệch sau thời tiết khắc nghiệt và được xuất bản với sự hỗ trợ của Quỹ CO2.

Đầu tháng này, sau khi Bão Isaias đổ bộ vào Bờ biển vùng Vịnh với cấp độ bão cấp 3, chuyên gia quản lý tình trạng khẩn cấp Laura Myers đã nhận được cuộc gọi từ một nhà khí tượng học ở Alabama. Myers là giám đốc Trung tâm An toàn Công cộng Nâng cao của Đại học Alabama và cô ấy luôn trao đổi với các nhà quản lý tình trạng khẩn cấp của tiểu bang và địa phương xung quanh khu vực của mình. Nhà khí tượng học nói với Myers rằng một người quản lý tình trạng khẩn cấp ở địa phương đã công bố một hình ảnh cho thấy nơi Isaias có thể đe dọa bờ biển Alabama bằng một “máy bay phản lực” của gió lớn.

Vấn đề? Người quản lý trường hợp khẩn cấp đã tạo ra đồ họa bằng chatbot trí tuệ nhân tạo và nó không chính xác.

Cô nói: “Người quản lý tình trạng khẩn cấp của quận đó đang cố gắng kêu gọi các bên liên quan của mình tập trung vào rủi ro ở quận đó và vì vậy anh ấy đã yêu cầu AI giúp đỡ mình”. “Nó đã làm những gì anh ấy muốn, nhưng nó không chính xác về mặt khí tượng.”

Hầu hết các cơ quan quản lý tình trạng khẩn cấp không cho phép nhân viên sử dụng AI tổng hợp, nhưng Myers và hầu hết các chuyên gia quản lý tình trạng khẩn cấp khác đều đồng ý rằng việc sử dụng nó có thể đã phổ biến ở các sở cứu trợ thảm họa của tiểu bang và địa phương. Có hàng trăm công ty đang tiếp thị các công cụ AI cho các nhà quản lý tình trạng khẩn cấp để thực hiện các nhiệm vụ như đánh giá thiệt hại do lũ lụt và điều phối tài nguyên, nhưng truyền thông đại chúng là một trong những lĩnh vực mà nhân viên chính phủ và các công ty khởi nghiệp quan tâm nhất.

Lý do? Hầu hết các nhà quản lý tình trạng khẩn cấp đều không giỏi gửi cảnh báo và thông tin nhanh chóng về thảm họa với công chúng. Đó không phải vì họ là người quản lý tình huống khẩn cấp mà vì họ là con người. Họ có xu hướng viết bằng những thuật ngữ mà những người không phải là chuyên gia có thể không hiểu, bỏ qua thông tin với giả định rằng công chúng đã biết rồi và đưa vào những chi tiết không liên quan có thể khiến mọi người mất tập trung khỏi những gì họ thực sự cần biết.

Jeannette Sutton, nhà nghiên cứu thảm họa tại Đại học Albany, người đã tạo ra một bảng điều khiển toàn diện cung cấp các mẫu cảnh báo thảm họa, cho biết: “Rất nhiều cơ quan thực sự bị hạn chế về nguồn lực và số lượng người”. "Tôi nghĩ họ coi đó là một ưu tiên, nhưng họ không ưu tiên cho đến khi họ nhận ra rằng họ nên làm vậy. Họ chỉ đang cố gắng hoàn thành công việc của mình mà không làm hỏng việc gì đó."

Người quản lý tình trạng khẩn cấp là các quan chức chính phủ chịu trách nhiệm ứng phó và khắc phục thảm họa. Ở cấp tiểu bang và địa phương, chính các quan chức này và cơ quan của họ, chứ không phải Cơ quan Quản lý Khẩn cấp Liên bang, tạo nên tuyến phòng thủ đầu tiên sau một hiện tượng thời tiết khắc nghiệt. Vì vậy, những người quản lý tình trạng khẩn cấp thường nói rằng “niềm tin là tiền tệ của chúng tôi” và chính trong giao tiếp với công chúng mà họ đã xây dựng và đánh mất niềm tin này.

Khi thảm họa khí hậu trở nên thường xuyên và lan rộng hơn, đã có rất nhiều ví dụ về việc giao tiếp thiếu sót của con người trong việc ứng phó khẩn cấp. Ví dụ, vào năm 2016, các quận lân cận ở California đã ban hành “sơ tán tự nguyện” và “sơ tán bắt buộc” đối với cùng một vụ cháy rừng. Tại Úc vào năm 2019, các quan chức đã cảnh báo về cháy rừng bằng cách sử dụng cụm từ “Theo dõi và hành động”, mà sau này chính phủ cho rằng đã gây ra “sự nhầm lẫn đáng kể” vì không ai biết nó có nghĩa gì.

Trong một số trường hợp, giao tiếp không đầy đủ có thể dẫn đến sự khác biệt giữa sự sống và cái chết. Điều này xảy ra ở Montecito, California, sau vụ cháy Thomas năm 2017. Vài tuần sau vụ cháy, một trận mưa lớn đã gây ra trận lở đất chết người. Chính quyền Quận Santa Barbara đã gặp khó khăn trong việc truyền đạt rủi ro cho những người dân vẫn còn bị tổn thương do vụ cháy và trải qua hiện tượng mà Sutton gọi là “sự mệt mỏi do cảnh báo”. Quận đã gửi cảnh báo tới mọi người trong “khu vực sơ tán tự nguyện” về cháy rừng, yêu cầu người dân “cảnh giác với các điều kiện thay đổi và chuẩn bị rời đi ngay lập tức”. Hầu hết những cư dân đó đáng lẽ phải rời đi ngay lập tức, nhưng đối với nhiều người, thông báo sơ tán là tùy chọn; những người khác không muốn sơ tán lần thứ hai trong một tháng. Vụ lở đất đã khiến 23 người thiệt mạng và hơn 160 người khác bị thương.

Sutton cho biết, những chính phủ đưa ra những cảnh báo xấu có xu hướng đánh mất niềm tin của công chúng. “Họ đang mất đi cơ hội trở thành tiếng nói giúp mọi người được an toàn.”

Về lý thuyết, cảnh báo là trường hợp sử dụng hoàn hảo cho trí tuệ nhân tạo và đặc biệt là cho các hệ thống AI tổng hợp đã phát triển với tốc độ chóng mặt trong vài năm qua. FEMA cung cấp các buổi đào tạo cho người quản lý trường hợp khẩn cấp để tìm hiểu các phương pháp tốt nhất để tổng hợp và gửi cảnh báo, nhưng nhiều quan chức không nhớ tất cả các khóa đào tạo của họ khi trường hợp khẩn cấp xảy ra. Một mô hình ngôn ngữ lớn thì khác. Nó có thể đọc hàng trăm nghìn cảnh báo chỉ trong vài phút, xử lý tất cả nghiên cứu về những gì hoạt động trong các tình huống tương tự và sau đó áp dụng điều đó để chỉnh sửa cảnh báo của con người trong vài giây.

Rob Dale, một cựu nhà khí tượng học hiện đang điều hành bộ phận quản lý khẩn cấp ở Hạt Ingham, Michigan, cho biết: “Nếu bạn chỉ gửi một [cảnh báo] trong đời, đó là 15 năm trước và bạn cần nhớ tất cả quá trình đào tạo của mình và bạn đang nghĩ 'Này, có một luồng hóa chất đang tiến về phía tôi, điện thoại đang đổ chuông, radio ầm ĩ, tôi cần trợ giúp', thì AI có thể sẽ làm việc tốt hơn bạn.

Dale đã sử dụng AI để soạn thảo một số thông báo thực hành ở hậu trường, nhưng anh ấy chưa bao giờ phải gửi chúng đi. Quận Ingham là một quận nhỏ ở trung tâm Michigan và không bị ảnh hưởng bởi các hiện tượng thời tiết lớn như bão và hỏa hoạn. Nếu một sự kiện như vậy xảy ra, Dale cho biết anh sẽ không gặp vấn đề gì khi cho phép chatbot soạn thảo thông tin liên lạc về sự cố của mình, nhưng anh vẫn muốn kiểm soát việc gửi cảnh báo đi.

Một số chuyên gia tin rằng công nghệ này đã đủ tốt để triển khai. EM1, một công ty khởi nghiệp sản xuất phần mềm AI cho người quản lý trường hợp khẩn cấp, đã sử dụng nghiên cứu của Sutton để đào tạo một mô hình mà các giám đốc điều hành của công ty cho rằng đã tốt hơn hầu hết bất kỳ người quản lý trường hợp khẩn cấp nào có con người. Công ty đã thử nghiệm mô hình nội bộ này trong một số tình huống bao gồm cháy rừng và sóng thần. Nó có thể sánh ngang hoặc vượt quá khả năng của con người trong hầu hết các bài kiểm tra điểm chuẩn.

Sutton đưa cho Grist một ví dụ về cách hoạt động của phần mềm: Grist cung cấp cho cô một cảnh báo gần đây được gửi bởi một quận ở New Mexico đang cố gắng cảnh báo người dân về lũ lụt trên sông San Juan.

Cảnh báo ban đầu có nội dung: "Ngân hàng bị nứt. Nước đang dâng cao. HÃY Sơ tán NGAY. Công viên McGee mở cửa cho người và vật nuôi, RV." Sutton đã yêu cầu mô hình EM1 đánh giá và sửa đổi cảnh báo. Trong vài giây, nó tạo ra thứ mà cô ấy nói là một cảnh báo tốt hơn nhiều, một cảnh báo kiểm tra tất cả các hộp chính của liên lạc thảm họa.

Cảnh báo mới có nội dung: "Quận San Juan: Nước lũ đang dâng cao gần [location]. Người dân trong [khu vực sơ tán]: RỜI NGAY để đến vùng đất cao hơn. Không đi bộ hoặc lái xe qua vùng nước lũ. Công viên McGee mở cửa cho người và vật nuôi. Hãy kiểm tra [nguồn cập nhật chính thức] để biết thông tin cập nhật." Mô hình đã xác định và khắc phục một số vấn đề với văn bản gốc, không cho biết ai đang gửi cảnh báo, nêu tên vị trí cụ thể nơi lũ lụt đang xảy ra hoặc làm rõ ai cần sơ tán và đưa ra lời khuyên về cách thực hiện làm điều đó một cách an toàn. Nó viết sai chính tả từ “vi phạm” và không cung cấp bất kỳ hướng dẫn nào về nơi cư dân có thể tìm kiếm thêm thông tin.

EM1 có hợp đồng với khoảng một trăm cơ quan chính phủ và khu học chánh, nhưng chưa có cơ quan nào sử dụng nó để tự động cảnh báo thời tiết khắc nghiệt. Hiện tại, họ chỉ sử dụng nó để lập kế hoạch hội thảo và chuẩn bị nội bộ. Mặc dù vậy, tất cả các chuyên gia được phỏng vấn về câu chuyện này đều cho biết họ chắc chắn rằng nhiều người quản lý trường hợp khẩn cấp đã sử dụng chatbot để viết tin nhắn, ngay cả khi họ không thừa nhận điều đó. Sutton cho biết những người quản lý trường hợp khẩn cấp tham gia các buổi đào tạo về cảnh báo của cô thường giới thiệu cho cô những cảnh báo chất lượng cao mà họ đã soạn thảo trong vài giây bằng cách sử dụng ChatGPT hoặc Gemini.

Sarah Miller, giáo sư quản lý khẩn cấp tại Đại học Pierce ở Florida và là giảng viên lâu năm tại Trung tâm Đào tạo Phòng chống Thảm họa Quốc gia, cho biết: “Việc áp dụng chính thức là khá thấp, nhưng mọi người hoàn toàn sử dụng nó một cách không chính thức”. “Họ đang sử dụng tài khoản cá nhân của riêng mình hoặc họ đang sử dụng tài khoản miễn phí.”

Nghe có vẻ như là một sự đánh đổi dễ dàng: nếu AI tốt hơn và nhanh hơn con người, và sự khác biệt giữa cảnh báo tốt và cảnh báo xấu có thể là sự sống và cái chết, thì chúng ta nên sử dụng AI cho mọi đợt nắng nóng và cháy rừng. Tuy nhiên, ngay cả những nhà nghiên cứu lạc quan về công nghệ chatbot cũng nói rằng việc chuyển đổi có thể gây tác dụng ngược. Những thành viên của công chúng hoài nghi về AI hoặc những người không tin tưởng vào chính phủ ngay từ đầu có thể từ chối các cơ quan xuất bản đồ họa do AI tạo ra hoặc các bài đăng trên mạng xã hội. Ví dụ, ở Syracuse, New York, một liên đoàn công chức đã kiện chính quyền địa phương vì sử dụng dịch vụ AI để trả lời các cuộc gọi 911 không khẩn cấp.

Ginny Katz, người sáng lập HazAdapt, một công ty tư vấn giúp các quan chức thảm họa tìm ra cách sử dụng công nghệ, cho biết: “Chúng tôi tin tưởng những điều mà chúng tôi cho là xác thực và quan tâm đến chúng tôi”. “Nội dung do AI tạo ra không mang lại cảm giác chân thực.” Cũng có nguy cơ là chatbot có thể cho phép người quản lý trường hợp khẩn cấp gửi nhiều cảnh báo hơn và nhanh hơn, điều này có thể làm tăng nguy cơ mệt mỏi khi cảnh báo.

Giống như trường hợp ở các lĩnh vực khác mà AI đang được triển khai, các chuyên gia về thảm họa cho biết hiện tại, phần mềm chỉ có khả năng tương ứng với khả năng của người sử dụng nó. Một người quản lý trường hợp khẩn cấp dày dạn kinh nghiệm có thể tăng tốc độ giao tiếp của họ với công chúng bằng cách nhờ chatbot soạn thảo một loạt cảnh báo, nhưng một người thiếu kinh nghiệm vội vàng tạo cảnh báo khẩn cấp sẽ không biết cách đánh giá đầu ra của một mô hình như ChatGPT hoặc Claude.

Mặc dù công nghệ này còn lâu mới có thể hoạt động mà không có chuyên gia con người tham gia, nhưng điều đó vẫn không ngăn được nhiều bộ phận quản lý khẩn cấp thiếu nhân lực sử dụng nó. Về việc sự phổ biến của nội dung do AI tạo ra đang ảnh hưởng đến niềm tin của công chúng vào chính phủ như thế nào, các chuyên gia cho rằng còn quá sớm để nói.

“Nếu bạn để con người gửi tin nhắn văn bản cho bạn so với máy tính gửi tin nhắn văn bản cho bạn, bạn sẽ tin cái nào chính xác hơn?” Justin Snair, người sáng lập Preppr, một công ty khác cung cấp phần mềm AI cho các nhà quản lý trường hợp khẩn cấp cho biết.

Ông nói, câu trả lời tùy thuộc vào người nhận nó.

Bình luận

Quay lại đầu trang