Daron Accemoglu và Simon Johnson

Nguyễn Quang A dịch

10. Nền Dân chủ Tan vỡ

Lịch sử media xã hội vẫn chưa được viết, và các tác động của nó là không trung lập.

—Chris Cox, head of product, Facebook, 2019

Nếu mọi người luôn nói dối với bạn, hậu quả không phải là bạn tin các lời nói dối, mà đúng hơn chẳng ai còn tin bất cứ thứ gì nữa.

—Hannah Arendt, 1974 interview

 

Vào ngày 2 tháng Mười Một 2021, ngôi sao tennis Trung quốc Bành Soái (Peng Shuai) đăng trên site media xã hội Weibo rằng cô đã bị một quan chức cấp cao ép quan hệ tình dục. Thông điệp được gỡ bỏ trong vòng 20 phút và chẳng bao giờ xuất hiện lại trên media xã hội Trung quốc. Vào lúc nó bị gỡ, một số người dùng đã chụp màn hình post mà được chia sẻ trong media nước ngoài. Nhưng sự truy cập đến các trang nước ngoài này cũng bị kiểm duyệt nhanh chóng. Đã có sự quan tâm lớn ở Trung Quốc về Peng Shuai, nhưng ít người có khả năng xem post nguyên bản, và đã không có sự thảo luận công khai nào.

Sự gỡ bỏ nhanh chóng thông tin nhạy cảm chính trị là quy tắc chứ không phải ngoại lệ ở Trung Quốc, nơi internet và media xã hội dưới sự giám sát liên tục. Chính phủ Trung quốc được nói là chi tiêu khoảng 6,6 tỉ $ mỗi năm chỉ về giám sát và kiểm duyệt nội dung online.

Chính phủ cũng đầu tư ồ ạt vào các công cụ số khác và nhất là AI cho sự giám sát. Điều này là dễ thấy nhất trong tỉnh Tân Cương, nơi sự thu thập dữ liệu có tính hệ thống về những người Muslim Uighur quay lại ngay sau các cuộc nổi loạn tháng Bảy 2009 ở đó, nhưng đã tăng nhiều lần kể từ 2014. Đảng cộng sản ra lệnh cho một số công ty công nghệ hàng đầu để phát triển các công cụ cho việc thu thập, tổng hợp, và phân tích dữ liệu về các thói quen cá nhân và hộ gia đình, các hình mẫu truyền thông, việc làm, chi tiêu, và thậm chí sở thích để được dùng như các đầu vào cho “sự kiểm soát dự đoán của cảnh sát” chống lại mười một triệu cư dân của tỉnh mà được xem là các nhà bất đồng tiềm năng.

Một số công ty công nghệ lớn ở Trung Quốc, kể cả Ant Group (được Alibaba sở hữu một phần), gã viễn thông khổng lồ Huawei, và một số công ty AI lớn nhất trên thế giới như SenseTime, CloudWalk, và Megvii, đã hợp tác với những cố gắng chính phủ để phát triển các công cụ giám sát và triển khai chúng ở Tân Cương. Những cố gắng để theo dõi người dân dùng DNA của họ đang được tiến hành. Các công nghệ AI nhận diện những người Uighur trên cơ sở các đặc tính nét mặt của họ cũng được dùng một cách thường lệ.

Những gì bắt đầu ở Tân Cương kể từ đó đã lan ra phần còn lại của Trung Quốc. Các camera nhận dạng mặt bây giờ phổ biến khắp đất nước, và chính phủ đã có tiến bộ vững chắc tới việc đưa hệ thống tín dụng xã hội (社会信用体系 : xã hội tín dụng thể hệ) quốc gia vào, mà thu thập thông tin về các cá nhân và các doanh nghiệp để giám sát các hành động không mong muốn và không đáng tin cậy của họ. Tất nhiên, điều này gồm sự chỉ trích bất đồng ý kiến và lật đổ chính phủ. Theo tài liệu kế hoạch chính thức, một hệ thống tín dụng xã hội

dựa vào các luật, các quy định, các tiêu chuẩn và các điều lệ, nó dựa vào một mạng lưới hoàn chỉnh bao gồm các hồ sơ tín dụng của các thành viên xã hội và hạ tầng cơ sở tín dụng, nó được hỗ trợ bởi sự áp dụng hợp pháp của thông tin tín dụng và một hệ thống dịch vụ tín dụng, các đòi hỏi vốn có của nó là xác lập ý tưởng về một văn hóa chân thành, và phát huy sự chân thành và các đức hạnh truyền thống, nó dùng sự khuyến khích để giữ sự tin cậy và các ràng buộc chống lại sự phá vỡ sự tin cậy như các cơ chế khuyến khích, và mục tiêu của nó để nâng cao tâm tính trung thực và các mức tín dụng của toàn xã hội.

Các phiên bản ban đầu của hệ thống được phát triển cùng các hãng khu vực-tư nhân, kể cả Alibaba, Tencent, và công ty đi chung xe Didi, với mục tiêu có ý định phân biệt giữa hành vi có thể chấp nhận được (với các nhà chức trách) và hành vi không thể chấp nhận được—và hạn chế tính di động và các hành động khác của những kẻ vi phạm. Kể từ 2017, các nguyên mẫu của hệ thống tín dụng xã hội được thực hiện trong hàng tá thành phố lớn, kể cả Hàng Châu, Thành Đô, và Nam Kinh. Theo Tòa án Nhân dân Tối cao, “Những người không trả được nợ [theo lệnh của tòa án] đã bị cản khỏi việc mua khoảng 27,3 triệu vé máy bay và gần 6 triệu vé xe lửa cho đến nay [9 tháng Bảy 2019].” Một số nhà bình luận đã xem mô hình Trung quốc và hệ thống tín dụng xã hội của nó như một nguyên mẫu cho một loại “chế độ độc tài số” mới, trong đó quy tắc độc đoán được duy trì bởi sự giám sát và sự thu thập dữ liệu mạnh.

Thật mỉa mai, đấy chính xác là điều ngược lại với những gì nhiều người nghĩ sẽ là các tác động của internet và media xã hội lên diễn ngôn chính trị và nền dân chủ. Truyền thông online được hứa hẹn để giải phóng trí khôn của đám đông, vì các quan điểm khác nhau được truyền đạt và cạnh tranh tự do, cho phép sự thật chiến thắng. Internet được cho là sẽ làm cho các nền dân chủ mạnh hơn và đưa các chế độ độc tài vào thế phòng thủ khi nó tiết lộ thông tin về tham nhũng, sự đàn áp, và sự lạm dụng. Các Wiki, như WikiLeaks khét tiếng bây giờ, được xem như các bước hướng tới sự dân chủ hóa nghề làm báo. Media xã hội sẽ làm tất cả các việc trên và tốt hơn bằng việc tạo thuận lợi cho diễn ngôn chính trị cởi mở và sự phối hợp giữa các công dân.

Bằng chứng ban đầu có vẻ đã xác nhận điều này. Vào ngày 17 tháng Giêng, 2001, các tin nhắn văn bản được dùng để điều phối các cuộc biểu tình ở Philippines chống lại Quốc hội của nó, mà đã quyết định xem thường bằng chứng quan trọng chống lại Tổng thống Joseph Estrada trong vụ xử phế truất ông. Khi các tin nhắn di chuyển từ một người dùng sang người khác, hơn một triệu người đã đến khu trung tâm Manila để phản đối tội đồng lõa của các đại biểu quốc hội trong sự tham nhũng và các tội của Estrada. Sau khi thủ đô bị đình trệ, các nhà lập pháp đã đảo ngược quyết định của họ, và Estrada bị phế truất.

Ít hơn một thập kỷ sau đó, đến lượt của media xã hội. Facebook và Twitter được những người biểu tình dùng trong mùa Xuân Arab, giúp lật đổ các nhà chuyên quyền cai trị từ lâu Zine El Abidine Ben Ali ở Tunisia và Hosni Mubarak ở Ai Cập. Một trong những nhà lãnh đạo của các cuộc biểu tình Ai Cập và một kỹ sư máy tính tại Google, Wael Ghonim, đã tóm tắt cả tâm trạng giữa một số người biểu tình và sự lạc quan trong thế giới công nghệ khi ông nói trong một cuộc phỏng vấn: “Thực sự tôi muốn gặp Mark Zuckerberg một ngày và cảm ơn ông. Cuộc cách mạng này đã bắt đầu—phải, rất nhiều cuộc cách mạng này đã bắt đầu trên Facebook. Nếu bạn muốn giải phóng một xã hội, hãy cho họ Internet. Nếu bạn muốn có một xã hội tự do, hãy cho họ Internet.” Một đồng sáng lập của Twitter đã chấp nhận cùng sự diễn giải về vai trò riêng của nó, tự cho là “Một số Tweet có thể tạo thuận lợi cho sự thay đổi tích cực trong một nước bị áp bức…”

Các nhà hoạch định chính sách đã đồng ý. Bộ trưởng Ngoại giao Hillary Rodham Clinton tuyên bố trong 2010 rằng quyền tự do internet sẽ là một cột trụ chiến lược then chốt của bà cho sự mở rộng dân chủ khắp thế giới.

Với những hy vọng này, làm sao chúng ta lại kết thúc trong một thế giới trong đó các công cụ số là các vũ khí hùng mạnh trong tay những kẻ chuyên quyền cho việc chặn thông tin và đàn áp bất đồng, và media xã hội trở thành một ổ thông tin sai lệch, được thao túng không chỉ bởi các chính phủ độc đoán mà cả bởi những kẻ cực đoan từ cả cánh Hữu và cánh Tả?

Trong chương này chúng tôi cho rằng các tác hại của các công nghệ số và AI lên diễn ngôn chính trị và xã hội đã không phải là không thể tránh khỏi và đã nảy sinh từ cách đặc thù theo đó các công nghệ này được phát triển. Một khi các công cụ số này bắt đầu được dùng chủ yếu cho sự thu thập và sự xử lý dữ liệu đồ sộ, chúng trở thành các công cụ hiệu nghiệm trong tay của cả các chính phủ và các công ty quan tâm đến sự giám sát và thao túng. Khi người dân bị tước quyền nhiều hơn, sự kiểm soát từ trên xuống đã tăng cường trong các nước cả độc đoán lẫn dân chủ, và các mô hình kinh doanh mới dựa vào việc tiền tệ hóa và tối đa hóa sự can dự và sự lăng nhục người dùng đã hưng thịnh.

Một Hệ thống Kiểm duyệt bị Vũ khí hóa về mặt Chính trị

Đã chẳng bao giờ dễ để là đối lập ở Trung Quốc Cộng sản. Trong cái nhiều người diễn giải như sự nới lỏng đàn áp một phần đã lấy đi hàng triệu sinh mạng rồi, Chủ tịch Mao tuyên bố trong 1957, “Hãy để trăm hoa đua nở,” cho phép sự chỉ trích Đảng cộng sản. Nhưng các hy vọng, mà việc này có ý muốn nói là các thái độ chấp nhận hơn đối với bất đồng quan điểm, đã mau bị tiêu tan. Mao đã khởi xướng một chiến dịch “Chống-Hữu khuynh” mãnh liệt, và những người chú ý đến lời mời trước đó của ông và thử bày tỏ quan điểm phê phán của họ đã bị bắt, bị bỏ tù, và bị tra tấn. Ít nhất năm trăm ngàn người đã bị hành quyết giữa 1957 và 1959.

Nhưng vào cuối các năm 1970 và đầu các năm 1980, tình hình có vẻ đã rất khác. Mao chết trong 1976, và những người cứng rắn, kể cả vợ ông, Giang Thanh, và ba cộng sự Cộng sản của bà, thường được biết đến như “Bè lũ Bốn tên,” đã thua cuộc tranh giành quyền lực kế tiếp và bị gạt sang bên. Đặng Tiểu Bình, một trong các lãnh tụ của cuộc cách mạng, một tướng thành công trong Nội Chiến, kiến trúc sư của chiến dịch Chống-Hữu khuynh, tổng bí thư và phó thủ tướng, và muộn hơn bị Mao thanh trừng, đã trở lại và đảm trách trong 1978. Đặng tái tạo chính mình như một nhà cải cách và đã thử một sự tái cấu trúc kinh tế lớn của Trung Quốc.

Thời kỳ này đã chứng kiến một sự nới lỏng quyền lực của Đảng cộng sản. Các tổ chức media độc lập mới xuất hiện, và một số đã công khai phê phán đảng. Các phong trào cấp cơ sở khác nhau cũng bắt đầu trong thời kỳ này, kể cả các phong trào sinh viên ủng hộ-dân chủ và các sáng kiến nông thôn để bảo vệ các quyền của dân thường chống lại sự chiếm đoạt đất.

Các hy vọng về một xã hội cởi mở hơn đã tan thành mây khói, một lần nữa, trong vụ thảm sát quảng trường Thiên An Môn trong 1989. Trong những ngày tương đối dễ dãi hơn của các năm 1980, đòi hỏi cho các quyền tự do lớn hơn và cải cách đã tích tụ trong các thành phố và nhất là giữa các sinh viên. Một làn sóng lớn của các cuộc biểu tình sinh viên đã xảy ra rồi trong 1986, với các đòi hỏi cho dân chủ, tự do ngôn luận lớn hơn, và tự do hóa kinh tế. Những người cứng rắn đã đổ lỗi cho tổng bí thư ủng hộ-cải cách của đảng, Hồ Diệu Bang, vì sự mềm mỏng với những người biểu tình và đã loại bỏ ông khỏi quyền lực.

Các cuộc biểu mới nổ ra trong tháng Tư 1989 sau cái chết của Hồ do đau tim. Hàng trăm sinh viên từ Đại học Bắc Kinh diễu hành đến quảng trường Thiên An Môn, ở trung tâm Bắc Kinh, được Cổng Thiên An (Thiên An Môn) tách khỏi Tử Cấm Thành. Khi hàng ngũ của họ tăng lên trong vài giờ tiếp theo, các sinh viên đã soạn “Bảy Đòi hỏi,” gồm các lời kêu gọi cho việc xác nhận quan điểm của Hồ Diệu Bang về dân chủ và tự do là đúng, việc chấm dứt kiểm duyệt báo chí và các hạn chế biểu tình, và việc kiềm chế tham nhũng của các nhà lãnh đạo nhà nước và các gia đình của họ.

Khi chính phủ lập lờ về đáp ứng thế nào, sự ủng hộ cho các cuộc biểu tình tăng lên, nhất là sau khi các sinh viên bắt đầu một cuộc tuyệt thực vào ngày 13 tháng Năm. Có đến một triệu cư dân Bắc Kinh đã biểu tình đoàn kết trong giữ tháng Năm. Cuối cùng, Đặng Tiểu Bình đã đứng về phía những người cứng rắn và phê duyệt hành động quân sự chống lại các sinh viên. Quân luật được công bố vào ngày 20 tháng Năm, và trong hai tuần tiếp theo hơn 250.000 lính được cử tới Bắc Kinh để dập tắt tình trạng bất ổn. Vào ngày 4 tháng Sáu, các cuộc biểu tình bị dập tắt, và quảng trường được tẩy sạch. Các nguồn độc lập ước lượng số người chết giữa những người biểu tình đã cao đến 10.000. Quảng trường Thiên An Môn đã là một điểm ngoặt trong quyết tâm của Đảng cộng sản để kiển soát chặt chẽ các quyền tự do nổi lên trong các năm 1980 và để hạn chế các hoạt động đối lập.

Tuy nhiên, năng lực của Đảng cộng sản để kiểm soát sự bất đồng quan điểm trong các lãnh thổ mênh mông do nó kiểm soát đã vẫn hạn chế trong các năm 1990 và hầu hết các năm 2000. Phong trào Weiquan (duy quyền: vận động-bảo vệ quyền) cấp cơ sở, mà đã đưa số đông luật sư lại với nhau để bảo vệ các nạn nhân của các sự lạm dụng nhân quyền khắp Trung Quốc và ủng hộ các sự nghiệp môi trường, các quyền nhà ở, và quyền tự do ngôn luận, đã bắt đầu trong đầu các năm 2000. Một trong những phong trào ủng hộ-dân chủ nổi bật nhất, Hiến chương 08, do nhà văn và nhà hoạt động Liu Hiểu Ba lãnh đạo, công bố cương lĩnh của nó trong 2008 và đề xuất các cải cách vượt xa bảy đòi hỏi của các cuộc biểu tình Quảng trường Thiên An Môn. Chúng đã gồm một hiến pháp mới, bầu cử tất cả các quan chức công, sự phân chia quyền lực, một nền tư pháp độc lập, các đảm bảo cho các quyền con người cơ bản, và quyền tự do rộng rãi cho hiệp hội, hội họp, và biểu đạt.

Vào 2010, sự bất đồng quan điểm công khai trở nên khó hơn nhiều ở Trung Quốc, với internet một công cụ hiệu nghiệm trong tay các nhà chức trách để giám sát và làm vệ sinh diễn ngôn chính trị. Internet đã đến Trung Quốc trong 1994, và những cố gắng để kiểm duyệt đã bắt đầu không lâu sau đó. “Đại Tường Lửa (Phòng Hỏa Trường Thành),” đã nhắm tới việc hạn chế những gì các công dân Trung quốc có thể xem và họ có thể giao tiếp với ai, khởi đầu trong 2002, được hoàn tất trong 2009, và đã được mở rộng định kỳ kể từ đó.

Trong đầu các năm 2010, tuy vậy, sự kiểm duyệt số có các hạn chế của nó. Một nỗ lực nghiên cứu lớn đã thu thập và phân tích hàng triệu post (bài đăng) media xã hội ngang 1.382 website và platform Trung quốc trong 2011 và sau đó đã bám sát chúng để xem nếu chúng có bị các nhà chức trách Trung quốc loại bỏ hay không. Kết quả cho thấy Đại Tường Lửa đã có hiệu quả, nhưng chỉ đến một điểm. Các nhà chức trách đã không kiểm duyệt hầu hết (hàng trăm ngàn) post phê phán chính phủ hay đảng. Đúng hơn, họ đã loại bỏ một tập nhỏ hơn nhiều của các post về các chủ đề nhạy cảm gây ra một rủi ro về phản ứng quy mô-lớn và khả năng hợp nhất các nhóm đối lập khác nhau. Chẳng hạn, tuyệt đại đa số các post về các cuộc biểu tình ở Nội Mông hay khu Tăng Thành (Zhengcheng) được gỡ bỏ nhanh chóng. Các post về Bạc Hy Lai ([cựu bí thư Trùng Khánh] cựu thị trưởng Đại Liên, ủy viên Bộ Chính trị, và bị thanh trừng lúc đó) hay Phương Tân Hưng (Fang Binxing cha đẻ của Đại Tường Lửa) bị gỡ nhanh ngang thế.

Một nhóm nhà nghiên cứu khác tìm thấy rằng, bất chấp Đại Tường Lửa và sự kiểm duyệt có tính hệ thống, truyền thông media xã hội đã vẫn hoạt động như một ngòi nổ cho các cuộc biểu tình. Việc nhắn tin trên Weibo đã cho phép sự phối hợp và sự truyền bá địa lý của các hoạt động phản kháng. Tuy vậy, sau đó trong thời kỳ này, các hoạt động bất đồng quan điểm do media xã hội–làm trung gian đã ngắn ngủi.

Sự kiểm duyệt nhẹ hơn cho phép một số thông điệp phê phán lưu hành đã chấm dứt sau 2014. Dưới sự lãnh đạo của Tập Cận Bình, chính phủ đã tăng cầu của nó cho các công nghệ AI giám sát và liên quan đầu tiên ở Tân Cương và sau đó khắp Trung Quốc. Trong 2017 nó phát hành “Kế hoạch Phát triển AI Thế hệ Mới,” với một mục tiêu lãnh đạo toàn cầu về AI và một tiêu điểm rõ ràng về dùng AI cho sự giám sát. Kể từ 2014, chi tiêu của Trung Quốc về software và camera giám sát và phần của nó trong đầu tư toàn cầu vào AI đã tăng nhanh mỗi năm, bây giờ chiếm khoảng 20% chi tiêu AI toàn thế giới. Các nhà nghiên cứu ở Trung Quốc bây giờ chiếm nhiều bằng sáng chế liên quan-đến AI hơn bất kể nước nào khác.

Với các công nghệ AI tốt hơn là sự giám sát mạnh hơn, và theo lời của nhà sáng lập China Digital Times (Thời báo Số Trung Quốc), Xiao Qiang, “Trung Quốc có một hệ thống kiểm duyệt bị vũ khí hóa về mặt chính trị; nó được tinh chế, tổ chức, điều phối và hỗ trợ bởi các nguồn lực của nhà nước. Nó không chỉ để xóa cái gì đó. Chúng cũng có một bộ máy hùng mạnh để dựng một chuyện kể và nhắm nó vào bất kể mục tiêu nào với quy mô khổng lồ.”

Ngày nay, rất ít post bất đồng quan điểm tránh được sự kiểm duyệt trên bất kể nền tảng media xã hội lớn nào, Đại Tường Lửa phủ hầu như tất cả các website nước ngoài nhạy cảm về chính trị, và có ít bằng chứng về các cuộc biểu tình được điều phối trên media xã hội. Người Trung quốc không còn có thể truy cập hầu hết media độc lập nước ngoài, kể cả the New York Times, CNN, BBC, Guardian, và Wall Street Journal. Các tổ chức media xã hội Tây phương lớn và các công cụ tìm kiếm, kể cả Google, YouTube, Facebook, Twitter, Instagram, và các blog site chia sẻ-video khác, cũng bị chặn.

AI đã khuếch đại đáng kể năng lực của chính phủ Trung quốc để đàn áp sự bất đồng quan điểm và né tránh diễn ngôn và thông tin chính trị, nhất là trong bối cảnh của nội dung đa phương tiện (multimedia) và trò chuyện trực tiếp (live chat).

Một Thế giới Mới Can đảm hơn

Vào các năm 2010, diễn ngôn chính trị Trung quốc trông có vẻ giống tiểu thuyết 1984 của George Orwell rồi. Bằng việc chặn thông tin và dùng tuyên truyền có tính hệ thống, chính phủ đã thử kiểm soát chặt chẽ chuyện kể chính trị. Khi các cuộc điều tra tham nhũng đụng đến các chính trị gia cấp cao hay các gia đình của họ được tường thuật nổi bật trong báo chí nước ngoài, sự kiểm duyệt chính phủ bảo đảm rằng nhân dân Trung quốc không thấy các chi tiết này và thay vào đó bị bỏ bom với sự tuyên truyền về đức hạnh của các nhà lãnh đạo của họ.

Nhiều người ít nhất có vẻ đã bị sự nhồi sọ thuyết phục một phần hay chí ít đã không dám thú nhận rằng họ nghĩ đấy là sự tuyên truyền. Đảng cộng sản đã khởi xướng một cải cách lớn về chương trình giảng dạy trung học trong 2001. Mục tiêu là để giáo dục thanh niên cả nước về chính trị. Một bản ghi nhớ 2004 về cải cách đã có tiêu đề “Các Gợi ý về Tăng cường Xây dựng Ý thức hệ và Đạo đức của Thanh niên Chúng ta.” Các sách giáo khoa mới, mà bắt đầu được giới thiệu chính thức trong 2004, đã có một sự tường thuật dân tộc chủ nghĩa hơn về lịch sử và nhấn mạnh thẩm quyền và các đức hạnh của Đảng cộng sản. Chúng chỉ trích các nền dân chủ Tây phương và cho rằng hệ thống chính trị của Trung Quốc là ưu việt hơn.

Các học sinh tiếp xúc với các sách giáo khoa mới tự cho là có các ý kiến rất khác với các học sinh trong cùng tỉnh đã tốt nghiệp trước khi các sách giáo khoa mới được đưa vào. Họ cũng báo cáo các mức tin cậy cao hơn vào các quan chức chính phủ và nghĩ rằng hệ thống Trung quốc là dân chủ hơn suy nghĩ của các sinh viên không bị cùng các sách giáo khoa nhồi sọ. Liệu họ có thực sự tin các thứ này hay đơn giản đã tiếp thu dữ kiện rằng họ được kỳ vọng để đưa ra các ý kiến này khi được hỏi là khó hơn để xác lập. Tuy nhiên, là rõ rằng các quan điểm được báo cáo của họ bị ảnh hưởng mạnh bởi sự tuyên truyền họ phải chịu.

Vào cuối các năm 2010, tất cả các xu hướng này được tăng cường một cách đáng kể. Sự kiểm duyệt số và sự tuyên truyền đã có nghĩa rằng chủ nghĩa dân tộc, sự ủng hộ mù quáng cho chính phủ, và sự không sẵn lòng để lắng nghe tin tức và các ý kiến phê phán đã trở nên phổ biến hơn nhiều giữa thanh niên Trung quốc. Sau các khoản đầu tư ồ ạt vào AI, Đại Tường Lửa cũng được bổ sung bằng sự giám sát liên tục dùng dữ liệu thu thập được về tất cả các platform và nơi làm việc Trung quốc. Trong một môi trường như vậy, các sinh viên đại học Trung quốc có còn muốn truy cập các nguồn media nước ngoài nếu họ có thể? Đấy là câu hỏi mà hai nhà nghiên cứu đặt ra để khai phá trong một nghiên cứu đầy tham vọng. Câu trả lời họ tìm thấy là ngạc nhiên, ngay cả cho chính họ.

Đại Tường Lửa đã có một điểm yếu trong giữa-các năm 2010. Nó chặn sự truy cập của những người dùng Trung quốc đến media và các website nước ngoài bằng việc dùng địa chỉ IP (IP addresses) của họ, mà cho biết liệu họ có ở Trung Hoa đại lục hay không. Nhưng các VPN (Virtual Private Network-Mạng Tư nhân Ảo) có thể được dùng để che dấu địa chỉ IP, cho phép những người dùng ở Trung Hoa đại lục truy cập các website bị kiểm duyệt. Chính phủ đã không cấm rõ ràng các VPN, và thông tin trên các website được thăm bằng việc dùng VPN đã không sẵn có cho các nhà chức trách, khiến một sự lách như vậy là khá an toàn. (Tuy vậy, tình hình đã thay đổi kể từ đó với việc tư nhân dùng các VPN bị cấm và tất cả các nhà cung cấp VPN phải đăng ký với chính phủ.)

Trong một thí nghiệm được thiết kế tài tình, hai nhà nghiên cứu đã cho các sinh viên đại học ở Bắc Kinh sự truy cập VPN miễn phí (và đôi khi các khuyến khích thêm qua các bản tin và các phương tiện khác) để họ có thể truy cập các hãng tin nước ngoài trong một thời kỳ mười tám tháng giữa 2015 và 2017. Các sinh viên nhận được những sự động viên thêm này đã truy cập media Tây phương, đã quan tâm đến tin tức, và, một khi bắt đầu làm vậy, đã tiếp tục nhận tin tức từ các nguồn nước ngoài. Các trả lời khảo sát của họ cho biết rằng họ hiểu và tin vào thông tin, đã thay đổi các ý kiến chính trị của họ, và trở nên phê phán hơn với chính phủ Trung quốc. Họ cũng đã bày tỏ sự đồng cảm hơn nhiều cho các định chế dân chủ.

Tuy nhiên, không có các khuyến khích thêm, thì tuyệt đại đa số sinh viên đã không có sự quan tâm nào đến truy cập các website nước ngoài và đã thậm chí không muốn sự truy cập VPN miễn phí. Họ bị sự tuyên truyền trong trường học và trong media Trung quốc thuyết phục đến mức không có thông tin xác đáng hay tin cậy nào về Trung Quốc trong các nguồn Tây phương mà họ thực sự không cần để bị kiểm duyệt một cách tích cực. Họ đã tiếp thu sự kiểm duyệt rồi.

Các nhà nghiên cứu đã diễn giải sự phát hiện này như Brave New World (Thế giới Mới Can đảm) của Aldous Huxley hơn là 1984 của George Orwell. Theo lời của nhà phê bình xã hội Neil Postman, “Cái Orwell sợ là những người sẽ cấm sách. Cái Huxley sợ là sẽ không có lý do nào để cấm một cuốn sách, vì sẽ chẳng còn ai muốn đọc sách nữa.”

Trong dystopia [xã hội không tưởng đen tối, trái với upopia là không tưởng đẹp đẽ] của Huxley, xã hội được phân chia giữa các đẳng cấp bị phân mảnh một cách cứng nhắc, đi từ các alpha ở trên đỉnh xuống các beta, gamma, delta, và xuống đến tận các epsilon. Nhưng không có sự cần hơn cho sự kiểm duyệt và sự giám sát nữa bởi vì “dưới một nhà độc tài khoa học sự giáo dục sẽ thực sự hiệu quả—với kết quả là hầu hết đàn ông và đàn bà sẽ lớn lên để yêu tình trạng nô lệ của họ và sẽ chẳng bao giờ mơ về cách mạng. Có vẻ không có lý do chính đáng nào vì sao một chế độ độc tài khoa học hoàn toàn có bao giờ nên bị lật đổ.”

Từ Prometheus đến Pegasus

Sự dùng các công cụ số để đàn áp sự bất đồng quan điểm không phải là độc nhất cho Trung Quốc. Iran và Nga, giữa các chế độ độc tài khác, cũng đã dùng chúng để theo dõi và trừng phạt các nhà bất đồng chính kiến và bóp nghẹt sự truy cập thông tin tự do.

Ngay cả trước mùa Xuân Arab, sự dùng media xã hội trong các cuộc biểu tình ủng hộ-dân chủ được quốc tế chú ý trong cuộc Cách mạng Xanh rốt cuộc không thành công của Iran. Đám đông khổng lồ (theo một số người ước tính lên đến ba triệu người) đã đổ xuống đường phố để hạ bệ Tổng thống Mahmoud Ahmadinejad, bị cho là đã gian lận cuộc bầu cử 2009 để vẫn nắm quyền. Nhiều công cụ media xã hội, kể cả tin nhắn và Facebook, được dùng trong việc điều phối các cuộc biểu tình.

Các cuộc biểu tình mau chóng bị đàn áp, và một số lớn nhân vật đối lập và sinh viên đã bị bắt. Do hậu quả, sự kiểm duyệt internet Iran đã tăng cường. Trong 2012 Hội đồng Tối cao về Không gian mạng (Cyberspace) được khởi động để giám sát internet và media xã hội, và ngày nay hầu như tất cả media xã hội Tây phương, các dịch vụ phát trực tuyến (kể cả Netflix), và hầu hết media tin tức Tây phương bị chặn ở Iran.

Sự tiến hóa của vai trò của media xã hội trong chính trị và sự đàn áp thẳng tay nảy sinh của chính phủ ở nước Nga là tương tự. Site VK (VKontakte) đã nổi lên như nền tảng media xã hội phổ biến nhất trong nước và được dùng rộng rãi rồi vào 2011. Gian lận bầu cử trong các cuộc bầu cử quốc hội ngày 4 tháng Mười Hai 2011, được lập tư liệu trên internet với các bức ảnh về sự nhồi phiếu bàu và những người ủng hộ chính phủ bỏ nhiều phiếu, đã châm ngòi cho các cuộc biểu tình lớn. Nghiên cứu tiếp sau thấy rằng các cuộc biểu tình được điều phối trên nền tảng VK và đã có các hành động chống chính phủ lớn hơn đáng kể trong các thành phố nơi VK được sử dụng rộng rãi hơn.

Như ở Trung Quốc và Iran, các cuộc biểu tình đã đóng vai trò kích hoạt sự kiểm soát và sự kiểm duyệt tăng lên của chính phủ đối với hoạt động online ở nước Nga. Sự kiểm duyệt có tính hệ thống được tăng cường kể từ đó. Hệ thống cho các Hoạt động Điều tra Tác nghiệp buộc tất cả các nhà khai thác viễn thông để cài đặt phần cứng do Cục An ninh Liên bang (FSB) cung cấp, mà cho phép FSB giám sát dữ liệu-meta hay thậm chí nội dung, và cả chặn sự truy cập, mà không cần một lệnh. Sau một vòng nữa của các cuộc biểu tình trong 2020, nhiều website bất đồng chính kiến và tin tức hơn đã bị chặn, các công cụ VPN và trình duyệt Tor được mã hóa bị cấm, và các khoản phạt mới, vô cùng lớn được đưa vào như một cách để buộc các công ty chặn sự truy cập nội dung bất hợp pháp, kể cả các post media xã hội và các website phê phán chính phủ. Mặc dù các công nghệ AI là ít quan trọng hơn đối với các cố gắng kiểm duyệt Nga, vai trò của chúng cũng đã tăng lên gần đây.

Sự lạm dụng các công cụ số hướng tới chống lại các nhóm đối lập là không giới hạn ở các chế độ độc tài. Trong 2020 một danh sách về khoảng năm mươi ngàn số điện thoại được tiết lộ cho Forbidden Stories (các Câu chuyện bị Cấm), một tổ chức quốc tế cố gắng công bố các câu chuyện từ và về các nhà báo dưới sự đàn áp khắp toàn cầu. Các số điện thoại này thuộc về các chính trị gia đối lập, các nhà hoạt động nhân quyền, các nhà báo, và các nhà bất đồng chính kiến mà được cho là đã bị hack dùng spyware (phần mềm gián điệp) Pegasus được công ty công nghệ Israeli Tập đoàn NSO (được đặt tên theo tên của các nhà sáng lập của nó, Niv Karmi, Shalev Hulio, và Omri Lavie). (NSO phủ nhận bất kể hành vi sai trái nào, nói rằng software được cung cấp chỉ cho “các khách hàng chính phủ được xem xét kỹ lưỡng” và rằng các khách hàng này quyết định dùng nó thế nào.)

Pegasus là một software “zero-click,” có nghĩa rằng nó có thể được cài đặt từ xa trên các điện thoại di động và không yêu cầu người dùng click lên bất kể link nào—nói cách khác, nó có thể được cải đặt mà không có sự biết hay sự đồng ý của người dùng. Tên của nó đến từ con ngựa có cánh, Pegasus, trong thần thoại Hy Lạp, với sự nhắc đến lớp rộng của software nó thuộc về (ngựa [thành] Trojan) và sự thực rằng nó bay thay vì được cài đặt bằng tay. Như chúng ta đã thấy trong Chương 1, các nhà lãnh đạo công nghệ ngày nay thích nhấn mạnh sức mạnh giống-lửa của AI và tự miêu tả bản thân họ như (thần lửa) Prometheus hiện tại, ban sức mạnh công nghệ cho loài người. Nhưng Pegasus, chứ không phải Prometheus, là cái chúng ta có vẻ nhận được từ các công nghệ số hiện đại.

Pegasus có thể đọc các tin nhắn văn bản, nghe các cuộc gọi, xác định vị trí, thu thập từ xa các mật khẩu, giám sát hoạt động online, và thậm chí kiểm soát camera và microphone của một điện thoại. Nó được cho là được dùng thường lệ trong nhiều nước với các nhà cai trị độc đoán, kể cả Saudi Arabia, Tiểu Vương quốc Arab Thống nhất (UAE), và Hungary. Nhà báo Jamal Khashoggi, muộn hơn bị sát hại dã man và bi cắt thành từng phần, được cho là dưới sự giám sát của các các đặc vụ Saudi Arab dùng Pegasus. (Các nhà chức trách Saudi nói rằng đấy là một “hoạt động lừa đảo.”)

Sự điều tra các số mà Forbidden Stories nhận được cũng tiết lộ sự lạm dụng software có tính hệ thống của nhiều chính phủ được bàu một cách dân chủ. Ở Mexico, spyware ban đầu kiếm được như một vũ khí chống lại các cartel ma túy và được triển khai trong chiến dịch dẫn đến sự bắt kẻ cầm đầu của cartel Sinaloa, El Chapo. Nhưng sau đó nó đã quay sang chống lại các nhà báo, các luật sư điều tra vụ thảm sát 43 sinh viên, và các đảng đối lập, kể cả một trong những nhà lãnh đạo đối lập, Andrés Manuel López Obrador, mà muộn hơn đã trở thành tổng thống Mexico. Tại Ấn Độ, chính phủ của Thủ tướng Narendra Modi dùng software thậm chí còn sâu rộng hơn và đã đặt nhiều nhà lãnh đạo đối lập quan trọng, các nhà hoạt động sinh viên, các nhà báo, các ủy viên bầu cử, và thậm chí những người đứng đầu Cục Điều tra Trung ương của nước này dưới sự giám sát.

Các sự lạm dụng dùng Pegasus đã vượt xa chính phủ các nước-đang phát triển. Điện thoại của tổng thống Pháp Emmanuel Macron đã ở trên danh sách, như số điện thoại của một số quan chức cấp cao của Bộ Ngoại giao Hoa Kỳ.

Hoa Kỳ không cần Pegasus cho các sự vi phạm công nghệ-cao (mặc dù vài trong số các cơ quan an ninh của nó đã thí nghiệm với software và cũng hoạt động như một nhà trung gian trong việc bán nó cho chính phủ Djibouti). Vào ngày 5 tháng Sáu 2013, thế giới được đánh thức với các tiết lộ từ Edward Snowden, được công bố đầu tiên trên báo Guardian, về sự thu thập dữ liệu bất hợp pháp bởi Cơ quan An ninh Quốc gia (NSA). NSA đã hợp tác với Google, Microsoft, Facebook, Yahoo!, các nhà cung cấp dịch vụ internet khác, và các công ty điện thoại như AT&T và Verizon để hốt các lượng dữ liệu khổng lồ về những sự tìm kiếm internet, truyền thông online, và các cuộc gọi điện thoại của các công dân Mỹ. Nó cũng nghe lén truyền thông của các nhà lãnh đạo của các đồng minh Mỹ, kể cả Đức và Brazil. Nó đã thu thập dữ liệu từ các vệ tinh và các cáp quang dưới nước. Snowden đã mô tả tầm với của các chương trình này bằng việc nói rằng khi ông là một nhà thầu cho NSA, “Tôi, ngồi tại bàn của mình, chắc chắn đã có thẩm quyền để nghe lén bất cứ ai, từ bạn hay kế toán viên của bạn, đến một thẩm phán liên bang hay thậm chí tổng thống, nếu giả như tôi có một e-mail cá nhân (của người đó).” Mặc dù vi hiến và xảy ra mà không có sự biết hay sự giám sát của Quốc hội, một số trong các hoạt động này được FISA (Foreign Intelligence Surveillance Court –Tòa án Giám sát Tình báo nước Ngoài) phê chuẩn.

Hoa Kỳ không phải là Trung Quốc, và các hoạt động này đã phải được che dấu khỏi media tin tức và thậm chí khỏi hầu hết các nhà làm luật. Khi những tiết lộ của Snowden nổ ra, đã có một phản ứng mạnh mẽ chống lại NSA và các chiến lược thu thập dữ liệu lạm dụng của các cơ quan khác. Nhưng điều này đã không đủ để chấm dứt hầu hết sự giám sát. Có lẽ thậm chí tồi hơn, các công ty tư nhân như Clearview AI đã bắt đầu thu thập các hình ảnh mặt từ hàng trăm triệu người dùng và bán thông tin này cho các cơ quan thực thi pháp luật, với không sự giám sát thực chất nào từ xã hội dân sự hay các định chế khác. Chẳng có gì sai trong việc này, theo nhà sáng lập và CEO của Clearview, mà tuyên bố, “Chúng tôi tin đấy là cách tốt nhất để dùng công nghệ.”

Phần mềm gián điệp Pegasus, việc hốt (dữ liệu) của NSA, và công nghệ nhận dạng mặt của Clearview minh họa một vấn đề sâu hơn. Một khi ở đó, các công cụ số cho sự thu thập dữ liệu sâu rộng sẽ được áp dụng bởi nhiều, nếu không phải hầu hết, các chính phủ để đàn áp đối lập và giám sát các công dân của chúng tốt hơn. Chúng sẽ củng cố các chế độ không dân chủ và cho phép chúng chống lại đối lập hiệu quả hơn nhiều. Chúng có thể thậm chí tạo ra một dốc trơn cho các chính phủ dân chủ để trở nên độc đoán hơn theo thời gian.

Nền dân chủ chết trong bóng tối. Nhưng nó cũng đấu tranh dưới ánh sáng do trí tuệ nhân tạo hiện đại cung cấp.

Sự Giám sát và Hướng của Công nghệ

Từ sự phởn phơ ban đầu về tiềm năng dân chủ hóa của internet và media xã hội, một số người đã nhảy sang kết luận ngược lại hoàn toàn: các công cụ số là phản-dân chủ một cách cố hữu. Theo lời của sử gia Yuval Noah Harari, “Công nghệ thiên vị sự chuyên chế.”

Cả hai quan điểm nhị phân này đều sai. Công nghệ số không ủng hộ-dân chủ hay chống-dân chủ. Cũng chẳng có bất kể sự cần thiết nào cho các công nghệ AI được phát triển để trao quyền cho các chính phủ giám sát media, kiểm duyệt thông tin, và đàn áp các công dân của chúng. Tất cả điều này đã là một sự lựa chọn hướng cho công nghệ.

Chúng ta đã thấy trong Chương 9 rằng các công nghệ số, mà hầu như do bản chất của chúng là hết sức đa năng, đã có thể được dùng để đẩy mạnh sự hữu ích máy—ví dụ, bằng việc tạo ra các công việc mới hay các platform mới nhân gấp bội các năng lực con người. Chính tầm nhìn và mô hình kinh doanh của các công ty công nghệ lớn là cái đã đẩy tới một sự tập trung chủ yếu vào việc giám sát người lao động và phá hủy việc làm qua tự động hóa. Cũng đúng thế khi nhắc đến sự dùng AI như một công cụ trong tay các chính phủ độc đoán và một số chính phủ được cho là dân chủ.

Các giấc mơ về internet và các công nghệ số trao quyền cho các công dân chống lại chế độ độc tài đã không hoàn toàn là siêu thực. Các công nghệ số có thể được dùng cho sự mã hóa, làm cho các nhà chức trách không thể hốt truyền thông tư nhân. Các dịch vụ như VPN có thể được dùng để cản trở sự kiểm duyệt. Các công cụ tìm kiếm như Tor hiện tại là không thể cho các chính phủ để giải mã (trong chừng mực chúng tôi biết) và vì thế cung cấp các mức riêng tư và an ninh lớn hơn. Tuy nhiên, những hy vọng ban đầu về dân chủ hóa số đã bị tiêu tan bởi vì thế giới công nghệ đặt nỗ lực của nó vào nơi có tiền và quyền lực—với sự kiểm duyệt chính phủ.

Nó như thế là một con đường đặc thù—một con đường hạ sách—tăng cường sự thu thập dữ liệu và sự giám sát được cộng đồng công nghệ chọn. Mặc dù những tiến bộ về xử lý dữ liệu quy mô-lớn dùng các công cụ học-máy có thể đã là quan trọng trong những cố gắng này, nước xốt bí mật thật trong sự giám sát của các chính phủ và các công ty là các lượng dữ liệu đồ sộ.

Một khi các công nghệ AI tăng cường các xung lực độc đoán, chúng tạo ra một vòng luẩn quẩn. Khi các chính phủ trở nên độc đoán hơn, cầu của chúng cho AI để theo dõi và kiểm soát cư dân của chúng tăng lên, và điều này đẩy AI hơn nữa theo hướng trở thành một công nghệ giám sát đủ lông đủ cánh.

Kể từ 2014, đã có, chẳng hạn, một sự tăng khổng lồ về cầu từ các chính quyền địa phương Trung quốc cho các công nghệ AI cung cấp sự nhận dạng mặt và những kiểu giám sát khác. Cầu này có vẻ đã được kích, một phần, bởi sự bất ổn chính trị địa phương. Các chính trị gia muốn tăng sự kiểm soát bằng cảnh sát và sự giám sát khi họ thấy hoạt động bất đồng chính kiến hay biểu tình đang ấp ủ trong vùng của họ. Trong nửa thứ hai của các năm 2010, các cuộc biểu tình lớn, nhất là nhắm chống lại chính phủ trung ương, đã là không thể, mặc dù các cuộc biểu tình địa phương vẫn xảy ra, và trong một thời gian, như chúng ta đã thấy trước trong chương này, chúng thậm chí đã được điều phối trên media xã hội.

Vào thời điểm này, tuy vậy, các công cụ AI đã chắc chắn ở bên của những kẻ đàn áp thẳng tay, chứ không phải ở bên của những người biểu tình. Một khi được các công nghệ AI trao quyền, các nhà chức trách địa phương trở nên giỏi hơn trong việc đàn áp và tránh các cuộc biểu tình. Nhân tiện, mặc dù chính phủ trung ương và các nhà chức trách địa phương Trung quốc sẵn sàng tuyển số đông các sĩ quan cảnh sát, sự tăng về các khoản đầu tư AI có vẻ làm giảm sự cần dùng nhân lực để làm việc giám sát và thậm chí sự đàn áp thực sự những người biểu tình.

Đáng chú ý, cầu này từ các chính quyền địa phương ảnh hưởng đến hướng của sự đổi mới. Dữ liệu về các start-up AI ở Trung Quốc cho thấy rằng cầu chính phủ cho các công nghệ giám sát biến đổi căn bản sự đổi mới tiếp theo. Các hãng AI có hợp đồng với các chính quyền địa phương Trung quốc bắt đầu chuyển nghiên cứu của chúng ngày càng nhiều tới nhận dạng khuôn mặt và các công nghệ theo dõi khác. Có lẽ như một kết quả của các khuyến khích này, Trung Quốc nổi lên như một nhà lãnh đạo toàn cầu về các công nghệ giám sát, như nhận dạng khuôn mặt, nhưng tụt hậu trong các lĩnh vực khác, kể cả xử lý ngôn ngữ tự nhiên, các kỹ năng lập luận ngôn ngữ, và lập luận trừu tượng.

Các chuyên gia quốc tế xếp hạng chất lượng nghiên cứu AI ở Trung Quốc là vẫn ở đằng sau chất lượng của Hoa Kỳ trong tất cả các chiều. Tuy vậy, có một khía cạnh trong đó Trung Quốc có một lợi thế: dữ liệu.

Các nhà nghiên cứu Trung quốc làm việc với các lượng dữ liệu lớn hơn nhiều và không có hạn chế về tính riêng tư thường hạn chế kiểu dữ liệu mà các nhà nghiên cứu Tây phương có thể tiếp cận. Tác động của các hợp đồng chính quyền địa phương lên hướng nghiên cứu AI là đặc biệt rõ rệt khi các chính quyền địa phương chia sẻ các lượng dữ liệu to lớn trong các hợp đồng mua sắm của chúng. Với dữ liệu sẵn có dư dả cho chúng mà không có bất kể điều kiện ràng buộc nào và cầu mạnh cho các công nghệ giám sát, các start-up AI đã có khả năng test và phát triển các ứng dụng hùng mạnh có thể theo dõi, giám sát, và kiểm soát công dân.

Có một cái bẫy công nghệ giám sát ở đây: các chính phủ hùng mạnh và lắm-tiền có ý định đàn áp sự bất đồng quan điểm đòi hỏi các công nghệ AI để kiểm soát cư dân của chúng. Các chính phủ đòi hỏi chúng càng nhiều, các nhà nghiên cứu tạo ra chúng càng nhiều. AI càng đi theo hướng đàn áp này, nó càng trở nên hấp dẫn cho các chính phủ độc đoán (hay muốn độc đoán).

Quả thực, các start-up Trung quốc bây giờ đang xuất khẩu các sản phẩm AI của chúng nhắm tới việc giám sát và đàn áp cho các chính phủ không dân chủ khác. Công ty công nghệ Trung quốc khổng lồ Huawei, một trong các tổ chức hưởng lợi chính của sự truy cập không hạn chế đến dữ liệu và các khuyến khích tài chính để phát triển các công nghệ hốt dữ liệu, đã xuất khẩu các công cụ này cho 50 nước khác. Trong Chương 9 chúng ta đã thấy tự động hóa dựa vào AI được phát triển trong các nước tiên tiến về công nghệ sẽ ảnh hưởng thế nào đến phần còn lại của thế giới, với các nhược điểm tiềm năng đáng kể cho hầu hết công nhân. Cùng đúng thế cho sự giám sát dựa vào-AI: hầu hết các công dân, dù họ ở đâu trên khắp thế giới, đang thấy ngày càng khó để trốn thoát sự đàn áp.

Media xã hội và các Ghim kẹp Giấy

Sự kiểm duyệt internet và thậm chí spyware công nghệ-cao có thể không nói gì về tiềm năng của media xã hội như một công cụ để cải thiện diễn ngôn chính trị và để phối hợp sự chống lại các chế độ tồi tệ nhất trên thế giới. Rằng một số chế độ độc tài đã sử dụng các công nghệ mới để đàn áp cư dân của chúng không nên làm bất cứ ai ngạc nhiên. Rằng Hoa Kỳ đã làm cùng thế cũng có thể hiểu được khi bạn nghĩ về truyền thống lâu đời về hành vi bất hợp pháp của các cơ quan an ninh của nó mà đã chỉ được khuếch đại với “Chiến tranh chống Khủng bố.” Có lẽ giải pháp là để quyết tâm hơn nữa về media xã hội và cho phép sự kết nối nhiều hơn và việc nhắn tin không bị cản trở để rọi ánh sáng chói lòa hơn lên những sự lạm dụng. Than ôi, con đường hiện thời của media xã hội do AI-cấp lực có vẻ độc hại cho nền dân chủ và các quyền con người như sự kiểm duyệt internet từ trên xuống.

Truyện ngụ ngôn chiếc kẹp-giấy là một công cụ yêu thích của các nhà khoa học máy tính và các nhà triết học cho việc nhấn mạnh các mối nguy hiểm mà AI siêu thông minh sẽ đặt ra nếu các mục tiêu của nó không phù hợp hoàn hảo với các mục tiêu của của loài người. Thí nghiệm tưởng tượng giả định một máy thông minh hùng mạnh không thể chặn được mà nhận các lệnh để sản xuất nhiều ghim kẹp-gấy hơn và sau đó dùng các năng lực đáng kể của nó để vượt trội trong việc đạt mục tiêu này bằng việc nghĩ ra các phương pháp mới để biến đổi toàn bộ thế giới thành các chiếc ghim kẹp-gấy. Khi nhắc đến các ảnh hưởng của AI lên chính trị, nó có thể biến các định chế của chúng ta thành những chiếc kẹp-gấy, không phải nhờ các năng lực siêu việt của nó mà chính vì sự tầm thường của nó.

Vào 2017, Facebook đã phổ biến ở Myanmar đến mức nó được đồng nhất với bản thân internet. Hai mươi hai triệu người dùng, trong dân số 53 triệu, đã là mảnh đất màu mỡ cho thông tin sai lệch và phát ngôn hận thù (hate speech). Một trong những nước đa dạng sắc tộc nhất thế giới, Myanmar là quê hương của 135 sắc tộc riêng biệt được công nhận chính thức. Quân đội của nó, mà đã cai trị đất nước với một bàn tay sắt kể từ 1962, với một thời kỳ ngắn của nền dân chủ nghị viện dưới sự giám hộ quân sự giữa 2015 và 2020, đã thường nhóm lửa hận thù sắc tộc giữa các Phật tử chiếm đa số. Không nhóm người khác nào đã bị nhắm tới thường xuyên như những người Muslim Rohingya, mà sự tuyên truyền chính phủ mô tả như những người nước ngoài, mặc dù họ đã sống ở đó hàng thế kỷ. Phát ngôn hận thù chống lại những người Rohingya đã là phổ biến trong media do chính phủ-kiểm soát.

Facebook đã đến hỗn hợp dễ bốc cháy của sự căng thẳng sắc tộc và sự tuyên truyền cố ý đốt cháy này trong 2010. Từ đó nó đã mở rộng nhanh. Nhất quán với niềm tin của Silicon Valley vào tính ưu việt của các thuật toán hơn con người và bất chấp cơ sở người dùng khổng lồ của nó, Facebook đã tuyển dụng chỉ một người giám sát Myanmar và nói tiếng Miến nhưng không nói được hầu hết trong khoảng một trăm ngôn ngữ khác được dùng ở nước này.

Tại Myanmar, phát ngôn hận thù và sự xúi dục đã đầy dẫy trên Facebook từ đầu. Trong tháng Sáu 2012 một quan chức cấp cao thân cận với tổng thống, Thein Sein, đã post điều này trên trang Facebook của ông:

Nghe nói rằng bọn Khủng bố Rohingya của cái gọi là Tổ chức Đoàn kết Rohingya đang vượt biên giới và vào nước ta với vũ khí. Đó là những người Rohingya từ các nước khác đang đến nước ta. Vì Quân đội chúng ta đã nhận được tin trước, chúng ta sẽ tiêu diệt chúng cho đến cùng! Tôi tin chúng ta đang làm việc đó rồi.

Post tiếp tục: “Chúng ta không muốn nghe bất kể vấn đề nhân đạo hay nhân quyền nào từ những người khác.” Post đã không chỉ khơi dậy sự thù hận chống lại thiểu số Muslim mà cũng khuếch đại chuyện kể giả dối rằng người Rohingya đến nước này từ bên ngoài.

Trong 2013 nhà sư Ashin Wirathu, được tạp chí Time gọi là bộ mặt của Phật tử khủng bố cùng năm, đã đăng các thông điệp Facebook gọi những người Rohingya là những kẻ xâm lược nước ngoài, những kẻ giết người, và một mối nguy hiểm cho đất nước. Cuối cùng ông nói, “tôi chấp nhận từ quá khích với sự tự hào.”

Các lời kêu gọi, từ các nhà hoạt động và các tổ chức quốc tế đến Facebook để kiểm soát chặt chẽ thông tin sai lệch và các post gây bạo động, đã tiếp tục tăng. Một nhà điều hành Facebook đã thú nhận, “Chúng tôi đồng ý rằng chúng tôi có thể và nên làm nhiều hơn.” Thế nhưng vào tháng Tám 2017, bất cứ thứ gì Facebook làm đã còn xa mới đủ để giám sát phát ngôn thù hận. Facebook đã trở thành phương tiện chính cho việc tổ chức cái Hoa Kỳ cuối cùng gọi là một cuộc diệt chủng.

Tính phổ biến của phát ngôn thù hận trên Facebook ở Myanmar không là một điều ngạc nhiên. Mô hình kinh doanh của Facebook dựa vào việc tối đa hóa sự can dự người dùng, và bất kể thông điệp nào thu được cảm xúc mạnh, tất nhiên kể cả phát ngôn thù hận và thông tin sai lệch khiêu khích, được các thuật toán của nền tảng ưu ái bởi vì chúng kích sự can dự mạnh từ hàng ngàn, đôi khi hàng trăm ngàn người dùng.

Các nhóm và các nhà hoạt động nhân quyền đã nêu những sự quan ngại này về phát ngôn thù hận và các hành động tàn bạo nảy sinh tăng lên cho ban lãnh đạo Facebook ngay từ 2014, với ít thành công. Vấn đề thoạt tiên đã bị phớt lờ và các nhà hoạt động đã bị cản trở, trong khi lượng thông tin sai, kích động chống lại những người Rohingya đã tiếp tục tăng lên. Cũng thế đã có bằng chứng rằng các tội ác hận thù, kể cả sự giết hại thiểu số Muslim, đã được tổ chức trên nền tảng. Mặc dù công ty đã không sẵn lòng làm mấy về vấn đề tội ác hận thù, điều này không phải bởi vì nó đã không quan tâm đến Myanmar. Khi chính phủ nước này đóng cửa Facebook, các nhà điều hành của nó ngay lập tức nhảy vào hành động, sợ rằng sự đóng cửa có thể làm mất một số trong 22 triệu người dùng ở nước này.

Facebook cũng đáp ứng các đòi hỏi của chính phủ trong 2019 để dán nhãn bốn tổ chức sắc tộc như “nguy hiểm” và cấm chúng khỏi nền tảng. Các website này, dù liên đới với các nhóm sắc tộc ly khai, như Quân đội Arakan, Quân đội Độc lập Kachin, và Quân đội Liên minh Dân chủ Quốc gia Myanmar, là một số trong các kho lưu trữ chính của các ảnh và các bằng chứng khác về các vụ tàn sát và các hành động tàn bạo khác của quân đội và các tu sĩ Phật giáo cực đoan.

Khi Facebook cuối cùng đã đáp lại áp lực trước đó, giải pháp đã là tạo ra “các nhãn dán (sticker)” để nhận diện phát ngôn hận thù tiềm năng. Các nhãn dán cho phép người dùng để đăng các thông điệp gồm nội dung có hại hay đáng nghi nhưng cảnh báo chúng, “Hãy suy nghĩ trước khi bạn chia sẻ” hay “Đừng là nguyên nhân của bạo lực.” Tuy vậy, hóa ra là chỉ giống một phiên bản ngớ ngẩn của chương trình AI bị chiếc kẹp-giấy ám ảnh, thuật toán của Facebook có ý định tối đa hóa sự can dự đến mức nó đã ghi nhận các post có hại như là nổi tiếng hơn bởi vì mọi người can dự với nội dung để đánh dấu nó như có hại. Thuật toán sau đó đã khuyến nghị nội dung này rộng rãi hơn ở Myanmar, làm trầm trọng thêm sự phát tán phát ngôn hận thù.

Các bài học của Myanmar không có vẻ được Facebook học kỹ. Trong 2018 động học tương tự đã diễn ra ở Sri Lanka, với các post trên Facebook kích động bạo lực chống lại những người Muslim. Các nhóm nhân quyền đã báo cáo phát ngôn thù hận, nhưng vô ích. Theo đánh giá của một nhà nghiên cứu và nhà hoạt động, “Có những sự kích động bạo lực chống lại toàn bộ các cộng đồng và Facebook nói nó không vi phạm các tiêu chuẩn cộng đồng.”

Hai năm năm sau, trong 2020, đến lượt Ấn Độ. Các nhà điều hành Facebook đã gạt các lời kêu gọi từ các nhân viên của họ sang một bên và từ chối loại bỏ chính trị gia Ấn Độ T. Raja Singh, người đã gọi những người Rohingya Muslim là những kẻ nhập cư phải bị bắn và cổ vũ phá hủy các đền thờ Hồi giáo. Nhiều người quả thực đã bị tiêu diệt trong các cuộc bạo loạn chống-Muslim ở Delhi năm đó, mà cũng đã giết hơn năm mươi người.

Máy Thông tin Sai lệch

Các vấn đề về phát ngôn thù hận và thông tin sai lệch ở Myanmar so sánh được với cách Facebook được sử dụng ở Hoa Kỳ, và vì cùng lý do: phát ngôn thù hận, chủ nghĩa cực đoan, và thông tin sai lệch gây ra các cảm giác mạnh và làm tăng sự can dự và thời gian dùng trên nền tảng. Điều này cho phép Facebook bán nhiều quảng cáo được cá nhân hóa hơn.

Trong cuộc bầu cử tổng thống Hoa Kỳ 2016, đã có một sự tăng đáng chú ý về số các post với hoặc thông tin gây lầm lạc hay nội dung sai rành rành. Tuy nhiên, vào 2020, 14% người Mỹ đã xem media xã hội như nguồn tin tức chủ yếu của họ, và 70% đã báo cáo nhận được ít nhất một số tin tức của họ từ Facebook và các tổ chức media xã hội khác.

Các câu chuyện này đã không chỉ là một show (cuộc trình diễn) phụ. Một nghiên cứu về thông tin sai lệch trên nền tảng đã kết luận rằng “sự giả dối lan truyền xa hơn, nhanh hơn, sâu hơn, và rộng hơn sự thật một cách đáng kể trong mọi loại thông tin.” Nhiều post sai lạc rành rành đã lan nhanh chóng bởi vì chúng tiếp tục được chia sẻ. Nhưng không chỉ những người dùng lan truyền tin giả dối. Các thuật toán của Facebook đã nâng các bài giật gân này lên trước cả các post ít liên quan về chính trị và thông tin từ các nguồn media đáng tin cậy.

Trong cuộc bầu tổng thống 2016, Facebook là một kênh chính cho thông tin sai lệch, nhất là cho những người dùng thiên-hữu. Những người ủng hộ Trump thường đến các site lan truyền thông tin sai lệch từ Facebook. Đã có ít lưu lượng đi từ media xã hội đến media truyền thống. Tồi tệ hơn, nghiên cứu gần đây chứng minh bằng tư liệu rằng mọi người có khuynh hướng tin các post với thông tin sai lệch bởi vì họ nhớ tồi nơi họ thấy một mẩu tin. Điều này có thể là đặc biệt quan trọng bởi vì những người dùng thường nhận được thông tin không đáng tin cậy và đôi khi sai rành rành từ các bạn và những người quen cùng chí hướng của họ. Họ cũng chắc không có khả năng tiếp xúc với các tiếng nói ngược trong các môi trường giống–echo chamber (phòng tiếng vang) này.

Các echo chamber có thể là một sản phẩm-phụ không thể tránh khỏi của media xã hội. Nhưng đã được biết trong hơn một thập niên rằng chúng bị các thuật toán của nền tảng làm trầm trọng thêm. Eli Pariser, nhà hoạt động internet và giám đốc điều hành của MoveOn.org, cho biết trong một TED talk trong 2010 rằng mặc dù ông đã theo dõi nhiều site tin tức tự do (liberal) và bảo thủ, sau một thời gian ông để ý ông bị hướng tới các site tự do ngày càng nhiều bởi vì thuật toán đã nhận thấy ông có nhiều khả năng hơn một chút để click vào chúng. Ông đã đặt ra thuật ngữ bong bóng lọc (filter bubble) để mô tả các bộ lọc thuật toán tạo ra như thế nào một không gian nhân tạo trong đó mọi người nghe chỉ các tiếng nói phù hợp rồi với quan điểm chính trị của họ.

Các bong bóng lọc có các tác hại. Thuật toán của Facebook chắc có khả năng hơn để giới thiệu nội dung cánh hữu cho những người dùng có một ý thức hệ thiên-hữu, và ngược lại cho những người cánh tả. Các nhà nghiên cứu đã chứng minh bằng tư liệu rằng các bong bóng lọc nảy sinh làm trầm trọng thêm sự phát tán thông tin sai lệch trên media xã hội bởi vì mọi người bị ảnh hưởng bởi các món tin họ xem. Các tác động bong bóng-lọc vượt xa hơn media xã hội. Nghiên cứu gần đây khuyến khích một số người dùng Fox News để xem CNN thấy rằng sự tiếp xúc với nội dung CNN đã có một tác động làm dịu lên các niềm tin và thái độ chính trị của họ ngang một loạt vấn đề. Lý do chính cho tác động này dường như là Fox News đã trình bày thiên lệch một số dữ kiện và che dấu những dữ kiện khác, đẩy những người dùng theo một hướng thiên-hữu hơn. Có bằng chứng gia tăng rằng các tác động này thậm chí mạnh hơn trên media xã hội.

Mặc dù đã có các cuộc điều trần và phản ứng media đối với vai trò của Facebook trong cuộc bầu cử 2016, đã không có thay đổi mấy vào 2020. Thông tin sai lệch được nhân lên trên nền tảng, một số được lan truyền bởi Tổng thống Donald Trump, thường xuyên cho rằng các phiếu bằng thư là gian lận và rằng hàng đàn người nhập cư không-công dân đã bỏ phiếu (bằng thư). Ông đã dùng media xã hội lặp đi lặp lại để kêu gọi ngừng đếm phiếu.

Trước bầu cử, Facebook cũng bị sa lầy vào cuộc tranh cãi vì một video được sửa về Chủ tịch Hạ Viện Nancy Pelosi, tạo ra ấn tượng bà bị say rượu hay ốm yếu, làm nhịu các lời của bà và nói chung không khỏe. Video giả đã được các đồng minh của Trump quảng bá, kể cả Rudy Giuliani, và hashtag #DrunkNancy (NancySayrượu) bắt đầu trở thành xu hướng. Nó mau chóng lan nhanh và đã thu hút hơn hai triệu view. Các thuyết âm mưu điên rồ, như các thuyết đến từ QAnon, cũng được lưu hành liên tục trong các bong bóng lọc của nền tảng. Các tài liệu được cung cấp cho Quốc hội và Ủy ban Chứng khoán và Giao dịch Hoa Kỳ bởi cựu nhân viên Facebook Frances Haugen tiết lộ rằng các nhà điều hành Facebook thường đã được thông báo về các diễn tiến này.

Khi Facebook bị áp lực gia tăng, phó chủ tịch phụ trách sự vụ và truyền thông toàn cầu của nó, cựu phó thủ tướng Anh Nick Clegg, đã bảo vệ các chính sách của công ty, tuyên bố rằng một nền tảng media xã hội nên được xem như một sân tennis: “Việc làm của chúng tôi là để đảm bảo chắc sân là sẵn sàng—mặt sân là phẳng, các đường được sơn rõ, lưới ở độ cao chính xác. Nhưng chúng tôi không cầm một vợt và bắt đầu chơi. Các cầu thủ chơi thế nào là tùy thuộc vào họ, không phải chúng tôi.”

Trong tuần tiếp sau cuộc bầu cử, Facebook đã đưa vào một biện pháp khẩn cấp, thay đổi các thuật toán của nó để ngừng sự phát tán các thuyết âm mưu cánh-hữu cho rằng trong thực tế Trump đã thắng cuộc bầu cử nhưng bị đánh cắp vì các phiếu bất hợp pháp và các sự bất thường tại các thùng phiếu. Vào cuối tháng Mười Hai, tuy vậy, thuật toán của Facebook đã trở lại trạng thái bình thường của nó, và “sân tennis” đã mở cho một trận tái đấu của sự thất bại 2016.

Một số nhóm cánh-hữu cực đoan cũng như Donald Trump đã tiếp tục tuyên truyền những điều dối trá, và bây giờ chúng ta biết rằng cuộc nổi loạn 6 tháng Giêng 2021, được tổ chức một phần dùng Facebook và các site media xã hội khác. Ví dụ, các thành viên của nhóm dân quân cực-hữu Oath Keepers đã dùng Facebook để thảo luận họ sẽ gặp nhau thế nào và ở đâu, và một số nhóm cực đoan khác đã truyền tin trực tiếp cho nhau trên nền tảng vào ngày 6 tháng Giêng. Một trong những lãnh đạo của Oath Keepers, Thomas Caldwell, được cho là đã post những cập nhật khi ông bước vào điện Capitol và đã nhận được thông tin trên nền tảng về làm thế nào để di chuyển trong tòa nhà cũng như để kích động bạo lực đối với các nhà làm luật và cảnh sát.

Thông tin sai lệch và phát ngôn thù hận không giới hạn ở Facebook. Khoảng 2016, YouTube đã nổi lên như một trong những cơ sở tuyển dụng hiệu nghiệm nhất cho Cực Hữu. Trong 2019, Caleb Cain, một người bỏ học đại học 26 tuổi, đã làm một video về YouTube giải thích anh đã bị cực đoan hóa ra sao trên nền tảng. Như anh nói, “tôi đã rơi xuống hang thỏ cực hữu.” Cain giải thích làm sao anh “đã tiếp tục rơi ngày càng sâu vào hang này” khi anh xem ngày càng nhiều nội dung cực đoan được các thuật toán của YouTube khuyến nghị.

Nhà báo Robert Evans nghiên cứu nhiều người bình thường quanh đất nước đã bị các nhóm này chiêu mộ thế nào, và ông kết luận rằng bản thân các nhóm đã nhắc đến YouTube thường xuyên nhất trên website của chúng: “15 trong số 75 nhà hoạt động phát xít mà chúng tôi nghiên cứu đã tin các video YouTube với red-pilling của họ.” (“Red-pilling” nhắc đến tiếng lóng mà các nhóm này dùng, ám chỉ phim The Matrix: sự chấp nhận sự thật được các nhóm cực-hữu này phát tán là tương đương với việc uống viên thuốc màu đỏ [red pill] trong phim.)

Các sự lựa chọn thuật toán và ý định của YouTube để tăng thời gian xem trên nền tảng đã là cốt yếu cho các kết cục này. Để làm tăng thời gian xem, trong 2012 công ty sửa thuật toán của nó để gán nhiều trọng lượng hơn cho thời gian những người dùng xem hơn là chỉ click (nhấn) vào nội dung. Sự điều chỉnh thuật toán này bắt đầu ưu ái các video mà mọi người dán mắt vào, kể cả một số nội dung cực đoan dễ gây bùng cháy hơn, loại mà Cain đã nghiện.

Trong 2015 YouTube tham gia một nhóm nghiên cứu từ bộ phận AI của công ty mẹ của nó, Google Brain, để cải thiện thuật toán của nền tảng. Các thuật toán mới sau đó đã dẫn đến nhiều đường hơn cho những người dùng để bị cực đoan hóa—trong khi, tất nhiên, dùng nhiều thời gian hơn trên nền tảng. Một trong những nhà nghiên cứu của Google Brain, Minmin Chen, đã khoe khoang trong một hội nghị AI rằng thuật toán mới đã thành công làm thay đổi hành vi người dùng: “Chúng ta có thể thật sự dẫn những người dùng đến một trạng thái khác, so với việc đề xuất nội dung quen thuộc.” Điều này là lý tưởng cho các nhóm bên rìa thử cực đoan hóa mọi người. Nó có nghĩa rằng những người dùng đang xem một video 9/11 (về vụ khủng bố 11 tháng 9 năm 2001) sẽ mau chóng được khuyến nghị nội dung về các âm mưu 9/11. Với khoảng 70% của tất cả các video được xem trên nền tảng đến từ các khuyến nghị của thuật toán, điều này có nghĩa là nhiều dư địa cho thông tin sai lệch và sự thao túng để kéo những người dùng vào hang thỏ.

Twitter đã không khác. Như phương tiện truyền thông ưa thích của cựu tổng thống Trump, nó đã trở thành một công cụ quan trọng cho truyền thông giữa những người cánh-hữu (và một cách tách biệt cũng cho những người cánh tả nữa). Các tweet chống-Muslim của Trump được truyền bá rộng rãi và sau đó đã gây ra không chỉ nhiều post chống-Muslim và post bài ngoại hơn trên nền tảng mà cả các tội ác thù hận chống lại những người Muslim, nhất là trong các bang nơi tổng thống có nhiều người đi theo hơn.

Một số lời nói tồi tệ nhất và phát ngôn thù hận kiên định được lan truyền trên các nền tảng khác, như 4chan, 8chan, và Reddit, kể cả các sub-Reddit của nó như The_Donald (nơi các thuyết âm mưu và thông tin sai lệch liên quan đến Donald Trump bắt nguồn và lưu hành), Physical_Removal (tán thành sự loại bỏ những người tự do), và một số sub-Reddit khác với các tên kỳ thị chủng tộc mà chúng tôi không muốn in ra ở đây. Trong 2015 Southern Poverty Law Center đã gọi Reddit là nền tảng lưu trữ nội dung “kỳ thị chủng tộc hung dữ nhất” trên internet.

Phải chăng là không thể tránh khỏi rằng media xã hội trở thành một hố phân như vậy? Hay phải chăng một số trong các quyết định mà các công ty hàng đầu đưa ra đã dẫn chúng ta đến trạng thái đáng tiếc này? Sự thật là gần với cái sau hơn nhiều, và thực ra cũng trả lời câu hỏi được nêu ra trong Chương 9: Vì sao AI trở nên phổ biến vậy cho dù nó không tăng năng suất ồ ạt và vượt trội hơn những con người?

Câu trả lời—và lý do cho con đường cụ thể mà các công nghệ số đã đi—là doanh thu mà các công ty thu thập các lượng dữ liệu đồ sộ có thể tạo ra dùng quảng cáo số được nhắm tới từng cá nhân. Nhưng các quảng cáo số chỉ tốt khi mọi người chú ý đến chúng, như thế mô hình kinh doanh này có nghĩa rằng các nền tảng cố gắng để tăng sự can dự người dùng với nội dung online. Cách hiệu quả nhất để làm điều này hóa ra là việc nuôi dưỡng các cảm xúc mạnh như sự xúc phạm hay sự căm phẫn.

Sự Mặc cả Quảng cáo

Để hiểu gốc rễ của thông tin sai lệch trên media xã hội, chúng ta phải quay sang câu chuyện nguồn gốc của Google.

Internet đã thịnh vượng trước Google, nhưng các công cụ tìm kiếm sẵn có đã không giúp đỡ. Cái làm cho internet đặc biệt đến vậy là kích thước gây kinh ngạc của nó, với số website được ước lượng là 1,88 tỉ trong 2021. Việc sàng lọc qua nhiểu website này và việc tìm thông tin hay các sản phẩm xác đáng nhất thiết là một thách thức.

Ý tưởng của các công cụ tìm kiếm ban đầu đã quen thuộc với bất kỳ ai đã dùng index (bảng chỉ mục) của một cuốn sách: tìm tất cả sự xuất hiện của một từ tìm kiếm cho trước. Nếu bạn muốn tìm Thời đồ Đá Mới (Neolithic Age) được thảo luận ở đâu trong một cuốn sách, bạn sẽ ngó tới index và thấy danh sách các trang nơi từ Neolithic (đồ Đá Mới) xuất hiện. Nó hoạt động tốt bởi vì một từ cho trước xuất hiện với một số lần hạn chế, khiến cho phương pháp “tìm kiếm vét cạn” giữa các trang được chỉ dẫn là khả thi và khá hiệu quả. Nhưng hãy tưởng tượng bạn đang ngó vào index của một cuốn sách cực kỳ lớn, như internet. Nếu bạn nhận được danh sách các trường hợp trong đó từ Neolithic được nhắc đến trong cuốn sách khổng lồ này, có thể là hàng trăm ngàn lần. Chúc may mắn với sự tìm kiếm vét cạn!

Tất nhiên, vấn đề là nhiều trong số những sự nhắc đến này là không xác đáng lắm, và chỉ một hay hai website là nguồn có thẩm quyền trong đó người ta có thể nhận được thông tin cần thiết về Thời đồ Đá Mới và cách, chẳng hạn, con người đã chuyển (từ săn bắt hái lượm) sang cuộc sống định cư và nông nghiệp lâu dài. Chỉ một cách ưu tiên các sự nhắc đến quan trọng nhất sẽ cho phép thông tin xác đáng được truy lục nhanh chóng. Nhưng đấy không phải là cái các công cụ tìm kiếm ban đầu có khả năng làm.

Hai thanh niên thông minh, hỗn xược, Larry Page và Sergey Brin bước vào. Page đã là một sinh viên tốt nghiệp, làm việc với nhà khoa học máy tính nổi tiếng Terry Winograd tại Stanford, và Sergey Brin là bạn anh. Winograd, một người nhiệt tình ban đầu cho paradigm AI hiện đang chi phối, vào thời điểm đó đã thay đổi ý kiến của ông và làm việc về các vấn đề trong đó kiến thức con người và máy có thể được kết hợp, rất giống như Wiener, Licklider, và Engelbart đã hình dung. Internet, như chúng ta đã thấy, đã là một lĩnh vực hiển nhiên cho một sự kết hợp như vậy bởi vì nguyên liệu thô của nó là mội dung và kiến thức được con người tạo ra nhưng nó cần được các thuật toán điều hướng.

Page và Brin nghĩ ra một cách tốt hơn để đạt sự kết hợp này, một sự tương tác người-máy thực sự theo nghĩa nào đó: Con người là trọng tài giỏi nhất về website nào là xác đáng hơn, và các thuật toán tìm kiếm là xuất sắc trong việc thu thập và xử lý thông tin link. Vì sao không để con người lựa chọn về các link hướng dẫn các thuật toán tìm kiếm nên ưu tiên các website xác đáng thế nào?

Thoạt tiên đấy là một ý tưởng lý thuyết—sự nhận ra rằng việc này có thể được thực hiện. Rồi đến giải pháp thuật toán về làm nó thế nào. Đấy là cơ sở của thuật toán PageRank cách mạng của họ (“Page” ở đây được cho là nhắc đến cả Larry Page và sự thực rằng các trang (page) được xếp hạng). Giữa các trang liên quan, ý tưởng là ưu tiên các trang nhận được nhiều link hơn. Như thế thay vì dùng một số quy tắc ad hoc để quyết định trang nào trong số các trang có từ Neolithic nên được gợi ý, thuật toán sẽ xếp hạng các trang này theo số các link đến chúng nhận được. Các trang càng nổi tiếng sẽ được xếp hạng càng cao. Nhưng vì sao lại dừng ở đó? Nếu một trang nhận được các link từ các trang được xếp hạng cao khác, trang đó sẽ giàu thông tin hơn về tính xác đáng của nó. Để đóng gói sự thấu hiểu này, Brin và Page đã phát triển một thuật toán đệ quy (recursive) nơi mỗi trang có một hạng, và hạng này được xác định bởi bao nhiêu trang được xếp hạng cao khác được liên kết với nó (“đệ quy” có nghĩa rằng hạng của mỗi trang phụ thuộc vào hạng của tất cả các trang khác). Với hàng triệu website, việc tính các hạng này không phải là vấn đề tầm thường, nhưng đã khả thi rồi vào các năm 1990.

Rốt cuộc, thuật toán tính các kết quả thế nào là thứ yếu. Sự đột phá quan trọng ở đây là Page và Brin đã nghĩ ra một cách dùng các sự thấu hiểu và kiến thức con người, như được đóng gói trong các đánh giá chủ quan của họ về những trang khác nào là xác đáng, để cải thiện một công việc máy: xếp hạng các kết cục tìm kiếm. Bài báo 1998 của Brin và Page, có tiêu đề “The Anatomy of a Large-Scale Hypertextual Web Search Engine (Giải phẫu học của một Công cụ Tìm kiếm Web Siêu Văn bản Quy mô-Lớn,” bắt đầu với câu này: “Trong bài báo này, chúng tôi giới thiệu Google, một nguyên mẫu của một công cụ tìm kiếm quy mô-lớn mà dùng nhiều cấu trúc hiện diện trong hypertext (siêu văn bản). Google được thiết kế để bò trườn (để thu thập thông tin) và index Web một cách hiệu quả và tạo ra các kết quả tìm kiếm thỏa mãn hơn nhiều so với các hệ thống hiện có.”

Page và Brin hiểu rằng đấy là một sự đột phá lớn nhưng đã không có một kế hoạch rõ ràng cho việc thương mại hóa nó. Larry Page được trích như nói rằng “đáng kinh ngạc, tôi đã chẳng có suy nghĩ nào về việc xây dựng một công cụ tìm kiếm. Ý tưởng thậm chí đã không ở trên radar.” Nhưng vào cuối dự án, rõ ràng rằng họ đã có trong tay một kẻ chiến thắng. Nếu họ có thể xây dựng công cụ tìm kiếm này, nó sẽ vô cùng cải thiện hoạt động World Wide Web.

Như thế Google đã đến, như một công ty. Ý tưởng đầu tiên của Page và Brin là để bán hay cấp license software của họ cho những người khác. Nhưng các cố gắng ban đầu của họ đã ít được quan tâm, một phần bởi vì các công ty công nghệ lớn khác đã bị khóa rồi vào những cách tiếp cận riêng của họ hay ưu tiên các lĩnh vực khác: vào thời điểm đó sự tìm kiếm không được xem như một công cụ kiếm tiền chính. Yahoo!, nền tảng dẫn đầu lúc đó, không quan tâm đến thuật toán của Page và Brin.

Điều này đã thay đổi trong 1998, khi nhà đầu tư tech, Andy Bechtolsheim, bước vào hiện trường. Bechtolsheim gặp Page và Brin và ngay lập tức nhận được lời hứa của công nghệ mới, nếu họ có cách đúng để tiền tệ hóa nó. Bechtolsheim biết cách đó là gì—quảng cáo.

Việc bán quảng cáo đã không phải là cái Page và Brin dự định hay thậm chí xem xét. Nhưng ngay lập tức Bechtolsheim đã làm thay đổi trò chơi với một tấm séc 100.000 $ cho Google Inc., mặc dù Google đã vẫn chưa “được thành lập.” Không lâu công ty được thành lập, tiềm năng quảng cáo của công nghệ mới trở nên rõ ràng, và rất nhiều tiền đã đổ vào. Một mô hình kinh doanh mới ra đời.

Công ty giới thiệu AdWords trong 2000, một nền tảng bán quảng cáo để được trưng ra cho những người dùng Google để tìm kiếm các website. Nền tảng dựa vào một sự mở rộng của các mô hình đấu giá nổi tiếng được dùng trong kinh tế học, và nó đấu giá nhanh các chỗ có giá trị nhất (hết sức dễ thấy) trên màn hình tìm kiếm. Giá phụ thuộc vào các nhà quảng cáo tiềm năng trả giá bao nhiêu và các quảng cáo của họ nhận được bao nhiêu click.

Trong 1998, hay thậm chí trong 2000, hầu như chẳng ai suy nghĩ về dữ liệu lớn và AI. Tuy vậy, các công cụ AI áp dụng cho những lượng lớn dữ liệu mau chóng có nghĩa là rất nhiều thông tin cho các công ty để nhắm quảng cáo tới những người dùng theo những gì họ quan tâm đến. AI đã cách mạng hóa nhanh chóng mô hình tiền tệ hóa thành công-rồi của Google. Điều này có nghĩa, đặc biệt, rằng Google có thể theo dõi website nào được viếng thăm từ địa chỉ IP duy nhất của người dùng, và như thế hướng quảng cáo được cá nhân hóa cho người dùng cụ thể này. Vì thế, những người dùng ngắm các bãi biển Caribbea sẽ nhận được các quảng cáo từ các hãng hàng không, các văn phòng du lịch, và các khách sạn, và những người lướt xem quần áo hay giày sẽ bị bỏ bom với các quảng cáo từ các nhà bán lẻ liên quan.

Giá trị của việc nhắm mục tiêu (targeting) trong quảng cáo không thể bị cường điệu hóa. Vấn đề lưu niên của ngành quảng cáo được gói ghém trong một ngạn ngữ có từ cuối các năm 1800: “tôi biết một nửa quảng cáo của tôi bị uổng phí, nhưng tôi chỉ không biết nửa nào.” Sự quảng cáo internet ban đầu đã bị vấn đề này ảnh hưởng. Các quảng cáo từ một nhà bán lẻ quần áo nam sẽ được giới thiệu cho tất cả những người dùng trên một nền tảng cá biệt, chẳng hạn chương trình Pandora music, nhưng nửa những người dùng là các phụ nữ, và thậm chí hầu hết đàn ông sẽ không quan tâm đến việc mua quần áo online vào thời điểm đó. Với việc nhắm mục tiêu, các quảng cáo có thể được gửi chỉ cho những người đã tỏ ra quan tâm đến việc mua—ví dụ, đã thăm một website cửa hàng quần áo hay đã lướt xem vài món thời trang ở nơi khác. Việc nhắm mục tiêu đã cách mạng hóa quảng cáo số, nhưng như với nhiều cuộc cách mạng, có nhiều thiệt hại phụ thêm.

Google chẳng bao lâu đã tăng tốc sự thu thập dữ liệu của nó bằng việc đưa ra một loạt sản phẩm miễn phí tinh vi, như Gmail và Google Maps, mà đã cho phép công ty biết rất nhiều về các sở thích của những người dùng vượt xa các món họ tìm kiếm, và vị trí chính xác của họ. Nó cũng đã mua lại YouTube. Bây giờ các quảng cáo có thể được phục vụ cụ thể hơn nhiều cho từng người dùng phụ thuộc vào toàn bộ hồ sơ mua hàng, các hành động, và vị trí của họ, làm tăng tính sinh lời. Kết quả thật xuất sắc, và trong 2021 tuyệt đại đa số doanh thu 65,1 tỉ $ của Google (hay của công ty mẹ của nó Alphabet) đã đến từ các quảng cáo.

Google và các công ty khác đã nghĩ ra làm thế nào để kiếm rất nhiều tiền từ các quảng cáo, và điều này không chỉ giải thích sự nổi lên của một mô hình kinh doanh mới. Nó cũng trả lời một câu hỏi cơ bản chúng tôi nêu trong Chương 9: Nếu nó thường dẫn đến tự động hóa tàm-tạm, thì vì sao có nhiều sự nhiệt tình đến vậy về AI? Câu trả lời chủ yếu là về việc thu thập dữ liệu đồ sộ và các quảng cáo được nhắm mục tiêu, và sẽ còn có nhiều về cả hai.

Web Phá sản về mặt Xã hội

Những gì Google có thể biết được về những người dùng của nó từ dữ liệu-meta của hoạt động email và vị trí của họ nhợt nhạt trong sự so sánh với những gì một số người vui lòng chia sẻ với các bạn và người quen của họ về các hoạt động, các ý định, các mong muốn, và quan điểm của họ. Media xã hội đã nhất quyết đưa mô hình kinh doanh quảng cáo được nhắm mục tiêu vào số cao hơn [trong hộp số xe để tăng tốc].

Mark Zuckerberg đã thấy ngay từ đầu rằng chìa khóa cho thành công của Facebook sẽ là năng lực của nó để là một phương tiện của, hay thực ra thậm chí một nhà sản xuất, một “web xã hội,” trong đó mọi người sẽ tham gia vào một loạt hoạt động xã hội. Để thực hiện điều này, ông đã ưu tiên sự tăng trưởng của nền tảng trên mọi thứ khác.

Nhưng việc tiền tệ hóa thông tin này luôn là một thách thức, ngay cả với mô hình kinh doanh thành công của Google ở đó để bắt chước. Vài đột nhập đầu tiên của Facebook vào sự thu thập dữ liệu như một phương tiện cải thiện năng lực của nó để nhắm các quảng cáo đã thất bại. Trong 2007 công ty giới thiệu một chương trình gọi là Beacon như một cách để hốt thông tin về những sự mua sắm của những người dùng Facebook trên các site khác và sau đó chia sẻ nó với các bạn của họ trên các newsfeed [tính năng của một nền tảng để cấp tin cho mỗi người dùng tại mỗi thời điểm] của họ. Sáng kiến ngay lập tức bị xem như một sự vi phạm khủng khiếp sự riêng tư người dùng và bị gián đoạn. Công ty đã cần tạo ra một cách tiếp cận kết hợp một lượng khổng lồ của việc thu thập dữ liệu cho các quảng cáo số và chí ít lượng kiểm soát nào đó của người dùng.

Người biến điều này thành một thực tế là Sheryl Sandberg, mà đã phụ trách AdWords của Google và đã hết sức quan trọng trong sự biến đổi công ty đó thành một máy quảng cáo được nhắm mục tiêu. Trong 2008 cô được Facebook tuyển mộ như Tổng Điều hành (COO-chief operating officer). Sandberg đã hiểu làm thế nào để khiến sự kết hợp này hoạt động và cũng hiểu tiềm năng mà Facebook có trong không gian này: công ty có thể tạo cầu mới cho các sản phẩm, và như thế cho quảng cáo, bằng việc tận dụng sự hiểu biết của nó về các giới xã hội và các sở thích của những người dùng. Rồi trong tháng Mười Một 2008, Sandberg tóm tắt sự kết hợp này như căn bản cho sự tăng trưởng của công ty, tuyên bố rằng “cái chúng tôi tin chúng tôi đã làm là chúng tôi dùng sức mạnh của sự tin cậy thật, của sự kiểm soát sự riêng tư người tiêu dùng thật, và làm cho mọi người trở thành đích thực bản thân họ online.” Nếu mọi người là đích thực bản thân họ, thì họ sẽ tiết lộ nhiều hơn về bản thân họ, và sẽ có nhiều thông tin hơn để dùng cho việc tạo ra doanh thu quảng cáo.

Sự đổi mới quan trọng đầu tiên trong cố gắng này là nút “Like,” mà không chỉ tiết lộ nhiều hơn nhiều về các sở thích người dùng mà cũng sẽ hoạt động như một sự ra hiệu cảm xúc để khuyến khích sự can dự lớn hơn. Một số sự thay đổi kiến trúc khác—ví dụ, liên quan đến newsfeed hoạt động ra sao và những người dùng có thể cho sự phản hồi thế nào—đã cũng được đưa vào. Quan trọng nhất, các thuật toán AI đã bắt đầu tổ chức newsfeed của mỗi người dùng để thu hút và giữ sự chú ý và, tất nhiên, đặt các quảng cáo theo cách sinh lời nhất.

Facebook cũng bắt đầu chào các công cụ mới cho các nhà quảng cáo, lại dựa vào các công nghệ AI cơ bản. Các công cụ này gồm năng lực để xây dựng custom audiences (một công cụ tùy chỉnh trên Facebook) sao cho các quảng cáo có thể được gửi cho những người dùng với các đặc tính nhân khẩu học cụ thể nào đó, và các năng lực để hình thành look-alike audiences (một công cụ tìm kiếm của Facebook), mà bản thân Facebook mô tả như “một cách để các quảng cáo của bạn có thể tới những người mới chắc quan tâm đến việc kinh doanh của bạn bởi vì họ chia sẻ các đặc tính giống với các khách hàng hiện có của bạn.”

Lợi thế lớn của media xã hội hơn các công cụ tìm kiếm khi nhắc đến các quảng cáo là sự can dự mạnh. Mọi người đôi khi chú ý đến các quảng cáo khi họ dùng một công cụ như Google để tìm kiếm một sản phẩm hay cửa hàng, nhưng đấy là một sự can dự ngắn, và số tiền công ty có thể kiếm được bằng việc bán quảng cáo là hạn chế một cách tương ứng. Nếu mọi người dùng nhiều thời gian hơn xem cái xuất hiện trên màn hình của họ, điều đó có nghĩa là doanh thu quảng cáo lớn hơn. Việc làm tăng các Like cho các post từ bạn bè và những người quen tỏ ra là một cách tuyệt vời để tăng sự can dự như vậy.

Từ những ngày đầu của nó, Facebook đã chơi với tâm lý của họi người để đạt các mục tiêu này, và thực ra tham gia vào việc thử có tính hệ thống và các thí nghiệm với những người dùng của nó để xác định kiểu post nào và cách trình bày nào của chúng sẽ tạo ra nhiều xúc cảm và phản ứng hơn.

Các quan hệ xã hội, nhất là bên trong các nhóm, luôn đầy cảm giác chê bai, từ chối, và ghen tị. Bây giờ có dư dả bằng chứng rằng Facebook gây ra không chỉ sự phẫn nộ với nội dung chính trị mà cũng gây ra các cảm giác tiêu cực mạnh trong các bối cảnh xã hội khác. Sau đó nó khai thác tất cả các cảm xúc này để khuyến khích mọi người dùng nhiều thời gian hơn trên nền tảng. Nội dung giật gân khiến mọi người dùng nhiều thời gian hơn trên nền tảng, như sự lo lắng khiến. Một số nghiên cứu tâm lý học xã hội cho biết rằng sự dùng media xã hội đan xen với các cảm giác ghen tị và sự không thỏa đáng, và thường dẫn đến sự lo lắng về lòng tự trọng.

Sự mở rộng của Facebook ngang các khuôn viên đại học Hoa Kỳ, chẳng hạn, đã có tác động tiêu cực mạnh lên sức khỏe tâm thần, thường dẫn đến những cảm giác chán nản. Các sinh viên, mà khuôn viên trường của họ có sự truy cập đến nền tảng, cũng đã bắt đầu báo cáo thành tích học tập tồi hơn đáng kể, cho biết rằng các tác động không giới hạn ở các cảm giác mà cũng ảnh hưởng đến hành vi off-line nữa. Facebook tiền tệ hóa mạnh mẽ các cảm giác này bởi vì cả sự lo lắng và cố gắng để có được sự tán thành lớn hơn làm tăng thời gian mọi người dùng trên nền tảng.

Một dự án nghiên cứu đầy tham vọng tiết lộ về vấn đề này. Các nhà nghiên cứu đã khuyến khích một số người trên Facebook để (tạm thời) từ bỏ việc dùng nền tảng và sau đó so sánh thời gian dùng và các trạng thái xảm xúc của họ với các thành viên của một nhóm đối chứng không được cho sự khuyến khích như vậy và đã tiếp tục dùng Facebook mạnh mẽ. Những người được khuyến khích ngừng dùng Facebook đã dành nhiều thời gian hơn làm các hoạt động xã hội khác và đã hạnh phúc hơn đáng kể. Nhưng, phản ánh áp lực xã hội mà họ có thể cảm thấy từ những người ngang hàng và từ nền tảng đang thử lại thu hút họ, khi nghiên cứu chấm dứt, họ đã quay lại với Facebook—trạng thái tâm thần và mọi thứ tồi hơn.

Để phục vụ sự tăng can dự người dùng, nhiều đặc tính và thuật toán mới được đưa vào Facebook nhanh chóng và không có mấy nghiên cứu về chúng sẽ ảnh hưởng thế nào đến tâm lý người dùng và thông tin sai lệch trên nền tảng. Cách tiếp cận chung của công ty và các kỹ sư của nó đối với việc đưa các đặc tính mới vào nhắm tới sự tăng sự can dự người dùng được tóm tắt bởi “Fuck it, ship it (Mẹ nó, cứ ship đi)” một thành ngữ được các nhân viên của nó dùng thường xuyên.

Nhưng không chỉ là các thiệt hại không cố ý trên đường đạt sự can dự lớn hơn. Ban lãnh đạo Facebook đã chủ ý tối đa hóa sự can dự người dùng và đã không muốn những sự cân nhắc khác cản đường. Sandberg đã khăng khăng hoài rằng nên có nhiều quảng cáo hơn trên Instagram, mà đã được Facebook mua lại trong 2012 với các lời hứa rằng app sẽ vẫn độc lập với Facebook và đưa ra các quyết định kinh doanh riêng của nó, kể cả về thiết kế của app và về quảng cáo.

Khi Facebook quyết định thay đổi thuật toán của nó để không khuyến khích các câu chuyện gây lạc lối và các website không đáng tin cậy sau cuộc bầu cử tổng thống Mỹ 2020, các kết quả đã nổi bật. Nội dung thù hận và thông tin sai lệch đã ngừng lan như virus. Nhưng không lâu sau đó, những thay đổi đã đảo ngược, và nền tảng đã quay lại công việc như bình thường, phần lớn bởi vì khi công ty kiểm tra tác động của sự thay đổi lên sự can dự, nó thấy rằng khi mọi người ít can dự và bị kích thích hơn, họ dùng ít thời gian hơn ở đó.

Từ đầu đến cuối, Zuckerberg và Sandberg, muộn hơn cùng với Clegg, đã bảo vệ các quyết định này trên cơ sở rằng nền tảng không nên hạn chế tự do ngôn luận của bất kỳ ai. Đáp lại, diễn viên hài Anh Sacha Baron Cohen đã tóm tắt cái nhiều người nghĩ là vấn đề: “Đấy là về việc cho mọi người, kể cả một số người đáng khiển trách nhất trên trái đất, nền tảng lớn nhất trong lịch sử để với tới một phần ba hành tinh.”

Chiều hướng chống-Dân chủ

Chúng ta có thể không hiểu tình trạng hỗn độn chính trị do media xã hội tạo ra mà không nhận ra động cơ lợi nhuận dựa vào các quảng cáo được nhắm mục tiêu, khiến các công ty này ưu tiên tối đa hóa sự can dự người dùng và đôi khi sự thịnh nộ. Các quảng cáo được nhắm mục tiêu, đến lượt, là không thể mà không có sự thu thập và xử lý các lượng dữ liệu đồ sộ.

Động cơ lợi nhuận không phải là nhân tố duy nhất đẩy ngành công nghệ theo hướng chống-dân chủ này. Tầm nhìn sáng lập của các công ty này, mà chúng tôi cho cái tên là ảo tưởng AI, đã đóng một vai trò quan trọng ngang thế.

Như chúng ta đã thảo luận trong Chương 1, nền dân chủ, trên mọi thứ khác, là về vô số tiếng nói, một cách quyết định kể cả tiếng nói của những người bình thường, được lắng nghe và trở nên quan trọng trong định hướng chính sách-công. Quan niệm về “không gian công (public sphere),” được nhà triết học Đức Jürgen Habermas đề xuất, thâu tóm một số đặc điểm bản chất của diễn ngôn dân chủ lành mạnh. Habermas cho rằng không gian công (cộng), được định nghĩa như các diễn đàn nơi các cá nhân lập ra các (hiệp) hội mới và thảo luận các vấn đề và chính sách xã hội, là mấu chốt cho chính trị dân chủ. Dùng các quán cà phê Anh hay các salon Pháp thế kỉ thứ mười chín như mô hình, Habermas gợi ý rằng thành phần cốt yếu của không gian công là năng lực mà nó cung cấp cho mọi người để tự do tham gia vào các cuộc tranh luận về các vấn đề lợi ích chung mà không có một hệ thứ bậc nghiêm ngặt dựa vào địa vị có từ trước. Theo cách này, không gian công tạo ra cả một diễn đàn cho các ý kiến khác nhau được lắng nghe và một bàn đạp cho các ý kiến này để ảnh hưởng đến chính sách. Nó có thể đặc biệt hiệu quả khi nó cho phép mọi người tương tác với những người khác về một loạt vấn đề bao quát.

Ban đầu, đã có thậm chí một hy vọng rằng truyền thông online có thể tạo ra một không gian công mới, nơi những người từ những bối cảnh thậm chí đa dạng hơn chính trị địa phương có thể tự do tương tác và trao đổi ý kiến.

Đáng tiếc, nền dân chủ online không phù hợp với các mô hình kinh doanh của các công ty công nghệ hàng đầu và ảo tưởng AI. Thực ra, nó hoàn toàn ngược với một cách tiếp cận kỹ trị, mà cho rằng nhiều quyết định quan trọng là quá phức tạp cho những người bình thường. Không khí trong các hành lang của hầu hết các công ty công nghệ là những người đàn ông (và đôi khi, nhưng không thường xuyên thế, các phụ nữ) thiên tài đang làm việc, phấn đấu cho lợi ích chung. Thật tự nhiên rằng họ nên là những người đưa ra các quyết định quan trọng. Khi được tiếp cận theo cách này, diễn ngôn chính trị của quần chúng trở thành cái gì đó bị thao túng và được thu hoạch, không phải cái gì đó được khuyến khích và bảo vệ.

Ảo tưởng AI như thế thiên vị một xung lực chống-dân chủ, ngay cả khi nhiều trong số các nhà điều hành của nó xem mình ở bên trung-tả và như những người ủng hộ các định chế dân chủ và thậm chí Đảng Dân chủ. Sự ủng hộ của họ thường có gốc rễ trong các vấn đề văn hóa và tiện lợi bỏ qua khối xây dựng sống còn của nền dân chủ: sự tham gia tích cực của mọi người vào chính trị. Sự tham gia như vậy đặc biệt bị làm nản lòng khi nhắc đến AI bởi vì hầu hết doanh nhân và các nhà tư bản mạo hiểm tin rằng người dân không hiểu công nghệ và không nhất thiết lo về các tác động xâm phạm của nó. Như một nhà tư bản mạo hiểm diễn đạt, “Hầu hết các nỗi sợ trí tuệ nhân tạo là quá mức nếu không phải hoàn toàn vô căn cứ.” Giải pháp là để phớt lờ các mối lo này, hãy tiến lên, và tích hợp AI vào mọi khía cạnh của cuộc sống chúng ta bởi vì “có lẽ chỉ khi một công nghệ được tích hợp đầy đủ vào đời sống hàng ngày, và lùi vào hậu trường của sự tưởng tượng của chúng ta, thì mọi người mới ngừng sợ nó.” Đấy cơ bản là cùng cách tiếp cận được Mark Zuckerberg biện hộ khi ông nói với tạp chí Time, “Mỗi khi bất cứ công nghệ hay sự đổi mới nào đến và nó làm thay đổi bản chất của cái gì đó, luôn luôn có những người than vãn sự thay đổi và muốn quay lại thời trước. Nhưng, tôi muốn nói, tôi nghĩ rằng rõ ràng rất tích cực cho mọi người về mặt năng lực của họ để duy trì kết nối với mọi người.”

Một khía cạnh khác của ảo tưởng AI, đề cao sự phá vỡ như một đức hạnh được gói ghém bởi châm ngôn “di chuyển nhanh và phá vỡ các thứ,” đã tăng tốc hướng chống-dân chủ này. Sự phá vỡ (disruption) có nghĩa là bất kể tác động tiêu cực nào lên những người khác, kể cả các công nhân, các tổ chức xã hội dân sự, media truyền thống, hay thậm chí nền dân chủ. Tất cả đều là trò chơi công bằng, thực ra được cổ vũ, chừng nào nó là một hậu quả của các công nghệ mới hứng thú và nhất quán với thị phần lớn hơn và sự kiếm tiền.

Một sự phản ánh xung lực chống-dân chủ này có thể được thấy trong nghiên cứu của chính Facebook về những người dùng phản ứng ra sao với các xúc cảm tiêu cực và tích cực từ các bạn trong newsfeed của họ. Trong 2014 công ty đã tiến hành một nghiên cứu nội bộ to lớn, thao túng newsfeed của gần bảy trăm ngàn người dùng bằng việc giảm sự tiếp xúc của họ với các phát ngôn hoặc tích cực hay tiêu cực trong một tuần lễ. Không ngạc nhiên, sự tiếp xúc lớn hơn với các xúc cảm tiêu cực và sự tiếp xúc thấp hơn với các xúc cảm tích cực đã tác động đến những người dùng, với các tác động có hại kéo dài.

Công ty đã không hỏi bất cứ sự cho phép nào cho nghiên cứu ồ ạt này từ những người dùng hay thậm chí thử tôn trọng các tiêu chuẩn được chấp nhận rộng rãi trong nghiên cứu khoa học, nơi sự đồng ý từ các đối tượng là cần thiết. Sau khi một số kết quả nghiên cứu được công bố bởi các nhà nghiên cứu Facebook và những người khác trong Proceedings of National Academy of Sciences, tổng biên tập đã công bố một sự Bày tỏ Lo ngại của ban Biên tập bởi vì nghiên cứu được tiến hành mà không có sự đồng ý (của các đối tượng) và đã không thỏa mãn các tiêu chuẩn được chấp nhận của sự nghiên cứu học thuật. Google đã làm theo cùng kịch bản trong các cố gắng của nó để mở rộng lượng thông tin mà nó thu thập với Google Books và Google Maps. Công ty đã phớt lờ các mối lo về quyền riêng tư và đã hành động trước tiên, mà không có sự cho phép hay sự hỏi ý kiến, hy vọng rằng mọi thứ sẽ được giải quyết hay, chí ít, sự đã rồi sẽ được chấp nhận. Chuyện đó đã thành công, ít nhất cho Google.

Facebook và Google không phải là ngoại lệ trong ngành công nghiệp. Bây giờ là thường lệ cho các công ty công nghệ để thu thập các lượng dữ liệu to lớn mà không có bất cứ sự đồng ý nào từ những người mà thông tin hay hình ảnh của họ được thu hoạch. Trong lĩnh vực nhận dạng hình ảnh, chẳng hạn, nhiều thuật toán AI được huấn luyện và đôi khi tham gia vào các cuộc thi trên bộ dữ liệu ImageNet, được khởi xướng bởi nhà khoa học máy tính và muộn hơn nhà khoa học trưởng của Google Cloud, Fei-Fei Li. Bộ dữ liệu, chứa hơn 15 triệu hình ảnh được phân loại thành hơn 22.000 loại, được xây dựng bằng việc thu thập các ảnh tư nhân được tải lên các ứng dụng khác nhau trên internet, với không sự cho phép nào từ những người chụp hay người xuất hiện trong các bức ảnh này. Việc này nói chung được xem như có thể chấp nhận được trong ngành công nghệ. Theo đánh giá của Li, “Trong thời đại Internet, chúng ta đột nhiên đối mặt với một sự bùng nổ về mặt dữ liệu hình ảnh.”

Theo tường thuật trong New York Times, Clearview đã thu thập một cách có hệ thống các hình ảnh khuôn mặt mà không có sự đồng ý, nhằm xây dựng các công cụ tiên đoán mà nhận diện những người nhập cư bất hợp pháp và những người chắc có khả năng phạm tội. Các chiến lược như vậy được biện minh bằng lập luận rằng sự thu thập dữ liệu quy mô-lớn là cần thiết cho sự tiến bộ công nghệ. Như một nhà đầu tư trong một start-up nhận dạng khuôn mặt đã tóm tắt, sự bảo vệ cho sự thu thập dữ liệu đồ sộ là “các luật phải xác định cái gì là hợp pháp, nhưng bạn không thể cấm công nghệ. Chắc chắn, điều đó có thể dẫn đến một tương lai hay cái gì đó dystopian (đen tối), nhưng bạn không thể cấm nó.”

Sự thật có sắc thái hơn. Việc áp đặt sự giám sát và sự thu thập dữ liệu ồ ạt không phải là con đường duy nhất của sự tiến bộ công nghệ, và việc hạn chế nó không có nghĩa là sự cấm công nghệ. Cái chúng ta đang trải nghiệm thay vào đó là một quỹ đạo chống-dân chủ được động cơ lợi nhuận và ảo tưởng AI lập bản đồ, mà gồm các chính phủ độc đoán và các công ty công nghệ gán tầm nhìn của chúng cho mọi người khác.

Thời Radio

Có lẽ tất cả các vấn đề này không là đặc thù cho các công nghệ số và AI. Mọi công nghệ truyền thông mới tuyệt vời đều chứa tiềm năng cho sự lạm dụng.

Hãy xét một công nghệ khác trong số các công nghệ truyền thông biến đổi của thế kỉ thứ hai mươi: radio. Radio cũng là một công nghệ đa năng và, theo cách của nó, đã cũng cách mạng như media xã hội, lần đầu tiên trong lịch sử cho phép các hình thức giải trí khác nhau, sự phát thông tin cho đại chúng, và, tất nhiên, sự tuyên truyền. Công nghệ được phát triển chẳng bao lâu sau khi nhà vật lý Đức Heinrich Hertz chứng minh sự tồn tại của sóng radio trong 1886, và đài phát radio đầu tiên được nhà vật lý Italia Guglielmo Marconi xây dựng một thập niên muộn hơn. Vào đầu các năm 1900, đã có các chương trình phát radio, và trong các năm 1920 radio thương mại trở nên phổ biến trong nhiều quốc gia Tây phương. Sự tuyên truyền và thông tin sai lệch bắt đầu hầu như ngay lập tức. Tổng thống Franklin D. Roosevelt hiểu tầm quan trọng của công nghệ và đã biến các cuộc trò chuyện radio trực tiếp bên lò sưởi của ông thành một phần then chốt của các cố gắng để giải thích các chính sách New Deal của ông cho công chúng Mỹ.

Một người ủng hộ ban đầu của FDR được đồng nhất với sự tuyên truyền radio ở Hoa Kỳ: Cha Charles Coughlin, một tu sĩ Công giáo La Mã với các kỹ năng hùng biện tuyệt vời. Vào giữa-các năm 1930, tuy vậy, Cha Coughlin quay sang chống lại các chính sách New Deal và đã thành lập National Union for Social Justice (Liên hiệp toàn Quốc vì Công lý Xã hội). Các bài phát biểu radio của ông, ban đầu được phát trên mạng CBS, đã tập trung nhiều vào sự tuyên truyền chống-Semitic như vào các ý tưởng chính sách của ông. Chẳng bao lâu Cha Coughlin đã ủng hộ Benito Mussolini và Adolf Hitler trên làn sóng điện.

Sự pha trộn các chương trình phát thanh phát xít, chống-FDR, và chống-Semitic của Coughlin đã có những tác động lớn đến chính trị Hoa Kỳ trong các năm 1930. Nghiên cứu gần đây dùng những sự khác biệt ngang các hạt (quận) Hoa Kỳ về cường độ tín hiệu radio, được xác định bởi các chướng ngại địa lý và tôpô đối với sự truyền sóng, để điều tra nghiên cứu vấn đề này. Nó thấy rằng sự tuyên truyền radio của Cha Coughlin đã làm giảm sự ủng hộ các chính sách New Deal và đã làm giảm sút phiếu của FDR trong cuộc bầu cử tổng thống 1936 vài điểm phần trăm (cho dù nó đã không thể ngăn chiến thắng vang dội của ông). Đã không chỉ là các phiếu tổng thống mà Coughlin đã ảnh hưởng đến. Các hạt nhận được chương trình phát thanh của ông không gián đoạn đã có khả năng hơn để mở một chi nhánh địa phương của tổ chức German-American Bund (Liên minh Đức-Mỹ của những người Mỹ gốc Đức) thân-Nazi và ít ủng hộ nỗ lực Chiến tranh Thế giới II của Mỹ. Mấy thập niên sau, chúng đã vẫn bày tỏ các cảm giác chống-Do thái hơn.

Cái Cha Coughlin khai thác hiệu quả ở Hoa Kỳ đồng thời được hoàn thiện ở nước Đức. Những kẻ Nazi, một khi nắm quyền, đã dựa nhiều vào sự tuyên truyền radio. Bộ trưởng tuyên truyền của Hitler, Joseph Goebbels, đã trở thành một chuyên gia dùng làn sóng điện để thúc giục sự ủng hộ các chính sách Nazi và sự thù hận chống lại những người “Bolshevik” và Do thái. Bản thân Goebbels nói rằng “con đường nắm quyền của chúng ta và dùng nó đã không thể hình dung nổi mà không có radio và máy bay.”

Bọn Nazi quả thực đã khá hiệu quả trong việc thao túng tình cảm với các chương trình phát thanh. Khai thác lại lần nữa những sự biến đổi cường độ của tín hiệu radio ngang các phần khác nhau của nước Đức, cũng như những sự thay đổi về mội dung phát sóng radio theo thời gian, một nhóm nhà nghiên cứu đã thấy các tác động mạnh mẽ từ sự tuyên truyền Nazi. Các chương trình phát radio này đã tăng các hoạt động chống-Semitic và sự tố cáo những người Do thái cho các nhà chức trách.

Sự tuyên truyền radio của những kẻ cực đoan cuối cùng đã bị kiểm soát ở Hoa Kỳ và nước Đức, và việc này được tiến hành thế nào tiết lộ về những sự khác biệt giữa media xã hội và radio. Nó cũng gợi ý một số bài học cho các công nghệ truyền thông mới có thể được dùng tốt nhất ra sao.

Vấn đề trong các năm 1930 là Cha Coughlin đã có một nền tảng quốc gia để vươn tới hàng triệu người với thuật hùng biện nhằm kích động. Vấn đề ngày nay là thông tin sai lệch được các thuật toán của Facebook và các site media xã hội khác truyền bá để vươn tới có lẽ hàng tỉ người.

Các tác hại của Coughlin bị vô hiệu hóa khi chính quyền FDR quyết định rằng Tu chính án thứ Nhất bảo vệ tự do ngôn luận nhưng không phải bảo vệ quyền để phát sóng. Nó cho rằng phổ radio là một commons (tài sản chung) thuộc sở hữu công phải bị điều tiết. Với các quy định mới đòi hỏi các giấy phép phát sóng, các chương trình của Cha Coughlin bị buộc phải ngừng phát sóng. Coughlin đã tiếp tục viết và chẳng bao lâu đã lại bắt đầu phát sóng, mặc dù với sự truy cập hạn chế hơn và chỉ qua các đài riêng lẻ. Sự tuyên truyền chống chiến tranh, ủng hộ-Đức của ông đã bị cắt thêm sau khi Chiến tranh Thế giới II nổ ra.

Ngày nay, có nhiều thông tin sai lệch và phát ngôn thù hận trên các talk shows trên radio băng tần AM, nhưng chúng không có sự vươn tới mà các chương trình phát sóng toàn quốc của Cha Coughlin đã có được hay loại nền tảng mà các thuật toán của Facebook cung cấp cho thông tin sai lệch online.

Sau chiến tranh phản ứng Đức với sự tuyên truyền radio thậm chí đã toàn diện hơn. Hiến pháp Đức cấm ngôn luận được phân loại như Volksverhetzung, có nghĩa là “kích động hận thù,” cũng như kích động bạo lực hay các hành động phủ nhận phẩm giá của các mảng cư dân nhất định. Dưới luật này, việc phủ nhận holocaust và phát tán sự tuyên truyền kích động chống-Do thái bị cấm.

Các sự Lựa chọn Số

Các công nghệ AI không cần phải tập trung vào tự động hóa công việc và vào giám sát các nhân viên ở nơi làm việc. Chúng cũng chẳng cần phải được phát triển để trao quyền kiểm duyệt cho chính phủ. Cũng chẳng có gì chống-dân chủ vốn có trong các công nghệ số, và media xã hội chắc chắn không cần phải tập trung vào tối đa hóa sự lăng nhục, chủ nghĩa cực đoan, và sự căm phẫn. Nó là vấn đề lựa chọn—sự lựa chọn của các công ty tech, các nhà nghiên cứu AI, và các chính phủ—mà đã lôi chúng ta vào tình trạng khó khăn hiện nay.

Như chúng tôi đã nhắc tới trước trong chương này, YouTube và Reddit ban đầu đã bị ảnh hưởng nhiều bởi chủ nghĩa cực đoan cực-hữu, thông tin sai lệch, và phát ngôn thù hận như Facebook bị. Song trong 5 năm qua, hai nền tảng này đã có một số bước để giảm nhẹ vấn đề.

Khi áp lực công chúng lên YouTube và công ty mẹ của nó, Google, tăng lên sau khi những tường thuật nội bộ như của Caleb Cain và những sự vạch trần trong New York Times và New Yorker lộ ra, nền tảng đã bắt đầu sửa đổi các thuật toán của nó để giảm sự phát tán nội dung hiểm độc. Google bây giờ cho rằng nó quảng bá các video từ “các nguồn có thẩm quyền,” mà ít có khả năng hơn để bị dùng cho sự cực đoan hóa hay chứa thông tin sai lệch. Nó cũng tuyên bố rằng những sự điều chỉnh thuật toán này đã làm giảm 70% việc xem “nội dung giáp ranh” (“giáp ranh” ở đây nhắc đến dữ kiện công ty cho rằng phát ngôn thù hận được kiểm tra kỹ lưỡng rồi).

Câu chuyện của Reddit là tương tự. Nơi trú ngụ của tài liệu cực đoan và kích động tồi tệ nhất, ban đầu được một trong các nhà sáng lập của nó, Steve Huffman, bảo vệ như hoàn toàn nhất quán với triết lý “thảo luận cởi mở và trung thực” của site, nền tảng kể từ đó đã đáp lại áp lực công chúng và đã siết chặt các tiêu chuẩn tiết chế của nó. Sau Unite the Right rally (cuộc mít tinh lớn Thống nhất cánh Hữu) da trắng thượng đẳng 2017 ở Charlottesville, Virginia, được kích động và tổ chức trên nền tảng, trở nên bạo lực và giết một người biểu tình phản đối và làm bị thương hàng chục người khác, các nhà sáng lập của Reddit và nền tảng đã thay đổi ý kiến hoàn toàn. Nền tảng đã bắt đầu gỡ bỏ rất nhiều sub-Reddit chủ trương phát ngôn thù hận, lời nói kỳ thị chủng tộc, và thông tin sai lệch rành rành. Trong 2019 nó gỡ bỏ The_Donald.

Những sự cải thiện nảy sinh từ sự tự-điều chỉnh của các nền tảng không nên được phóng đại. Vẫn có nhiều thông tin sai lệch và sự thao túng, thường được các thuật toán trợ giúp trên YouTube, và nhiều nội dung căm thù trên Reddit. Chẳng nền tảng nào đã thay đổi mô hình kinh doanh của nó, và đa phần cả hai nền tảng tiếp tục dựa vào sự tối đa hóa sự can dự và thu nhập quảng cáo được nhắm mục tiêu. Các nền tảng có các mô hình kinh doanh khác, như Uber và Airbnb, đã chủ động hơn nhiều trong việc cấm phát ngôn thù hận khỏi các website của chúng.

Nhưng chứng minh hay nhất về khả năng phát triển của các mô hình thay thế đến từ Wikipedia. Nền tảng là một trong những dịch vụ được viếng thăm nhiều nhất trên web, nhận được hơn 5,5 tỉ khách thăm mỗi năm trong vài năm qua. Wikipedia không thử độc quyền hóa sự chú ý người dùng bởi vì nó không tài trợ bản thân mình bằng các quảng cáo.

Điều này đã cho phép nền tảng phát triển một cách tiếp cận rất khác đối với thông tin sai lệch. Các mục của bách khoa toàn thư online này được các nhà tình nguyện nặc danh viết, và bất kể biên tập viên tình nguyện nào có thể bắt đầu một mục mới hay sửa một mục hiện có. Nền tảng có một số lớp quản trị viên (administrator), được cất nhắc từ những người dùng thường xuyên với hồ sơ thành tích tốt. Giữa những người tình nguyện đóng góp, có các biên tập viên có kinh nghiệm với các đặc quyền và trách nhiệm thêm, như bảo trì hay xử lý tranh chấp. Tại một mức cao hơn, “các steward (người quản lý)” có thẩm quyền lớn hơn để giải quyết các bất đồng. Theo bản thân nền tảng, các steward “được giao nhiệm vụ thực hiện kỹ thuật của sự đồng thuận cộng đồng, xử lý các trường hợp khẩn cấp, can thiệp chống lại sự phá hoại ngang-wiki.” Trên các steward là “Ủy ban Trọng tài,” gồm “các biên tập viên tình nguyện hành động cùng nhau hay trong các tiểu ban áp đặt các giải pháp bắt buộc lên các tranh chấp quản lý mà cộng đồng đã không có khả năng giải quyết.” “Các quản trị viên” có khả năng bảo vệ và xóa các trang, và chặn việc biên tập trong trường hợp nội dung tranh chấp hay sự xuất hiện quá khứ của sự phá hoại hay thông tin sai lệch. Bản thân các quản trị viên được “các quan chức (bureaucrat)” giám sát và cất nhắc.

Cấu trúc hành chính này là quan trọng trong năng lực của site để ngăn chặn sự lan truyền của thông tin sai lệch và kiểu phân cực hóa mà đã là quá thường xuyên trên các site khác. Kinh nghiệm của Wikipedia gợi ý rằng trí khôn của đám đông, rất được các nhà lạc quan công nghệ ban đầu của media xã hội ngưỡng mộ, có thể hoạt động, nhưng chỉ khi được củng cố và giám sát bởi cấu trúc tổ chức đúng và khi các sự lựa chọn thích hợp được đưa ra về sự dùng và hướng của công nghệ.

Các thay thế cho mô hình kinh doanh quảng cáo được nhắm mục tiêu không bị giới hạn ở các tổ chức phi lợi nhuận như Wikipedia. Netflix, dựa vào mô hình thuê bao, cũng thu thập thông tin về những người dùng và đầu tư mạnh vào AI nhằm để đưa ra các khuyến nghị cá nhân-cụ thể. Nhưng có ít thông tin sai lệch hay sự oán hận chính trị trên nền tảng, vì mục tiêu của nó là cải thiện kinh nghiệm người dùng để khuyến khích sự thuê bao, không phải để đảm bảo sự can dự tối đa.

Các nền tảng media xã hội cũng có thể hoạt động và kiếm tiền từ một mô hình thuê bao. Một mô hình như vậy sẽ không chữa khỏi tất cả các vấn đề của media xã hội. Người ta có thể tạo ra các echo chamber riêng của họ trong một nền tảng dựa vào sự thuê bao, và những cách mới về tiền tệ hóa thông tin sai lệch và những sự bất an có thể phát sinh. Tuy nhiên, các mô hình kinh doanh thay thế có thể rời khỏi việc tìm kiếm sự can dự người dùng mạnh, mà đã tỏ ra là thuận lợi cho kiểu tồi tệ nhất của tương tác xã hội, gây thiệt hại cho cả sức khỏe tâm thần và diễn ngôn dân chủ.

Một “web xã hội” có thể có vô số tác động tích cực nếu có thể kiềm chế ảnh hưởng độc hại của nó lên thông tin sai lệch, sự phân cực, và sức khỏe tâm thần. Nghiên cứu gần đây theo dõi sự khởi đầu dịch vụ của Facebook trong các ngôn ngữ mới và cho thấy rằng các doanh nghiệp nhỏ tại các nước liên quan có sự truy cập đến thông tin từ các thị trường nước ngoài và mở rộng doanh thu của chúng như một kết quả. Không có lý do nào để tin rằng một công ty không thể kiếm tiền trên cơ sở của các kiểu dịch vụ này thay vì trên cơ sở năng lực của nó để thao túng những người dùng. Media xã hội và các công cụ số có thể cung cấp sự bảo vệ lớn hơn cho các cá nhân chống lại sự giám sát và thậm chí có thể đóng một vai trò ủng hộ-dân chủ, như chúng ta sẽ thảo luận trong Chương 11. Việc nhấn các nút cho các phản ứng xúc cảm và việc nhắm mục tiêu các quảng cáo cho những người dùng khi họ bị kích như vậy đã chẳng bao giờ là sự lựa chọn duy nhất cho media xã hội.

Nền dân chủ bị Xói mòn Khi Chúng ta Cần Nó Nhất

Bi kịch là AI đang làm xói mòn thêm nền dân chủ khi chúng ta cần nó nhất. Trừ phi hướng của các công nghệ số được thay đổi căn bản, chúng sẽ tiếp tục cấp nhiên liệu cho bất bình đẳng và sự gạt sang bên lề các mảng lớn của lực lượng lao động, cả ở phương Tây và ngày càng khắp thế giới. Các công nghệ AI cũng được dùng để giám sát mạnh hơn các công nhân và, qua kênh này, tạo ra thậm chí nhiều áp lực hơn để hạ tiền lương.

Bạn có thể ghim hy vọng của bạn vào đoàn tàu năng suất nếu bạn muốn. Nhưng không có dấu hiệu nào rằng sự tăng thêm năng suất được chia sẻ sẽ đến sớm. Như chúng ta đã thấy, các nhà quản lý và các doanh nhân thường có một thành kiến để dùng các công nghệ mới để tự động hóa công việc và tước quyền người dân, trừ phi bị các sức mạnh đối trọng kiềm chế. Sự thu thập dữ liệu đồ sộ đã làm trầm trọng thêm thành kiến này.

Tuy vậy, là khó để có được các sức mạnh đối trọng mà không có dân chủ. Khi một elite kiểm soát hoàn toàn chính trị và có thể dùng các công cụ đàn áp và tuyên truyền một cách hiệu quả, thật khó để xây dựng bất kể đối lập có ý nghĩa, được tổ chức tốt nào. Như thế sự bất đồng quan điểm vững chãi sẽ không nổi lên ở Trung Quốc trong tương lai gần, nhất là dưới hệ thống kiểm duyệt và giám sát dựa vào-AI ngày càng hiệu quả mà Đảng cộng sản đã thiết lập. Nhưng cũng trở nên ngày càng khó để hy vọng về sự hồi sinh của các sức mạnh đối trọng ở Hoa Kỳ và phần lớn của phần còn lại của thế giới phương Tây. AI đang bóp nghẹt nền dân chủ trong khi cũng cung cấp các công cụ cho sự đàn áp và sự thao túng cho các chính phủ cả độc đoán lẫn được bàu một cách dân chủ.

Như George Orwell hỏi trong tiểu thuyết 1984, “Vì, rốt cuộc, làm sao chúng ta biết rằng hai cộng hai là bốn? Hay rằng lực hấp dẫn hoạt động? Hay rằng quá khứ là không thể thay đổi được? Nếu cả quá khứ và thế giới bên ngoài tồn tại chỉ trong tâm trí, và nếu bản thân tâm trí có thể bị kiểm soát, thì sao?” Câu hỏi này thậm chí còn xác đáng hơn ngày nay bởi vì, như nhà triết học Hannah Arendt đã đoán trước, khi bị những sự dối trá và sự tuyên truyền bỏ bom, mọi người trong các nước cả dân chủ và không-dân chủ ngừng tin vào bất cứ tin tức nào. Có thể thậm chí còn tồi tệ hơn thế. Bị dán mắt vào media xã hội của họ và thường xuyên bị oán giận bởi các cảm giác mạnh và rất thường xuyên hấp thu chúng, mọi người có thể tách ra khỏi cộng đồng và diễn ngôn dân chủ của họ bởi vì một thực tế thay thế (alternative reality), cô lập đã được tạo ra online, nơi các tiếng nói cực đoan là to tiếng nhất, nhan nhản các echo chamber nhân tạo, tất cả thông tin đều hoài nghi hay mang tính đảng phái, và sự thỏa hiệp đã bị quên hay thậm chí bị lên án.

Một số người lạc quan rằng các công nghệ mới, như Web 3.0 hay metaverse, có thể cung cấp các động lực khác. Nhưng chừng nào mô hình kinh doanh hiện thời của các công ty công nghệ và sự ám ảnh giám sát của các chính phủ thắng thế, chúng chắc có khả năng hơn để làm trầm trọng thêm các xu hướng này, tạo ra các bong bóng lọc thậm chí còn mạnh hơn và một cái nêm rộng hơn với thực tế.

Là muộn, nhưng có lẽ chưa quá muộn. Chương 11 phác họa thủy triều có thể đổi hướng ra sao và các khuyến nghị chính sách cụ thể nào giữ lời hứa cho một sự biến đổi như vậy.