Phan Dương Hiệu

Tuần này Giáo hoàng Léon XIV thăm Paris. Ông là người có cách nhìn rất bản chất về AI và sự nguy hiểm của nó với con người. Thông điệp MAGNIFICA HUMANITAS được đưa ra mới đây (15/05/2026) rất đáng để chúng ta đọc kỹ.

Khi chỉ nhìn vào phần ngọn của AI với những công cụ mà nó mang lại, thì việc tranh luận về lợi hay hại của chúng mới chỉ là phần nổi của vấn đề. Khi AI giải được một bài toán thiên niên kỷ, ý nghĩa toán học của điều đó tuy đáng quan tâm nhưng trên hết nó chính là hồi chuông cảnh báo cho công chúng về sức mạnh ngầm của một công nghệ mà gần như không ai hiểu thực hư thế nào bên trong nó.

Vì lẽ đó, điều chúng ta đáng tìm hiểu là những gì nằm đằng sau các công cụ ấy: cả một thế giới công nghệ AI đang vận hành ra sao, con người chúng ta ở đâu trong cơ chế đó, và khi quyền lực AI nằm ngoài các nhà nước thì sẽ dẫn đến những xáo trộn gì. Đó là những vấn đề căn bản mà Giáo hoàng Léon XIV đã đi thẳng vào bản chất để thảo luận. Ông nói sáng sủa các nguy cơ và cùng đó là những giải pháp.

1. Nguy cơ

Ông có một mạch tư duy logic rất rõ ràng. Khởi đầu là đặt vấn đề khi con người bị số hoá, khi phẩm giá con người, tư duy con người, khả năng con người, những sai lầm của con người đều trở thành đối tượng số để bị thuật toán AI xem xét, định giá. Từ sự số hoá đó, sự xâm phạm từng cá thể đó, mà sẽ dần tới chủ nghĩa thực dân dữ liệu. Ông cho rằng "căn bệnh" sâu xa và thường không được nhận biết là "con người hiện đại bị thuyết phục một cách sai lầm rằng họ là tác giả duy nhất của chính mình, của cuộc đời mình và của xã hội. Đây là một sự tự phụ phát sinh từ việc khép kín một cách vị kỷ nơi chính mình. Hệ quả là, con người tin rằng họ có thể kiến tạo thực tại, và bất cứ điều gì phù hợp nhất với các yêu sách của họ đều tương ứng với những gì là chân thật."

Và chân thật ư? Đó chính là điều độc tài số có thể dẫn dụ (làm mỗi con người từ bỏ những giá trị phổ quát để tự định hình "chân lý" của riêng mình), rồi từ đó tinh vi điều khiển và áp đặt điều nó muốn người ta tin. "Những kẻ nắm giữ các tài nguyên công nghệ, kinh tế quyền lực cùng với nguồn vốn nhân lực to lớn cho việc can thiệp, sở hữu các năng lực ý nghĩa để ảnh hưởng đến sự thay đổi văn hóa. Xét cho cùng, họ có thể ảnh hưởng đến một số lượng lớn người dân liên quan đến chân lý về con người, thế giới, ý nghĩa của sự hiện hữu, gia đình và thậm chí cả Thiên Chúa. Đó là thứ quyền lực thuần túy tách rời khỏi chân lý, một cách tinh vi hay công khai áp đặt điều nó muốn người khác chấp nhận như là chân thật."

Các đế chế số nắm quyền tái định nghĩa lại giới hạn cơ hội của mỗi con người, và ở đó ông hiển nhiên đặt trọng tâm vào những người yếu thế. Người yếu thế không còn được bảo vệ, bất công xã hội trong hình thức mới. Ông viết : "việc ủy thác trên thực tế cho một thuật toán quyền năng chọn lựa ai là người xứng đáng hay không, mà không có ai chịu trách nhiệm cho sự phán xét đó, chính là trao lại nhiệm vụ tái định nghĩa các ranh giới của các khả năng của con người. Trong tiến trình này, trách nhiệm chính trị cũng bị đánh mất, chứ không chỉ là sự thấu cảm đối với những người bị loại trừ, điều mà suy cho cùng, có thể được mô phỏng. Sự loại trừ những người dễ bị tổn thương trở nên được che đậy trong một lớp vỏ trung lập và khách quan, điều mà trước đó trở nên khó khăn để đưa ra các sự phản đối. Bằng cách này, bất công đi vào mà không bị chú ý, và lòng trắc ẩn, lòng thương xót cùng sự tha thứ - được hiểu không phải như các vẻ bề ngoài đơn thuần mà như các hành động chính trị thực sự - dần dần biến mất khỏi tầm nhìn."

Không chỉ về con người, ông nói về việc sở hữu dữ liệu rất sắc. Ông nói về việc chiếm đoạt sở hữu dữ liệu, nói về sự nguy hiểm của việc các công nghệ khai thác những dữ liệu riêng tư nhất của con người, dữ liệu y tế, di truyền, dịch tễ. Điều đó hiển nhiên cần phải đặt nặng một chiến lược trọng tâm trong việc hạn chế thu thập những dữ liệu này, bằng không sẽ bị các đế chế số thôn tính. Ông viết: "Chủ nghĩa thực dân cũng đảm nhận các hình thức mới. Nó không còn thống trị duy chỉ các thân thể, mà chiếm đoạt dữ liệu, biến đổi đời sống cá nhân thành thông tin có thể bóc lột. Toàn bộ các vùng miền, cách riêng là những nơi bị đánh dấu bởi sự mong manh mang tính cấu trúc và tầm quan trọng địa chính trị giới hạn, hiện tại đang bị đặt dưới một tâm thức khai thác mới: tâm thức khai thác dữ liệu sức khỏe, các hồ sơ dịch tễ học, các bản đồ di truyền và thông tin nhân khẩu học. Những thứ này đã trở thành các "đất hiếm" mới của quyền lực: các dữ liệu sống còn mà một khi được tổng hợp và phân tích, có thể được sử dụng để huấn luyện các mô hình dự đoán, hướng dẫn các chiến lược đầu tư, dự kiến các cuộc khủng hoảng và trên hết là quyết định ai và cái gì được coi là quan trọng. Những kẻ kiểm soát dữ liệu sức khỏe của toàn bộ các dân tộc - thường được thu thập dưới cái cớ cứu trợ, nghiên cứu hay đổi mới - sở hữu một đòn bẩy mang tính cấu trúc trên tương lai, vì họ có thể định hình các nhu cầu và các thị trường. Họ cũng có thể quyết định, trước những người khác, thuốc men, các khoản đầu tư và các sự bảo vệ sẽ được phân bổ cho ai."

Cũng từ sự kiểm soát dữ liệu cá nhân đó, ông nhấn mạnh sự nguy hiểm của việc giám sát trên diện rộng, kiểm soát xã hội, đánh đổ tự do con người (đoạn 171): "Một rủi ro xa hơn, ít hiển nhiên hơn nhưng không kém phần nghiêm trọng, là rủi ro về sự kiểm soát xã hội được làm cho khả thi bởi việc thu thập dữ liệu khổng lồ và việc sử dụng các hệ thống thuật toán. Khi mỗi hành động - các chuyển động, các khoản mua sắm, các mối tương quan và các sự ưu tiên - để lại một dấu vết, một hình thức quyền lực mới sẽ nổi lên, cụ thể là quyền lực lập hồ sơ, dự đoán và ảnh hưởng đến hành vi, thường là khi các cá nhân không hoàn toàn ý thức về nó. Nếu các loại hình dữ liệu như vậy được sử dụng để đưa ra các quyết định ảnh hưởng đến các cơ hội cụ thể - chẳng hạn như sự tiếp cận tín dụng, việc làm hay các dịch vụ thiết yếu - có một nguy cơ làm suy yếu tự do và phân biệt đối xử chống lại những người dễ bị tổn thương nhất. Hơn nữa, sự kiểm soát được thực thi không chỉ qua các sự cấm đoán công khai, mà còn qua kiến trúc của sự hiển thị: những gì được khuếch đại hoặc làm cho vô hình, những gì được khen thưởng hay bị phạt, rốt cuộc định hình các ý kiến và chọn lựa, thúc đẩy sự tuân thủ và sự tự kiểm duyệt. "

2. Giải pháp

Cùng các nguy cơ trên, ông có nhiều đề xuất:

Về sự chia sẻ tri thức, dữ liệu, ông viết "một trong những thách đố đạo đức cấp bách nhất của thời đại chúng ta: đảm bảo rằng tri thức được sẻ chia trở thành một công ích thực sự thay vì là một công cụ của sự thống trị. Điều này đòi hỏi việc khôi phục cho các cá nhân không chỉ dữ liệu mô tả họ, mà còn cả năng lực quyết định cách thức nó được sử dụng, bởi ai và vì lợi ích của ai. Nếu không, thời đại kỹ thuật số sẽ không phải là hậu thực dân, mà là thực dân dưới một hình thức khác." Ông viết trong phần 108. "quyền sở hữu dữ liệu không thể bị bỏ mặc riêng cho các bàn tay tư nhân, mà phải được điều tiết cách thích hợp. Dữ liệu là sản phẩm của nhiều người đóng góp và không được đối xử như một thứ gì đó để đem bán hoặc phó thác cho một số ít người được chọn. Cần phải suy nghĩ cách sáng tạo để quản lý dữ liệu như một tài sản chung…"

Về tôn trọng phẩm giá con người, ông viết ở 105, 106. "Để AI tôn trọng phẩm giá con người và thực sự phục vụ công ích, trách nhiệm phải được định nghĩa rõ ràng ở mọi giai đoạn: từ những người thiết kế và phát triển các hệ thống này cho đến những người sử dụng chúng và tin cậy vào chúng cho các quyết định cụ thể. Tuy nhiên, trong nhiều trường hợp, các tiến trình nội bộ dẫn đến một kết quả vẫn mang tính mơ hồ, làm cho việc gán trách nhiệm và sửa chữa các sai lầm trở nên khó khăn hơn. Đây là nơi mà trách nhiệm giải trình trở nên quyết định: khả năng xác định ai là người phải “giải trình” cho các quyết định, biện minh cho chúng, giám sát chúng, và khi cần thiết, thách đố chúng và khắc phục bất kỳ tác hại nào gây ra.(...) Không đủ nếu chỉ kêu gọi đạo đức một cách trừu tượng; các khuôn khổ pháp lý vững chắc, sự giám sát độc lập, những người dùng được thông tin và một hệ thống chính trị không thoái thác trách nhiệm của mình là những điều được đòi hỏi. Nếu không, sự thay đổi sẽ chỉ được quản trị bởi tư duy kỹ trị và được trình bày như là cần thiết và không thể tránh khỏi, rốt cuộc áp đặt các quy tắc được định hình bởi những kẻ kiểm soát dữ liệu, cơ sở hạ tầng và năng lực điện toán."

Về bảo vệ tự do con người, ông viết "tự do trong thời đại kỹ thuật số không đơn thuần là một vấn đề của nội tâm mà còn là một mối bận tâm công cộng. Đòi hỏi các quy tắc rõ ràng, sự minh bạch, khả năng khiếu nại và các giới hạn tương xứng trên việc sử dụng các công nghệ xâm nhập, để công nghệ sẽ giữ mình ở sự phục vụ nhân vị và không trở thành một hình thức kiểm soát trên các lương tâm."

Về việc thao túng trong việc định nghĩa lại các giá trị trong thế giới số, ông đề nghị (đoạn 71.) "kẻ độc chiếm chuyên môn, dữ liệu và thẩm quyền đưa ra quyết định, bao gồm các công ty và các nền tảng định nghĩa các điều kiện tiếp cận, các quy tắc hiển thị, các hình thức tương tác, và thậm chí cả các cơ hội kinh tế. Nguyên tắc bổ trợ đòi hỏi các tiến trình đó không được áp đặt từ trên xuống một cách mơ hồ và đơn phương, mà thay vào đó phải được định hướng về công ích với sự minh bạch, trách nhiệm giải trình và các hình thức tham gia có ý nghĩa (bao gồm các sự kiểm tra độc lập, sự minh bạch liên quan đến các thuật toán, sự tiếp cận công bằng đối với dữ liệu và các nẻo đường khiếu nại)."

Điều căn cốt nhất là sự khẳng định phẩm giá con người "thuộc về mọi con người chỉ vì họ hiện hữu, không do lập công, cũng không cần biện minh", chúng ta đừng để nó bị số hoá và trở thành một đối tượng khô cứng, trơ trụi trong thuật toán của các đế chế công nghệ!

Đây chỉ là một số nét tôi cảm nhận, nó không đại diện cho toàn bộ thông điệp của ông, mà là sự cảm nhận riêng, bởi nó rất gần với những suy nghĩ của tôi. Các bạn nên đọc toàn bộ và có cảm nhận của riêng mình.

Toàn bài bản gốc chính thức tiếng Anh: https://www.vatican.va/.../20260515-magnifica-humanitas.html

Bản dịch tiếng Việt ở đây (các câu trích trên kia tôi lấy theo bản dịch này): https://www.ephatacatholic.com/ban-dich-toan-van-thong.../

Sự đồng điệu với những suy nghĩ này cũng đã đến với tôi từ lâu, năm 2019 tôi cũng đã trả lời trên Lao Động về việc tính điểm công dân sẽ làm robot hoá con người, khi nêu "hai vấn đề quan trọng: độ đo để định lượng điểm cao thấp và cách thức cùng phương tiện để thực hiện điều đó." để dẫn đến kết luận "Hệ thống tính điểm công dân là một ứng dụng khoa học công nghệ cần phải tránh. Một sự đánh giá chỉ dựa trên những thước đo định lượng là một sự đánh giá nghèo nàn và nguy hiểm, nó đưa cái phong phú đa dạng của cuộc sống cho vừa khuôn của một bộ quy tắc.". Các bạn quan tâm có thể đọc ở đây: https://www.facebook.com/rongchoi/posts/10217251098246313

Chính vì rất nhiều ý đồng cảm nên tôi thực sự trân quý thông điệp của Giáo hoàng - Bienvenue à Paris!