Những độc giả yêu thích lịch sử có thể vẫn còn nhớ câu chuyện về Cuộc diễn tập mô phỏng mang tên Millennium Challenge 2002 (MC02). Còn nếu ai chưa biết thì đó là một cuộc mô phỏng quân sự cao cấp diễn ra cách đây hai thập kỷ, được thực hiện bởi Bộ Tư lệnh Lực lượng Hỗn hợp Hoa Kỳ – một cơ quan nay đã giải thể. Được mô tả như “chìa khóa để cải tổ quân sự”, nó tiêu tốn 250 triệu đô la, một cái giá cực kỳ đắt đỏ cho một thứ như thế thời bấy giờ. Tình huống trong trò chơi giả định này là một cuộc xung đột quân sự với một quốc gia nổi loạn thuộc vùng Vịnh Ba Tư.

Trong trận chiến mô phỏng, Phe Xanh (Phe ta) – lực lượng phối hợp của Hoa Kỳ đã thử nghiệm chiến dịch RDO – “Rapid Decisive Operations”. Chiến dịch này dựa trên học thuyết chiến tranh “lấy mạng làm trung tâm” (network-centric warfare) và được hỗ trợ bởi hàng loạt công nghệ thông tin, công cụ phân tích và cảm biến điện tử.

Trong khi Phe Đỏ (Phe địch) – những kẻ nổi loạn – là một màn trình diễn cá nhân được điều hành bởi Trung tướng Thủy quân Lục chiến đã về hưu, Paul Van Riper. Ông được trao toàn quyền để tự do chỉ huy phe của mình trong suốt cuộc chiến.

Trò chơi chiến tranh bắt đầu và Phe Đỏ ngay lập tức đánh chìm một tàu sân bay, một số tàu tuần dương và phần lớn hạm đội của Phe Xanh bằng các đợt tấn công bầy đàn, sử dụng công nghệ thấp. Nó tiêu diệt hàng ngàn quân nhân Hoa Kỳ trong cuộc mô phỏng, chỉ sau hai ngày đầu tiên. Nó cũng liên tục né tránh sự kiềm tỏa của Phe Xanh bằng cách sử dụng các chiến thuật trái quy ước và khó lường, cũng như khai thác những lỗ hổng công nghệ của Phe Xanh.

Phe Đỏ làm quá tốt đến nỗi cuộc mô phỏng bị đình chỉ, buộc trả lại tình trạng ban đầu. Thậm chí, theo lời khẳng định công khai đầy phẫn nộ của Van Riper, họ bị buộc phải làm theo một kế hoạch đã được định sẵn, với phần ưu thế thuộc về Phe Xanh.

Quân đội đã bác bỏ một số yếu tố trong báo cáo của Van Riper, nhưng MC02 vẫn là một vết nhơ khó phai và một bài học cho việc quá phụ thuộc vào công nghệ. Tệ hơn, đó là một bài học mà chúng ta chưa nhận thức đầy đủ. Ngày nay, 24 năm sau, các công nghệ của chúng ta, nhất là trí tuệ nhân tạo (AI), thông minh hơn, mạnh hơn và tinh vi hơn. Chúng cũng đắt đỏ hơn, nhưng chúng vẫn có những khuyết điểm. Chúng có thể tạo sức hủy diệt lớn hơn trong chiến tranh. Nhưng chúng không thể tự mình tiêu diệt một kẻ thù xác định, với công nghệ thấp, dù kẻ thù ấy có độc ác và hình phạt dành cho chúng có lớn đến đâu. Cuộc chiến ở Iran là một ví dụ điển hình.

Thật vậy, vũ khí quân sự công nghệ cao, dù thông minh đến đâu, cũng không bao giờ thay thế được sự chỉ huy đúng đắn và hợp luân lý của con người. Đúng là việc tiêu diệt một kẻ thù từ xa giúp bảo đảm an toàn cho người lính, nhưng nó cũng khiến cho việc thực hiện hành động giết người vừa vô nhân tính vừa dễ dàng hơn. Những máy bay không người lái chọn mục tiêu để tiêu diệt, mà không cần suy xét thấu đáo. Nhưng trên thực tế, chúng đang là một phần không thể thiếu trong các cuộc chiến tranh ngày nay.

Và đây là vấn đề: Càng hiện đại hóa vũ khí, chúng càng trở thành con dao hai lưỡi. George Parkin Grant, một triết gia Công giáo đại tài người Canađa, đã cảnh báo rằng nền văn minh Bắc Mỹ nghiện công nghệ một cách đáng báo động, thậm chí họ tôn thờ chúng như một loại tôn giáo thế tục.

Chúng ta biết, tự bản chất, con người là một sinh vật chinh phục – chinh phục và tái tạo tự nhiên, bao gồm cả bản tính con người. Điều này giải thích cho tài năng thiên bẩm của chúng ta trong việc sáng tạo và sử dụng các công cụ. Nhưng khi chúng ta sử dụng những công cụ ấy, đôi khi chúng ta lại bị chính chúng sử dụng và định hình. Hệ quả là con người có thể trở thành những kẻ kiêu ngạo và ngông cuồng, mù lòa trước thiên nhiên, hoài nghi trước mọi sự “thiêng thánh” và nô lệ cho quyền lực của công nghệ. Đó là điều không thể chấp nhận. Chúng ta có thể chọn lựa khác. Nhưng nghịch lý thay, chúng ta để mình bị ru ngủ một cách quá dễ dàng và thường xuyên rơi vào thảm họa.

Cuộc mô phỏng MC02 nhắc nhở chúng ta về giá trị của sự thất bại, để nhìn rõ hơn sự đe dọa của việc để công nghệ chi phối và những hậu quả của nó. Do đó, khi bàn về trí tuệ nhân tạo, nếu chúng ta không muốn một phiên bản Kẻ hủy diệt (Skynet) ngoài thế giới thực, chúng ta không bao giờ được phép miễn trừ việc định hướng cách nghiêm túc và kiểm soát chặt chẽ của con người đối với AI, sự phát triển, cũng như những ứng dụng thực tế của nó.

Ngày nay, AI là một thực tại không thể phủ nhận và không ở đâu xa. Vậy chúng ta cần phải làm gì? Kinh thánh dạy chúng ta rất nhiều lần về thái độ “đừng sợ”. Đó không chỉ là một lời mời gọi, nhưng là một mệnh lệnh. Chúng ta xác tín Thiên Chúa là Đấng Hằng Hữu. Ngài hằng yêu thương và luôn đồng cảm với nỗi sợ của chúng ta. Những lời như “thảm họa” và “khủng hoảng” xuất hiện dày đặc trong các bài viết công khai của chúng ta nói về trí tuệ nhân tạo và tạo ra hiệu ứng “con ngáo ộp”[1] với một nỗi sợ vô cớ. Nhưng trong nguyên ngữ Hy Lạp, thảm họa đơn giản có nghĩa là “sự vạch trần” – tiết lộ một thực tế hay sự thật chưa từng thấy trước đó. Và chữ “khủng hoảng” trong tiếng Hy Lạp là “krinein”, nghĩa là sự quyết định hay sự phán quyết.

Vì thế, bất chấp sự lo lắng về những sai lầm trong quá khứ, nhưng không có gì là thảm họa mang tính định mệnh, ám ảnh hay không thể tránh khỏi với sự lớn mạnh của AI. AI chỉ là một công cụ, một công cụ rất quyền năng và phức tạp, nhưng nó chỉ là một công cụ vô tri. Trong khi đó Thiên Chúa tạo dựng con người có lý trí và ý chí tự do. Chúng ta không hề kém cỏi, nhưng cần chủ động tiếp cận AI với sự khôn ngoan của kinh nghiệm và sự tường minh trong việc trung thành với các giá trị luân lý.

Nếu chúng ta tiếp cận cách đúng đắn như thế, những hoa trái đáng quý của AI đối với y tế, giáo dục, trợ giúp người khuyết tật và công tác nghiên cứu trên mọi lĩnh vực, sẽ rất lớn. Nhưng chúng ta cần hành động ngay, bởi vì AI rất có thể sẽ làm lu mờ sự ảnh hưởng của xã hội, chính trị, văn hóa và tâm lý học trong việc in ấn, cuộc cách mạng công nghiệp và mọi cuộc cải cách nào trước đó. Những ảnh hưởng xấu của nó có thể gấp nhiều lần những hệ quả được ghi chép trong các tác phẩm “Cuộc chuyển biến lớn” (The Great Transformation ) của Polanyi và “Những cuộc cách mạng” (Reformations) của Carlos Eire

Tuy nhiên, chúng ta có thể tìm thấy đôi chút sự an ủi trong kinh nghiệm của nhân loại với vũ khí hạt nhân. Chúng ta đã sở hữu vũ khí hạt nhân hơn 80 năm mà không sử dụng chúng, bất chấp những cuộc chiến tranh khu vực không ngừng và ngay cả giữa những giai đoạn những căng thẳng và áp lực ngày càng lớn giữa các siêu cường. Tất nhiên, chúng ta không bao giờ quên ký ức đau buồn của việc vũ khí hạt nhân đã giết chết 120.000 người ở Hiroshima và 130.000 nạn nhân ở Nagasaki, cùng với nhiều người chết sau đó vì thương tích. Ký ức đau buồn ấy khắc sâu trong tâm trí chúng ta. Chúng ta không thấy một sự kiện hủy diệt nào tương tự với AI, ít nhất là đến thời điểm hiện tại. Chúng ta vẫn còn thời gian, mặc dù không nhiều, để bảo đảm rằng thảm họa ấy sẽ không bao giờ xảy ra.

Cuối cùng, máy móc không phải con người, dù chúng thông minh đến đâu và chúng dễ được con người nhân hóa thế nào. Máy móc không phải con người và chúng không bao giờ là con người. Có những thứ đáng quý và độc nhất chỉ có nơi bản tính con người. Chúng ta cần ghi nhớ, xác tín và bảo vệ những giá trị đó, ngay cả trước chính bản thân chúng ta, trước những công cụ do mình tạo ra và trước ảo tưởng của tham vọng muốn “bằng Thiên Chúa” (x. St 3,5).

Tác giả: Francis X. Maier (thecatholicthing.org)

[1] Hình tượng hoang đường, đáng sợ được dựng lên để hù dọa, tạo ra tâm lý hoảng loạn vô cớ