 | Tổng quan: | 3601006 |
Công nghệ sẽ khiến chiến tranh diễn ra nhanh hơn và khó lường hơn. Nó cũng có thể gây ra bất ổn.
nNgay cả khi AI mang lại cảm giác nhận thức rõ ràng hơn về chiến trường, chiến tranh có nguy cơ trở nên khó hiểu hơn đối với những người tham gia chiến đấu.
Máy tính được sinh ra trong chiến tranh và vì chiến tranh. Colossus được chế tạo năm 1944 để giải các mật mã của Đức Quốc xã. Đến những năm 1950, máy tính đã được sử dụng để tổ chức hệ thống phòng không của Mỹ. Trong những thập kỷ tiếp theo, trí tuệ nhân tạo đóng một vai trò nhỏ trong chiến tranh. Giờ đây, nó sắp trở thành yếu tố then chốt. Giống như thế giới dân sự đang chứng kiến sự tiến bộ nhanh chóng về sức mạnh và sự lan rộng của trí tuệ nhân tạo (AI), thế giới quân sự cũng phải chuẩn bị cho một làn sóng đổi mới. AI không chỉ làm thay đổi bản chất của chiến tranh mà còn có thể gây mất ổn định.
Sự thay đổi nhanh chóng ở thời điểm hiện tại đến từ một số nguyên nhân. Trước hết là đến từ sự thử thách của chiến tranh, đáng chú ý nhất là ở Ukraine. Những con chip nhỏ, rẻ tiền thường xuyên dẫn đường cho drone của Nga và Ukraine đến mục tiêu, mở rộng quy mô một công nghệ vốn chỉ được sử dụng trong tên lửa của các siêu cường. Kế đến là sự tiến bộ vượt bậc gần đây của AI, cho phép thực hiện những kỳ tích đáng kinh ngạc về nhận dạng vật thể và giải quyết vấn đề ở cấp độ cao hơn. Thứ ba là sự cạnh tranh giữa Mỹ và Trung Quốc, trong đó cả hai đều coi AI là chìa khóa để giành ưu thế quân sự.
Kết quả rõ ràng nhất là sự tiến bộ của các cỗ máy giết người thông minh. Drone trên không và trên biển rất quan trọng đối với cả hai bên ở Ukraine trong việc phát hiện và tấn công các mục tiêu. Vai trò của AI là giải pháp cho vấn đề gây nhiễu, vì nó cho phép drone tự tìm đến mục tiêu, ngay cả khi tín hiệu GPS hoặc liên kết với người điều khiển bị cắt đứt. Việc cắt đứt kết nối giữa phi công và máy bay sẽ sớm cho phép quân đội triển khai số lượng lớn hơn nhiều các loại vũ khí chi phí thấp. Cuối cùng, các đàn drone tự hành sẽ được thiết kế để áp đảo hệ thống phòng thủ.
Nhưng điều dễ thấy nhất về AI quân sự không phải là điều quan trọng nhất. Như bài viết của chúng tôi giải thích, công nghệ này cũng đang cách mạng hóa hoạt động chỉ huy và kiểm soát mà các sĩ quan quân đội sử dụng để điều phối các cuộc chiến.
Trên tiền tuyến, drone chỉ là mắt xích cuối cùng và ngoạn mục nhất trong chuỗi tiêu diệt, một loạt các bước bắt đầu bằng việc tìm kiếm mục tiêu và kết thúc bằng một cuộc tấn công. Ý nghĩa sâu sắc hơn của AI là những gì nó có thể làm trước khi drone tấn công. Bởi vì nó sắp xếp và xử lý dữ liệu với tốc độ siêu phàm, nó có thể chọn ra từng chiếc xe tăng trong hàng nghìn hình ảnh vệ tinh, hoặc giải mã ánh sáng, nhiệt, âm thanh và sóng vô tuyến để phân biệt mồi nhử với vật thể thật.
Sau tiền tuyến, nó có thể giải quyết những vấn đề lớn hơn nhiều so với những vấn đề mà một chiếc drone đơn lẻ phải đối mặt. Hiện nay, điều đó có nghĩa là các nhiệm vụ đơn giản, chẳng hạn như tìm ra loại vũ khí nào phù hợp nhất để tiêu diệt một mối đe dọa. Trong thời gian tới, "các hệ thống hỗ trợ việc ra quyết định" có thể nắm bắt được sự phức tạp khó hiểu của chiến tranh một cách nhanh chóng và trên một khu vực rộng lớn — có lẽ là toàn bộ chiến trường.
Hệ quả của điều này mới chỉ bắt đầu trở nên rõ ràng. Các hệ thống AI, cùng với rô bốt tự hành trên bộ, trên biển và trên không, có khả năng tìm và tiêu diệt mục tiêu với tốc độ chưa từng có và trên quy mô rộng lớn.
Tốc độ của chiến tranh như vậy sẽ làm thay đổi sự cân bằng giữa người lính và phần mềm. Ngày nay, quân đội phân công một cá nhân hiện diện "trong vòng lặp", phê duyệt từng quyết định có thể gây chết người. Khi việc tìm kiếm và tấn công mục tiêu được nén xuống còn vài phút hoặc vài giây, con người có thể chỉ đơn thuần "ngồi trên vòng lặp", như một phần của nhóm hỗn hợp người và máy. Con người sẽ giám sát hệ thống mà không can thiệp vào mọi hành động được thực hiện.
Nghịch lý ở chỗ, ngay cả khi AI mang lại cảm giác nhận thức rõ ràng hơn về chiến trường, chiến tranh có nguy cơ trở nên khó hiểu hơn đối với những người tham gia chiến đấu. Sẽ có ít thời gian hơn để dừng lại và suy nghĩ. Khi các mô hình đưa ra những phán đoán ngày càng khó hiểu, sản phẩm của chúng sẽ ngày càng khó đánh giá kỹ lưỡng mà không nhường cho kẻ thù lợi thế chết người. Quân đội sẽ lo sợ rằng nếu họ không cho các cố vấn AI của mình một cánh tay nối dài hơn, họ sẽ bị đánh bại bởi một đối thủ cũng làm điều tương tự. Chiến đấu nhanh hơn và ít đứt quãng sẽ khiến việc đàm phán các thỏa thuận ngừng bắn hoặc ngăn chặn leo thang trở nên khó khăn hơn. Điều này có thể có lợi cho bên phòng thủ, những người có khả năng cố thủ trong khi những kẻ tấn công lộ diện khi tiến công. Hoặc nó có thể cám dỗ những kẻ tấn công tấn công phủ đầu với lực lượng lớn, để phá hủy các cảm biến và mạng lưới mà các quân đội được hỗ trợ bởi AI sẽ phụ thuộc.
Quy mô của chiến tranh dựa trên AI có nghĩa là quy mô và sức mạnh công nghiệp có thể sẽ trở nên quan trọng hơn nữa so với hiện nay. Bạn có thể nghĩ rằng công nghệ mới sẽ cho phép quân đội trở nên tinh gọn hơn. Nhưng nếu phần mềm có thể chọn ra hàng chục nghìn mục tiêu, quân đội sẽ cần hàng chục nghìn vũ khí để tấn công chúng. Và nếu bên phòng thủ có lợi thế, bên tấn công sẽ cần nhiều vũ khí hơn để trở nên vượt trội.
Đó không phải là lý do duy nhất khiến chiến tranh AI nghiêng về phía các nước lớn. Drone có thể rẻ hơn, nhưng các hệ thống kỹ thuật số kết nối chiến trường với nhau sẽ cực kỳ đắt đỏ. Xây dựng quân đội sử dụng AI sẽ cần những khoản đầu tư khổng lồ vào các máy chủ đám mây có khả năng xử lý dữ liệu bí mật. Lục quân, hải quân và không quân hiện nay với các kho dữ liệu riêng của họ sẽ phải được tích hợp. Việc đào tạo các mô hình sẽ đòi hỏi phải có quyền truy cập vào một lượng lớn dữ liệu.
Nước lớn nào có lợi thế về AI nhất ? Trung Quốc từng được cho là có lợi thế, nhờ kho dữ liệu khổng lồ, khả năng kiểm soát các ngành công nghiệp tư nhân và các ràng buộc đạo đức lỏng lẻo hơn. Tuy nhiên, hiện nay, Mỹ dường như đang dẫn đầu về các mô hình tiên tiến có thể định hình thế hệ AI quân sự tiếp theo. Và ý thức hệ cũng quan trọng : không rõ liệu quân đội của các quốc gia độc tài, vốn coi trọng kiểm soát tập trung, sẽ có thể khai thác lợi ích của một công nghệ thúc đẩy trí thông minh và hiểu biết đến các cấp độ chiến thuật thấp nhất hay không.
Nếu một cuộc chiến tranh đầu tiên được hỗ trợ bởi AI thực sự xảy ra, luật pháp quốc tế có thể bị đẩy ra ngoài lề. Vì vậy, càng có nhiều lý do hơn để suy nghĩ ngay từ hôm nay về cách hạn chế sự hủy diệt. Chẳng hạn, Trung Quốc nên chú ý đến lời kêu gọi của Mỹ về việc loại bỏ sự kiểm soát của AI đối với vũ khí hạt nhân. Và một khi chiến tranh bắt đầu, đường dây nóng giữa người với người sẽ trở nên quan trọng hơn bao giờ hết. Các hệ thống AI được giao nhiệm vụ tối đa hóa lợi thế quân sự sẽ cần được mã hóa với các giá trị và hạn chế mà các chỉ huy con người coi là điều hiển nhiên. Chúng bao gồm việc đặt một giá trị ngầm cho mạng sống con người—có thể chấp nhận giết bao nhiêu thường dân để theo đuổi một mục tiêu có giá trị cao ?—và tránh một số cuộc tấn công gây mất ổn định, chẳng hạn như nhằm vào các vệ tinh cảnh báo sớm hạt nhân.
Những điều bất định thật khó lường. Điều chắc chắn duy nhất là sự thay đổi do AI thúc đẩy đang đến gần. Những đội quân lường trước và làm chủ những tiến bộ công nghệ sớm nhất và hiệu quả nhất có thể sẽ thắng thế. Những người còn lại có khả năng sẽ là nạn nhân.
The Economist
Nguyên tác : "AI will transform the character of warfare", The Economist, 20/06/2024
Viên Đăng Huy biên dịch
Nguyễn Thế Phương hiệu đính
Vào ngày 22 tháng Ba, Elon Musk, các nhóm chuyên gia về trí tuệ nhân tạo và các giám đốc kỹ nghệ đã kêu gọi ngưng 6 tháng trong việc thiết lập một hệ thống mạnh hơn GPT-4, vì họ lo ngại có tiềm năng rủi ro đối với xã hội.
Tính đến lúc viết bài này có gần 19.000 chữ ký kêu gọi ngưng thử nghiệm trí tuệ nhân tạo.
Trong cuộc chạy đua công nghệ hiện nay, như trình bày trong bài trước, trí tuệ nhân tạo (Artificial Intelligence-AI) được xem là công nghệ quan yếu, nếu không phải hàng đầu. Nó có tiềm năng thay đổi cách suy nghĩ và làm việc của con người trên toàn thế giới trong hầu hết mọi lĩnh vực vào hai ba thập niên tới, sau những đột phá và hoàn chỉnh của thế hệ công nghệ. Khi được công xuất bởimáy tính lượng tử, có khả năng nhanh gấp 100 triệu lần máy tính hiện nay, như Google từngcông bố, thì tiềm năng của trí tuệ nhân tạo là gần như vô hạn.
Có phải vậy không ?
Hiện nay trí tuệ nhân tạo vẫn có một số giới hạn của nó. Những giới hạn này có được khắc phục qua thời gian không thì chỉ có thời gian mới trả lời được. Nhưng, như mọi công nghệ, từng đợt thế hệ sẽ có một số đột phá (break-through) hay cải thiện, về phần mềm hay phần cứng nào đó, nhưng hoàn chỉnh luôn là vấn đề tương tối. Những thách thức, nhất là về mặt an ninh, luôn hiện hữu, trường kỳ, và chính nó cũng là cơ hội để cải thiện.
Một sốchuyên gia trong lĩnh vực trí tuệ nhân tạo nhận định rằng những giới hạn của trí tuệ nhân tạo nằm ở khả năng sáng tạo, thấu cảm và khéo tay. trí tuệ nhân tạo không thể sáng tạo hơn con người, không có sự thấu cảm như con người, và động tác khéo tay như một con người thì khó thể đạt được. Một số giới hạn khác của trí tuệ nhân tạo, theoRob Toews trên Forbes, là : một, thiếu sự suy nghĩ/cảm nhận thông thường (common sense) ; hai, thiếu khả năng học hỏi liên tục và thích nghi nhanh chóng ; ba, thiếu khả năng hiểu mối tương quan nhân quả ; bốn, thiếu khả năng lý luận có tính cách đạo đức.
ChatGPT (Chat Generative Pretrained Transformer), ra đời vào tháng 11 năm 2022, được xem là sản phẩm nổi bật hàng đầu hiện nay về trí tuệ nhân tạo. Kể từ khi ra đời, mỗi tháng ChatGPTcó cả tỷ lần viếng thăm trang mạng, với ước đoán có 100 triệu người sử dụng thường xuyên. Được biết ChatGPT chứa 570 gigabyte dữ liệu văn bản, tương đương với khoảng 164.129 lần số từ trong toàn tập truyện Lord of the Rings (bao gồm cả The Hobbit). Không như Google liệt kê ra thông tin liên hệ khi tìm kiếm, ChatGPTcó khả năng trả lời trực tiếp những gì người sử dụng muốn tìm hiểu. ChatGPT mở rộngtiềm năng và cơ hội cho bao nhiêu doanh nghiệp để ứng dụng nó, vừa vô cùng hiệu quả vừa cắt giảm được bao nhiêu chi phí. Cụ thể nhất là khả năng trả lời thắc mắc của khách hàng mọi nơi và mọi lúc. Nó cũng có thể tự động hóa nhiều công việc hiện nay do con người đảm trách.
Nhưng có thật ChatGPT thông minh không, và nói chung Artificial Intelligence/AI hiện nay có thông minh/trí tuệ (chữ có chữ I, Intelligence) trong đó không ?
Jeff Hawkins không nghĩ như vậy.
Là người sáng tạo ra PalmPilot vào thập niên 1990s, Hawkins đã cùng với đội ngũ của mình hình thành cơ quan nghiên cứuNumenta kể từ năm 2005 để học hỏi bộ óc con người. Thật ra Hawkins đã quan tâm và hứng thú về lĩnh vực khoa học thần kinh hơn bốn thập niên qua. Năm 2021, Hawkins cho phát hành cuốn sáchA Thousand Brains : A New Theory of Intelligence mà Bill Gates đánh giá là một trong cuốn sách đáng đọc nhất trong năm.
Một cách tóm tắc, tuy khoa học thần kinh đã tiến rất xa trong vài thập niên qua, những câu hỏi căn bản nhất về cấu trúc của tân não gọi là neocortex, phần mà chịu trách nhiệm cho suy nghĩ/lý luận, thì vẫn chưa được hiểu đầy đủ hay sâu sắc. Ngoài ra các tế bào thần kinh trong bộ óc con người hoạt động riêng lẽ ra sao, và hàng tỷ tế bào như thế tương tác với nhau thế nào, vẫn chưa được hiểu sâu và lý giải thoả đáng. Có rất nhiều giả thuyết và lý thuyết được trình bày từ những thập niên 1980 hay trước đó cho đến nay, nhưng vẫn chưa có lý thuyết nào được cho là chuẩn mực mà lý giải được bao nhiêu câu hỏi và vấn đề liên quan.
Vì thế, trong tác phẩm này, Hawkins đưa ra một số lý thuyết về tân não neocortex hoạt động ra sao. Những câu hỏi, và biện luận, của Hawkins rất thú vị. Mấu chốt của vấn đề, theo Hawkins, là nghiên cứu xem chức năng của cột não (cortical column) trong mạch cơ bản của tân não (basic circuit of the neocortex) là gì, và cách thức hoạt động ra sao. Hiểu được cột não thì sẽ lý giải được cách thức hoạt động của tân não.
Tuy nhiên trong phạm vi bài này, tôi chỉ xin đề cập đến phần nhỏ trong trí tuệ nhân tạo/AI thôi.
Hawkins biện luận rằng có hai phương cách giới nghiên cứu về AI đang theo đuổi để chế tạo máy móc thông minh. Hướng một, như đang phát triển mạnh mẽ hiện nay, tập trung vào việc chế tạo máy móc mà có thể làm giỏi hơn con người, nhất là giỏi hơn đối với một người giỏi nhất về lĩnh vực đó, trong một chức năng cụ thể nào đó. Hướng hai, là chế tạo máy có khả năng co giãn, mà mục đích là máy đó có thể làm được nhiều thứ, và áp dụng những gì nó học được từ việc này sang việc khác. Thành công có nghĩa là chế tạo ra máy có khả năng như một em bé 5 tuổi, hay ngay cả khả năng của một con chó. Khi đã chế tạo thành công được điều này thì dựa trên nền tảng đó chế tạo ra hệ thống mà có thể bằng hoặc vượt trội con người sau đó.
Tuy nhiên cách thứ nhì được xem là quá khó. Giới nghiên cứu AI hiểu rằng muốn chế tạo máy có khả năng như em bé 5 tuổi đòi hỏi lượng thông tin khổng lồ về kiến thức cơ bản hàng ngày, nhưng họ không biết làm sao lập trình những kiến thức này vào trong máy tính, và không biết làm sao để máy tính học những điều này. Vấn đề này được gọi là cách thể hiện/trình bày kiến thức (knowledge representation) để cái máy hiểu. Hiện giờ những gì đạt được trong trí tuệ nhân tạo là hướng một, trong đó có ChatGPT. Hawkins tin rằng những phương thức học sâu mà không mô phỏng cách bộ óc con người hoạt động, và như thế tuy đạt được một số kết quả đáng nể, và có giá trị về mặt kinh doanh, họ không đi theo con đường để chế tạo bộ máy như một em bé 5 tuổi. Theo Hawkins thì bộ não là thứ duy nhất mà chúng ta biết là thông minh, và muốn có trí tuệ nhân tạo thật sự, và muốn chế tạo máy thông minh, thì phảihiểu biết cách bộ não con người hoạt động.
Trong lúc này, với những gì trí tuệ nhân tạo đã đạt được theo xu hướng một, nó đi kèm với không ít thử thách. Từ khi ChatGPT ra đời, cuộc chạy đua công nghệ trí tuệ nhân tạo giữa những công ty đã và đang đầu tư hàng tỷ đô la cho lĩnh vực này ngày càng tăng tốc. Vào ngày 22 tháng Ba, Elon Musk, các nhóm chuyên gia về trí tuệ nhân tạo và các giám đốc kỹ nghệ đã kêu gọi ngưng 6 tháng trong việc thiết lập một hệ thống mạnh hơn GPT-4, vì họ lo ngại có tiềm năng rủi ro đối với xã hội. Bill Gates cho rằng kêu gọi ngưng trí tuệ nhân tạokhông giải quyết thử thách. Tính đến lúc viết bài nàycó gần 19,000 chữ ký kêu gọi ngưng thử nghiệm trí tuệ nhân tạo. Với tất cả những lợi ích mà trí tuệ nhân tạo có thể đem đến, nó cũng có bao nhiêu thử thách đi kèm, đặc biệt là khi tin giả, và tuyên truyền, được công xuất bởi trí tuệ nhân tạo, khoan nói đến máy tính lượng tử trong tương lai.
Một con dao bén nhọn được sử dụng bởi một đầu bếp giỏi để phục vụ khách hàng thì nó là một dụng cụ cần thiết và hữu ích. Nhưng khi nó lọt vào tay một kẻ giết người hoặc có âm mưu hãm hại ai thì hệ quả cũng không hề nhỏ. Mọi công nghệ lớn đều có ảnh hưởng mạnh mẽ lên đời sống con người, và trí tuệ nhân tạo dự đoán sẽ tạo ảnh hưởng vô cùng sâu sắc trong thời gian tới. Đó là nguyên do trí tuệ nhân tạo cần được quy định hay quy chế hóa. Đây là đề tài sẽ được bàn sâu vào dịp khác.
Phạm Phú Khải
