Tại thành phố Daejeon của
Hàn Quốc, một nhà máy sản xuất vũ khí đã thiết kế và cho ra một loại
súng đặt trên tháp pháo. Thứ vũ khí này có khả năng nhận dạng, tìm theo
và nhắm bắn mục tiêu không cần có sự can thiệp của con người. Vậy ai sẽ
là người dạy các chiến binh robot này nguyên tắc tác chiến?
Băng đạn cỡ .50 đủ mạnh để chặn đường một chiếc xe tải được vắt sang một bên. Một sợi cáp ethernet nối từ đế dẫn xuống nền cỏ rồi chạy vào một lều vải.
Sợi cáp bò lên trên giá đỡ rồi luồn vào phía sau chiếc máy tính với màn hình hiển thị các hình ảnh khác nhau do camera truyền về.
Một camera mắt cá ghi hình góc rộng 180 độ cho thấy quang cảnh trước mắt. Một camera khác theo dõi từ trên không xuống, chiếu thẳng vào vị trí chúng tôi đang đứng.
Phủ trên những hình ảnh đó là một vùng có hình chóp nón màu đỏ, đánh dấu tầm tấn công của tháp pháo. Phạm vi này quy ra trên địa hình thực tế sẽ là một khu vực trải dài 4km, đủ để xâm nhập vào sâu trong thành phố nếu tính từ địa điểm quan sát trên cao đầy lợi thế này.
Cạnh bàn phím là một bộ cần điều khiển phức tạp, khá giống với bộ điều khiển các game máy tính hiện đại.
Một tấm gỗ gắn vào bàn ở phía trên bảng điều khiển cho biết chức nhăng của từng loại nút bấm khác nhau. Một nút là để ngắm bắn. Một nút khác để đo khoảng cách từ vị trí súng tới mục tiêu. Một để nạp đạn.
Nhóm các kỹ sư đứng quanh bàn tỏ ra do dự khi chiếc loa phóng thanh đặt trên chân đỡ bất ngờ phát ra những âm thanh cảnh báo. Một ô vuông nhấp nháy trên màn hình máy tính báo hiệu một mục tiêu vừa bị phát hiện đang di chuyển trong tầm theo dõi của camera - đó là một chiếc xe hơi.
Vị trí của nòng súng được thể hiện bằng một ô màu đỏ di chuyển trên màn hình máy tính.
Chiếc loa, bộ phận được gắn liền với hoạt động của tháp pháo, là một robot phát tín hiệu cảnh báo, âm lượng có thể nghe được từ cách xa 3km. Âm thanh được phát đi với độ chính xác không thể tin nổi, nhằm cảnh báo mục tiêu trước khi nổ súng. Lời cảnh báo phải được đưa ra trước mỗi lần nhả đạn, theo đúng luật quốc tế, tôi được một trong các kỹ sư ở đó cho biết.
"Hãy quay lại," robot nói bằng một thứ tiếng Hàn khẩn trương. "Quay lại ngay, nếu không chúng tôi sẽ bắn."
Chữ "chúng tôi" ở đây có ý nghĩa quan trọng. Super aEgis II, tháp pháo tự động ăn khách nhất của Nam Hàn, sẽ không nhả đạn nếu như không có lệnh 'OK' từ con người nói ra.
Người điều khiển trước tiên phải nhập mật mã (password) vào hệ thống máy tính để kích hoạt chức năng nhả đạn của tháp pháo. Sau đó, người đó phải ra mệnh lệnh trực tiếp thì tháp pháo mới khai hoả. "Lúc ban đầu thì thiết kế đưa ra không phải là như vậy," Jungsuk Park, kỹ sư cao cấp của DoDAAM, hãng sản xuất ra tháp pháo cho biết.
Park làm việc tại bộ phận Robot Giám sát của công ty, được đặt tại quận công nghệ Yuseong của thành phố Daejeon. Bộ phận này có 150 nhân viên, hầu hết đều là các kỹ sư.
"Đời máy đầu tiên mà chúng tôi đưa ra có hệ thống nhả đạn tự động," ông giải thích. "Nhưng tất cả các khách hàng của chúng tôi đều yêu cầu phải thêm phần kiểm soát của con người. Về mặt công nghệ thì chúng tôi không thấy có vấn đề gì, nhưng họ lo rằng súng có thể nhả đạn lầm."
Super aEgis II lần đầu tiên ra mắt hồi 2010, là một trong những loại vũ khí tự động đời mới có khả năng xác định, bám theo và phá huỷ mục tiêu di động từ khoảng cách rất xa, mà về mặt lý thuyết là không cần tới sự can thiệp của con người. Thiết bị này rất được ưa chuộng và đem lại lợi nhuận lớn cho công ty.
Tháp pháo hiện đang được sử dụng ở nhiều nơi tại Trung Đông, trong đó có ba căn cứ không quân tại Các Tiểu vương quốc Ả rập Thống nhất (Al Dhafra, Al Safran, và Al Minad), tại Hoàng Cung ở Abu Dhabi, tại một kho vũ khí ở Qatar và một số sân bay, nhà máy điện, các đường ống dẫn, các căn cứ quân sự ở các nơi khác trên thế giới.
Trong 15 năm qua, công nghệ vũ khí tự động và thiết bị không người điều khiển đã có những bước phát triển to lớn. Quân đội Mỹ sử dụng các robot bán tự động tương tự để thả bom và do thám.
Hồi 2000, Quốc hội Hoa Kỳ yêu cầu một phần ba xe quân sự trên bộ và máy bay tiêm kích phải được thay thế bằng loại tự động. Sáu năm sau, hàng trăm robot di động chiến thuật PackBot (PackBot Tactical Mobile Robots) đã được triển khai tại Iraq và Afghanistan, nhằm mở đường cho việc chiến đấu ở các khu đô thị, đặt đường cáp quang, và làm các nhiệm vụ nguy hiểm khác thay cho con người.
'Các hạn chế tự đặt ra'
Hồi đầu 2005, tờ New York Times tường thuật về các kế hoạch của Ngũ Giác Đài nhằm thay thế lính bằng các robot tự động.Lý do thật dễ hiểu.
Nếu có robot, nhu cầu phải đưa người ra mặt trận sẽ giảm, và do vậy giảm nguy cơ thương vong của binh lính.
Tuy nhiên, trong lúc các thiết bị như Super aEgis II với khả năng tự động tiêu diệt mục tiêu đã tồn tại cả hơn chục năm nay, công chúng vẫn chưa hề biết tới việc có bất kỳ loại robot gắn súng máy tự động nào được đưa vào sử dụng.
Isaac Asimov, tác giả cuốn truyện khoa học viễn tưởng Nguyên tắc đầu tiên của Robot (First Laws of Robotics), cho rằng 'một robot không thể làm tổn hại tới bất kỳ ai, hoặc không thể không hành động khiến một người có thể bị tổn hại' - thế nhưng có vẻ như quy tắc này sẽ bị phá vỡ.
Việc Tổ chức Theo dõi Nhân quyền kêu gọi ra lệnh cấm đối với việc "phát triển, sản xuất và sử dụng vũ khí tự động hoàn toàn" dường như không thực tiễn. Những cỗ máy như thế thực ra đã tồn tại, đang được bán ra thị trường, dẫu cho, như Park từ DoDAAM nói, chúng được "tự đặt giới hạn" hoạt động.
"Khi khởi đầu mảng này, chúng tôi đã nhìn thấy cơ hội làm ăn," Yangchan Song, giám đốc điều hành phụ trách mảng lên chiến lược của hãng nói.
"Vũ khí tự động sẽ là thứ được dùng trong tương lai. Chúng tôi đã đúng đắn. Việc cải tiến diễn ra rất nhanh chóng. Chúng tôi đã chuyển từ các thiết bị chiến đấu điều khiển từ xa tới cái mà chúng tôi đang tiến cận: đó là các thiết bị thông minh có khả năng tự phán đoán và ra quyết định."
Nam Hàn đã trở thành người đi đầu trong lĩnh vực robot quân sự, bởi nước này có chung đường biên giới với kẻ thù không đội trời chung, theo lời Tổng giám đốc điều hành của DoDAAM, Myung Kwang Chang.
"Nhu cầu chính là cha đẻ của sáng chế," ông nói. "Chúng tôi sống trong một bối cách đặc biệt. Chúng tôi có kẻ thù hùng mạnh luôn hiện diện bên cạnh. Mối đe doạ thường trực khiến chúng tôi phải phát triển một quân đội mạnh và phải dùng đến sự hỗ trợ của công nghệ. Vũ khí của chúng tôi không bao giờ nằm yên, như con người vậy. Vũ khí của chúng tôi có thể nhìn vào bóng đêm, điều mà con người không làm được. Công nghệ giúp bù đắp những gì mà con người không làm được."
Tại khu phi quân sự (DMZ), một dải đất hẹp không bóng người nhằm phân cách hai miền Triều Tiên, DoDAAM và hãng Samsung cạnh tranh, vốn cũng từng thiết kế tháp pháo tự động nhưng nay bỏ cuộc, đã thử nghiệm Super aEgis II.
DMZ là nơi lý tưởng để thử nghiệm những thứ như thế này. Hai miền Triều Tiên chưa ký thoả thuận ngừng bắn kể từ sau khi chấm dứt sự thù nghịch chính thức hồi 1953 tới nay, cho nên DMZ là vùng đệm được hàng ngàn binh lính của cả hai bên canh phòng cẩn mật.
Tháp pháo không bao giờ ngủ, nó còn có khả năng nhìn vào bóng đêm nhờ có camera tầm nhiệt, và một khi được chĩa vào đúng hướng, nó sẽ đảm bảo biến tất cả các mục tiêu di động ở khu vực đó trở thành kẻ thù.
Tuy nhiên, sự việc phức tạp hơn khi cỗ máy được đặt tại nơi mà cả bạn lẫn thù đều đi lẫn vào nhau. Hiện loại vũ khí này vẫn chưa có cách nào phân biệt được bạn với thù.
"Bước tiếp theo là chúng tôi sẽ phát triển phần mềm nhằm phân biệt được bạn với thù, dân thường với binh lính," Song, một kỹ sư trẻ nói. "Hiện nay, tháp pháo cần có sự can thiệp của con người trong việc xác định một đối tượng nào đó có phải là mục tiêu hay không."
Nhờ được trang bị nhiều camera, Park nói, phần mềm của tháp pháo sẽ xác định được liệu đối tượng đang bị theo dõi có mang theo chất nổ trong mình hay không, và khả năng nhận dạng kẻ thù dựa trên quân phục người đó mặc.
Một khi vũ khí có thể phân biệt được giữa bạn và thù thì việc tiến tới tự động hoá hoàn toàn sẽ là điều đơn giản.
Các nguyên tắc phức tạp
Giả thuyết về đạo đức của Philippa Foot lần đầu tiên được đưa ra hồi 1967 là một kịch bản rất quen thuộc với các sinh viên.Theo giả thuyết này, một toa tàu lao tới ngã rẽ thành hai hướng, đi về hướng theo dự định thì một toán năm nhân viên đang làm việc trên đường ray sẽ bị đâm vào và thiệt mạng, còn nếu bị bẻ lái sang hướng kia thì chỉ một người duy nhất đang làm việc sẽ bị chết. Vậy nếu bạn ngồi ở vị trí điều hành hướng di chuyển của toa tàu, bạn sẽ quyết định thế nào?
Cách phải đưa ra quyết định cho những tình huống như thế sẽ sớm được trả lời, nhưng không phải do con người mà là do các cỗ máy.
Chiếc xe hơi tự lái phải quyết định xem nó sẽ đâm vào chiếc xe hơi trước mặt và do đó rất có thể sẽ làm bị thương vài người trong xe đó, hay sẽ lái vòng ra, khiến cho hành khách ngồi bên trong nó bị thương.
Tương tự, phiên bản hoàn toàn tự động của máy bay không người lái Predator có thể sẽ phải quyết định liệu có nhả đạn vào một căn nhà trong đó có cả lính đối phương lẫn dân thường hay không.
Nếu bạn là kỹ sư thiết kế phần mềm, bạn sẽ đặt các bộ mệnh lệnh ra sao để thiết bị thực hiện trong các tình huống như thế?
Với nhiều người, giải pháp đơn giản nhất là hãy để những câu hỏi đó cho con người trả lời, thay vì để máy tự quyết.
Đó là lý do khiến Hiệp ước Ottawa 1997 cấm sử dụng mìn, bởi đó là những vũ khí tự động nguy hiểm, phát nổ khi có bất kỳ ai đạp phải.
Trong trường hợp đó, để con người quyết định có vẻ như là điều hợp lý.
Thế nhưng trong thảm hoạ hàng không của hãng Germanwings hồi 2015, cơ phó Andreas Lubitz đã cố tình cho chiếc phi cơ lao xuống dãy núi Alps ở Pháp, làm toàn bộ 150 hành khách thiệt mạng.
Có lẽ như thế thì lại phải là không nên để bất kỳ phi công nào có thể chiếm quyền kiểm soát hệ thống máy tính, ít nhất là khi máy bay bay vào vùng đồi núi?
"Có rất nhiều cách tiếp cận khác nhau trong việc phát triển vũ khí phù hợp với các tiêu chuẩn đạo đức," Gary Marcus, khoa học gia từ Đại học New York và là CEO đồng thời sáng lập viên của Geometric Intelligence nói.
Một số người cho rằng câu trả lời nên là tìm cách để máy có thể đưa ra phán đoán và quyết định phù hợp với khuôn khổ đạo đức của con người, phản ánh được các quy tắc đạo đức khác nhau trong từng tình huống.
"Chúng ta có trực giác trong việc đánh giá xem điều gì là chấp nhận được về mặt đạo đức bằng cách xem cách người khác xử sự và phản ứng ra sao trong các tình huống khác nhau," Colin Allen, giáo sư chuyên về ngành khoa học nhận thức và triết học từ Đại học Indiana nói.
"Nói cách khác thì chúng ta học được điều gì nên làm, điều gì không nên từ những người khác, nhận thức được mối nguy hiểm diễn ra từ những hành vi xấu do những mô hình xấu thực hiện. Máy tự động phải có được khả năng phân tích tương tự, nếu không nó sẽ phải chịu sự kiểm soát một cách nghiêm ngặt."
Trở lại nhà máy của DoDAAM ở Daejeon, các kỹ sư chưa có câu trả lời rõ ràng cho các vấn đề phát sinh từ quá trình phát triển công nghệ của họ.
"Sinh mạng con người là thứ quý giá hơn bất kỳ thứ gì khác, và đó là lý do khiến chúng tôi cài đặt phần kiểm soát của con người lên các tháp pháo," Song nói.
Thế nhưng với Park và các kỹ sư khác trong bộ phận nghiên cứu thì đó chỉ là một giải pháp tạm thời.
Mục tiêu của họ là làm ra sản phẩm "thông minh hơn', nhờ việc tập trung "tăng chức năng nhả đạn tự động của súng", áp dụng khả năng "nhận diện mục tiêu" và tạo ra "những hệ thống được kết nối hoàn toàn" theo đó các tháp pháo được liên kết với nhau, tạo ra một vùng kiểm soát rộng lớn hơn.
Bất kể tương lai sẽ ra sao thì các cỗ máy có khả năng tìm, đeo bám, cảnh báo và tiêu diệt con người mà không cần đến sự can thiệp của con người cũng đã tồn tại trong thế giới của chúng ta.
Nếu không có những quy định quốc tế rõ ràng, thì điều duy nhất khiến các hãng sản xuất vũ khí không bán những cỗ máy như thế ra thị trường chỉ là đạo đức, không phải của các kỹ sư lập trình hay của robot, mà của các khách hàng đặt mua.
"Nếu có ai muốn mua tháp pháo không kèm phần kiểm soát như hiện chúng tôi đang cài đặt, thì tất nhiên là chúng tôi sẽ khuyên họ cân nhắc kỹ và nêu cho họ thấy các nguy cơ có thể xảy ra," Park nói.
http://www.bbc.com/vietnamese/culture_social/2015/08/150824_killer-robots-the-soldiers-that-never-sleep_vert_fut
Không có nhận xét nào:
Đăng nhận xét