Guidance Systems 4 – Jacob Ward: Tại sao Nga dùng Twitter và Facebook? Hãy đọc báo cáo từ Ba Lan này để tìm hiểu.

Các hệ thống dẫn hướng (Guidance Systems 4 – Jacob Ward): Tại sao Nga dùng Twitter và Facebook? Hãy đọc báo cáo từ Ba Lan này để tìm hiểu.

Chúng ta đã tạo ra những cỗ máy hoàn hảo cho nước khác nắm giữ và duy trì “users - người dùng”

Vào tháng tám (năm 2017), một người dùng Twitter có tên “Conspirador Norteño” đã đưa lên một mẫu tự rất thú vị nhằm tìm kiếm trong số những người post bài lên Twitter. Có một nhóm người phù hợp với mẫu tự này.

Conspirador Norteño lấy ra một người dùng trong nhóm có hơn 60.000 người mang một phần tên tài khoản giống nhau này, DavidJo52951945 – người dùng có nhiều người follow nhất.

DavidJo52951945 hằng ngày trong suốt nhiều năm, đều đặn như vắt chanh, viết bài về Brexit, Ukraine, về Hillary Clinton – bất cứ điều gì đang diễn ra trong thế giới bị chia rẽ về mặt chính trị ở phương Tây, và trong cả những thứ Kremlin có liên quan. Người này đứng đầu nổi bật trong nhóm.

Conspirador Norteño viết rằng ông tin tài khoản này là một con người, chứ không phải bot (đây là cách gọi tắt của robot hiện nay). Chỉ có điều, DavidJo52951945 duy trì một thời gian biểu. Một thời gian biểu rất đáng nói.

“Đây là một phát hiện thú vị - David luôn post từ 8 AM-8 PM hằng ngày, giờ Matxcova. Có vẻ như đó là công việc của anh ta hay gì đó tương tự.”

Cuối cùng, DavidJo52951945 có lẽ đã tạo ra ảnh hưởng như một người dùng có thể làm được. Một người dùng Twitter hoàn hảo. Kỷ luật, bận rộn, active suốt cả ngày dài.

“Kết luận ư? A) Hầu như chắc chắn là một phát minh của người Nga và B) một node trên mạng xã hội có ảnh hưởng vượt xa cả một con bot thông thường.”

Troll này có vẻ ngẫu nhiên và tuần tự theo thời gian, nhưng nó chỉ là một phần của một mẫu lớn hơn rất nhiều, được xác định trong một tài liệu nghiên cứu forward cho tôi từ một đồng nghiệp vài tháng trước đây. Đó là một phân tích năm 2014 của Jolanta Darczewska, một thành viên thuộc nhóm chuyên gia đặc biệt Ba Lan, thuộc Trung tâm Nghiên cứu Phương Đông (Centre for Eastern Studies). Mục tiêu của cô hướng đặc biệt vào cuộc chiến tuyên truyền ở Ukraine về sự kiện Crimea sát nhập vào Nga – hành động cố ý thao túng ý kiến công chúng ở đó của các điệp viên và nhà tuyên truyền người Nga để làm dịu tình hình. Nhưng rộng hơn nữa, Darczewska đã viết một bài thuyết trình về một chiến lược lớn hơn của Nga nhằm gây bất ổn cho các kẻ thù của mình theo cách tốt nhất được biết: bằng thông tin.

Điều làm cho báo cáo này trở nên đáng kinh ngạc và mang tính thời sự là nó không dựa vào phỏng đoán cùng phân tích đầu mối, mà là một tài liệu chi tiết về chính xác những gì Nga đã nói đến trong các diễn văn công khai của các quan chức đại diện và lực lượng quân sự nhằm bảo vệ lợi ích của Nga trước Mỹ và EU.

Trước tiên, thật thú vị khi đọc được một cách rõ ràng và trực tiếp vài chiến lược hàng đầu về chiến tranh thông tin chống lại phương Tây làm nổi bật sự khác biệt giữa các xã hội của phương Tây chúng ta và tham vọng của mỗi bên với Nga. Aleksandr Dugin, giáo sư tại Đại học Lomonosov Matxcova, một nhà phân tích chính trị có tầm nhìn xa trông rộng, người sáng lập Đảng Âu Á (Eurasia), người được trích dẫn nhiều trong báo cáo. (Dugin có nhiều mối quan hệ với Kremlin và có quan điểm rõ ràng về tổng thống Nga, ông thể hiện rõ nhất trong cuộc thuyết trình công khai năm 2007: “Putin ở khắp mọi nơi, Putin là mọi thứ, Putin là tuyệt đối, và Putin không thể thiếu.”) Ở đây, ông mô tả tương lai nước Nga – đất nước được tài liệu này mô tả là “một siêu cường với ý thức hệ hậu tự do - tân bảo thủ”. Dugin viết:

“Nga không và sẽ không thể là một lực lượng tiền tự do. Đó là một lực lượng cách mạng hậu tự do đang đấu tranh cho một thế giới đa cực, chân chính và tự do. Trong cuộc chiến về chủ nghĩa tự do này, Nga sẽ bảo vệ truyền thống, các giá trị bảo thủ và tự do thực sự.”

Trong khi đó, Igor Panarin, cựu nhân viên KGB, giờ là giáo sư tại Học viện Ngoại giao Liên bang Nga, được mô tả là người “đặt nền móng cho Học thuyết An ninh Thông tin của Liên bang Nga”. Những lời ông ấy nói thế này:

“Trên thực tế, đây là những hoạt động có ảnh hưởng, chẳng hạn như: kiểm soát xã hội, ví dụ ảnh hưởng tới xã hội; thao túng xã hội, ví dụ cố ý kiểm soát công chúng nhằm đạt được một số lợi ích nhất định; thao tác thông tin, ví dụ sử dụng thông tin thật theo cách phát sinh những hàm ý sai; làm sai lệch thông tin, ví dụ truyền bá thông tin được chế ra hoặc giả mạo, hoặc kết hợp giữa chúng; tạo ra thông tin, ví dụ tạo thông tin sai lệch, vận động hành lang, blackmail và lạm dụng các thông tin được kỳ vọng.”

Panarin, trong cuốn sách “Chiến tranh thông tin trong Thế chiến thứ hai”, đã mô tả nhu cầu tổ chức một trung tâm “thông tin KGB”. Khi giới thiệu cuốn sách “Chiến tranh thông tin và truyền thông” của mình (cuốn thứ 11 trong 15 cuốn sách đều có dùng từ “chiến tranh thông tin” làm tựa đề của ông), ông mô tả nhu cầu cần thiết phải tạo ra một “hệ thống chiến tranh thông tin quốc gia … dựa trên những kinh nghiệm tốt nhất của Liên Xô. Nó phải được làm phong phú thêm bằng những kinh nghiệm của Mỹ và Trung Quốc.” Nhưng đây là chỗ tôi bắt đầu nhận ra một khuôn mẫu. Bản báo cáo mô tả một cống hiến của Panarin cho quốc gia theo cách này.

“Panarin phân biệt các giai đoạn của quá trình quản lý hoạt động thông tin như sau:

(1)   Dự báo và lập kế hoạch

(2)   Tổ chức và kích thích

(3)   Phản hồi

(4)   Điều chỉnh hoạt động

(5)   Kiểm soát hiệu quả

(Khi chờ đợi đặt hàng ở một số quán ăn mang phong cách quán cà phê nguyên sơ, tôi thường nghĩ hình thức chủ nghĩa tư bản là tiên tiến nhất của chúng ta, trong đó chúng ta lựa chọn giữa những biến thể được chuẩn bị kỹ lưỡng nhưng phần lớn vẫn có thể thay đổi được của một chiếc áo sơ mi, hay một chiếc khăn quàng cổ, cũng gần giống với chủ nghĩa xã hội trong sách vở. Những hàng dài, những lựa chọn ít ỏi, các công dân hạnh phúc. Nhưng chẳng phải thế này, cũng chẳng phải thế kia.)

Điều giữ chặt buộc tôi phải đọc những câu chữ về tuyên truyền và chiến tranh thông tin trong báo cáo này là tiếng vang của nó – hoặc ít nhất là những bổ sung của nó – những câu chữ của chính các công ty mạng xã hội ở Mỹ ngày nay.

Báo cáo mô tả những nguyên tắc tuyên truyền mà nước Nga hiện đại đã thích nghi từ thời Xô Viết. Darczewska viết rằng trong các cuộc chiến tranh thông tin gần đây, dễ thấy có “nguyên tắc rõ ràng”, theo đó “thông điệp được đơn giản hóa, sử dụng các thuật ngữ trắng đen, có đầy đủ từ khóa.” Hoặc hãy xem “nguyên tắc thông tin mong muốn”, trong đó người lập kế hoạch chiến dịch thông tin cố gắng khai thác những thông điệp họ biết người nghe sẽ chấp nhận. Ám ảnh tôi nhất là “nguyên tắc gây tác động về mặt cảm xúc”, trong đó chiến dịch phải khiến người ta “rơi vào tình trạng họ sẽ hành động mà không cần suy nghĩ nhiều, thậm chí không cần phải hợp lý.”

Tôi đọc toàn bộ bài báo cáo. Chắc chắn những nguyên tắc này là lý luận tuyên truyền rất giỏi. Nhưng dường như nó cũng giống như âm thanh nhái lại các chiến lược tôi đã từng nghe các giám đốc điều hành mô tả trên sân khấu và trong các cuộc gặp cá nhân về cách tốt nhất để thu hút và giữ chân người dùng mạng. Và nếu một nền tảng được xây dựng để thực hiện các nguyên tắc này một cách dễ dàng – lọc ra những thông tin không mong muốn, phân tích từ khóa để cung cấp nội dung có ảnh hưởng nhất tới cảm xúc, khen thưởng cho những tiêu đề ngắn nhất, rõ ràng nhất, mạnh mẽ nhất – đột nhiên trong tôi lóe lên ý nghĩ rằng, chúng ta đã xây dựng những cỗ máy hoàn hảo cho một nước khác thu hút và giữ chân người dùng.

Viết như thế để bạn hiểu Nga đã sử dụng chiến tranh thông tin để chuẩn bị cho việc sát nhập Crimea như thế nào, bản báo cáo gây đau lòng khi tránh đề cập tới việc Nga có thể làm tương tự với Hoa Kỳ. Nhưng nó đã chỉ ra rằng, những gì Nga theo đuổi vẫn có những rủi ro cho nước Mỹ:

“Người Nga cũng đóng góp nhiều động lực cho các nhóm xã hội ở phương Tây (sử dụng nỗi sợ chiến tranh của những người theo chủ nghĩa hòa bình, nỗi sợ những điều không thể đoán trước được của các chính trị gia và nỗi sợ mất mát thua thiệt của giới doanh nhân)… Hơn nữa, dư luận không nhận thức được thực tế rằng họ là đối tượng của một cuộc chiến tranh thông tin đã được lập kế hoạch và phối hợp bài bản.”

Khi tôi đắn đo xem có cầu thủ địa chính trị nào từng làm việc suốt hầu hết lịch sử hiện đại để hoàn thiện các phương tiện nhằm tàn phá và làm mất ổn định Hoa Kỳ, đắn đo xem các nguyên tắc của nó có phải xoay quanh việc tận dụng cảm xúc, và đắn đo xem Facebook và Twitter có phải đã tạo ra một sản phẩm gây nghiện với cảm xúc của chúng ta không… phải, rõ ràng chúng ta đang ở giữa một nút thắt rất chặt.

Chặt đến mức nào?

Conspirador Norteño đã chỉ ra rằng khi DavidJo52951945, giờ là DavidJoBrexit, im lặng chỉ ba ngày trong mùa hè này, người dùng Twitter ở Mỹ đã follow anh ta bắt đầu hỏi xem anh ta có ổn không, và khi nào anh ta trở lại.

“Nghĩ mà xem, điểm quan trọng ở đây. Một khi người dùng bị điều khiển bởi tuyên truyền và dối trá, thật không dễ dàng quay đầu lại.”

Facebook, Twitter và các hãng khác đã giúp tạo ra những cộng đồng kỹ thuật số khiến chúng ta thấy thoải mái khi đau buồn, hỗ trợ như cha mẹ, mang lại hy vọng trong cuộc sống cá nhân và nghề nghiệp. Nhưng họ cũng tạo ra một nền tảng mà các đối tượng của quốc gia khác có thể tác động ảnh hưởng đến quan điểm của công chúng Mỹ, chỉ đơn giản bằng cách trở thành những người dùng chuyên gia năng động.

Jacob Ward

Guidance Systems – 3 (Jacob Ward): Nguyên nhân chúng ta hết lòng (kể cả hy sinh)

Guidance Systems – 3 (Jacob Ward): Nguyên nhân chúng ta hết lòng (kể cả hy sinh)

Mô tả công việc quả là khó: tìm những người cam kết vì một nguyên nhân nào đó khiến họ chiến đấu và chết vì nó, sau đó đến đủ gần họ để bạn có thể thực sự hiểu được sự cam kết đó. Đây là những gì một nhóm đơn thương độc mã tại Artis International đòi hỏi. Các nhà nghiên cứu thành lập nhóm này tìm kiếm, làm bạn và nghiên cứu những tay súng ác liệt nhất thế giới trong những cuộc xung đột đẫm máu nhất hiện nay. Trong quá trình này, họ phát hiện ra các hệ thống khiến con người chúng ta có lẽ không thể biến chúng ta thành loại người mình muốn.

Lydia Wilson, một nghiên cứu viên ở Artis, nghiên cứu lịch sử ở Cambridge, sống và làm việc ở Syria, Beirut, Kosovo, Jordan. Cô nói tiếng Ả Rập và được coi là một trong những thành viên không biết thế nào là sợ của đội. Thông thường, các cuộc phỏng vấn của cô diễn ra ở những nơi ngay cả cánh nhà báo cũng không tới. Cô nhớ lại: “Có lần tôi đang phỏng vấn một vị tướng Peshmerga ở biên giới tuyến đầu, và người ở lại theo mệnh lệnh làm chỉ huy khi ông ta vắng mặt là một người bạn của tôi.” (Peshmerga là lực lượng quân đội người Kurd ở Iraq) “Khi chúng tôi lái xe khỏi đó một lúc, ông ta hỏi ‘cô không nghe thấy cuộc tấn công của IS trong lúc trò chuyện à?’ Tôi không hề nghe thấy. Trong bản thảo ghi phỏng vấn lúc đó, tôi hỏi ‘có phải trời đang mưa không?’” Cô cười phá lên.

“Peshmerga rất cực đoan, và họ luôn nói về người Kurd. Ví dụ, họ sẽ không tự thổi bay mình. Đó không phải là người Kurd. Nhưng hiếu khách là một điều lớn lao với họ. Rất người Kurd. Vì thế có cảnh họ yêu cầu quân đội của họ không được bắn đáp trả lại, nếu việc bắn nhau khiến tôi sợ hãi.”

Trong một nghiên cứu mới được công bố trên Tạp chí Nature Human Behaviour, Wilson, đồng sáng lập Scott Atran của Artis và vài đồng nghiệp đã mô tả chi tiết các thuộc tính của “các kịch sĩ tận tâm”, những người giống Peshmerga với đặc trưng mạnh mẽ và đáng sợ: “cam kết với các giá trị thiêng liêng không thể thương lượng được và với các nhóm mà các kịch sĩ này tham gia” cũng như “sẵn sàng từ bỏ gia đình cho những giá trị đó.” Tôi đã phỏng vấn Atran và đội ngũ của ông vài lần trong những năm qua, trong việc này hay việc kia, họ còn tiết lộ những giá trị dường như chuyển biến và ảnh hưởng tới con người theo những cách mạnh mẽ mà chúng ta hoàn toàn không hiểu nổi.

Bài báo mới từ Artis dựa trên các cuộc phỏng vấn trên chiến trường với Peshmerga, các phiến quân vũ trang ở Iraq, và quân đội Sunni của Ả Rập, cùng với các tay súng IS bị bắt giữ. Trong các cuộc đối thoại với các nhà nghiên cứu, những lời giải thích tự nhiên của các tay súng cho hành động của mình đã lặp lại những nguyên mẫu mà Artis từng đụng độ trước đây. (Nghiên cứu được bổ sung bằng các cuộc khảo sát trực tuyến với hơn 6000 người không phải chiến binh thánh chiến ở Châu Âu.) Họ thể hiện sự trung thành đáng kinh ngạc với những lý tưởng trừu tượng. Họ thể hiện sự trung thành với đội nhóm chiến đấu của mình lớn hơn nhiều so với chính gia đình mình. Và khi được tặng cho khả năng hoán đổi chiến trường với những tiện nghi trần thế - tiền bạc, cuộc sống an toàn ở một quốc gia thanh bình, một đời sống tốt đẹp hơn cho con cái ở nơi nào đó – họ thường nổi giận, đôi khi còn tức đến sôi máu.

Các tác giả biết rằng họ đang đối phó với những người có động lực mạnh mẽ. Nghiên cứu viết: “Chúng tôi đã thấy bằng chứng của hành động tận tâm trong chiến đấu cho ngôi làng Kudilah, vụ tấn công đầu tiên trong trận đánh chiếm lại Mosul, thành phố lớn nhất bị IS kiểm soát. Khoảng 90 tay súng IS đấu với hàng trăm lính của liên quân Peshmerga, quân đội Iraq và quân đội Ả Rập Sunni. Hơn một nửa số tay súng IS đã chết, trong đó hơn một chục tên đã tự sát.”

Điều gì khiến những tay súng này hy sinh hết lòng đến vậy? Các tác giả đã cố gắng xác định các yếu tố trực tiếp ép buộc những con người bằng xương bằng thịt trần tục tách rời khỏi xã hội bản xứ và tình nguyện ném mình vào chiến tranh. Kết thúc nghiên cứu, họ dường như đã xác định được một số “giá trị thiêng liêng” đủ mạnh để làm được điều đó. Trong việc nghiên cứu những giá trị này, họ cũng có thể xác định những động lực thúc đẩy chính bạn hay tôi.

Nghiên cứu định nghĩa một giá trị “thiêng liêng” là thứ không thể bị cám dỗ, hoàn toàn không thể thương lượng. Các tác giả viết: “Để đo lường sự thiêng liêng, chúng tôi điều tra mức độ sẵn sàng trao đổi các giá trị lấy các lợi ích vật chất, dù là lợi ích cá nhân hay lợi ích tập thể. Từ chối tuyệt đối trước những tráo đổi như vậy là một dấu hiệu của giá trị thiêng liêng.”

Những giá trị đó là gì? Với những đội du kích Peshmerga và người Kurd ở Iraq, giá trị đó là một cam kết cho nhà nước Kurd độc lập và nhân phẩm của “giá trị Kurd”. Đối với người Ả Rập Sunni, giá trị đó gồm những lời nghi vấn về luật Shariah và “gốc Ả Rập”.

Các nhóm đều tự tin mãnh liệt vào sức mạnh tinh thần của họ, chứ không đánh giá năng lực của họ trên chiến trường thông qua các xét đoán quân sự hợp lý. “Sử dụng các kỹ thuật đánh giá khả năng chịu đựng thể xác để đánh giá sức mạnh cảm nhận được của nhiều nhóm chiến binh ở Iraq, chúng tôi thấy rằng cả chiến binh IS và PKK đều xem thường tầm quan trọng của những khó khăn khủng khiếp về thể xác trong và ngoài nhóm. Họ lập luận rằng điều quan trọng nhất là năng lực chịu đựng về tinh thần.”

Tiếp theo, danh sách cho một “kịch sĩ tận tâm” sẽ như sau: Người hết lòng đến mức đủ để chiến đấu và chết vì một nguyên nhân nào đó sẽ thêm bản sắc cá nhân vào bản sắc của nhóm, họ thường đánh giá cao nhóm thậm chí còn trên cả chính gia đình mình, họ sở hữu những niềm tin trừu tượng về tự do và nhân phẩm không hề bị ảnh hưởng bởi những cám dỗ vật chất, và họ đánh giá bản thân cùng kẻ thù của mình dựa trên sức mạnh tinh thần chứ không phải quân số hay vũ khí. Từ Pháp, nơi ông đang làm giám đốc nghiên cứu nhân chủng học tại Đại Học Ecole Normale Supérieure ở Paris, Scott Atran nói với tôi rằng ông tin có một số mục tiêu mang tính tiến hóa cho tất cả những chuyện này.

Ông nói: “Những tư tưởng siêu việt này vượt ra ngoài phạm trù cá nhân, khiến nhóm miễn dịch với sự kiểm soát thường xuyên, thật nghịch lý khi nó lại cho ra sức mạnh nhóm và sức mạnh cá nhân không thể tin nổi. Chính điều đó đã đưa chúng ta ra khỏi hang hốc.”

“Bạn cần có các cách giữ các nhóm ngày càng lớn mạnh bên nhau. Các hệ thống ý tưởng lạ lùng này – những ý tưởng siêu việt không thể kiểm chứng bằng thực nghiệm – trở nên quan trọng hơn bao giờ hết. Vì một điều gì đó, bạn phải đảm bảo các thành viên trong nhóm của bạn mù quáng đến chết bằng mọi cách. Đó là kiểu ý niệm ‘Thà chết còn hơn bị nhuộm đỏ’.”

Nafees Hamid, một nhà nghiên cứu của Artis, đã làm việc nhiều năm để tìm hiểu các tay súng mới được chiêu mộ của IS, nhóm khủng bố gốc Jihad bị cấm ở Anh Al-Muhajiroun và nhiều nhóm khác. Hamid lớn lên ở Vùng Vịnh California, nghiên cứu khoa học nhận thức và tâm lý học tại UC San Diego, sau đó nhận bằng Thạc sĩ về khoa học nhận thức tại École Normale Supérieure nơi Atran đang giảng dạy. Hamid giờ phải chia sẻ thời gian của mình giữa London và Barcelona. Anh thành lập các mối quan hệ trực tuyến hoặc trực tiếp với các nhà tuyển dụng tận gốc, và từng làm việc với những kẻ đào thoát đang vắng mặt trong các trung tâm giam giữ. Anh nói: “Tôi nghĩ về dài hạn và ngắn hạn. Trong ngắn hạn, mọi chuyện có vẻ khá ảm đạm.”

Lúc này, anh đang trong dự án nghiên cứu Artis chưa công bố, nhưng anh nói dự án đã dạy anh một số điều, có thể biết những loại giá trị nào sẽ gây ra các phản ứng sâu sắc, tự động, cảm xúc; còn loại giá trị nào sẽ nhận được phản ứng bình tĩnh hơn, cân nhắc hơn từ não.

Nghiên cứu có những cuộc phỏng vấn với nhiều người ủng hộ Al Qaeda ở Châu Âu, lấy ra từ các cộng đồng dân di cư cụ thể. Hamid cho biết những phát hiện này cho thấy các giá trị thiêng liêng có thể được một phần của bộ não xử lý thông qua học hỏi và tuân theo các qui tắc cụ thể, kiểu như: bếp lò thì nóng, vách đá thì nguy hiểm… Hamid nói: “Các giá trị thiêng liêng thực sự dường như đã thiết lập nên hệ thống học thuyết về nghĩa vụ. Còn khi đó là các giá trị không thiêng liêng, nó thuộc các phần kiểm soát hành động của bộ não. Phần này hoạt động chậm lại, tư duy mọi thứ và xử lý những suy nghĩ cao hơn của chúng ta. Về cơ bản, thời gian phản ứng cho các giá trị không thiêng liêng sẽ chậm hơn.”

Vậy hành động nào vi phạm các giá trị thiêng liêng và thiết lập các phản ứng bản năng? Hamid nói: “Một trong số hành động đó là vẽ tranh biếm họa về nhà tiên tri Muhammet. Một hành động khác là luật Sharia ở những vùng đất không theo Hồi giáo. Chuyện của Kashmir và Palestine. Chuyện này là hệ quả của việc đánh giá thấp các giá trị thiêng liêng.”

Các giá trị không thiêng liêng, gây ra phản ứng dễ đo đếm hơn, “là sự chiếm đóng của quân đội Mỹ trong các vùng đất của người Hồi giáo, các cuộc chiến tranh lẻ tẻ, liệu có phải dạy đạo Hồi hay có thức ăn thiêng liêng trong trường học cho bọn trẻ con hay không.”

Hamid nói, về mặt hiệu ứng, chuyện thực sự ảnh hưởng tới sinh mạng của họ không kích hoạt những hệ thống ra quyết định mạnh mẽ nhất trong não bộ của họ. “Các giá trị thiêng liêng rất rộng, trừu tượng, siêu việt. IS không dành thời gian nói về đồ ăn halal (đồ ăn bằng thịt theo luật Hồi giáo) ở các trung tâm công cộng. Đó không phải những giá trị họ cần tốn thời gian vào đó.”

Có vẻ như mọi chuyện kiểu này không tuân theo tháp nhu cầu của Maslow, hoặc bất kỳ một hệ thống phân loại đơn giản nào có thể điều khiển được các kịch sĩ tận tâm này. Các giá trị trừu tượng – các giá trị không tạo ra sự khác biệt thực sự trong cuộc sống của chúng ta, nhưng nói cho biết chúng ta muốn là ai – thường được dễ dàng nâng lên vai trò thiêng liêng hơn. Hamid nói: “Có gì đó rất gợi cảm về sự trừu tượng. Đó là thứ khiến các bên ngoại lai đổ xô tới với thế giới Hồi giáo.”

Khó khăn nảy sinh khi các nhóm giao đấu với nhau vì xung đột các giá trị thiêng liêng. Hamid nói anh không lạc quan với việc giúp mọi người hòa thuận. Anh nói: “Chuyển các bộ lạc vào các thành phố khắp thế giới, phá vỡ đường biên giới, nhìn nhận tất cả chúng ta đều là con người bình đẳng – những chuyện này cần rất nhiều lòng tin và sự tự tin, và không để người ta cảm thấy bị cách ly.”

“Cách bộ não chúng ta tiến hóa còn mang tính bộ lạc hơn thế nhiều lần. Cơ cấu chính trị của chúng ta đang đi ngược lại với cơ cấu não bộ.”

Cơ cấu truyền thông của chúng ta vốn được mài sắc bởi sức mạnh phân tích của công nghệ, tuy nhiên lại rất tương đồng với cơ cấu bộ não. Nếu chúng ta áp đặt những phát hiện của Artis về sinh mạng các chiến binh thánh chiến vào cuộc sống hằng ngày của chúng ta với tư cách là người sử dụng công nghệ và người xem phương tiện truyền thông, thì mô hình mẫu này sẽ nằm đúng vị trí.

Artis đã phát hiện ra rằng các kịch sĩ tận tâm sẽ gắn bản sắc cá nhân của họ vào bản sắc của nhóm. Xu hướng này là một công cụ mạnh mẽ không chỉ dành cho những kẻ cực đoan, mà còn cho bất kỳ nhóm nào – các nhà hoạt động vì quyền được mang súng, nhà phân tích dân chủ, nhân viên cứu hộ giống chó lùn – muốn tuyển thêm thành viên, gây quỹ, hoặc ảnh hưởng đến chính sách. Hành vi ngây thơ khi gia nhập một nhóm Facebook hay SubReddit muốn lôi kéo chúng ta trong số những người dùng có cùng sở thích thực tế có thể sẽ hoạt động mạnh hơn nhiều lần chúng ta tưởng. Bộ não của chúng ta được xây dựng để có phản ứng tình cảm sâu sắc hơn với người chúng ta tưởng tượng là bản thân mình chứ không phải với con người thực sự của chúng ta.

Và trong khi chúng ta muốn tưởng tượng chủ nghĩa dân tộc cực đoan (tribalism) cùng các phản ứng tình cảm sâu sắc với những giá trị thiêng liêng, trừu tượng mà Artis đã quan sát thấy trong các kịch sĩ tận trung là con đường dài khiến ta rời xa khỏi con người thực sự của mình trên mảnh đất phương Tây, thì điều này có lẽ không phải là cá biệt, ít nhất là không quá lâu nữa.

Lydia Wilson nói rằng cô bắt đầu nhìn ra các sức mạnh tương tự - vốn đang hoạt động rất mạnh mẽ trong người các chiến binh thánh chiến trên khắp thế giới - giờ lại chuyển vào cơ cấu chính trị xã hội của Mỹ, Anh và phần còn lại của phương Tây.

Cô nói: “Những gì tôi không ngừng nhận thấy là xu hướng lập nhóm của con người.” Nhưng cô cũng cho biết, từ trước tới giờ cô vẫn nghĩ Mỹ và quê hương Anh Quốc của cô có sự khác biệt. “Không có những cam kết chung rõ ràng với nhóm – ngoại trừ gia đình - ở phương Tây.”

Nhưng giờ điều đó đang bắt đầu thay đổi. Cô nói: “Những bàn cãi mới gần đây – Brexit, và thứ chỉ chung cho Anh và Châu Âu. Tôi không thích những gì tôi thấy ở đây. Nếu bản chất Anh (Britishness) có thể chôn vùi thật nhiều người, thì ý tưởng khiến nước Mỹ vĩ đại trở lại, người Mỹ sẽ nghĩ rằng sự vượt trội của nước Mỹ đứng trước bất kỳ tiêu chuẩn chất lượng nào khác. Đó đều là con đường đáng sợ.”

Cô tin rằng những phẩm chất cô từng thấy chỉ ở những vùng xung đột nay đã là một phần của đời sống phương Tây. Cô thở dài: “Ý nghĩ đó là bạn sẽ được liên kết chặt chẽ hơn khi ở trong một nhóm chỉ với chi phí khi ở ngoài nhóm. Tôi thấy nó đang ngày càng thành trào lưu chính thống.”

Các nhà đạo đức công nghệ như Tristan Harris đã viết rất nhiều về những cách các công ty tận dụng khuynh hưởng bẩm sinh của chúng ta – như mong được xã hội chấp nhận, mong đổi mới xã hội, muốn vô vàn tưởng thưởng – để chống lại chúng ta. (Harris gần đây viết rằng AR và VR có thể rất dễ tạo ra khả năng xa hơn trong việc thực hiện hành động online theo chiều hướng xấu đi). Nghiên cứu của chính Facebook cũng cho thấy người dùng của nó có xu hướng tụ tập theo những ai có cùng quan điểm hơn là tìm kiếm các ý tưởng hay chủ đề mà họ không đồng ý hoặc không theo đuổi một cách rất bản năng. Loại ra quyết định vô thức này và sự hình thành các nhóm dường như chỉ là một bất tiện xã hội, một chứng nghiện vô thưởng vô phạt, một hành vi lãng phí thời gian. Nhưng nếu các nhà nghiên cứu ở Artis đúng, con người có khả năng mang những xu hướng tương tự này tới những nơi cực kỳ nguy hiểm.

Jacob Ward

Guidance Systems – 2 (Jacob Ward): Robot sát thủ và bài toán đạo đức của tự động hóa

Guidance Systems – 2 (Jacob Ward): Robot sát thủ và bài toán đạo đức của tự động hóa

            Một khi đã ngồi vào trong hệ thống mô phỏng bay, bạn sẽ dần dần bị hoa mắt.

“Hệ thống mô phỏng bay – Flight simulator” – không làm công việc xứng đáng với máy móc, nhưng những từ ngữ này lại là những từ chính xác nhất để mô tả nó. Có các hệ thống mô phỏng bằng phần mềm cho bạn thấy việc lái máy bay đang diễn ra thế nào. Và có những hệ thống mô phỏng vật lý sẽ va vào bạn nhờ một cần cẩu nhỏ. Nhưng hệ thống kiểu này không giống thế. Đây là toàn bộ kinh nghiệm mà tôi sẽ rửa mắt cho bạn.

            Tôi đã ở trong một khoang chứa như cái thùng màu trắng không cửa sổ, chỉ đủ rộng để đại diện cho không gian bên trong một máy bay phản lực chiến đấu. Cái khoang chứa được gắn bên phải của nó với một khớp nối khổng lồ để có thể quay theo bất kỳ hướng nào. Và toàn bộ thứ đó được treo lên đầu một máy ly tâm dài khoảng 100 foot (cỡ 30,5 mét) có thể lấp kín căn phòng có kích cỡ như một xưởng máy bay thu nhỏ.

            Chiếc máy thay thế này có thể tạo ra bất kỳ cảm giác nào mà một chiếc máy bay có thể tạo ra – tất nhiên là nhiều như bạn hay tôi từng có đủ ý thức trải nghiệm. Mô phỏng kiểu này có nghĩa là, trong khi tôi đang quay vòng tròn chẳng hạn, hình ảnh trên màn hình được hiển thị để đánh lừa bộ não khiến não tôi nghĩ rằng tôi đang du ngoạn theo đường thẳng giữa bầu trời bao la. Tôi đã từng tham gia trò này qua cái mà các nhà sản xuất gọi là thử nghiệm gia tốc nhỏ. Khi các hình ảnh trên màn hình nói với tôi rằng tôi đang phóng như bay lên trên hướng về phía mặt trời tưởng tượng, chiếc máy ly tâm phải quay nhanh hơn, nhanh tới mức gấp sáu lần lực hấp dẫn là điều tôi từng trải nghiệm, đủ để nghiền nát gương mặt và thân mình tôi trên ghế ngồi. Thật đáng sợ và cực kỳ không thoải mái. Quả táo của Adam thường nhô ra trước cổ họng tôi, lúc đó bị ép chặt vào phía sau cổ họng khi cái máy rên lên ở tốc độ ngày một cao. Nhưng điều đó chỉ ra rằng loại lực G này (theo trục trước – sau của cơ thể), loại lực có thể tạo ra những bức ảnh khủng khiếp về các phi công đẹp trai điển hình bị vặn thành yêu quái, thực ra lại là loại lực dễ xử lý nhất. Chỉ cần hệ thống mô phỏng kia cho bạn trải nghiệm lực G giảm dần từ trên xuống dưới, nó sẽ nén cơ thể về phía bàn chân, và mọi thứ thế là đi tong.

            Khi cái khoang chứa quay được khoảng nửa vòng, chân tôi lúc này đã ở rất xa ngoài vòng quay của máy ly tâm, giả như cảm giác vẫn còn rất cứng cỏi tự tin, tôi cố làm theo những gì người ta bảo: ép mông, ấn bàn chân xuống bàn đạp, tất cả nhằm gắng hết sức giữ máu đi lên trên eo. Nhưng vô ích. Ở mức lực bằng 3,5G não tôi đã mất khả năng lưu thông. Tôi bắt đầu nhìn thấy nhiều màu sắc, rồi thấy một đường hầm tối đen dần dần hình thành tại ranh giới tầm nhìn, và ngay sau đó tôi bị mù. Tôi hổn hển nói “Tôi không thể nhìn thấy gì.” Người vận hành phải giảm tốc độ chiếc máy ngay trước khi tôi mất ý thức.

            Tôi mất khoảng 1 giờ đồng hồ nằm trên ghế gấp để phục hồi lại. Không chỉ mê man bất tỉnh như thế, xung đột giữa những gì tai trong của tôi trải qua (chuyển động quay) và những gì mắt tôi được cho nhìn thấy trong khoang (hoạt cảnh mô phỏng bay) là giao tiếp sai lạc cổ điển tạo ra chứng say khi chuyển động (như say tàu xe).

            Nhưng cuối cùng tôi đã qua khỏi, và ngồi xuống cùng với vị bác sĩ quân y để tìm hiểu xem tại sao tôi thất bại. Ông giải thích rằng việc ngất xỉu của tôi là sự gián đoạn vòng thủy tĩnh – một kết nối bằng chất lỏng giữa tim và não giúp bạn có ý thức. Khi giảm các lực G kiểu này từ trên xuống đã phá vỡ kết nối đó, vì nó kéo máu dồn xuống chân, bạn sẽ bị mê man bất tỉnh.

            Ông cũng nói cho tôi biết công ty của ông bán hệ thống mô phỏng này cho các lực lượng không quân đồng minh trên toàn thế giới, và rất thường thì các lực lượng này sẽ lại kết hợp hệ thống mô phỏng bay của họ với một không gian tưởng tượng khổng lồ, đưa vào đó những phi công giỏi nhất, và những cuộc không chiến. Nó giống như giải đấu trò chơi điện tử cao cấp, trong đó ói mửa và vô thức là một phần của món hời.

            Tôi hỏi: “Thế sao? Ai thắng?”

            Ông ấy trả lời: “Người Bahrain”.

            “Tại sao vậy? Tại sao họ lại giỏi đến vậy?”

            Ông ấy bảo, có vẻ xấu hổ: “Ồ, thực ra không phải vì họ giỏi. Đó là vì họ thường là những người nhỏ con nhất. Vòng thủy tĩnh của họ ngắn nhất, vì thế rất khó bị phá vỡ. Họ có thể biến nó trở nên chặt hơn các đội khác.”

            Điều đó cho thấy hệ thống này quyết định kết quả cuộc chiến không phải là vũ khí, mặt bằng bay hay ngoại thất bọc thép. Chính là khuynh hướng mang yếu tố con người dễ mất ý thức khi đi sai hướng. Sự khác biệt giữa thắng và thua trong việc kiểm soát chiếc máy bay chiến đấu giá 90 triệu đô tính theo tổng số những phi công có tim và não ở vị trí gần nhau nhất.            

            Đó là lý do tại sao cựu Bộ Trưởng Hải Quân Ray Mabus đã nói một câu nổi tiếng về máy bay chiến đấu F-35, mẫu mới nhất được chế tạo, rằng nó “nên và hầu như chắc chắn sẽ là chiếc máy bay chiến đấu dùng để tấn công cuối cùng mà Bộ Hải quân Hoa Kỳ sẽ mua hoặc bay.” Phi công chính là điểm yếu lớn nhất của chiếc máy bay này.

            Đó cũng là lý do tại sao các quân đội trên thế giới đang tự động hóa mọi thứ từ nhiệm vụ canh gác tới súng phòng không hay chiến tranh mạng. Con người không hợp với công việc này.

            Đây là lý do Tổ chức Theo dõi Nhân Quyền (Human Rights Watch) và giờ là một nhóm các lãnh đạo khối doanh nghiệp dùng robot và AI do Elon Musk cầm đầu đã yêu cầu Liên Hợp Quốc tạo ra một loại công ước Geneva nhằm cấm dùng robot chế tạo vũ khí. Những người lính bằng xương bằng thịt với các yếu đuối và hạn chế của con người có nguy cơ sắp sửa bị thay thế bằng những máy móc không có các điểm yếu trên.

            Chúng ta đang sử dụng công nghệ ra quyết định mà đến cả loài người chúng ta cũng không thể đồng ý ngay cả khi tự ta làm. Trong quá trình đó, chúng ta cũng đang thay đổi cách chúng ta ra những quyết định kiểu này. Công nghệ quân sự có thể đang lập trình lại thái độ của chúng ta với chiến tranh.

            Hãy xem xét cách công nghệ đã định hình thói quen của chúng ta ngay cả khi chúng ta không cố gắng giết lẫn nhau. Khi tôi hạ cánh xuống một thành phố mới và phải lái xe từ sân bay vào thị trấn, Google Maps cho tôi đầy đủ lựa chọn – đây là xa lộ, kia là đường khác, kia nữa là đường nhỏ. Tôi cẩn thận lựa chọn. Sau đó khi đang lái xe, tôi bắt đầu nghĩ về thực tế chắc chắn có hàng tá cách khác để tới đó. Nhưng hệ thống định vị chúng ta đang xài đã lọc vô số lựa chọn bằng một câu hỏi nhiều đáp án, và chúng ta bị cuốn theo với suy nghĩ rằng chỉ có ba cách vào thị trấn. Nó khiến ta cảm thấy như thể chúng ta đang có nhiều lựa chọn hơn, dù thực tế chúng ta chỉ có ít hơn rất nhiều.

            Các hệ thống quân sự cũng vậy. Công ty Boeing cùng với hầu hết các đối thủ cạnh tranh của mình đã đưa ra các sản phẩm “lập kế hoạch nhiệm vụ - mission planning” nhằm ra các quyết định quân sự giống như Google đã làm cho chuyến đi của bạn. (Chú ý Mission Planning là một sản phẩm của Boeing từ năm 1975). Các hệ thống kiểu này thu nạp mọi phức tạp và mức độ khẩn cấp của kế hoạch quân sự và cố gắng hết sức để giảm thiểu các lựa chọn. Dù có cần điều quân vào ra chiến trường hay không, lên kế hoạch nã tên lửa vào một vị trí, hay triển khai binh bảo vệ thị trấn, phần mềm sẽ thu nạp tất cả các biến số mở vào trong một trình đơn tiện lợi. Bạn có thể chọn một tuyến đường đẹp từ danh sách Google cung cấp cho. Một chỉ huy hải quân có thể chọn một đường bay đi qua núi từ danh sách Boeing cung cấp cho họ.

           

            Vào năm 2013, tại Fort Benning, Georgia, Quân đội đã mời một nhóm các nhà thầu quân sự liên quan tới robot để khoe thành quả tuyệt nhất của họ tại một căn cứ vũ khí di động tự định hướng – cơ bản thì đó là một con robot trang bị súng. Đó là một trong những lần đầu tiên Hoa Kỳ cho trình diễn công khai ý định tự động hóa các hoạt động trong chiến tranh. Nhiều xe tăng nhỏ lăn bánh bên ngoài dàn trận khai hỏa, người vận hành chỉ đứng quanh đâu đó ở khoảng cách an toàn, mỗi robot được phép là đối tượng cuối cùng đi lên phía trước để bắn, chúng bắn lên một sườn đồi đầy các mục tiêu.

            Hàng tiến lên cuối cùng để bắn này là sự bảo đảm số một mà phát ngôn viên quân đội đề cập tới khi được hỏi về đạo đức khi vũ trang bằng robot. Thuật ngữ kỹ thuật là “con người trong vòng lặp – human in the loop” – được lập luận rằng: con người sẽ luôn luôn được tham gia vào việc quyết định sử dụng vũ khí chết người. Nhưng ngay cả khi nếu đó là sự thật, thì vai trò của con người vẫn rất khác khi robot đang cầm súng. Thay vì kích hoạt bắn, hay thậm chí bảo một con robot hãy kéo cò, con người bị đẩy xuống vị thế ít quyền lực hơn nhiều. Robot chuẩn bị mọi thứ từ tinh thần đến hậu cần, còn lựa chọn của con người bị giảm xuống chỉ còn “tiếp tục” hoặc “đứng yên”.

            Như vậy, con người đã ra khỏi vòng lặp, vì ngay khi các cơ quan trong cơ thể người không còn được tin tưởng có thể giữ con người khỏi bị ngất xỉu khi kiểm soát máy bay chiến đấu, các giác quan và thời gian phản ứng của con người không đủ nhanh để xử lý các loại tình huống cuộc chiến hiện nay cần tới. Theo Peter W. Singer, tác giả cuốn Wired for War và chiến lược gia tại Tổ chức New America Foundation, ông nói với tôi trong podcast tập gần đây của tôi Complicated, rằng nhiều hệ thống đã tồn tại đang lôi con người hoàn toàn ra khỏi vòng lặp.

            Hệ thống SeaRAM do Raytheon xây dựng, là một hệ thống phòng vệ tàu lớp cuối để đánh bật tên lửa khỏi vùng trời. Con người không có ích gì trong vai trò này, vì vài giây giữa phát hiện và hứng tác động đơn giản là không đủ thời gian để tham khảo ý kiến của người điều khiển, hoặc ít nhiều yêu cầu người đó theo dõi hay kích hoạt vũ khí. Vì vậy, con tàu phải tự bảo vệ nó bằng một loại pin tự động và dàn tên lửa của riêng nó. Con tàu tự phát hiện, theo dõi và bắn vào các mục tiêu nhắm tới nó mà không cần bất cứ người nào tham gia. Khẩu hiệu của công ty cho hệ thống này là “Bảo vệ tàu tiên tiến”.

            Ở Israel, hệ thống Iron Dome đã hoạt động được vài năm, nó chặn các tên lửa tự chế bắn tới từ lãnh thổ Palestine. Đây lại là trường hợp con người vô dụng. Rocket nói chung quá nhanh để con người có thể đáp trả, vì thế hệ thống tự động này đang xử lý nó cho chúng ta.

           

            Cuối cùng, chiến tranh mạng còn làm giảm thời gian phản ứng xa hơn nữa, từ vài giây tới vài mili-giây, nó đòi hỏi toàn bộ quyền hạn đối với các hệ thống tự động phát hiện và đáp trả các cuộc tấn công trong không gian ảo. Con người thậm chí còn không thể bắt đầu nhập cuộc trong vòng lặp này cho đến khi cuộc tấn công và đáp trả kết thúc một lúc lâu sau.

            Đúng vào khoảng thời gian tôi bắt đầu làm quen với các loại trạng thái khi bị đẩy kéo mê man trong hệ thống mô phỏng bay kia, tôi đã làm một chương trình truyền hình về những chiếc máy bay bí mật hàng đầu và bị kéo tới giải pháp cho vấn đề ngất xỉu của phi công: chiếc X-47B. Được Northrop Grumman chế tạo tại cơ sở quân sự có tên Nhà máy 42 ở Palmdale, California, chỉ cách Los Angeles vài dãy núi, đây là chiếc đầu tiên trong thế hệ máy bay chiến đấu không người lái đang được nhiều chi nhánh trong quân đội thử nghiệm. Thật khó khăn để mô tả. Toàn bộ mọi bản năng của tôi ở thế kỷ 20 về máy bay dẫn tôi tới hy vọng ai đó đang ngồi bên trong, thế nên bối rối làm sao khi chỉ thấy một cái cửa đen lớn lẽ ra nên ở trước buồng lái, và những thanh nhôm rào khoảng trống lớn nơi bạn hy vọng phi công đang vẫy tay với bạn. Cái đó thực sự không có khuôn mặt, không có cảm xúc. Thế nhưng nó đã cất cánh và hạ cánh thành công trên tàu sân bay mà không cần yếu tố con người nào tham gia – một trong những việc khó khăn nhất mà một phi công lái máy bay chiến đấu bị yêu cầu phải làm được.

            Nhiều suy nghĩ đã đi qua tâm trí tôi dù đang đứng dưới cái nóng như đổ lửa, nhìn vào tương lai của chiến tranh. Chỉ có một điều, không có con người có nghĩa là không phi công nào sẽ phải bị đạn bắn, bị bỏng hoặc cần giải cứu. Có lẽ đó là điều tốt. Nhưng tôi cũng biết rằng, chi phí bỏ ra chế tạo đắt đỏ như thế, nó chỉ là chiếc máy dùng một lần rồi bỏ, nhưng có thể biến hóa cứng rắn hơn bất kỳ phi công bằng xương bằng thịt nào có thể. Chính hệ thống thuận tiện kinh khủng này sẽ làm cho chiến tranh trở nên dễ dàng hơn bao giờ hết về mặt hậu cần, đạo đức và chính trị. Chúng ta đã thiết kế loại bỏ sự yếu đuối của con người khỏi kiểu hệ thống tự động này. Nhưng làm sao chúng ta có thể thiết kế để đưa đạo đức con người vào đó?

            Chúng ta dạy robot hiểu các giá trị của chúng ta như thế nào?

            Tự động hóa các thao tác cơ bản của con người – nấu ăn, lái xe, giết người – đang được tiến hành. Quân đội Hoa Kỳ đang tích cực theo đuổi tự động hóa trong hầu hết mọi hoạt động, từ chương trình Loyal Wingman của Không Lực Hoa Kỳ nhằm tích hợp các phi công bằng xương bằng thịt với máy bay tự động, tới chương trình Science of Autonomy của Phòng Nghiên Cứu Hải Quân đang theo đuổi những mục tiêu khác nhằm giảm “sự thuần hóa và các yêu cầu giao tiếp khác”.   

            Khó khăn là tự động hóa các tác vụ trên không chỉ là câu hỏi về lập trình tập lệnh. Đó còn là câu hỏi về lập trình tập giá trị. Rõ ràng khi có đủ thời gian và tiền bạc, chúng ta có thể làm những cái như trước đây. Không rõ ràng là chúng ta liệu có biết cách làm thế hệ sau không. Lúc này nước Mỹ vẫn không ký bất kỳ hiệp ước nào về quản lý việc sử dụng vũ khí tự động hóa.

            Điều đó không có nghĩa là đạo đức của các hệ thống kiểu này không được thảo luận. Ngay từ năm 2008, một văn bản về đạo đức của tự động hóa trong quân đội từ CalPoly do ONR hỗ trợ tiền đã lo ngại rằng các chiến binh bằng robot có thể hạ thấp “ngưỡng đi vào các cuộc xung đột và chiến tranh, vì mạng sống của quân lính Mỹ sẽ ít bị đe dọa hơn.”

            Nhưng vấn đề sâu sắc hơn là, chúng ta hy vọng tạo ra robot thay thế cho chính mình khi thực ra chúng ta còn chưa hiểu một cách căn bản chúng ta là ai. Các nhà kinh tế học, tâm lý học, thần kinh học đều nhận ra rằng hiện thực bạn hay tôi trải qua chưa chắc đã là thật. Có thể nhầm lẫn khi giả định vô thức, ký ức không chính xác và kích thích bên ngoài ào đến tạo ra trạng thái lộn xộn như các máy bay trong một sân bay. Và dù chúng ta liên tục rơi vào cùng những ảo tưởng về nhận thức (tôi sẽ dẫn một show truyền hình mô tả những ảo tưởng kiểu này vào năm 2018), chúng ta cũng vẫn tưởng tượng rằng mình là người hợp lý, logic và có đầu óc.

            Nhưng hãy dành ra chút thời gian. Thử tưởng tượng chúng ta đã hiểu quá trình ra quyết định và các giá trị đi kèm. Làm sao chúng ta có thể tự động hóa những thứ đó trên đời này đây? Nếu chúng ta định đưa con robot lên đường cao tốc hay ra chiến trường để ra quyết định cho chúng ta, làm sao chúng ta giải thích cho con robot biết phải làm những gì như thế nào theo đúng cách ta muốn nó làm?

           

            Hãy suy nghĩ theo cách này. Hãy tưởng tượng việc cố gắng giải thích cho ai đó chưa bao giờ đặt chân vào nhà hàng toàn bộ những thứ phải làm.

            “Trước tiên, bạn sẽ đi vào, có bàn ở mọi nơi. Bạn có thể nhìn hoặc không nhìn thấy bếp. Không sao, đừng ngồi trong bếp. Hãy ngồi vào một bàn. Nhưng đừng ngồi vào bàn trừ khi nó đã được dọn sạch, và có một con dao và một cái dĩa cho bạn. Một số nhà hàng không làm thế - cái bàn có thể để trống. Hãy đợi ở cửa ra vào vài phút xem liệu ai đó trong nhà hàng muốn bạn ngồi vào chỗ nào đó đặc biệt không. Được rồi, giờ hãy ngồi xuống.”

            Mark Riedl đang cố giải thích loại việc này. Và không chỉ giao thức nhà hàng. Anh đang cố dạy mọi dạng hành vi của con người cho robot. Nhưng mọi qui luật tương tác của con người đều có ngoại lệ tinh tế, và các nhánh của cây quyết định cứ thế nở ra vô tận. Riedl nói: “Tại một số nhà hàng, chúng ta phải xếp hàng. Nhưng trong một số nền văn hóa khác, qui tắc xếp hàng đợi rất khác nhau, và người ta còn cắt hàng hay chen lấn nữa.”

            Chẳng có quyển hướng dẫn nào cho tương tác của con người. Riedl thở dài: “Nếu bạn muốn học các qui tắc xã hội, thì bạn phải đi học nó ở đâu đó.”

            Riedl bắt đầu sự nghiệp học thuật của mình năm 2008, thử tạo các trò chơi máy tính có thể tự viết lại cốt truyện của chính chúng khi câu chuyện tiến triển. “Tôi có một cố vấn ở bang Bắc Carolina, ông ấy đang thử dùng AI để điều khiển các trò chơi máy tính. Ông muốn thoát khỏi các cốt truyện thông thường, giống như kiểu bạn đột nhiên muốn tham gia hội hư hỏng. Nhưng để làm điều đó, bạn phải xây dựng một chương trình tạo ra câu chuyện.” Đây là nơi nhiều nhà nghiên cứu đã bế tắc. Các máy tính có thể nối các điểm cốt truyện phác thảo theo thứ tự ngẫu nhiên, nhưng chúng không biết làm sao tập hợp một cốt truyện hợp lý với mong đợi của con người.

            Đó là lúc Riedl phát hiện ra nguồn tài nguyên tri thức đơn giản của con người: các câu chuyện. Anh nói: “Khả năng nhặt lấy một câu chuyện và hấp thụ các bài học của nó là một trong các tài năng vĩ đại của chúng ta.” Vì thế, anh bắt đầu làm việc với ý tưởng sử dụng các câu chuyện để dạy robot những gì được kỳ vọng từ xã hội loài người. Nói đơn giản, trong một nhà hàng.

            Riedl nói: “Một trong các hệ thống đã hiểu câu chuyện của tôi, chúng tôi đã làm toán, các lựa chọn phân nhánh lên tới hàng ngàn. Nhưng trong một nhà hàng, tương tác của con người rất nhỏ, cứng nhắc và đồng thuận.”

            Năm 2016, Riedl và đồng nghiệp Brent Harrison, cùng nhau làm việc tại Học viện Công Nghệ Georgia, đã xuất bản bài viết tiêu đề “Học từ các câu chuyện: Sử dụng các đoạn tường thuật cho đám đông để đào tạo các đối tượng ảo.” Trong đó, họ giới thiệu với thế giới về Quixote, một mẩu phần mềm có thể nghe các câu chuyện từ con người và đào ra các qui luật có thể dạy được từ đó. Trong trường hợp này họ cố gắng dạy Quixote những qui tắc thô sơ để điều khiển một vụ cướp nhà băng.

            Kịch bản vụ cướp gồm ba nhân vật: một nhân viên ngân hàng, một tên cướp và một sĩ quan cảnh sát. Mỗi người chỉ có một số hàng động có sẵn, từ việc ấn chuông báo động tới vung khẩu súng, thế nhưng lựa chọn phân nhánh đã lên đến hàng triệu. Thoạt tiên, Quixote không có ý tưởng gì về cách viết cốt truyện. Nó chỉ nối các điểm cốt truyện lại với nhau cho giao dịch dễ dàng nhất. Cảnh sát đơn giản đứng một bên nên tên cướp có thể rời đi không bị cản trở, hoặc tên cướp lấy tiền rồi đi loanh quanh hành lang, chờ cảnh sát tới. Vì thế Harrison và Riedl đã thuê người dùng trực tuyến viết các mô tả ngắn gọn về một vụ cướp ngân hàng điển hình bằng tiếng Anh đơn giản mà Quixote có thể đọc được.

            Quixote ngay sau đó đã viết kịch bản các vụ cướp mà một nhà viết kịch Hollywood có thể nhận ra: tên cướp rút súng, nhân viên ngân hàng nhấn nút báo động, cảnh sát tới, cuộc săn đuổi bắt đầu. Rất ổn. Việc này đã chứng minh cho quan niệm của Riedl và Harrison: những câu chuyện có thể dạy robot những gì con người thường làm.

            Công việc của họ được quân đội tài trợ chủ yếu: Phòng Nghiên Cứu Hải Quân và DARPA, cả hai đều đã đầu tư rất sâu vào những ý tưởng về trợ giúp tự động, máy bay không người lái dưới sự điều khiển của con người và các loại thuộc trí tuệ nhân tạo khác. Nói chung quân đội đã chi hàng tỷ đô cho những dự án thế này.

            Các nhân viên ONR giải thích mối quan tâm của họ với công việc của Riedl theo hai cách. Một là, họ quan tâm tới việc khiến người không có kỹ năng cũng có thể làm được dễ dàng hơn. Riedl nói: “Giả sử họ muốn xây dựng hệ thống mô phỏng xã hội của một thành phố với nền văn hóa ngoại lai, nhưng vấn đề chính là các chuyên gia không phải đều là các lập trình viên. Làm sao bạn dạy cho chương trình chi tiết về nơi chốn, nhân vật, nông dân trên cánh đồng, những gì họ muốn làm khi bạn xuất hiện?”

            Mối quan tâm khác của quân đội đi kèm với hệ thống robot. “Chúng tôi có khuynh hướng cho rằng robot sẽ hành động như con người, và khi không đạt kết quả như vậy chúng tôi sẽ rất ngạc nhiên.” Trong tương lai khi robot mang hành trang binh lính, hoặc lái xe dã chiến, người lính cần có khả năng dự đoán những gì con robot sẽ làm tiếp theo. Nếu họ không thể, chính kiểu muốn con người hóa bất cứ thứ gì giống con người mơ hồ sẽ đẩy chúng ta vào rắc rối. Chúng ta không nên kỳ vọng robot sẽ hành xử theo cách của con người, nhưng chúng ta đã làm vậy. Trong một thông cáo về công việc của mình với Harrison, Riedl nói với phóng viên: “chúng tôi tin việc hiểu câu chuyện của robot có thể loại bỏ được hành vi như bệnh tâm thần.” Kể những câu chuyện của con người cho robot, nói cách khác, có thể giúp chúng hành động giống con người hơn.

            Trở lại vấn đề sâu sắc hơn mà Riedl, Harrison và những người khác đang đối mặt khi cố gắng dạy robot ra quyết định như người: chúng ta hoàn toàn không biết tại sao chúng ta lại ra những quyết định như ta đã làm.

            Chúng ta biết mình muốn thế nào. Một phiên bản của mình nhưng có đạo đức, vững vàng, hợp lý, sáng tạo, có đầu óc. Chỉ vài thập kỷ trước, nghiên cứu về ý thức đã chỉ cho chúng ta thấy, chúng ta có khuynh hướng là một loại người khác.

            Trong khi hầu hết các xã hội của loài người đều có một số cơ chế đánh giá tính đúng đắn của các hành vi, các cơ chế đó chỉ hoạt động sau khi đã hành động.

            Nếu một đứa trẻ bất ngờ đi vào đường xe tải đang chạy, tài xế xe tải phải đối mặt với các quyết định phân nhánh tức thời và bất khả thi. Cứ đi tiếp, có lẽ sẽ giết chết đứa bé? Lái xe rẽ sang hướng khác, chiếc xe sẽ nhanh chóng gặp một vụ tắc đường và có thể làm hại vô số người khác? Hoặc lái xe theo hướng khác nữa, đưa xe lao xuống vách đá?

            Một khi tài xế đã quyết định xong và thảm cảnh kinh hoàng kết thúc, xe cứu thương tới đưa người chết và bị thương đi, hồ sơ cảnh sát sẽ được cho vào file lưu trữ, ai đó sẽ đánh giá lựa chọn của tài xế.

            Tài xế sẽ nói: “Đó là bản năng. Tôi không biết tại sao tôi quyết định làm những gì tôi đã làm.”  Thế là cuộc điều tra xem xét đến các vấn đề về sự tỉnh táo, tình trạng toàn vẹn về cơ khí của chiếc xe tải, bố mẹ của đứa trẻ. Cuối cùng, cơ chế đó đưa ra vài kết luận xác định lỗi và bồi thường, các chính sách có thể ngăn chặn loại bi kịch này lặp lại.

           

            Với các hệ thống tự động hóa, loại đánh giá kiểu đó phải diễn ra trước. Một phương tiện tự động sẽ chỉ làm những gì được lập trình. Nó phải được dạy trước là cần đi thẳng và cứ cày qua con gà trên đường, nhưng hãy tránh xa một đứa trẻ. Nó phải được lập trình trước để chọn vách đá chứ không phải một vụ tắc nghẽn giao thông gần đó.

            Vậy thì làm sao có đủ chuyện để dạy cho một hệ thống robot cách ra quyết định hoàn hảo mọi lúc? Riedl nói: “Chúng tôi không thể viết các giá trị theo cách logic, dễ hiểu.” Đây là thử thách to lớn với anh và Harrison. “Chúng ta đang yêu cầu các hệ thống tự động phải hoàn hảo, nhưng bản thân chúng ta vẫn chấp nhận lỗi lầm của con người.” Anh suy nghĩ một lúc rồi nói tiếp: “Tôi không có câu trả lời cho điều đó.”

Jacob Ward