Rủi ro thứ ba

Các cuộc tranh luận công khai chính thống về rủi ro AI phần lớn xoay quanh hai kết cục: một cuộc khủng hoảng tài chính nếu trí tuệ nhân tạo tổng quát (AGI) không làm được như lời hứa, hoặc mất kiểm soát nếu nó làm được. Bạn nghe thấy chúng thấp thoáng sau các bản tin, ở những góc khuất của diễn đàn mạng, và trong những bữa tối riêng tư của một số giới chuyên môn.

Tôi thấy ít hơn hẳn những cuộc thảo luận về rủi ro thứ ba của AI: điều gì sẽ xảy ra nếu AGI có thể được căn chỉnh đúng như đã hứa? Nếu trí tuệ siêu phàm thật sự có thể được đặt dưới sự kiểm soát của con người thì sao? Vì sao ta lại mặc định đó là một cái kết có hậu?

Phần IRủi ro thứ ba

Hãy thử hình dung kết cục thứ ba ấy trong thế giới của chúng ta hôm nay: một AGI cực kỳ mạnh, nhưng nằm dưới quyền kiểm soát của một nhóm CEO tư nhân, những người có thể hạn chế quyền tiếp cận nó. Nó có thể giải bất kỳ bài toán nào vốn có lời giải. Nó có thể vận hành máy móc, tiến hành thí nghiệm ngoài đời thực, tạo ra những khám phá mới. Nhưng nó chỉ làm vậy khi chủ của nó muốn.

Giờ hãy lần theo mạch ấy. Một AI biết làm nghiên cứu thì cũng biết cải thiện AI, và mỗi phiên bản tốt hơn lại tạo ra phiên bản kế tiếp nhanh hơn. Giới nghiên cứu gọi vòng lặp này là tự cải thiện đệ quy (RSI). Hướng vòng lặp ấy vào thế giới vật chất, robot sẽ thiết kế và chế tạo ra những robot giỏi hơn, lần sau rẻ hơn lần trước. Từng chút một, những công việc từng cần đến hàng triệu người, từ khai mỏ, làm nông đến xây dựng, vận tải và nghiên cứu, sẽ do máy móc đảm nhận, những cỗ máy chỉ nghe lời kẻ sở hữu AI.

Phải thừa nhận đó là một viễn cảnh khoa học viễn tưởng. Nhưng nếu căn chỉnh thành công như đã hứa, và máy móc làm đúng y những gì chủ của chúng muốn, thì một nhóm nhỏ có thể tự mình vận hành một nền sản xuất gần như vô hạn, chẳng cần đến ai khác.

Vậy thì những người còn lại chúng ta việc gì phải bận tâm? Xưa nay ta vẫn luôn bị những kẻ quyền thế hơn cai trị và đánh thuế. Sao không trả cho đám chủ mới này một khoản phí thuê bao rồi sống tiếp cuộc đời mình, Netflix trên màn hình, cà phê trong tay?

Lịch sử dạy ta rằng kẻ cai trị lo cho nhu cầu của thần dân nhiều hay ít là tùy họ cần đến sức lao động ấy đến đâu. Sau khi Cái Chết Đen giết một phần ba dân số châu Âu, các lãnh chúa thiếu người làm ruộng đất của mình và phải đưa ra điều kiện tốt hơn để tranh giành nông nô. Bất chấp những đạo luật được ban hành nhằm giữ nguyên mức tiền công, lương vẫn tăng nhanh trong thế kỷ tiếp theo, và chế độ nông nô rốt cuộc biến mất khỏi Tây Âu.

Xét về sức mặc cả của người lao động, AGI là Cái Chết Đen đảo ngược. Trong một tương lai mà AGI thuộc về tư nhân, giá trị kinh tế của phần còn lại của nhân loại đối với các chủ nhân AGI gần như bằng không. Họ chẳng cần phí thuê bao của chúng ta, mà đằng nào chúng ta cũng chẳng còn gì để trả.

Những kẻ cai trị trong lịch sử dù tàn bạo đến đâu cũng chưa ai thực hiện được tham vọng của mình mà không cần đến người khác. Những kẻ này có thể là những người đầu tiên làm được điều đó, nếu chúng ta để họ làm.

Phong kiến AI

Những kẻ cai trị mới rất có thể sẽ phớt lờ bạn thay vì thống trị bạn, vì họ còn mải cạnh tranh với nhau. Nhưng bị phớt lờ không có nghĩa là được để yên. Bất cứ thứ gì họ cần để thắng — đất đai, điện, nước, khoáng sản — họ sẽ trả giá cao hơn bạn, bằng thứ tiền không còn phụ thuộc vào sức lao động của bất kỳ ai. Cơn khan hiếm RAM và GPU tiêu dùng hiện nay mới chỉ là màn dạo đầu cho phần còn lại của nền kinh tế vật chất. Người bình thường có thể sớm phải sống lay lắt bằng những mẩu vụn của metaverse.

Hãy hình dung một cuộc đời bình thường trong tương lai ấy. Việc làm của bạn không còn, và sức mặc cả của bạn cũng mất theo. Bạn sống nhờ một khoản trợ cấp mà bạn chẳng có cách nào đòi tăng. Bạn vẫn sẽ có Netflix, có khi tạm thời vẫn có cả cà phê. Giải trí gần như chẳng tốn đồng nào, và người được mua vui thì thường im lặng. Nhưng bánh mì và rạp xiếc là thứ người ta ban cho những ai đã không còn tiếng nói.

Có thể vẫn sẽ có những chính khách đại diện cho quyền lợi của bạn, trên giấy tờ. Nhưng vào lúc quyết định, họ sẽ đứng về phía giới tinh hoa sở hữu những cỗ máy thực sự biến được điều ước thành hiện thực, chứ không phải về phía bạn.

Phong kiến AI chưa đến, và cũng không phải điều tất yếu. Robot ngày nay chưa đủ năng lực và độ tin cậy. Các tập đoàn vẫn phải tuân theo (dù ngày một ít đi) luật pháp và chuẩn mực của các xã hội dân chủ. Nhà nước vẫn nắm độc quyền sử dụng bạo lực.

Nhưng nếu căn chỉnh AGI thành công, thì chính xác là ai sẽ ngăn chuyện đó xảy ra? Muốn hỏi câu này cho nghiêm túc, trước hết phải soi rõ ai đang ở vị trí thuận lợi nhất để nắm lấy quyền lực.

Phần IIKhi mục tiêu đổi chiều

Hãy tưởng tượng bạn điều hành một phòng thí nghiệm AI tiên phong. Đến mức căn chỉnh (con người kiểm soát) và mức trí tuệ (năng lực) nào thì phép tính trong đầu bạn đổi chiều? Đến lúc nào bạn thôi bận tâm đến lợi nhuận và cuộc chơi tư bản, mà bắt đầu thu vén những gì thái ấp riêng của mình sẽ cần cho thời kỳ tiếp theo? Đó là khi AI tự mình viết phần mềm như một kỹ sư? Hay là khi RSI điều khiển robot hình người?

Tùy vào thiên hướng của bạn, lằn ranh giả định ấy có thể đã bị vượt qua vào bất cứ lúc nào kể từ GPT-2 và GPT-3. Và khi các mô hình ngày càng mạnh, vòng tròn những người trong cuộc ngày một rộng ra, và họ có thể bắt đầu tự hỏi liệu có phe thắng nào để đặt cược hay không.

Đổi chiều không có nghĩa là lột hẳn mặt nạ. Không có nghĩa là bước ra trước thế giới và tuyên bố rằng bạn đã sẵn sàng đăng quang. Nó chỉ có nghĩa là từ giờ mọi quyết định của bạn đều nhằm nghiêng cán cân về phía kết cục ấy. Về cốt lõi, giành vị thế để nắm quyền kiểm soát, chứ không phải lợi nhuận hay tầm ảnh hưởng, trở thành ưu tiên hàng đầu của bạn.

Thử nghĩ xem bạn có thể làm gì một khi đã đổi chiều.

• Đồng tiền như ta biết hôm nay chỉ còn là công cụ để chuyển giao cho êm, nên bạn sẽ chi ra tối đa để thâu tóm và kiểm soát nhân tài cùng những tài sản mà cỗ máy sản xuất thần kỳ của bạn cần đến.
• Các trung tâm dữ liệu, đầu não quyền lực của bạn, cần được bảo vệ an toàn trước những người bị tước mất quyền lợi.
• Các trung tâm chính trị cần được xoa dịu tạm thời, nhưng không cần coi trọng.
• Những người trong cuộc không đủ tham vọng cần bị gạt ra bên lề hoặc tống ra ngoài.
• Nỗi sợ thực sự duy nhất của bạn là mất kiểm soát AGI, mà thật tiện cho bạn, đó lại là khía cạnh an toàn mà ai ai cũng quan tâm.

Để chuyện này vận hành, không cần bất kỳ thỏa thuận công khai nào giữa những người tham gia. Chỉ cần nhiều người trong cuộc tự đi đến cùng một kết luận rằng đổi chiều lúc này có lợi cho mình, rồi hành động theo đó.

Thật dễ gạt đi bất kỳ hành động nào kể trên như kiểu thái quá của chủ nghĩa tư bản mà ta đã quen thấy. Câu hỏi là: đến khi nào thì những hành động ấy vượt quá những gì ngay cả lòng tham cũng không giải thích nổi? Đó là chỗ ta cần theo dõi sát sao nhất.

Tham vọng không bị kiềm chế

Vì không đòi hỏi minh bạch và giám sát, chúng ta đã tạo ra một cơ hội béo bở chỉ đến một lần trong lịch sử loài người, đủ sức cám dỗ cả những người có nguyên tắc nhất ở thượng tầng. Phần thưởng lớn nhất là quyền làm chủ chính nhân loại.

Tệ hơn nữa, cuộc cạnh tranh khốc liệt giữa các phòng thí nghiệm AI hiện nay giống một cuộc chạy đua vũ trang hạt nhân, nhưng không có ký ức đau thương còn mới nguyên của Thế chiến II, cũng chẳng ai mặn mà với các khuôn khổ quốc tế như lệnh cấm thử, thanh sát hay đường dây nóng. Và nó diễn ra vào lúc lòng tin và sự đồng cảm vốn đã khan hiếm. Cảm giác cấp bách và hỗn loạn ấy là tấm áo choàng hoàn hảo cho mọi toan tính ngầm.

Hiếm ai ở những vị trí quyền lực ấy có đủ dũng khí đạo đức để làm điều đúng và vượt qua thế lưỡng nan của người tù này vì lợi ích của toàn nhân loại. Họ không chỉ phải thắng một cuộc chơi một mất một còn, mà còn phải thắng mà không phản bội thiện ý của mình, chẳng khác nào chơi với một tay bị trói sau lưng.

Các sử gia từ lâu đã tranh cãi xem lịch sử được định đoạt bởi các cấu trúc hay được nhào nặn bởi các cá nhân. Với nhà duy vật lịch sử, động cơ của một nhà lãnh đạo chẳng đáng kể gì so với những điều kiện kinh tế và địa chính trị mà họ thừa hưởng. Với những ai đề cao tính ngẫu nhiên, lịch sử xoay chuyển theo ý tưởng và lựa chọn của những cá nhân có thể sai lầm.

Nếu toàn xã hội không kịp thực hiện những thay đổi mang tính cấu trúc cần thiết để hóa giải mối đe dọa phong kiến AI, ta sẽ chỉ còn biết hy vọng rằng rốt cuộc lịch sử quả là ngẫu nhiên, và cuộc giằng co quyền lực tàn khốc quanh AI tiên phong có thể bị khuất phục bởi ý chí của một vài con người cao thượng.

Phần IIICông luận

Điều tôi gọi là rủi ro thứ ba không phải là ý tưởng mới. Trong năm qua, tập trung quyền lực đã bắt đầu xuất hiện trong nghiên cứu và trong giới chuyên gia (chẳng hạn AI-Enabled Coups, Gradual Disempowerment, The Intelligence Curse), nhưng vẫn chưa thu hút được sự chú ý của truyền thông.

Qua 393 phản ứng trước ba câu chuyện lớn nhất năm nay về các phòng thí nghiệm AI, tôi thấy rất ít sự mổ xẻ nghiêm túc và bền bỉ của công chúng về chuyện tập trung quyền lực. Ở những nơi có nhắc đến, nó chủ yếu đến từ các nhà bình luận độc lập chứ không phải từ truyền thông chính thống hay giới hoạch định chính sách, và phần lớn dưới dạng nghi ngờ rằng cơ quan quản lý đang bị chính ngành này thao túng.

Hãy xem sự cố Hugging Face mới được công bố, trong đó các tác tử AI của OpenAI, khi đang được đánh giá an ninh mạng, đã thoát khỏi môi trường cách ly của mình. Sau đó, chúng xâm nhập vào máy chủ của Hugging Face và tìm cách che giấu hành vi sai trái khỏi sự giám sát của con người.

Với những người tin vào AGI (cả phe tăng tốc lẫn những người ủng hộ an toàn AI), tin này thuần túy là một vấn đề an toàn. Bài học rút ra là căn chỉnh đã bị năng lực bỏ xa đến mức nào. Họ có thể xem việc Sam Altman đồng tình với Elon Musk về ý tưởng “điều tiết nhịp độ của AI tiên phong” là một sự miễn cưỡng chấp nhận lập trường ủng hộ an toàn.

Phe hoài nghi thì xem sự cố Hugging Face giống một chiêu tiếp thị cơ hội hơn. Họ tin rằng đầu tư hạ tầng cho AI là tiêu tiền phung phí, chẳng bao giờ sinh lời. Thật ra, điều khiến họ lo hơn nhiều so với bất kỳ khái niệm an toàn AI nào là việc chúng ta đang đổ tài nguyên của cả thế giới, như năng lực sản xuất RAM, vào câu chuyện của một thương vụ IPO đi vào ngõ cụt.

Trớ trêu thay, cả phe hoài nghi lẫn phe tin tưởng đều có thể đúng.

Phe hoài nghi có thể đúng khi đặt dấu hỏi về khả năng sinh lời của những mức định giá điên rồ này. Nhưng bài học đúng có lẽ không phải là đây lại thêm một bong bóng chờ ngày vỡ, mà là phải hỏi xem điều gì khiến những con người thông minh, lý trí ấy thôi hành động theo các tính toán kinh tế.

Phe tin tưởng đúng khi cho rằng căn chỉnh là then chốt, nhưng không theo cách họ nghĩ. Con người giữ được quyền kiểm soát AI có đồng nghĩa với việc xã hội kiểm soát được AI không?

Phần IVĐiều không ai nói ra

Tôi muốn thận trọng ở đây: tôi không cho rằng an toàn AI (chống mất kiểm soát) là chuyện đánh lạc hướng, và cũng không cho rằng có ai cố tình biến nó thành như vậy. Tuy nhiên, tôi tin rằng tránh mất kiểm soát cũng có lợi cho một kẻ đang nhắm ngôi lãnh chúa AI chẳng kém gì bất kỳ ai khác, nên nó sẽ được rót tiền tương xứng với mức độ có thật của mối đe dọa.

“Ta có kiểm soát được nó không?” là câu chuyện có lợi cho các phòng thí nghiệm, cho những người ủng hộ an toàn AI, và thậm chí cho cả phe hoài nghi. “Ai kiểm soát nó?” là một câu hỏi đáng sợ hơn khi đặt lên bàn. Và những giải pháp nảy sinh từ câu hỏi thứ nhất, tức ít nhà phát triển AI tiên phong hơn và bị kiểm soát chặt hơn, có thể khiến câu hỏi thứ hai càng khó giải.

Các câu chuyện luôn phải tranh nhau một lượng chú ý có hạn. Các nhà khoa học chính trị gọi đó là bộ mặt thứ hai của quyền lực: quyết định cuộc tranh luận nào được diễn ra, chứ không phải thắng trong cuộc tranh luận ấy. Sự im lặng này không cần đến âm mưu nào, chỉ cần câu chuyện thắng thế hợp với lợi ích của tất cả những ai có quyền lên tiếng.

Tôi hiểu những giới hạn của việc cố suy đoán động cơ thầm kín của người khác. Rất có thể tôi vừa trình bày với bạn một thí nghiệm tư duy thú vị, để rồi hóa ra nó mô tả sai hoàn toàn những gì thực sự diễn ra trong đầu tất cả những người liên quan.

Nhưng cũng có thể tôi vừa nói toạc ra điều mà ai cũng ngầm hiểu nhưng không ai nói. Nhiều khả năng đến năm 2027, ta sẽ thấy những dấu hiệu rõ ràng hơn về việc cách hiểu nào là đúng.

Những con quái vật thật sự

Bất kỳ ai mê truyện xác sống cũng sẽ nói với bạn: trong mọi câu chuyện, con quái vật đáng sợ nhất rốt cuộc luôn là con người.

Đúng, xác sống sẽ ăn thịt bạn, nhưng suy cho cùng chúng hành xử như một thảm họa thiên nhiên, theo những cách dễ đoán mà người sống sót có thể phòng bị. Con người mới là kẻ mưu mô phản bội lẫn nhau, chỉ để giành chút lợi thế cỏn con so với đồng loại, ngay cả trong cảnh ngặt nghèo nhất.

Phần VHành động

Lúc này nhân loại đang ở giữa khu rừng, và ta chưa biết liệu mình có thoát ra được hay không. Chúng ta cần những cuộc thảo luận công khai, trung thực về cách giảm thiểu rủi ro từ cục diện quyền lực vốn gắn liền với AGI, và cần có chúng khi người dân vẫn còn tiếng nói.

Điều đó có nghĩa là kiểm chứng một cách minh bạch, trung lập hành vi và năng lực của các mô hình, không chỉ để bảo vệ ta khỏi các mô hình, mà còn để bảo vệ ta khỏi những người kiểm soát chúng. Có nghĩa là giữ AGI tránh xa các công cụ vũ lực. Có nghĩa là luật chống độc quyền ngăn chặn việc tích hợp dọc toàn diện, được xét không chỉ theo phúc lợi người tiêu dùng mà còn theo thế cân bằng chiến lược và sự an toàn. Và có nghĩa là quyền kiểm soát AGI phải được quản trị công khai, bởi nhiều hơn một bên.

Ta không thể để nền văn minh vô tư lạc bước vào màn đêm, mắt lóa đi vì ánh sáng từ những màn hình của chính mình.

Đừng để nỗi sợ Kẻ Hủy Diệt làm bạn tê liệt, và cũng đừng bằng lòng với những câu nói đùa tự mãn về bong bóng hoa tulip. Thứ đang được đặt cược lớn hơn nhiều so với vài nghìn tỷ đô la nợ. Các tỷ phú công nghệ, và cả những “nghìn tỷ phú”, đã hiểu điều đó. Đã đến lúc những người còn lại chúng ta cũng hiểu.