Cuộc chạy đua vũ trang AI đang nóng lên, và những đột phá đang xảy ra với tốc độ tăng tốc.  Việc phát hành ChatGPT của OpenAI đại diện cho một bước nhảy vọt sâu sắc trong cách con người tương tác với máy móc, thể hiện sự tiến bộ đáng kinh ngạc trong các mô hình ngôn ngữ lớn. Trong khi đó, khả năng AI tạo ra như Dall-E, Stable Diffusion và Midjourney có thể tạo ra hình ảnh thực tế và chi tiết từ mô tả văn bản, thể hiện mức độ sáng tạo và trí tưởng tượng từng được cho là độc quyền của con người.  Con người dường như được thiết kế để liên tục phát triển công nghệ và cải thiện kiến thức và khả năng của chúng ta. Ngoài ra, bộ não con người có xu hướng suy nghĩ theo đường thẳng, khiến chúng ta đánh giá thấp sự tiến bộ theo cấp số nhân của công nghệ. Các công ty và quốc gia được khuyến khích bởi các lực lượng thị trường và lý thuyết trò chơi địa chính trị để theo đuổi trí thông minh tốt hơn thông qua sự tiến bộ của AI.  Viện Tương lai của cuộc sống gần đây đã xuất bản Thử nghiệm AI khổng lồ tạm dừng: Một lá thư mở. Bức thư <unk> với những người ký tên nổi tiếng bao gồm Elon Musk, Steve Wozniak và Andrew Yang <unk> đã gây ra một sự xáo trộn, kêu gọi tạm dừng 6 tháng về phát triển AI tiên tiến:  Do đó, chúng tôi kêu gọi tất cả các phòng thí nghiệm AI tạm dừng ngay lập tức trong ít nhất 6 tháng việc đào tạo các hệ thống AI mạnh hơn GPT-4. Việc tạm dừng này phải được công khai và có thể xác minh được, và bao gồm tất cả các diễn viên chính. Nếu một sự tạm ngưng như vậy không thể được ban hành nhanh chóng, các chính phủ nên can thiệp và thiết lập một lệnh đình chỉ.<unk>  Phần lớn các phương tiện truyền thông và các cuộc thảo luận công khai phản ứng với bức thư này đã tập trung vào việc ai đã ký nó và đẩy lùi quan niệm rằng nhân loại đang đối mặt với một mối đe dọa tồn tại sắp xảy ra của siêu trí tuệ nhân tạo. Những tuyên bố về trí tuệ nhân tạo chạy trốn có vẻ quá mức đối với nhiều người, và kêu gọi tạm dừng 6 tháng là không thực tế. Chúc may mắn trong việc thuyết phục Trung Quốc "ngừng" nỗ lực của họ trong cuộc chạy đua vũ trang AI.  Nhưng không có giới hạn? Chúng ta có nên tiếp tục mà không có hướng dẫn không?  Ví dụ như...  Chúng ta có cảm thấy thoải mái khi đưa ra quyết định cho các hệ thống AI hộp đen thiếu minh bạch và giải thích, khiến con người không thể hiểu được lý do đằng sau các quyết định? Chúng ta có nên lo lắng về sự phát triển của vũ khí tự động được hỗ trợ bởi trí tuệ nhân tạo mà đưa ra quyết định về việc sử dụng lực lượng gây chết người mà không cần sự tham gia của con người? Chúng ta có nên lo lắng về khả năng các tác nhân độc hại sử dụng AI cho các mục đích xấu, chẳng hạn như các chiến dịch tuyên truyền tinh vi? Các luật, quy định và hệ thống chính trị hiện tại của chúng ta có được trang bị để xử lý dòng chảy nhanh chóng của các câu hỏi liên kết AI mới mà xã hội sẽ phải vật lộn trong tương lai rất gần không? Khi AI trở nên tiên tiến hơn, nó có thể trở nên khó hiểu, điều này có thể dẫn đến kết quả không mong muốn. Các hệ thống AI có thể cư xử theo những cách không lường trước và khó kiểm soát. Vấn đề liên kết AI là một thách thức xã hội đòi hỏi sự hợp tác giữa các nhà nghiên cứu, kỹ sư, doanh nhân, nhà hoạch định chính sách và công chúng. Nó cũng sẽ đòi hỏi sự hợp tác quốc tế giữa các chính phủ và khu vực tư nhân. Đây không chỉ là một thách thức kỹ thuật, mà còn là một thách thức triết học và đạo đức.  Thư mở được đề cập ở trên tiếp tục khuyến nghị:  <unk> Nghiên cứu và phát triển AI nên được tập trung vào việc làm cho các hệ thống hiện đại và mạnh mẽ hiện nay chính xác hơn, an toàn hơn, có thể giải thích được, minh bạch hơn, mạnh mẽ hơn, phù hợp hơn, đáng tin cậy hơn và trung thành hơn.<unk>  Đây chắc chắn là một mục tiêu xứng đáng, và nó có thể đạt được bằng cách thực hiện AI ở nơi mở. Những gì chúng ta đang thiếu là một khuôn khổ. Xã hội cần một bộ quy trình và giao thức để đưa ra khuyến nghị từ Viện Tương lai của cuộc sống có thể thực hiện được.  Cùng nhau, chúng ta phải xem xét và thảo luận về những ưu và nhược điểm của nhiều ý tưởng, bao gồm nhưng không giới hạn ở:  Việc tiết lộ bắt buộc chi tiết mô hình, bao gồm các bộ dữ liệu đào tạo, phương pháp đánh giá và sự thiên vị được biết đến Phát triển một khuôn khổ thiết lập các yêu cầu giám sát và kiểm toán mô hình cho các hệ thống AI tiên tiến Việc thực hiện các luật áp đặt trách nhiệm pháp lý đối với thiệt hại do AI gây ra Việc thành lập một cơ quan quản lý để giám sát và theo dõi các hệ thống AI có khả năng cao Bước đầu tiên để đạt được một khuôn khổ hiệu quả cho sự phát triển AI an toàn là một cuộc đối thoại cởi mở giữa nhiều bên liên quan, bao gồm tất cả mọi người. Chúng ta phải vượt lên trên những diễn thuyết quá chính trị mà các phương tiện truyền thông không trung thực và hỏng hóc thường ép buộc chúng ta. Vấn đề này quá quan trọng và hậu quả quá sâu sắc. Tham gia cùng tôi trong việc ủng hộ một cuộc trò chuyện thông minh và tôn trọng về AI - một cuộc trò chuyện thu hút ý kiến và tranh luận cởi mở từ một tập hợp các tiếng nói đa dạng để giúp đảm bảo một con đường tiến lên trong lợi ích chung của chúng ta.