Liên Hợp Quốc cảnh báo AGI có thể vượt kiểm soát, gây nguy cơ nghiêm trọng cho an ninh, kinh tế và trật tự toàn cầu nếu thiếu quản lý.

AGI – Nguy cơ công nghệ mang tính sống còn

Trong một báo cáo đặc biệt vừa công bố, Hội đồng Chủ tịch Đại hội đồng Liên Hợp Quốc (UNCPGA) lên tiếng cảnh báo mạnh mẽ về những nguy cơ tiềm ẩn từ Trí tuệ nhân tạo tổng quát (AGI). Công nghệ này đang được các tập đoàn công nghệ hàng đầu thế giới ráo riết phát triển và có thể đạt đến ngưỡng vượt qua trí tuệ con người trong thập kỷ tới.

Liên Hợp Quốc nhận định AGI có thể trở thành một bước ngoặt lịch sử – hoặc là cơ hội cách mạng cho nhân loại, hoặc là mối đe dọa nghiêm trọng chưa từng có nếu không được kiểm soát và định hướng đúng đắn.

Cuộc chạy đua công nghệ chưa có điểm dừng

Những cái tên như OpenAI, Google DeepMind, Meta và Anthropic hiện đang dẫn đầu trong cuộc đua phát triển AGI. Dù AGI chưa thực sự xuất hiện, các hệ thống học máy đa nhiệm và mô hình tổng hợp dữ liệu đang được mở rộng với tốc độ chóng mặt, đặt nền móng cho sự hình thành AGI trong tương lai gần.

Theo UNCPGA, chính sự đầu tư khổng lồ và tốc độ phát triển chưa từng thấy trong lĩnh vực này là lý do khiến thế giới không thể tiếp tục đứng ngoài cuộc.

Cảnh báo 6 mối đe dọa toàn cầu từ AGI

Báo cáo của Liên Hợp Quốc liệt kê 6 nguy cơ nghiêm trọng mà AGI có thể mang lại:

  1. Mất khả năng kiểm soát AGI khi nó tự hành động.
  2. Bị lạm dụng để phát triển vũ khí hủy diệt hàng loạt.
  3. Tăng nguy cơ lỗ hổng an ninh mạng ở quy mô toàn cầu.
  4. Gây bất ổn kinh tế sâu rộng do tự động hóa cực đoan.
  5. Sự trỗi dậy của các hệ thống AGI tự trị có thể đe dọa sự tồn vong.
  6. Bỏ lỡ cơ hội khai thác AGI để giải quyết các thách thức toàn cầu cấp bách như biến đổi khí hậu, bệnh dịch hay nghèo đói.

Cần khẩn trương xây dựng khung quản trị toàn cầu

Trước những nguy cơ nêu trên, UNCPGA kêu gọi cộng đồng quốc tế nhanh chóng hành động với các giải pháp mang tính chiến lược và dài hạn, bao gồm:

  • Tổ chức phiên họp đặc biệt của Đại hội đồng Liên Hợp Quốc về AGI.
  • Thành lập Đài quan sát AGI toàn cầu để giám sát và dự báo rủi ro.
  • Xây dựng hệ thống chứng nhận quốc tế cho các hệ thống AGI đáng tin cậy.
  • Soạn thảo Công ước khung về quản trị AGI dưới sự bảo trợ của Liên Hợp Quốc.
  • Nghiên cứu thành lập cơ quan chuyên trách về AGI để điều phối hợp tác toàn cầu.

AGI – Tương lai nhân loại đứng trước ngã rẽ

Liên Hợp Quốc nhấn mạnh rằng AGI có thể tạo ra những bước nhảy vọt chưa từng có trong khoa học, y tế, giáo dục và công nghiệp. Tuy nhiên, nếu thiếu sự hợp tác và kiểm soát toàn cầu, công nghệ này hoàn toàn có thể trở thành nguồn cơn của bất ổn, xung đột và sụp đổ hệ thống.

Trong kỷ nguyên AI, việc xây dựng một khuôn khổ đạo đức và pháp lý chung là yếu tố sống còn để đảm bảo rằng trí tuệ nhân tạo phục vụ cho lợi ích của nhân loại – thay vì trở thành mối đe dọa lớn nhất đối với sự tồn tại của chính nó.

Theo: Vneconomy