Mới đây, trên trang cá nhân của mình, CEO Nguyễn Tử Quảng cho biết, bản thân đã ký vào lá đơn của Viện Nghiên cứu Tương lai kêu gọi tất cả phòng thí nghiệm AI, ngay lập tức tạm dừng ít nhất 6 tháng việc tạo ra AI mạnh hơn GPT-4.
Mới đây, trên trang cá nhân của mình, CEO Nguyễn Tử Quảng cho biết, bản thân đã ký vào lá đơn của Viện Nghiên cứu Tương lai kêu gọi tất cả phòng thí nghiệm AI, ngay lập tức tạm dừng ít nhất 6 tháng việc tạo ra AI mạnh hơn GPT-4.
Được biết, tỷ phú Elon Musk cùng một nhóm chuyên gia về trí tuệ nhân tạo và lãnh đạo ngành vừa gửi thư ngỏ kêu gọi tạm dừng các hệ thống huấn luyện trí tuệ nhân tạo (AI) mạnh hơn cả phiên bản GPT-4 của OpenAI, vì lo những nguy cơ tiềm tàng đối với xã hội và con người.
CEO BKAV cho biết, ông đồng ý vì lo sợ những phát sinh rủi ro không kiểm soát được của AI. Sự xuất hiện của ChatGPT vừa qua đã vượt qua dự đoán của nhân loại.
CEO Nguyễn Tử Quảng đánh giá, AI không kiểm soát còn khủng khiếp hơn bom hạt nhân, khi nó giống như một giống loài mới xâm hại, có thể lan truyền qua không gian mạng với tốc độ ánh sáng, mạnh hơn gấp bội so với tốc độ tên lửa mang đầu đạn hạt nhân.
Với những lý do trên, CEO BKAV đã ký tên ủng hộ thư ngỏ của Viện Nghiên cứu Tương lai.
Nguyên văn bài viết như sau:
"Chúng tôi kêu gọi tất cả các phòng thí nghiệm AI, NGAY LẬP TỨC tạm dừng ít nhất 6 tháng, việc đào tạo các hệ thống AI mạnh hơn GPT-4".
Đây là một phần bức thư ngỏ do Viện Nghiên cứu Tương lai, một tổ chức phi lợi nhuận có trụ sở ở Mỹ và Châu Âu đưa ra cuối tuần qua.
Mục đích để các chuyên gia tận dụng khoảng thời gian này, đưa ra một BỘ QUY TẮC giúp "Các hệ thống AI mạnh mẽ, chỉ nên được phát triển khi chúng ta tin tưởng rằng, tác động của chúng sẽ TÍCH CỰC và rủi ro của chúng sẽ có thể kiểm soát được" hoặc các chính phủ nên can thiệp đưa ra LỆNH CẤM.
Bức thư được các nhân vật tên tuổi làng công nghệ thế giới ký tên ủng hộ. Bao gồm:
Yoshua Bengio, Sáng lập, Giám đốc Khoa học tại Mila, viện nghiên cứu hàng đầu về AI, đoạt giải Turing, giáo sư Đại học Montreal Canada.
Stuart Russell, Berkeley, Giáo sư Khoa học Máy tính, đồng tác giả cuốn sách giáo khoa nổi tiếng “Trí tuệ nhân tạo: Cách tiếp cận hiện đại".
Elon Musk, CEO của SpaceX, Tesla & Twitter
Steve Wozniak, đồng sáng lập Apple
Các chuyên gia khắp thế giới lập tức tranh luận gay gắt, chia hai phe. Một bên cho rằng như vậy là cường điệu hóa vấn đề, bên khác cho là cần phải làm ngay.
Các bạn có suy nghĩ gì ?
Còn tôi ĐÃ KÝ TÊN ỦNG HỘ. Lý do như sau.
Một hệ thống AI sáng tạo như ChatGPT xuất hiện vừa qua là NGOÀI DỰ ĐOÁN của NHÂN LOẠI. Hầu hết các chuyên gia AI đều nghĩ rằng phải hàng chục năm nữa mới xuất hiện AI có khả năng như vậy.
Do đó mà thế giới chưa có đủ sự CHUẨN BỊ sẵn sàng hành lang pháp chế đảm bảo sự phát triển bền vững, PHỤC VỤ NHÂN LOẠI, thay vì phát sinh những rủi ro KHÔNG KIỂM SOÁT ĐƯỢC.
Có thể ví như năng lượng hạt nhân có thể dùng cho nhà máy phát điện, nhưng cũng có thể dùng chế tạo bom nguyên tử gây nguy cơ hủy diệt.
AI KHÔNG KIỂM SOÁT còn khủng khiếp hơn bom hạt nhân, khi nó giống như một GIỐNG LOÀI mới xâm hại, có thể lan truyền qua không gian mạng với tốc độ ánh sáng, mạnh hơn gấp bội so với tốc độ tên lửa mang đầu đạn hạt nhân.
Ở lĩnh vực anh ninh mạng mà tôi đã trải nghiệm, nhiều vụ lây lan virus qua không gian mạng đã rất khó kiểm soát. Vậy nếu một GIỐNG LOÀI ngoại lai xâm hại thay vào đó thì thật không tưởng tượng nổi".
Trong một bài đăng trước đó, CEO BKAV đã đăng bài giải mã bản chất kỹ thuật của công cụ ChatGPT.
Theo CEO Nguyễn Tử Quảng, các câu nói của ChatGPT không liên quan tới suy luận logics, nó đơn thuần dựa vào xác suất thống kê trên tập dữ liệu lớn các câu nói mà nó lấy được trên mạng.
CEO BKAV đánh giá, ChatGPT chưa có khả năng suy luận như con người.
Ở một bài đăng khác, ông Nguyễn Tử Quảng đã tiết lộ một người Việt Nam có vai trò quyết định với thành công của ChatGPT.
Theo CEO của BKAV, người Việt Nam này chính là anh Lê Viết Quốc, một trong 4 người đồng sáng lập ra Google Brain.
Chính anh Lê Viết Quốc đã phát triển một thuật toán xử lý ngôn ngữ tự nhiên và Google đã phát triển phiên bản này và cho ra thuật toán Transformers.
Thuật toán này đã giúp Open AI dựa vào đó để phát triển chatbot ChatGPT.
Job Functions
CareerViet.vn
