ChatGPT tiêu thụ điện đáng kinh ngạc

Những mô hình ngôn ngữ lớn (LLM) như chatGPT của OpenAI đang tạo ra cuộc cách mạng về sự tương tác giữa người và máy tính song đằng sau đó tiềm ẩn mức tiêu thụ năng lượng khổng lồ.

The New Yorker dẫn tính toán của nhà khoa học dữ liệu thuộc Ngân hàng Quốc gia Hà Lan Alex de Vries cho biết chatGPT đang phải đáp ứng khoảng 200 triệu câu lệnh mỗi ngày từ người dùng khắp toàn cầu. Để thực hiện "sứ mệnh" đó, chatbot này tiêu tốn nửa triệu KWh, gấp 17.000 lần lượng điện trung bình mà một hộ gia đình Mỹ sử dụng hằng ngày.

Nhà khoa học Vries còn cho rằng nếu Google tích hợp công nghệ AI tạo sinh vào mọi tìm kiếm sẽ kéo theo việc tiêu thụ khoảng 29 tỉ KWh điện mỗi năm. Đây là lượng điện tiêu thụ nhiều hơn các hộ gia đình ở một số quốc gia trong một năm.

ChatGPT đang phải thực hiện khoảng 200 triệu câu lệnh mỗi ngày khiến nó ngốn tới nửa triệu kilowatt giờ điện Ảnh: GenK

Dựa trên thông số do nhà sản xuất chip hàng đầu thế giới Nvidia công bố, chuyên gia Vries ước tính toàn ngành AI sẽ tiêu thụ 85 -134 tỉ KWh điện/năm. Nhu cầu năng lượng ngày càng tăng của AI đòi hỏi phải có cách tiếp cận đa hướng. Nghiên cứu các mô hình AI tiết kiệm năng lượng hơn là bước quan trọng đầu tiên.

Các nhà nghiên cứu đang khám phá những cách thức nhằm giảm lượng tiêu thụ điện năng cho ngành AI như cải tiến phần cứng, thuật toán và sử dụng năng lượng tái tạo. 

GenK