Nguy cơ lộ lọt thông tin từ việc tận dụng ChatGPT để tối ưu hóa công việc

Group-IB đã phát hiện hơn 100.000 tài khoản ChatGPT bị xâm phạm trên các thị trường dark web. Đáng chú ý, khu vực châu Á - Thái Bình Dương đứng đầu danh sách này.

Group-IB, một công ty hàng đầu về an ninh mạng toàn cầu có trụ sở chính tại Singapore, đã xác định được 101.134 thiết bị bị nhiễm phần mềm đánh cắp có lưu thông tin xác thực (đăng nhập) ChatGPT.

Cụ thể, nền tảng Threat Intelligence của Group-IB đã tìm thấy các thông tin xác thực bị xâm phạm này trong các logs của phần mềm độc hại đánh cắp thông tin được giao dịch trên các thị trường Dark Web trái phép trong năm vừa qua. Số lượng các logs có sẵn chứa các tài khoản ChatGPT bị lộ lọt đã đạt mức cao nhất là 26.802 vào tháng 5/2023.

Theo các kết quả nghiên cứu của Group-IB, khu vực châu Á - Thái Bình Dương là nơi có tập trung số lượng lớn nhất các thông tin xác thực ChatGPT được rao bán trong năm vừa qua.

ChatGPT lưu trữ lịch sử truy vấn của người dùng và các phản hồi của trí tuệ Nhân tạo (AI) - Ảnh: Internet.

Các chuyên gia của Group-IB nhấn mạnh rằng, ngày càng có nhiều nhân viên tận dụng Chatbot (hộp trò chuyện) để tối ưu hóa công việc của họ, có thể đó là công việc phát triển phần mềm hoặc truyền thông kinh doanh. Theo mặc định, ChatGPT lưu trữ lịch sử truy vấn của người dùng và các phản hồi của trí tuệ Nhân tạo (AI). Vì vậy, việc truy cập trái phép vào các tài khoản ChatGPT có thể làm lộ thông tin bảo mật hoặc nhạy cảm. Những thông tin này có thể bị khai thác để phục vụ các cuộc tấn công có chủ đích nhằm vào các công ty và nhân viên của họ.

Theo các phát hiện mới nhất của Group-IB, các tài khoản ChatGPT đã trở nên rất phổ biến với các cộng đồng underground.

Nền tảng Threat Intelligence của Group-IB lưu trữ thư viện dữ liệu dark web lớn, theo dõi các diễn đàn tội phạm mạng, thị trường và cộng đồng kín trong thời gian thực để xác định thông tin xác thực (đăng nhập) bị lộ lọt, thẻ tín dụng bị đánh cắp, mẫu phần mềm độc hại mới, quyền truy cập vào các mạng công ty và tin tức tình báo quan trọng khác cho phép các công ty xác định và giảm thiểu rủi ro mạng trước khi bị thiệt hại thêm. Phân tích của Group-IB về các thị trường underground đã cho thấy, phần lớn các logs chứa các tài khoản ChatGPT đã bị phần mềm đánh cắp thông tin khét tiếng Raccoon xâm phạm. Mức độ phổ biến ngày càng tăng của chatbot hoạt động bằng AI được thể hiện rõ ràng qua sự gia tăng liên tục của các tài khoản ChatGPT bị lộ lọt mà nhóm Threat Intelligence của Group-IB đã quan sát được trong suốt năm vừa qua.

Group-IB phân tích thị trường underground: Raccoon xâm nhập và đánh cắp tài khoản ChatGPT. Tài khoản ChatGPT lộ thông tin gia tăng theo thời gian - Ảnh: Internet.

Phần mềm đánh cắp thông tin là một loại phần mềm độc hại thu thập thông tin xác thực (đăng nhập) được lưu trong các trình duyệt, thông tin thẻ ngân hàng, thông tin ví tiền điện tử, cookie, lịch sử duyệt web và các thông tin khác từ trình duyệt được cài đặt trên máy tính bị nhiễm độc. Sau đó, chúng gửi tất cả dữ liệu này cho người điều hành phần mềm độc hại. Các phần mềm đánh cắp thông tin cũng có thể thu thập dữ liệu từ các phần mềm tin nhắn tức thời và email, cùng với thông tin chi tiết về thiết bị của nạn nhân.

Các phần mềm đánh cắp làm việc không chọn lọc. Loại phần mềm độc hại này lây nhiễm cho các máy tính hết mức có thể thông qua thủ đoạn lừa đảo hoặc các phương tiện khác để thu thập càng nhiều dữ liệu càng tốt. Những phần mềm đánh cắp thông tin đã trở thành một nguồn cung cấp dữ liệu cá nhân bị xâm phạm chính do tính đơn giản và hiệu quả của chúng. Các logs chứa thông tin bị xâm phạm do những phần mềm đánh cắp thông tin thu thập được giao dịch sôi nổi trên các thị trường dark web. Thông tin bổ sung về các logs có sẵn trên các thị trường như vậy bao gồm danh sách các tên miền được tìm thấy trong logs cũng như thông tin về địa chỉ IP của máy chủ bị xâm phạm.

Bằng cách phân tích thông tin này, nhóm Threat Intelligence của Group-IB đã xác định được các quốc gia và khu vực có mức độ thiết bị bị nhiễm phần mềm đánh cắp cao nhất có lưu thông tin xác thực ChatGPT. Khu vực châu Á - Thái Bình Dương chứng kiến số lượng tài khoản ChatGPT bị phần mềm đánh cắp thông tin đánh cắp nhiều nhất (40,5%) trong khoảng thời gian từ tháng 6/2022 đến tháng 5/2023.

Nguồn: GenK.