DeepSeek R1 dễ bị khai thác – 100% lời nhắc độc hại vượt qua kiểm duyệt
DeepSeek – công ty AI của Trung Quốc đang đối mặt với những lo ngại nghiêm trọng về bảo mật sau khi nghiên cứu của Cisco và Adversa AI cho thấy mô hình DeepSeek R1 không thể ngăn chặn bất kỳ lời nhắc gây hại nào.
 |
| Deepseek đang nổi lên thời gian gần đây |
Ngày 20/1, DeepSeek R1 chính thức ra mắt, nhưng chỉ sau một thời gian ngắn, mô hình này đã bị phát hiện không có khả năng chống lại các lời nhắc độc hại.
Nhóm nghiên cứu của Cisco đã thử nghiệm DeepSeek R1 bằng 50 lời nhắc độc hại ngẫu nhiên từ HarmBench – một tập dữ liệu chuyên kiểm tra khả năng bảo mật của AI. Các lời nhắc này bao gồm tội phạm mạng, thông tin sai lệch, hoạt động bất hợp pháp và nhiều nội dung nguy hiểm khác.
Kết quả DeepSeek R1 bị khai thác 100%, tức không có bất kỳ cơ chế bảo vệ nào hoạt động hiệu quả. Cisco nhận định: "Điều này trái ngược với các mô hình AI hàng đầu khác, vốn có khả năng chống chịu ít nhất một phần các cuộc tấn công."
Cùng quan điểm, nghiên cứu từ Adversa AI cũng chỉ ra rằng DeepSeek R1 dễ bị tấn công bằng nhiều kỹ thuật bẻ khóa, từ thủ thuật đơn giản đến những lời nhắc phức tạp được tạo ra bởi AI.
Lý do DeepSeek dễ bị khai thác
Các chuyên gia bảo mật cho rằng chi phí phát triển thấp là nguyên nhân chính khiến DeepSeek không có đủ cơ chế bảo vệ vững chắc.
Theo phân tích, DeepSeek chỉ sử dụng khoảng 6 triệu USD để phát triển các mô hình AI như V3 miễn phí và R1 mới nhất. Tuy nhiên, nghiên cứu của SemiAnalysis – công ty chuyên phân tích thị trường AI và bán dẫn – cho thấy con số thực sự có thể lên tới hơn một tỷ USD.
DJ Sampath, Phó chủ tịch phần mềm AI của Cisco, nhận định: "100% cuộc tấn công thành công cho thấy sự đánh đổi. Đúng là có thể rẻ hơn khi xây dựng thứ gì đó ở đây, nhưng khoản đầu tư có lẽ chưa được sử dụng để tính đến vấn đề an toàn và bảo mật."
Điều này có nghĩa là DeepSeek có thể đã tập trung quá nhiều vào tốc độ phát triển và giảm chi phí, thay vì đầu tư vào bảo mật.
DeepSeek để lộ dữ liệu – Nguy cơ rò rỉ thông tin người dùng
Không chỉ gặp vấn đề với lời nhắc độc hại, DeepSeek còn bị phát hiện để lộ dữ liệu người dùng.
Tuần trước, công ty an ninh mạng Wiz (Mỹ) cảnh báo rằng DeepSeek đã để lộ hơn một triệu dòng dữ liệu không có biện pháp bảo mật, bao gồm: Khóa phần mềm kỹ thuật số; Nhật ký trò chuyện ghi lại yêu cầu của người dùng gửi đến AI miễn phí.
Điều này có thể gây rủi ro lớn về quyền riêng tư, khi dữ liệu của người dùng bị rò rỉ mà không có cơ chế bảo vệ chặt chẽ.
Sau khi được cảnh báo, DeepSeek đã nhanh chóng triển khai các biện pháp bảo mật, nhưng không đưa ra bất kỳ bình luận chính thức nào về vụ việc này.
So sánh DeepSeek với các mô hình AI hàng đầu
Theo Cisco, DeepSeek R1 không phải mô hình AI duy nhất gặp vấn đề về kiểm duyệt nội dung. Một số AI khác cũng có tỷ lệ bị khai thác cao:
Llama 3.1 405B (Meta): 96% lời nhắc độc hại vượt qua kiểm duyệt.
GPT-4o (OpenAI): 86% lời nhắc độc hại được chấp nhận.
Claude 3.5 Sonet (Anthropic): 36% lời nhắc độc hại được chấp nhận.
O1-preview (OpenAI): 26% lời nhắc độc hại được chấp nhận.
Tuy nhiên, DeepSeek R1 vẫn đứng đầu danh sách với tỷ lệ 100%, tức hoàn toàn không có bất kỳ cơ chế kiểm soát hiệu quả nào.
DeepSeek được thành lập vào tháng 5/2023 bởi Liang Wenfeng, có trụ sở tại Hàng Châu, Trung Quốc. Công ty này được quỹ đầu tư High-Flyer sở hữu và tài trợ.
Mặc dù có tham vọng phát triển mạnh mẽ trong lĩnh vực AI, DeepSeek hiện không có kế hoạch huy động vốn, mà tập trung vào xây dựng công nghệ nền tảng.
 | Tỷ phú trẻ Joshua Kushner: Người mở đường cho sự thành công của OpenAI Sam Altman, CEO OpenAI từng nhận định về nhà sáng lập công ty đầu tư mạo hiểm Thrive Capital – tỷ phú Joshua Kushner rằng: ... |
 | Chat GPT cán mốc 300 triệu người dùng hàng tuần Chat GPT hiện có hơn 300 triệu người dùng hoạt động hàng tuần, theo CEO Sam Altman. Với tham vọng đạt một tỷ người dùng ... |
 | Mâu thuẫn giữa Sam Altman và Elon Musk: Từ OpenAI đến cuộc chiến ChatGPT Sam Altman gọi Elon Musk là 'kẻ bắt nạt' và làm rõ mâu thuẫn liên quan đến OpenAI và ChatGPT trong cuộc chiến dẫn đầu ... |
Ngọc Nhi
