Quản trị rủi ro AI để khai thác toàn bộ tiềm năng công nghệ

Quản trị rủi ro từ việc áp dụng AI

Với các quốc gia Đông Nam Á , các lỗ hổng bảo mật bao gồm rủi ro an ninh mạng hoặc tấn công được đa số đề cập đến là những mối quan ngại hàng đầu liên quan đến rủi ro khi sử dụng AI. Các mối quan ngại khác gồm các vấn đề liên quan đến quyền riêng tư, ví dụ như vi phạm dữ liệu cá nhân hoặc thông tin bảo mật và xâm phạm quyền riêng tư từ việc giám sát tràn lan.

Đây là kết quả được ghi nhận tại báo cáo "AI ở ngã rẽ: Xây dựng niềm tin là con đường để mở rộng quy mô" do Deloitte (Deloitte Access Economics) và Viện AI Deloitte thực hiện.

Báo cáo được xây dựng dựa trên khảo sát với gần 900 nhà quản lý cấp cao tại 13 vùng lãnh thổ thuộc châu Á – Thái Bình Dương, trong đó có 6 nước thuộc Đông Nam Á – cụ thể là Indonesia, Malaysia, Philippines, Singapore, Thái Lan và Việt Nam.

Tại Singapore, với gần như tất cả người tham gia khảo sát cho biết các lỗ hổng bảo mật (96%) và vi phạm quyền riêng tư (94%) là những điểm đáng lo ngại – và điều này phù hợp với phát hiện rằng 35% người tham gia khảo sát ở Singapore cho biết số lượng sự cố tại tổ chức của họ tăng trong năm tài chính vừa qua, ghi nhận mức cao nhất trong các quốc gia Đông Nam Á trong khảo sát.

Ông Chris Lewin, Lãnh đạo Năng lực và Dữ liệu AI, Deloitte châu Á – Thái Bình Dương và Đông Nam Á, cho biết: “Tốc độ và quy mô áp dụng AI gia tăng một cách nhanh chóng khiến các tổ chức đang gặp phải các rủi ro liên quan đến AI ngay trong quá trình thử nghiệm và triển khai công nghệ này. Đông Nam Á và rộng hơn là châu Á – Thái Bình Dương là điểm nóng cho các cuộc tấn công mạng, các quan ngại về các lỗ hổng bảo mật, có thể phát sinh từ chính các giải pháp AI cũng như lượng dữ liệu khổng lồ mà các giải pháp này sử dụng hoặc kết hợp của cả hai được ưu tiên hàng đầu. Tuy nhiên, chúng tôi nhận thấy rằng các tổ chức đã triển khai các kế hoạch ứng phó và khắc phục sự cố thường ít lo ngại về những rủi ro như vậy. Từ đó, có thể thấy rõ tầm quan trọng của việc quản trị hiệu quả đối với việc giải quyết những lo ngại liên quan đến việc sử dụng AI”.

Còn với những rủi ro hàng đầu tại Việt Nam, ông Đỗ Danh Thanh, Phó Tổng Giám đốc Dịch vụ rư vấn công nghệ và chuyển đổi CNTT, Deloitte Việt Nam cho biết: “Xâm phạm quyền riêng tư cũng là 1 trong 3 rủi ro mà các tổ chức ở Việt Nam quan ngại nhất liên quan đến việc sử dụng AI, bên cạnh rủi ro về chia sẻ trách nhiệm giữa kỹ sư phần mềm và người dùng hệ thống AI, rủi ro về mức độ tin cậy của kết quả đầu ra… Tuy nhiên, nếu các tổ chức xác định rõ chiến lược và tầm nhìn triển khai AI từ những giai đoạn đầu tiên khi triển khai, các rủi ro có thể giảm thiểu và được quản trị một cách tốt hơn”.

Xây dựng AI đáng tin cậy

Theo Deloitte, đầu tư vào AI dự kiến sẽ đạt 110 tỷ USD vào năm 2028 tại khu vực châu Á – Thái Bình Dương, điều đó cho thấy yêu cầu cần có các khung quản trị vững chắc, nhằm hỗ trợ các doanh nghiệp áp dụng AI hiệu quả hơn, xây dựng niềm tin của khách hàng và hướng tới khai thác giá trị và mở rộng quy mô.

Khảo sát cho thấy trên khắp châu Á – Thái Bình Dương, các tổ chức có khung quản trị AI ở mức "trưởng thành" có số lượng nhân viên sử dụng các giải pháp AI tăng 28% và đã triển khai AI thêm trong ba lĩnh vực khác của doanh nghiệp. Các doanh nghiệp này có tốc độ tăng trưởng doanh thu cao hơn gần 5% so với những doanh nghiệp có công tác quản trị kém phát triển hơn.

Báo cáo của Deloitte đưa ra 4 khuyến nghị chính:

Thứ nhất, ưu tiên quản trị AI để thu được lợi nhuận từ AI. Cần liên tục rà soát công tác quản trị AI trên các phương diện gồm chính sách, nguyên tắc, thủ tục và kiểm soát của tổ chức. Điều này bao gồm việc theo dõi các quy định đang thay đổi tại từng khu vực pháp lý và ngành nghề cụ thể để luôn đi bắt nhịp/đi tiên phong so với các tiêu chuẩn quản trị AI.

Thứ hai, hiểu rõ và tận dụng chuỗi cung ứng AI rộng lớn hơn. Các tổ chức cần hiểu rõ việc sử dụng AI của chính họ cũng như trong tương tác với chuỗi cung ứng AI rộng lớn hơn – bao gồm các đơn vị phát triển, đơn vị triển khai, cơ quan quản lý, đơn vị cung cấp nền tảng, người dùng và khách hàng và thường xuyên thực hiện các đợt kiểm tra trong suốt vòng đời giải pháp AI.

Thứ ba, xây dựng các đơn vị quản lý rủi ro, không phải đơn vị né tránh rủi ro. Phát triển các kỹ năng và nâng cao năng lực của nhân viên có thể giúp các tổ chức xác định, đánh giá và quản lý rủi ro tiềm ẩn tốt hơn, từ đó ngăn ngừa hoặc giảm thiểu các vấn đề thay vì hoàn toàn né tránh.

Thứ tư, truyền thông và đảm bảo sự sẵn sàng chuyển đổi AI trong phạm vi toàn doanh nghiệp. Các tổ chức nên minh bạch về chiến lược AI của họ trong dài hạn, các lợi ích và rủi ro liên quan, đào tạo các bộ phận về cách sử dụng các mô hình AI, đồng thời đào tạo bổ sung các kỹ năng mới cho những nhân sự đang đảm nhận các vị trí có thể bị chịu ảnh hưởng từ việc áp dụng AI.

“Sự suy giảm niềm tin của người tiêu dùng và thiệt hại đối với danh tiếng thương hiệu có thể gây ra những tác động lâu dài, khiến việc quản lý hiệu quả AI và an ninh mạng trở thành vấn đề thiết yếu đối với các doanh nghiệp. Người tiêu dùng ưa thích các công ty sử dụng AI bám sát theo các tiêu chuẩn đạo đức như tính minh bạch, với 45% những người tham gia khảo sát tin rằng công tác quản trị vững chắc sẽ giúp cải thiện danh tiếng của tổ chức. Tuy nhiên, nghiên cứu của chúng tôi chỉ ra rằng các tổ chức đang có xu hướng đánh giá quá cao mức độ sẵn sàng về công tác quản trị AI”, Rob Hillard, Phó Tổng giám đốc phụ trách, Dịch vụ Tư vấn của Deloitte châu Á – Thái Bình Dương cho biết.

Ông Rob Hillard nói thêm: "Các nhà lãnh đạo cấp cao cần thực hiện hành động ngay nhằm tăng cường các hoạt động quản trị AI hiện tại để khai thác lợi ích của AI, cũng như chuẩn bị cho các quy định AI mới nổi sẽ ảnh hưởng đến thành công của doanh nghiệp trong tương lai".