OpenAI tăng cường bảo mật cho hệ thống tác nhân AI

Công ty trí tuệ nhân tạo OpenAI vừa thông báo mua lại startup bảo mật AI Promptfoo, động thái nhằm tăng cường khả năng bảo mật cho các hệ thống tác nhân AI đang phát triển nhanh trong môi trường doanh nghiệp.

Theo thông báo đăng tải trên blog của OpenAI, công nghệ của Promptfoo sẽ được tích hợp vào OpenAI Frontier, nền tảng doanh nghiệp của hãng dành cho các tác nhân AI tự động.

Đây là những hệ thống trí tuệ nhân tạo có khả năng tự thực hiện nhiều nhiệm vụ kỹ thuật số mà trước đây cần con người can thiệp.

Trong vài năm gần đây, các tác nhân AI được kỳ vọng sẽ giúp tăng mạnh năng suất làm việc khi có thể tự động xử lý công việc như tìm kiếm thông tin, phân tích dữ liệu hoặc điều phối quy trình.

Tuy nhiên, sự phát triển nhanh chóng của công nghệ này cũng làm dấy lên lo ngại về bảo mật, đặc biệt khi các hệ thống AI có thể tiếp cận dữ liệu nhạy cảm hoặc vận hành các quy trình quan trọng của doanh nghiệp.

Promptfoo được thành lập năm 2024, với mục tiêu xây dựng các công cụ giúp doanh nghiệp kiểm tra lỗ hổng bảo mật trong các mô hình ngôn ngữ lớn (LLM).

Công ty phát triển nhiều công cụ thử nghiệm và thư viện mã nguồn mở cho phép đánh giá mức độ an toàn của hệ thống AI trước các cuộc tấn công hoặc thao túng dữ liệu.

Theo dữ liệu từ PitchBook (công ty cung cấp dữ liệu tài chính, thông tin đầu tư và phân tích thị trường), Promptfoo đã huy động khoảng 23 triệu USD vốn đầu tư kể từ khi thành lập và được định giá 86 triệu USD sau vòng gọi vốn gần nhất vào tháng 7.2025. Giá trị thương vụ với OpenAI không được tiết lộ.

OpenAI cho biết sau khi tích hợp công nghệ của Promptfoo, nền tảng tác nhân AI của họ sẽ có khả năng tự động thực hiện các cuộc “tấn công giả lập” để kiểm tra mức độ an toàn của hệ thống.

Công nghệ này cũng giúp đánh giá các quy trình làm việc của tác nhân AI, giám sát hoạt động để phát hiện rủi ro và hỗ trợ doanh nghiệp đáp ứng các yêu cầu tuân thủ bảo mật.

Bên cạnh đó, OpenAI cho biết họ dự định tiếp tục phát triển các sản phẩm mã nguồn mở của Promptfoo, nhằm giúp cộng đồng lập trình viên và doanh nghiệp kiểm tra và cải thiện mức độ an toàn của các ứng dụng AI.

Thương vụ này được xem là bước đi mới của OpenAI nhằm củng cố niềm tin của doanh nghiệp đối với các hệ thống AI tự động, là lĩnh vực đang được dự báo sẽ đóng vai trò quan trọng trong tương lai của công nghệ trí tuệ nhân tạo.