OpenAI tăng cường năng lực quản trị rủi ro

OpenAI đang tuyển một trưởng bộ phận phụ trách chuẩn bị và ứng phó rủi ro, chịu trách nhiệm nghiên cứu, đánh giá và quản lý các rủi ro ngày càng phức tạp phát sinh từ trí tuệ nhân tạo.

Thông tin này được CEO Sam Altman công bố trong một bài đăng trên mạng xã hội X, cho thấy mối quan tâm ngày càng lớn của công ty đối với các tác động ngoài mong đợi của công nghệ AI tiên tiến.

Theo Sam Altman, các mô hình AI hiện nay đang bắt đầu đặt ra một số thách thức thực sự. Trong đó, đáng chú ý là tác động tiềm tàng tới sức khỏe tâm thần người dùng và khả năng các hệ thống AI trở nên quá giỏi trong lĩnh vực an ninh máy tính, đến mức có thể tự phát hiện ra những lỗ hổng nghiêm trọng. Đây là những rủi ro không chỉ mang tính kỹ thuật mà còn liên quan trực tiếp tới an toàn xã hội.

Altman kêu gọi những ứng viên có năng lực tham gia vào nỗ lực chung nhằm giúp thế giới tận dụng sức mạnh của AI một cách an toàn.

Ông nhấn mạnh mục tiêu kép là trang bị cho các chuyên gia an ninh mạng những công cụ tiên tiến nhất, đồng thời ngăn chặn việc các khả năng đó bị kẻ xấu lợi dụng.

Cách tiếp cận tương tự cũng được áp dụng với các lĩnh vực nhạy cảm khác như sinh học và các hệ thống có khả năng tự cải tiến.

Theo mô tả công việc, vị trí này sẽ chịu trách nhiệm triển khai khung chuẩn bị của OpenAI. Đây là khuôn khổ giải thích cách công ty theo dõi, đánh giá và chuẩn bị cho những khả năng AI tiên tiến có thể tạo ra các rủi ro mới, dẫn tới thiệt hại nghiêm trọng nếu không được kiểm soát.

OpenAI lần đầu công bố thành lập nhóm này vào năm 2023, với nhiệm vụ nghiên cứu các rủi ro tiềm tàng.

Các rủi ro này trải rộng từ những mối đe dọa trước mắt như lừa đảo trực tuyến, tấn công mạng, cho tới các kịch bản mang tính suy đoán hơn nhưng có hậu quả lớn.

Tuy nhiên, chưa đầy một năm sau, Trưởng bộ phận Chuẩn bị và Ứng phó khi đó là Aleksander Madry đã được điều chuyển sang vị trí tập trung vào nghiên cứu lý luận AI. Một số lãnh đạo khác phụ trách an toàn cũng rời công ty hoặc đảm nhiệm vai trò mới.

Gần đây, OpenAI đã cập nhật Khung Chuẩn bị, trong đó cho biết công ty có thể điều chỉnh các yêu cầu an toàn nếu một phòng thí nghiệm AI cạnh tranh tung ra mô hình rủi ro cao mà không có biện pháp bảo vệ tương tự.

Động thái này làm dấy lên tranh luận về việc liệu áp lực cạnh tranh có thể làm suy yếu các tiêu chuẩn an toàn hay không.

Bên cạnh đó, các chatbot AI tạo sinh, trong đó có ChatGPT, đang chịu sự giám sát ngày càng chặt chẽ về tác động đối với sức khỏe tâm thần.

Một số vụ kiện gần đây cho rằng chatbot AI có thể củng cố những nhận thức sai lệch và làm gia tăng sự cô lập xã hội của người dùng. OpenAI cho biết họ đang tiếp tục cải thiện khả năng nhận diện dấu hiệu căng thẳng cảm xúc và kết nối người dùng với các nguồn hỗ trợ phù hợp.

Việc tìm kiếm trưởng bộ phận phụ trách chuẩn bị và ứng phó rủi ro cho thấy OpenAI đang đứng trước bài toán lớn là làm sao để tiếp tục đổi mới nhanh chóng, đồng thời đảm bảo AI được phát triển và triển khai một cách có trách nhiệm.