Các quan chức Anh đã cảnh báo các tổ chức về việc tích hợp chatbot sử dụng trí tuệ nhân tạo (AI) vào hoạt động của họ, cho biết ngày càng có nhiều nghiên cứu chỉ ra rằng các nền tảng này có thể bị lừa để thực hiện nhiệm vụ gây hại.
Các chatbot như ChatGPT là nền tảng ứng dụng các thuật toán giúp tạo ra tương tác giống con người, hay còn được gọi là các “mô hình ngôn ngữ lớn” (LLM). Theo Trung tâm An ninh mạng Quốc gia Anh (NCSC), giới chuyên gia vẫn chưa hiểu rõ những vấn đề an ninh tiềm ẩn đi kèm với các thuật toán như vậy.
Một số người tin rằng chatbot sẽ thay thế các công cụ tìm kiếm trên internet, cũng như việc bán hàng từ xa và chăm sóc khách hàng. Song NCSC cảnh báo điều đó có thể mang lại rủi ro, đặc biệt nếu chatbot được tích hợp vào quy trình chính thức của các tổ chức. Các nhà nghiên cứu đã nhiều lần “hạ bệ” chatbot bằng cách đưa cho chúng những mệnh lệnh gây hại hoặc đánh lừa chúng phá vỡ hàng rào bảo vệ của chính mình.
T.P