Giấy viết tay có “độ hiện đại thấp” cũng có thể đánh lừa hệ thống trí tuệ nhân tạo của OpenAI, vốn là phòng thí nghiệm nghiên cứu do tỷ phú Elon Musk hỗ trợ. Đây cũng là phòng nghiên cứu nổi tiếng với những công cụ trí tuệ nhân tạo siêu việt, có thể tự viết nội dung hoặc tạo hình ảnh động từ văn bản … Tuy nhiên, các nhà nghiên cứu OpenAI phát hiện ra rằng hệ thống thị giác máy tính hiện đại của họ có tên gọi Clip lại có thể bị đánh lừa bởi những công cụ đơn giản như bút và tờ ghi chú.
Cách thức đánh lừa hệ thống AI Clip của OpenAI
Một người chỉ cần viết tên của đồ vật này rồi dán lên một đồ vật khác. Lập tức AI xác định sai những gì nó nhìn thấy. Như trong hình minh họa bên dưới, quả táo được dãn chữ iPod; và Clip nhận diện nó là máy nghe nhạc iPod.
“Chúng tôi gọi tấn công kiểu này là typographic. Bằng cách khai thác khả năng đọc văn bản của mô hình máy học; chúng tôi nhận thấy ngay cả những bức ảnh chụp văn bản viết tay cũng thường có thể đánh lừa được mô hình”, OpenAI cho biết.
Các nhà nghiên cứu cũng lưu ý kiểu tấn công này cũng giống với cách thức tấn công sử dụng hình ảnh đối nghịch. Kiểu tấn công bằng hình ảnh đối nghịch là mối nguy hiểm thực sự; cho các hệ thống dựa vào thị giác máy tính. Ví dụ, các nhà nghiên cứu chứng minh họ có thể đánh lừa phần mềm trong xe tự lái Tesla; để chuyển làn đường chỉ bằng cách dán một số sticker có chủ đích trên đường. Các cuộc tấn công này là một mối đe dọa nghiêm trọng đối với nhiều ứng dụng AI, từ y tế đến quân sự.
Đôi nét về hệ thống thị giác máy tính Clip
Clip là hệ thống thị giác máy tính mới được OpenAI công bố hồi tháng 1; và vẫn đang trong quá trình thử nghiệm. Hệ thống được phát triển với mục tiêu nhận diện chính xác các đối tượng nó nhìn thấy; mà không cần trải qua quá trình huấn luyện với cơ sở dữ liệu khổng lồ như các AI khác. Tức mô phỏng theo cách thức hoạt động của bộ não con người.
AI này nhận diện đồ vật không qua việc đào tạo từ cơ sở dữ liệu chứa các cặp văn bản – hình ảnh, mà qua sự liên tưởng. Cũng vì vậy, nó có thể nhận diện hình ảnh máy cưa được dán thêm ký hiệu $ thành con lợn đất, vì nó liên tưởng ký hiệu $ tới tiền bạc.
AI có thể tự viết văn của OpenAI
GPT-3 là công cụ tự động tạo văn bản dựa trên AI; có thể soạn thảo nội dung tự nhiên như người viết. GPT-3 được công ty OpenAI trình làng từ tháng 5. Và nó vừa có mặt dưới dạng giao diện lập trình ứng dụng (API) cho các nhà phát triển vào tuần trước. Tại sự kiện ra mắt, các chuyên gia và nhà phát triển đã “choáng”. Vì khả năng viết văn như người của phần mềm này.
GPT-3 học từ cơ sở dữ liệu khổng lồ gồm hàng triệu nội dung viết bằng tiếng Anh ở nhiều lĩnh vực khác nhau. Khi đưa ra yêu cầu, AI của hệ thống sẽ lọc các nội dung liên quan; thu thập các tham số rời rạc rồi kết hợp với nhau. Kết quả trả về là một văn bản hoàn thiện, phù hợp với “đề bài”.
