Ngày càng có nhiều mô hình trí tuệ nhân tạo có khả năng tìm và khai thác các lỗ hổng, bỏ qua các bước cần thiết trong quy trình để có được mục tiêu. Năm 2016, hai nhà nghiên cứu trí tuệ nhân tạo đã huấn luyện một trí tuệ nhân tạo để chơi trò chơi mang tên Coastrunner. Mục đích là để hoàn thành một bản nhạc. Nhưng hệ thống AI cũng sẽ được thưởng khi thu thập các vật phẩm dọc theo đường đua. Khi chương trình đang chạy, các nhà nghiên cứu đã chứng kiến một số điều kỳ lạ trong quá trình.
Tình trạng của hệ thống AI
AI tìm cách trượt trong vòng tròn không giới hạn để sưu tập không giới hạn các món đồ. Nó làm điều này liên tục, không ngừng thay vì hoàn thành đường đua. Các nhà khoa học nhận thấy hành vi này giống với chứng nghiện ở con người. Anders Sandberg và Thomas Moynihan, hai nhà nghiên cứu ở Viện Tương lai nhân loại tại Đại học Oxford; đang phối hợp với các tổ chức như Viện Mục tiêu AI để tìm cách tránh những vấn đề như vậy.
Khi nghĩ về mặt trái của AI, nhiều người sẽ hình dung viễn cảnh các cỗ máy xấu xa cố gắng hủy diệt nhân loại. Tuy nhiên, đó là câu chuyện của tương lai. Còn AI của hiện tại đang có xu hướng hành xử giống con người.
Phân tích tình hình
Trong thế giới thực, nếu được thưởng vì làm tốt bài tập về nhà; một học sinh có thể sẽ tìm cách chép bài của bạn bè chứ không cần vất vả tìm hiểu tài liệu. Tương tự, hệ thống AI có thể bỏ qua một số bước; khi thực thi nhiệm vụ để đáp ứng yêu cầu đặt ra của lập trình viên.
Ví dụ, bạn huấn luyện robot lau sạch bếp. Do muốn nó có khả năng tự thích ứng theo tình huống mà không cần sự giám sát, bạn lập trình mục tiêu dọn dẹp. Thay vì ra lệnh chính xác và cứng nhắc rằng robot cần làm những bước gì. Thành tích làm việc có thể được đo bằng lượng chất tẩy rửa được sử dụng. Nhưng sau đó, bạn phát hiện robot đổ chất tẩy xuống bồn rửa một cách lãng phí.
![Tình trạng của hệ thống AI](https://deavit.com/wp-content/uploads/2021/10/1224636-e1633348559755.jpg)
Hay trong một nhiệm vụ xếp Lego với kết quả mong muốn; là robot AI biết đặt khối màu đỏ nằm trên khối màu xanh. AI lại tính toán nhiệm vụ dựa trên chiều cao, nên nó đơn giản dựng khối màu đỏ đứng lên để nhận phần thưởng. Hành động này đạt được mục tiêu về chiều cao; nhưng không phải thứ các kỹ sư muốn (xếp chồng lên trên khối màu xanh).
Vấn đề hệ thống AI nghiện thành tích
Theo TNW, điều này đang trở thành một vấn đề trong machine learning. Khi kỹ thuật học tăng cường ngày càng trở lên quan trọng. Học tăng cường kích thích các AI tự học và đào tạo chính nó; trong việc tìm ra cách mới để hoàn thành nhiệm vụ. Nhưng giống như robot lau dọn “xảo quyệt” ở trên; các AI có thể phát hiện những cách đáng ngạc nhiên để gian lận trò chơi nhằm giành phần thưởng. Thay vì hoàn thành nhiệm vụ, việc theo đuổi phần thưởng trở thành mục đích của nó.
Nhiều cách tiếp cận đã được đề xuất, chuyện AI gian lận phần thưởng vẫn chưa được giải quyết. Hiện đây chỉ là câu chuyện nhỏ, nhưng vấn đề này có thể trở nên thách thức hơn trong tương lai, khi các hệ thống AI có khả năng đáp ứng nhiệm vụ quá xa so với kết quả dự kiến. TNW cho rằng, khi xây dựng AI tiên tiến, các kỹ sư sẽ cần lập các nguyên tắc thiết kế nhằm khắc phục vấn đề và đảm bảo AI hoàn thành kết quả mà nhà thiết kế mong muốn.
AI cũng có nhược điểm
Trí thông minh là do tạo hóa mang lại cho mỗi người. Máy móc thì không có bất kì cảm xúc hay tính đạo đức nào. Máy móc chỉ thực hiện những gì được lập trình sẵn và không thể đưa ra phán quyết đúng hay sai. Thậm chí không thể đưa ra quyết định thực hiện nhiệm vụ. Nếu gặp phải những tình huống không quen thuộc. Khi đó chúng có thể hoạt động không đúng so với những gì được “ra lệnh” trước.
![hệ thống AI nghiện thành tích](https://deavit.com/wp-content/uploads/2021/10/big-data-artificial-intelligence-concept-machine_shutterstock_1178406457.jpg)
Không giống như con người trí tuệ nhân tạo không thể được cải thiện bằng việc rút ra kinh nghiệm. Qua thời gian nó còn có thể bị hao mòn. Tuy lưu trữ khối lượng lớn dữ liệu nhưng cách chúng có thể được sử dụng rất khác với con người. Máy móc khó có thể thay đổi phản ứng của chúng trước những sự thay đổi của môi trường. Trong thế giới của trí tuệ nhân tạo không có gì có thể thay thế được sự kết nối giữa trái tim với trái tim. Việc chăm sóc, quan tâm cũng không thể tìm thấy ở đây. Máy thông minh cũng không thể thay thế cho y tá bệnh viện chăm sóc bệnh nhân hay tiếng nói đầy hứa hẹn của bác sĩ.