Một nhóm nghiên cứu từ Đại học Trung tâm Florida đã công bố một nghiên cứu và nêu bật những trở ngại mà nhân loại phải giải quyết để đảm bảo rằng trí tuệ nhân tạo (AI) đáng tin cậy, an toàn và phù hợp với các giá trị của con người.

Khi công nghệ AI ngày càng trở nên phổ biến trong các khía cạnh khác nhau trong cuộc sống của chúng ta, thì nó cũng đưa ra vô số thách thức cần được xem xét kỹ lưỡng.

Sáu thách thức mà nhóm nghiên cứu đã xác định là:

- Thách thức 1, Sức khỏe con người: Trí tuệ nhân tạo có thể khám phá các cơ hội triển khai để nó mang lại lợi ích cho con người. Cũng nên quan tâm đến việc hỗ trợ sức khỏe của người dùng khi tương tác với AI.

- Thử thách 2, có trách nhiệm: AI có trách nhiệm đề cập đến khái niệm ưu tiên phúc lợi của con người và xã hội trong suốt vòng đời của AI. Điều này đảm bảo rằng các lợi ích tiềm năng của AI được tận dụng theo cách phù hợp với các giá trị và ưu tiên của con người, đồng thời giảm thiểu rủi ro về hậu quả không lường trước hoặc vi phạm đạo đức.

- Thách thức 3, quyền riêng tư: Việc thu thập, sử dụng và phổ biến dữ liệu trong các hệ thống AI cần được xem xét cẩn thận để đảm bảo bảo vệ quyền riêng tư của các cá nhân và ngăn chặn việc sử dụng có hại đối với các cá nhân hoặc nhóm.

-Thử thách 4, thiết kế: Các nguyên tắc thiết kế lấy con người làm trung tâm cho các hệ thống AI nên sử dụng một khuôn khổ có thể cung cấp thông tin cho các học viên. Khuôn khổ này sẽ phân biệt giữa AI có rủi ro cực thấp, AI không cần các biện pháp đặc biệt, AI có rủi ro cực cao và AI không được phép sử dụng.

- Thách thức 5, quản trị và giám sát: Cần có một khung quản trị xem xét toàn bộ vòng đời AI từ lúc hình thành ý tưởng đến phát triển và triển khai.

-Thách thức 6, tương tác giữa con người và AI: Để thúc đẩy mối quan hệ đạo đức và bình đẳng giữa con người và các hệ thống AI, điều bắt buộc là các tương tác phải được xác định dựa trên nguyên tắc cơ bản là tôn trọng năng lực nhận thức của con người. Cụ thể, con người phải duy trì quyền kiểm soát hoàn toàn và chịu trách nhiệm đối với hành vi và kết quả của các hệ thống AI.

Nghiên cứu được thực hiện trong hơn 20 tháng, bao gồm quan điểm của 26 chuyên gia quốc tế có nền tảng kiến thức đa dạng về công nghệ AI.

Nhìn chung, những thách thức này là lời kêu gọi cộng đồng khoa học hành động để phát triển và triển khai các công nghệ trí tuệ nhân tạo ưu tiên và mang lại lợi ích cho nhân loại.