Trong một sự kiện gần đây của Cục Dự trữ Liên bang Mỹ (FED) về tác động kinh tế và xã hội của trí tuệ nhân tạo (AI), Sam Altman, CEO của OpenAI – công ty phát triển ChatGPT, đã lên tiếng cảnh báo về những rủi ro tiềm ẩn mà thế giới có thể đối mặt do sự phát triển nhanh chóng của AI.
Ông Altman bày tỏ lo ngại sâu sắc về khả năng giả mạo giọng nói và hình ảnh bằng AI, vốn đang đạt đến mức độ tinh vi có thể vượt qua nhiều hình thức xác thực hiện nay. Hiện vẫn có các tổ chức tài chính chấp nhận sử dụng giọng nói như một phương thức xác minh để chuyển tiền hoặc thực hiện các hành động quan trọng, điều mà ông Altman coi là “thực sự nguy hiểm”. AI hiện đã có khả năng đánh bại gần như toàn bộ các phương thức xác thực hiện có, ngoại trừ mật khẩu.
Không chỉ dừng lại ở đó, ông Altman cũng bày tỏ sự quan tâm đến viễn cảnh siêu AI có thể bị các thế lực thù địch lạm dụng trong khi phần còn lại của thế giới chưa đủ khả năng phòng thủ. Ông lo lắng về việc một kẻ xấu có thể tạo ra siêu AI trước phần còn lại của thế giới và sử dụng nó để tấn công lưới điện hay chế tạo vũ khí sinh học. Điều này cho thấy thế giới chưa sẵn sàng đối mặt với những công nghệ mới như video và cuộc gọi AI giả mạo, vốn có thể không thể phân biệt được với người thật.
Trước những rủi ro này, ông Altman cũng lên tiếng về việc cần tìm kiếm giải pháp kiểm soát AI và ủng hộ sáng kiến The Orb – một thiết bị giúp xác minh người dùng là con người thật trong môi trường kỹ thuật số. Ông kỳ vọng dự án này sẽ trở thành một nền tảng “chứng thực nhân dạng” trong thế giới mà AI có thể dễ dàng giả mạo mọi thứ.
Ông Altman khẳng định OpenAI không phát triển các công cụ tạo video hay giọng nói giả mạo, nhưng ông thừa nhận các công nghệ đó đang tiến bộ rất nhanh, không chỉ tại Mỹ mà còn ở các quốc gia khác. Ông cũng bày tỏ lo lắng về một cuộc khủng hoảng toàn cầu về sự thật và lòng tin do sự phát triển không kiểm soát của AI.
Trước đó, đã có nhiều sự cố liên quan đến deepfake gây chấn động dư luận. Gần đây, các chuyên gia tại Việt Nam cũng lên tiếng trước một số trào lưu sử dụng deepfake để tạo nội dung câu like, câu view. Luật sư Đăng Ngọc Duệ, Giám đốc Công ty Luật TNHH Phụng Sự Công Lý, cho biết tùy thuộc vào nội dung hình ảnh, video được dàn dựng, mục đích của người sản xuất/phát tán sẽ có các lỗi và quy định xử lý riêng.