Theo nhật báo TheGuardian mới đây đưa tin, Nhà khoa học, Giáo sư Geoffrey Hinton, người năm nay được trao giải Nobel Vật lý cho công trình nghiên cứu về AI , cho biết có "10% đến 20%" khả năng AI sẽ dẫn đến sự tuyệt chủng của con người trong vòng ba thập kỷ tới.
Trước đó 1 năm GS Hinton từng nói rằng có
10% khả năng công nghệ này gây ra hậu quả thảm khốc cho nhân loại.
Đây là chia sẻ mới nhất của nhân nhân vật
tiên phong trong lĩnh vực trí tuệ nhân tạo (AI) với người dẫn chương trình Today
của đài BBC Radio 4 rằng liệu ông có thay đổi phân tích của mình về khả năng xảy
ra ngày tận thế bởi sự ra đời của AI. Câu trả lời của GS Hinton đã khiến biên tập viên khách mời của Today, cựu thủ tướng Sajid Javid, phải
thốt lên rằng “nghĩa là khả năng này đang đi lên?”, và GS Hinton đã trả lời: “Như bạn thấy đó, chúng ta chưa bao giờ phải đối phó với những thứ thông minh hơn
chính mình từ trước tới nay”.
Ông
nói thêm: “Bạn biết bao nhiêu, ví dụ về một thứ thông minh hơn được điều khiển
bởi một thứ kém thông minh hơn? Có rất ít ví dụ về điều này chẳng hạn như có một
người mẹ và đứa con. Và quá trình tiến hóa đã bỏ rất nhiều công sức để cho phép
đứa con điều khiển được cả người mẹ, và đây là ví dụ duy nhất mà tôi biết.”
Ông
Hinton sinh ra ở London, là giáo sư danh dự tại Đại học Toronto, cho biết con
người sẽ giống như 1 đứa trẻ mới biết đi khi so sánh với trí thông minh của các
hệ thống AI cực kỳ mạnh mẽ.
“Tôi
thích nghĩ về điều đó như thế này: hãy tưởng tượng bạn và một đứa trẻ ba tuổi.
Chúng ta sẽ là những đứa trẻ ba tuổi,” ông nói.
Nhà khoa học người Anh - Hinton, năm ngoái
đã trở thành tiêu điểm của giới công nghệ sau khi từ chức khỏi công việc của
mình tại Google, và có những chia sẻ cởi mở hơn về những rủi ro do sự phát triển
AI không bị hạn chế gây ra. GS Hinton nêu ra mối lo ngại về việc "những kẻ
xấu" sẽ sử dụng công nghệ này để gây hại cho người khác. Và mối quan tâm
chính của những người vận hành an toàn AI là việc tạo ra trí thông minh nhân tạo
nói chung, hoặc các hệ thống thông minh hơn con người, có thể dẫn đến công nghệ
này gây ra mối đe dọa hiện hữu bằng cách trốn tránh sự kiểm soát của con người.
Giáo sư Geoffrey Hinton
GS Hinton nhấn mạnh rằng tiến trình phát
triển AI đã “nhanh hơn nhiều” so với ông nghĩ và kêu gọi ban hành quy định để đảm
bảo an toàn. Ông cảnh báo không nên chỉ dựa vào động cơ lợi nhuận của các công
ty, và cho rằng “điều duy nhất có thể buộc những công ty lớn đó nghiên cứu
nhiều hơn về an toàn là các quy định của chính phủ”.
Vào tháng 5/2023, Trung tâm An toàn AI đã
công bố một tuyên bố có chữ ký của các nhà khoa học nổi tiếng trong lĩnh vực
này, bao gồm cả GS Hinton, cảnh báo rằng "giảm thiểu nguy cơ tuyệt chủng
do AI nên là ưu tiên toàn cầu cùng với các rủi ro khác như đại dịch và chiến
tranh hạt nhân".
Trong số những người ký tên có Giám đốc điều
hành Tesla Elon Musk, đồng sáng lập Apple Steve Wozniak và Yoshua Bengio, đều là
những người được coi là người tiên phong về AI.
GS Hinton tin rằng các hệ thống AI cuối
cùng có thể vượt qua trí thông minh của con người, thoát khỏi sự kiểm soát của
con người và có khả năng gây ra tác hại thảm khốc cho nhân loại. Ông ủng hộ việc
dành nhiều nguồn lực đáng kể để đảm bảo an toàn cho AI và sử dụng công nghệ này
một cách có đạo đức, đồng thời nhấn mạnh nhu cầu cấp thiết về các biện pháp chủ
động trước khi quá muộn.
GS Hinton là một trong ba “cha đẻ của AI”
đã giành giải thưởng ACM AM Turing - giải thưởng khoa học máy tính tương đương
với giải Nobel - cho công trình của họ. Tuy nhiên, khác với quan điểm của GS Hinton
một trong ba người Yann LeCun - nhà khoa học trưởng phụ trách AI tại Meta của
Mark Zuckerberg, người có góc nhìn tích cực hơn về công nghệ AI và cho rằng AI “thực
sự có thể cứu nhân loại khỏi sự tuyệt chủng”.
Theo Guardian