'Bố già của AI' đã rời Google - và nói rằng giờ đây anh ấy hối hận về vai trò của mình khi tạo ra công nghệ gây ra mối đe dọa cho nhân loại
Gần đây, sau khi rời bỏ sự nghiệp kéo dài hàng thập kỷ của mình tại Google, Geoffrey Hinton, biệt danh "Bố già của AI", nói với The New York Times rằng ông rất hối hận về vai trò nền tảng của mình trong việc phát triển công nghệ.
"Tôi tự an ủi mình với lý do bình thường: Nếu tôi không làm thì người khác sẽ làm. Thật khó để biết làm thế nào bạn có thể ngăn chặn những kẻ xấu sử dụng nó cho mục đích xấu", Hinton, người từng làm việc tại Google cho biết thêm. hơn một thập kỷ, nói với tờ Times.
Việc Hinton rời công ty diễn ra vào thời điểm cuộc đua phát triển các sản phẩm hỗ trợ AI, như chatbot Bard của Google và ChatGPT của OpenAI, đang nóng lên. Hinton, người có những phát triển trong lĩnh vực AI từ nhiều thập kỷ trước đã giúp mở đường cho việc tạo ra những chatbot này, nói với tờ Times rằng giờ đây ông lo ngại công nghệ này có thể gây hại cho loài người.
Anh ấy cũng bày tỏ lo ngại về cuộc đua AI hiện đang diễn ra giữa những gã khổng lồ công nghệ và đặt câu hỏi liệu có còn quá xa để phanh lại hay không.
Vào thứ Hai, sau cuộc phỏng vấn của anh ấy với The New York Times, Hinton đã tweet rằng anh ấy rời Google để có thể "nói về sự nguy hiểm của AI mà không cần xem xét điều này tác động đến Google như thế nào", đồng thời nói thêm rằng "Google đã hành động rất có trách nhiệm."
"Geoff đã tạo ra những bước đột phá nền tảng về AI và chúng tôi đánh giá cao những đóng góp trong thập kỷ của anh ấy tại Google", Jeff Dean, nhà khoa học trưởng của Google, cho biết trong một tuyên bố với Insider.
Hinton đã ngay lập tức trả lời yêu cầu bình luận bổ sung của Người trong cuộc trước khi xuất bản.
Một số nhân viên của Google được cho là lo lắng về chatbot AI của công ty
Mặc dù Hinton dường như không loại trừ Google trong bài phê bình tổng thể về bối cảnh AI, nhưng các nhân viên khác của Google đã bày tỏ lo ngại về chatbot AI của công ty.
Sau khi các nhân viên của Google được giao nhiệm vụ thử nghiệm chatbot Bard, một số nhân viên cho biết họ nghĩ rằng công nghệ này có thể nguy hiểm, theo báo cáo của Bloomberg. Các nhân viên đã nói chuyện với Bloomberg cho biết họ nghĩ Google không ưu tiên đạo đức AI và đang cố gắng phát triển công nghệ này một cách nhanh chóng để bắt kịp ChatGPT của OpenAI. Hai nhân viên đã cố gắng ngăn công ty thả Bard, theo báo cáo trước đó từ Times.
"Chúng tôi vẫn cam kết thực hiện một cách tiếp cận có trách nhiệm đối với AI. Chúng tôi không ngừng học hỏi để hiểu những rủi ro mới nổi đồng thời cũng mạnh dạn đổi mới", Dean cho biết trong một tuyên bố và giới thiệu Người trong cuộc về Nguyên tắc AI của công ty và hai bài đăng trên blog của công ty trình bày chi tiết cách thực hiện. nó đang phát triển AI.
Trong cuộc phỏng vấn với tờ Times, Hinton cho biết ông lo lắng các sản phẩm trí tuệ nhân tạo sẽ dẫn đến việc phổ biến thông tin, ảnh và video giả mạo trên internet — và công chúng sẽ không thể xác định được điều gì là đúng hay sai.
Hinton cũng nói về cách các công nghệ AI cuối cùng có thể loại bỏ sức lao động của con người, bao gồm cả trợ lý luật sư, phiên dịch viên và trợ lý. Đây là mối quan tâm mà Giám đốc điều hành của OpenAI Sam Altman và các nhà phê bình khác về công nghệ AI đã lặp lại.
Vào tháng 3, Goldman Sachs đã công bố một báo cáo ước tính 300 triệu việc làm toàn thời gian có thể bị "tác động" bởi các hệ thống AI như ChatGPT, cụ thể là nhân viên hành chính và pháp lý, mặc dù mức độ tác động đó có thể khác nhau. Mối quan tâm cũng đang gia tăng trong số các kỹ sư phần mềm, những người lo lắng công việc của họ sẽ bị thay thế bởi AI.
