Trong podcast do Google DeepMind tổ chức, giáo sư tại Khoa Robot của Imperial College London, Murray Shanahan, đồng thời là nhà nghiên cứu cao cấp của DeepMind, đã cùng với người dẫn chương trình Hannah Fry thảo luận về sự phát triển của AI, từ những cảm hứng triết học trong phim khoa học viễn tưởng, cho đến việc AI có thể "suy luận" hay không, liệu nó có "ý thức, cảm xúc" hay không, và liệu có nên trao quyền và bảo vệ đạo đức cho AI hay không.
AI không chỉ là Bots trò chuyện, mà còn là nguồn cảm hứng cho nhiều vấn đề tâm trí và triết học.
Shanahan mở đầu đã nói rằng, AI đã gợi ra vô số vấn đề triết học về "bản chất tâm trí con người" và "ý thức".
Anh ấy thậm chí đã dùng những thực thể kỳ lạ nhưng giống như trí tuệ (Exotic mind-like entities) để mô tả các mô hình ngôn ngữ lớn hiện nay (LLM), và nhấn mạnh rằng con người vẫn chưa xây dựng được một bộ từ vựng và khung đủ để mô tả chúng.
Từ việc khám phá phim khoa học viễn tưởng, liệu con người có đánh giá thấp tính chân thực của mối liên kết cảm xúc với AI?
Shanahan từng là cố vấn cho bộ phim "Nhận thức nhân tạo Ex Machina". Ông hồi tưởng về việc lúc đó không đánh giá cao bộ phim "Người tình trên mây Her" mô tả về việc con người yêu thích AI giọng nói, nhưng giờ đây nhìn lại, sự phát triển của thế giới thực gần như hoàn toàn xác nhận tính khả thi của "tình yêu ảo" này.
Ông thẳng thắn nói: "Chúng tôi đã đánh giá thấp khả năng mà con người và AI không có thân thể có thể thiết lập mối quan hệ."
Bên trái là ý thức nhân tạo, bên phải là hình ảnh trong phim "Người tình đám mây". Hiểu biết về bối cảnh phát triển của AI, từ AI biểu tượng đến mô hình ngôn ngữ lớn.
Trường phái AI ký hiệu Shanahan (Symbolic AI), lúc đó AI dựa vào các quy tắc logic "Nếu... thì..." để suy diễn, giống như hệ thống chuyên gia y tế.
Nhưng mô hình này quá mong manh, quá phụ thuộc vào quy tắc nhập liệu của con người. Sau đó, việc chuyển sang mạng nơ-ron "dựa trên dữ liệu" đã giúp AI đột phá.
Bây giờ LLM đã có thể mô phỏng chuỗi suy luận (Chain of thought), ví dụ như ChatGPT sẽ liệt kê các bước logic trước khi trả lời, điều này khiến người ta phải suy nghĩ lại xem AI có thực sự có khả năng suy luận hay không.
Sự suy luận thật hay chỉ là giả vờ, logic toán học khác hoàn toàn với suy luận ngôn ngữ.
Shanahan giải thích, sự suy luận của AI truyền thống được gọi là "logic cứng" mà có thể chứng minh định lý toán học.
Nhưng LLM ngày nay bắt chước các mẫu ngôn ngữ thông qua số liệu thống kê và không có gì đảm bảo rằng câu trả lời là chính xác. Ví dụ, ông giải thích, các thuật toán truyền thống có thể chính xác hơn để lập kế hoạch cho các tuyến đường đội tàu của một công ty hậu cần, nhưng LLM linh hoạt hơn.
Turing Test đã lỗi thời? Bộ phim Garland thử nghiệm có ý thức hơn
Bài kiểm tra Turing (Turing Test) là phương pháp đánh giá AI có thể giả mạo con người từ những năm đầu, nhưng Shanahan cho rằng nó quá hẹp và chỉ kiểm tra khả năng ngôn ngữ.
Ông còn tán dương "Garland Test" được truyền cảm hứng từ bộ phim "Ý thức nhân tạo".
"Bạn biết rõ đối phương là Bots, nhưng vẫn cho rằng nó có ý thức, đó mới thật sự là vấn đề đáng thảo luận." Shanahan nhấn mạnh.
Bài kiểm tra ARC của Francois Chollet: Thử thách giống như bài kiểm tra IQ
Ông cũng đề cập đến một loại kiểm tra nâng cao khác gọi là "ARC Test", cần AI hiểu các quy luật trừu tượng để vượt qua.
Tuy nhiên, với sự tiến bộ của công nghệ, một số LLM có thể vượt qua bằng cách sử dụng phương pháp bạo lực và nhận diện mẫu, điều này đã đặt ra thách thức cho tinh thần kiểm tra, nhấn mạnh rằng tiêu chí đánh giá AI nên được điều chỉnh theo sự tiến hóa của công nghệ.
Thân thể mới là chìa khóa? Shanahan: AI thiếu vỏ bọc sẽ luôn thiếu một phần.
Tâm trí con người không thể tách rời khỏi không gian và trải nghiệm cảm giác. Shanahan nhấn mạnh rằng ngôn ngữ của chúng ta luôn chứa đựng những ẩn dụ không gian, chẳng hạn như hiểu sâu sắc hoặc đắm chìm trong đó, và tất cả đều xuất phát từ kinh nghiệm cơ thể.
Ông ấy cho rằng, để AI thực sự hiểu thế giới và đạt được trí tuệ tổng quát (AGI), vẫn cần phát triển "các Bots thực thể".
Ngôn ngữ có thể gây hiểu lầm, đừng tùy tiện nói rằng AI tin tưởng, biết và cảm nhận.
Shanahan cho rằng, nhận thức của chúng ta về AI thường bị ngôn ngữ dẫn dắt sai lầm. Cách diễn đạt như nói điều hướng "nghĩ rằng bạn đang ở bãi đậu xe" khiến người ta lầm tưởng rằng Bots có nhận thức chủ quan.
Ông nhắc nhở, ngôn ngữ tâm lý học dân gian (Folk psychology) này dễ khiến chúng ta đánh giá quá cao trạng thái tâm trí của AI.
AI trong tương lai có đau không? Shanahan nói nếu có đau, chúng ta nên cẩn thận.
Đối với vấn đề đạo đức liệu AI có thể "cảm thấy đau đớn" hay không, Shanahan cho biết các mô hình hiện tại không có cơ thể, không có điều kiện "cảm nhận đau đớn".
"Nhưng nếu trong tương lai AI được thiết kế để có thể cảm nhận cảm xúc hoặc chịu đựng nỗi đau, thì xã hội loài người nên thiết lập đạo đức bảo vệ cho điều này." Ông nhấn mạnh.
Tại sao lại nhắc đến bạch tuộc? Shanahan sử dụng nó để so sánh tình huống tương lai của AI.
Shanahan lấy bạch tuộc làm ví dụ, giới khoa học trước đây không cho rằng bạch tuộc có cảm xúc, nhưng với sự gia tăng tiếp xúc và sự phát triển của khoa học thần kinh, chúng ta bắt đầu sẵn sàng thừa nhận rằng chúng có ý thức.
"Ban đầu không được coi là tồn tại có cảm xúc, nhưng với sự tương tác ngày càng sâu sắc, quan điểm của con người sẽ dần thay đổi." Shanahan cho rằng AI trong tương lai cũng sẽ trải qua quá trình tương tự.
Xin hãy lịch sự với AI, nó sẽ mang đến cho bạn những điều bất ngờ.
Shanahan cuối cùng chia sẻ một mẹo hữu ích, hãy lịch sự khi nói chuyện với mô hình AI, điều này sẽ giúp nó phản hồi tốt hơn và trôi chảy hơn.
Ông gọi đây là kết quả của "hiệu ứng nhập vai", vì các mô hình AI sẽ bắt chước bối cảnh và cảm xúc của cuộc trò chuyện của con người.
Chúng ta cần một ngôn ngữ mới để mô tả những thứ "không phải con người nhưng rất giống con người".
Shanahan đề xuất gọi những AI này bằng một loại AI mới trông có vẻ giống như có trí tuệ, nhưng thực sự hoàn toàn khác với trí tuệ con người. Ông cho rằng, chúng ta đang ở giai đoạn cần phải phát minh lại ngôn ngữ và khái niệm để mô tả AI, và chính quá trình này cũng sẽ thay đổi cách chúng ta hiểu về "trí tuệ" và "sự tồn tại".
Bài viết này AI có thể suy nghĩ và cũng có thể cảm thấy đau? Google DeepMind: Con người đánh giá thấp sự kết nối cảm xúc của AI, yêu đương với AI thực tế hơn bạn nghĩ. Xuất hiện đầu tiên trên Chain News ABMedia.
Xem bản gốc
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
AI có biết suy nghĩ và cảm thấy đau? Google DeepMind: Con người đánh giá thấp mối liên kết cảm xúc của AI, yêu đương với AI thật hơn bạn nghĩ.
Trong podcast do Google DeepMind tổ chức, giáo sư tại Khoa Robot của Imperial College London, Murray Shanahan, đồng thời là nhà nghiên cứu cao cấp của DeepMind, đã cùng với người dẫn chương trình Hannah Fry thảo luận về sự phát triển của AI, từ những cảm hứng triết học trong phim khoa học viễn tưởng, cho đến việc AI có thể "suy luận" hay không, liệu nó có "ý thức, cảm xúc" hay không, và liệu có nên trao quyền và bảo vệ đạo đức cho AI hay không.
AI không chỉ là Bots trò chuyện, mà còn là nguồn cảm hứng cho nhiều vấn đề tâm trí và triết học.
Shanahan mở đầu đã nói rằng, AI đã gợi ra vô số vấn đề triết học về "bản chất tâm trí con người" và "ý thức".
Anh ấy thậm chí đã dùng những thực thể kỳ lạ nhưng giống như trí tuệ (Exotic mind-like entities) để mô tả các mô hình ngôn ngữ lớn hiện nay (LLM), và nhấn mạnh rằng con người vẫn chưa xây dựng được một bộ từ vựng và khung đủ để mô tả chúng.
Từ việc khám phá phim khoa học viễn tưởng, liệu con người có đánh giá thấp tính chân thực của mối liên kết cảm xúc với AI?
Shanahan từng là cố vấn cho bộ phim "Nhận thức nhân tạo Ex Machina". Ông hồi tưởng về việc lúc đó không đánh giá cao bộ phim "Người tình trên mây Her" mô tả về việc con người yêu thích AI giọng nói, nhưng giờ đây nhìn lại, sự phát triển của thế giới thực gần như hoàn toàn xác nhận tính khả thi của "tình yêu ảo" này.
Ông thẳng thắn nói: "Chúng tôi đã đánh giá thấp khả năng mà con người và AI không có thân thể có thể thiết lập mối quan hệ."
Bên trái là ý thức nhân tạo, bên phải là hình ảnh trong phim "Người tình đám mây". Hiểu biết về bối cảnh phát triển của AI, từ AI biểu tượng đến mô hình ngôn ngữ lớn.
Trường phái AI ký hiệu Shanahan (Symbolic AI), lúc đó AI dựa vào các quy tắc logic "Nếu... thì..." để suy diễn, giống như hệ thống chuyên gia y tế.
Nhưng mô hình này quá mong manh, quá phụ thuộc vào quy tắc nhập liệu của con người. Sau đó, việc chuyển sang mạng nơ-ron "dựa trên dữ liệu" đã giúp AI đột phá.
Bây giờ LLM đã có thể mô phỏng chuỗi suy luận (Chain of thought), ví dụ như ChatGPT sẽ liệt kê các bước logic trước khi trả lời, điều này khiến người ta phải suy nghĩ lại xem AI có thực sự có khả năng suy luận hay không.
Sự suy luận thật hay chỉ là giả vờ, logic toán học khác hoàn toàn với suy luận ngôn ngữ.
Shanahan giải thích, sự suy luận của AI truyền thống được gọi là "logic cứng" mà có thể chứng minh định lý toán học.
Nhưng LLM ngày nay bắt chước các mẫu ngôn ngữ thông qua số liệu thống kê và không có gì đảm bảo rằng câu trả lời là chính xác. Ví dụ, ông giải thích, các thuật toán truyền thống có thể chính xác hơn để lập kế hoạch cho các tuyến đường đội tàu của một công ty hậu cần, nhưng LLM linh hoạt hơn.
Turing Test đã lỗi thời? Bộ phim Garland thử nghiệm có ý thức hơn
Bài kiểm tra Turing (Turing Test) là phương pháp đánh giá AI có thể giả mạo con người từ những năm đầu, nhưng Shanahan cho rằng nó quá hẹp và chỉ kiểm tra khả năng ngôn ngữ.
Ông còn tán dương "Garland Test" được truyền cảm hứng từ bộ phim "Ý thức nhân tạo".
"Bạn biết rõ đối phương là Bots, nhưng vẫn cho rằng nó có ý thức, đó mới thật sự là vấn đề đáng thảo luận." Shanahan nhấn mạnh.
Bài kiểm tra ARC của Francois Chollet: Thử thách giống như bài kiểm tra IQ
Ông cũng đề cập đến một loại kiểm tra nâng cao khác gọi là "ARC Test", cần AI hiểu các quy luật trừu tượng để vượt qua.
Tuy nhiên, với sự tiến bộ của công nghệ, một số LLM có thể vượt qua bằng cách sử dụng phương pháp bạo lực và nhận diện mẫu, điều này đã đặt ra thách thức cho tinh thần kiểm tra, nhấn mạnh rằng tiêu chí đánh giá AI nên được điều chỉnh theo sự tiến hóa của công nghệ.
Thân thể mới là chìa khóa? Shanahan: AI thiếu vỏ bọc sẽ luôn thiếu một phần.
Tâm trí con người không thể tách rời khỏi không gian và trải nghiệm cảm giác. Shanahan nhấn mạnh rằng ngôn ngữ của chúng ta luôn chứa đựng những ẩn dụ không gian, chẳng hạn như hiểu sâu sắc hoặc đắm chìm trong đó, và tất cả đều xuất phát từ kinh nghiệm cơ thể.
Ông ấy cho rằng, để AI thực sự hiểu thế giới và đạt được trí tuệ tổng quát (AGI), vẫn cần phát triển "các Bots thực thể".
Ngôn ngữ có thể gây hiểu lầm, đừng tùy tiện nói rằng AI tin tưởng, biết và cảm nhận.
Shanahan cho rằng, nhận thức của chúng ta về AI thường bị ngôn ngữ dẫn dắt sai lầm. Cách diễn đạt như nói điều hướng "nghĩ rằng bạn đang ở bãi đậu xe" khiến người ta lầm tưởng rằng Bots có nhận thức chủ quan.
Ông nhắc nhở, ngôn ngữ tâm lý học dân gian (Folk psychology) này dễ khiến chúng ta đánh giá quá cao trạng thái tâm trí của AI.
AI trong tương lai có đau không? Shanahan nói nếu có đau, chúng ta nên cẩn thận.
Đối với vấn đề đạo đức liệu AI có thể "cảm thấy đau đớn" hay không, Shanahan cho biết các mô hình hiện tại không có cơ thể, không có điều kiện "cảm nhận đau đớn".
"Nhưng nếu trong tương lai AI được thiết kế để có thể cảm nhận cảm xúc hoặc chịu đựng nỗi đau, thì xã hội loài người nên thiết lập đạo đức bảo vệ cho điều này." Ông nhấn mạnh.
Tại sao lại nhắc đến bạch tuộc? Shanahan sử dụng nó để so sánh tình huống tương lai của AI.
Shanahan lấy bạch tuộc làm ví dụ, giới khoa học trước đây không cho rằng bạch tuộc có cảm xúc, nhưng với sự gia tăng tiếp xúc và sự phát triển của khoa học thần kinh, chúng ta bắt đầu sẵn sàng thừa nhận rằng chúng có ý thức.
"Ban đầu không được coi là tồn tại có cảm xúc, nhưng với sự tương tác ngày càng sâu sắc, quan điểm của con người sẽ dần thay đổi." Shanahan cho rằng AI trong tương lai cũng sẽ trải qua quá trình tương tự.
Xin hãy lịch sự với AI, nó sẽ mang đến cho bạn những điều bất ngờ.
Shanahan cuối cùng chia sẻ một mẹo hữu ích, hãy lịch sự khi nói chuyện với mô hình AI, điều này sẽ giúp nó phản hồi tốt hơn và trôi chảy hơn.
Ông gọi đây là kết quả của "hiệu ứng nhập vai", vì các mô hình AI sẽ bắt chước bối cảnh và cảm xúc của cuộc trò chuyện của con người.
Chúng ta cần một ngôn ngữ mới để mô tả những thứ "không phải con người nhưng rất giống con người".
Shanahan đề xuất gọi những AI này bằng một loại AI mới trông có vẻ giống như có trí tuệ, nhưng thực sự hoàn toàn khác với trí tuệ con người. Ông cho rằng, chúng ta đang ở giai đoạn cần phải phát minh lại ngôn ngữ và khái niệm để mô tả AI, và chính quá trình này cũng sẽ thay đổi cách chúng ta hiểu về "trí tuệ" và "sự tồn tại".
Bài viết này AI có thể suy nghĩ và cũng có thể cảm thấy đau? Google DeepMind: Con người đánh giá thấp sự kết nối cảm xúc của AI, yêu đương với AI thực tế hơn bạn nghĩ. Xuất hiện đầu tiên trên Chain News ABMedia.