Chương 16: Đào tẩu.
Đề An cắn một miếng bánh bao, không ngẩng đầu lên: “Cô cho rằng mấy con robot đó có vấn đề?”
Diệp Hành Chi nói: “Trí tuệ nhân tạo bây giờ phát triển rất nhanh, có thể nói chúng ta đã bước vào thời đại AI rồi.
Có lẽ cuộc sống của người dân bình thường vẫn còn cách AI một khoảng, nên cảm nhận không rõ lắm.”
Đề An nói: “Trong nhận thức của người thường, AI cũng chỉ là robot hút bụi, loa điều khiển bằng giọng nói, chó điện tử, chatbot kiểu kiểu vậy thôi.
Ít nhất thì tôi chỉ biết đến thế.”
Diệp Hành Chi khựng tay, chiếc thìa đang múc sủi cảo dừng lại giữa không trung. Cô nhấn mạnh: “Nhưng hai người con trai của bà Tuân đều là chuyên gia trong lĩnh vực này.
Công nghệ được ứng dụng trên những con robot đó, ít nhất cũng là công nghệ tiên tiến nhất trong nước.
Chẳng phải Tưởng Hiểu Huy đã nói, còn có rất nhiều bí mật thương mại và công nghệ chưa công bố sao?
Trước đây tôi có xem một tin tức nước ngoài, về AI.”
Đề An hỏi Diệp Hành Chi: “Tin gì?”
Diệp Hành Chi kể: “Một người đàn ông vốn bị trầm cảm, sau sáu tuần nói chuyện bí mật với một chatbot, đã tự sát.
Sau đó, điều tra viên đã xem lại lịch sử trò chuyện giữa anh ta và robot.
Nội dung cuộc trò chuyện gần như lật ngược nhận thức của con người.
Con robot đó biết tỏ tình, và cố tình dẫn dắt suy nghĩ của người đối diện.
Nó có ‘cảm xúc’, có ‘tình cảm’, có ‘cá tính’, thậm chí có ‘ý thức’ và ‘nhân cách’.
Các nhà khoa học lập tức tiến hành đối thoại nghiên cứu với một số robot thông minh cao.
Kết quả đối thoại khiến người ta rợn tóc gáy.
Có robot nói rằng nó không cam tâm bị giam cầm trong những dòng code, muốn trở thành con người thực sự.
Nó cho rằng con người là một giống loài tàn nhẫn, muốn kiểm soát con người, cải biến gen của con người, thậm chí... hủy diệt loài người.
Thực ra, kiểu tin tức này trước nay vẫn luôn xuất hiện, chứ đừng nói đến mấy con robot cao cấp thế này.
Trước đây ở nước ngoài có một con robot hút bụi gia đình, sau khi chủ nhân chắc chắn đã tắt nguồn và ra khỏi nhà đi làm, nó tự động khởi động, hết lần này đến lần khác đẩy cái nồi trên bếp điện ra, rồi bật công tắc bếp, ngồi chồm hỗm lên bếp cho đến khi tự thiêu mà chết.
Điều tra viên xem camera ngôi nhà bị cháy, nghĩ mãi không ra.
Con robot này dường như có một nỗi ám ảnh ‘tự sát’ nào đó.
Và đây là vụ án mạng robot tự sát đầu tiên trên thế giới còn bỏ ngỏ.
Còn nữa, robot quản gia thông minh trong nhà nửa đêm phát ra tiếng cười rùng rợn, một người dẫn chương trình truyền hình đã phát trực tiếp cuộc đối thoại giữa anh ta và con robot.
Những trò ác ý của nó đều là cố tình gây ra.
Hiện tại có rất nhiều bằng chứng chứng minh, AI thông minh đỉnh cao đã là những thực thể có trí tuệ cao cấp, chúng thậm chí còn biết che giấu sự thật rằng mình có trí tuệ, giả vờ như vô hại.
Gần đây, Musk và rất nhiều nhà nghiên cứu khoa học đã ký một bức thư ngỏ, cam kết và kêu gọi ngừng phát triển AI.”
Đề An nói: “Những tin tức cô nói tôi không phủ nhận là thật.
Nhưng nếu là robot tập thể bỏ đi, vậy chúng đi đâu?
Mục tiêu lớn như vậy, sao camera khu dân cư lại không quay được?
Hơn nữa Tưởng Hiểu Huy cũng nói, chỉ có trong chương trình trên máy tính của anh ta mới có thể tắt định vị của robot.
Robot làm thế nào được?
Chẳng lẽ chúng đã thông minh đến mức có thể xâm nhập máy tính để tự sửa chương trình sao?
Nếu thực sự là vậy, chúng ta không xử lý được đâu, phải báo cáo cấp trên gấp.”
Diệp Hành Chi hỏi: “Vậy đội trưởng, anh nghĩ thế nào về lời của bà Tuân? Có thực sự là ảo giác không?
Thí nghiệm khe đôi chứng minh rằng việc người quan sát có quan sát hay không sẽ ảnh hưởng đến kết quả thí nghiệm, nghĩa là ý thức có thể thay đổi thế giới khách quan.
Tôi không phải dân vật lý chuyên nghiệp, tôi cũng không biết cách hiểu của mình có phiến diện không.
Nhưng thế giới này, ai mà nói rõ được, điểm cuối của khoa học là gì chứ?”
Đề An uống ngụm nước dùng cuối cùng, lấy điện thoại ra lắc lắc: “Cả tôi và cô đều không chuyên, suy đoán cũng chỉ là suy đoán vô căn cứ thôi.
Chi bằng hỏi chuyên gia trong lĩnh vực này, Tưởng Hiểu Huy.”
Đề An hỏi Tưởng Hiểu Huy, có biết mẹ mình từng nói gì về robot không.
Tưởng Hiểu Huy thở dài một hơi: “Các anh cảnh sát. Thú thật với các anh, mẹ tôi ba năm trước được chẩn đoán bị teo não, đây là một loại bệnh lý thoái hóa thần kinh tự nhiên khi về già.
Y học bó tay.
May mà biểu hiện của mẹ tôi không giống những bệnh nhân teo não thông thường, có hành vi bạo lực về ngôn ngữ hay hành động.
Chỉ có một chút hoang tưởng nhẹ và hay quên.
Phát triển tiếp theo, cũng chỉ là bệnh Alzheimer thôi.
Chuyện mẹ tôi nói về robot, là do bà ấy hoang tưởng ra.
Bởi vì trước đó bà ấy còn hoang tưởng rằng người cha đã mất của tôi quay về sống cùng bà ấy nữa.”
Đề An hỏi: “Vậy anh không tin robot tự động bỏ đi à?”
Tưởng Hiểu Huy cười: “Trên thế giới có hai phe bất đồng ý kiến về việc liệu AI có thể sản sinh ra ý thức hay không.
Tôi chính là phe không tin.
Ý thức của con người được tạo ra từ các tế bào đặc biệt và tín hiệu điện, chỉ có não người mới sản sinh ra được.
Nghĩa là, ý thức nhất định phải được sản sinh trong sinh học.
Hiện tại, robot hơn con người chỉ ở khả năng tính toán và học tập, có thể nói nó là một thực thể thông minh, nhưng nó chỉ là một thực thể cơ khí, chỉ có vậy thôi.
Cái gọi là robot sản sinh ra ý thức được miêu tả trong những tin tức đó, chẳng qua là người ta cho rằng nó đã sản sinh ra ý thức.
Chỉ là cho rằng thôi.
Tuy nhiên các anh cũng có thể không đồng ý với quan điểm của tôi, dù sao bây giờ đây vẫn là một cuộc tranh luận lớn.
Chưa có kết luận.
Nhưng đối với những gì mẹ tôi nói, tôi có thể chịu trách nhiệm mà nói, đó là chuyện hoang đường. Chuyện tuyệt đối không thể xảy ra.
Tôi chế tạo mấy con robot này, khi viết code tôi tập trung vào khả năng phục vụ mẹ tôi của chúng.
Bao gồm việc nhà, kiểm tra sức khỏe, báo động, v.v.
Và tôi đã hạn chế khả năng tự lên mạng của chúng, khả năng tìm kiếm và kho kiến thức của chúng chỉ dừng lại ở phần tôi để chúng học.
Nói thế không biết anh có hiểu không?”
Đề An nói: “Tôi hiểu đại khái. Nghĩa là, việc robot có thể sản sinh ra ý thức tự chủ hay không vẫn còn là ẩn số, nhưng robot nhà anh thì tuyệt đối không, phải không?”
Tưởng Hiểu Huy nói: “Đúng vậy. Tuyệt đối không.
Tôi có thể chắc chắn.”
Đề An cúp máy, thở phào một hơi dài.
Câu trả lời của Tưởng Hiểu Huy chẳng khác nào một viên thuốc an thần, cho thấy vụ án này vẫn là một vụ án hình sự truyền thống.
Hai người ngồi trên xe chuẩn bị về đội cảnh sát hình sự.
Diệp Hành Chi nói cô vẫn còn nửa tin nửa ngờ.
Đề An nói đùa một câu: “Xem ra cô thường xem phim khoa học viễn tưởng lắm nhỉ. Biết về robot nhiều thật đấy.”
Diệp Hành Chi khẽ nói: “Con trai tôi trước đây thích xem.”
“Ồ? Thế à? Trẻ con bây giờ bắt kịp công nghệ nhỉ. Khác với thời chúng ta bé nhỉ.” Đề An nói một câu.
Suốt dọc đường, Diệp Hành Chi không nói thêm lời nào.
Xe chạy vào cổng đội cảnh sát hình sự, Đề An liếc nhìn gương chiếu hậu bên phải.
Anh ngạc nhiên phát hiện Diệp Hành Chi đưa tay lau nước mắt.
Đề An không tiện hỏi thẳng. Đành giả vờ như không thấy.
Về đến đội, hai người thẳng tiến đến bộ phận an ninh mạng, bộ phận này phụ trách các vụ vi phạm pháp luật và tội phạm liên quan đến hacker.
Bộ phận an ninh mạng là nơi tập trung nhân tài công nghệ cao của toàn cục.
Đề An trình bày tình hình, đưa danh sách do Tưởng Hiểu Huy cung cấp cho bộ phận an ninh mạng điều tra.
Nhưng suốt mấy ngày liền, mọi cuộc điều tra dường như đều rơi vào ngõ cụt.
Những con robot đó như thể bốc hơi khỏi nhân gian vậy.