Điểm kỳ dị và điểm cố định

Một số nhà tương lai học như Ray Kurzweil đã đưa ra giả thuyết rằng một ngày nào đó chúng ta sẽ sớm vượt qua một điểm kỳ dị - tức là một khoảng thời gian có sự thay đổi công nghệ nhanh chóng mà chúng ta không thể hình dung được tương lai của xã hội. Hầu hết các tầm nhìn về điểm kỳ dị này đều tập trung vào việc tạo ra những cỗ máy đủ thông minh để tạo ra những cỗ máy thậm chí còn thông minh hơn chính chúng, và vân vân một cách đệ quy, do đó tạo ra một vòng khuếch đại trí thông minh phản hồi tích cực. Đó là một suy nghĩ hấp dẫn. (Một trong những điều đầu tiên tôi muốn làm khi đến MIT khi còn là sinh viên đại học là chế tạo một nhà khoa học robot có thể khám phá nhanh hơn và tốt hơn bất kỳ ai khác.) Ngay cả CTO của Intel, Justin Rattner, gần đây đã công khai suy đoán rằng chúng tôi đang trên đường đến điểm kỳ dị này và các hội nghị như Hội nghị thượng đỉnh điểm kỳ dị (tại đó Tôi sẽ nói vào tháng 10 ) đang khám phá cách những chuyển đổi như vậy có thể diễn ra.



Tuy nhiên, là một kỹ sư não bộ, tôi nghĩ rằng chỉ tập trung vào việc nâng cao trí thông minh như là động lực của tương lai sẽ bỏ sót một phần quan trọng của phân tích - cụ thể là những thay đổi về động lực có thể nảy sinh khi trí thông minh khuếch đại. Gọi đó là nhu cầu về kỹ năng lãnh đạo máy móc hoặc triết lý máy móc - nếu không có nó, một vòng phản hồi như vậy có thể nhanh chóng tràn ra ngoài.

Tất cả chúng ta đều biết rằng trí thông minh, như thường được định nghĩa, không đủ để tác động đến thế giới một mình. Khả năng theo đuổi mục tiêu kiên quyết chống lại những trở ngại, bỏ qua sự nghiệt ngã của thực tế (đôi khi thậm chí đến mức ảo tưởng - tức là chống lại trí thông minh), cũng rất quan trọng. Hầu hết các câu chuyện khoa học viễn tưởng thích trí thông minh nhân tạo của họ có động lực cực kỳ lớn để làm mọi việc - ví dụ: nô dịch hoặc xóa sổ con người, nếu Ma trậnKẻ hủy diệt II có bất cứ điều gì để nói về chủ đề này. Nhưng tôi thấy cũng hợp lý với người máy Marvin, cỗ máy siêu thông minh của Douglas Adams ' Các Hitchhiker’s Guide to the Galaxy , người chủ yếu sử dụng trí thông minh khổng lồ của mình để ngồi xung quanh và phàn nàn, khi không có bất kỳ mục tiêu lớn nào.





Thật vậy, một trí thông minh thực sự tiên tiến, được thúc đẩy không đúng cách, có thể nhận ra sự vô thường của vạn vật, tính toán rằng mặt trời sẽ cháy sáng trong vài tỷ năm nữa và quyết định chơi trò chơi điện tử trong suốt thời gian tồn tại của nó, kết luận rằng phát minh ra một máy là vô nghĩa. (Một hệ quả của suy nghĩ này có thể giải thích tại sao chúng ta vẫn chưa tìm thấy sự sống ngoài trái đất: những trí tuệ trên đỉnh của việc đạt được du hành giữa các vì sao có thể dễ nghĩ rằng với các thiên hà đang sôi lên chỉ trong 1019 năm, có lẽ tốt hơn là bạn nên ở nhà và xem TV.) Vì vậy, nếu một người đang cố gắng tạo ra một cỗ máy thông minh có khả năng tạo ra những cỗ máy thông minh hơn, thì điều quan trọng là phải tìm cách xây dựng không chỉ động lực mà còn cả khuếch đại động lực - mong muốn tiếp tục xây dựng động lực tự duy trì, khi trí thông minh tăng lên. Nếu động lực đó được sở hữu bởi các thế hệ trí tuệ trong tương lai – động lực tổng hợp, như nó đã từng có – thì điều quan trọng là phải khám phá những nguyên tắc này ngay bây giờ.

Có một vấn đề thứ hai. Một người thông minh có thể hình dung ra nhiều khả năng hơn một người kém thông minh hơn, nhưng điều đó có thể không phải lúc nào cũng dẫn đến hành động hiệu quả hơn, đặc biệt nếu một số khả năng làm phân tán trí thông minh khỏi các mục tiêu ban đầu (ví dụ: mục tiêu xây dựng một trí thông minh hơn ). Sự không chắc chắn cố hữu của vũ trụ cũng có thể lấn át hoặc làm cho quá trình ra quyết định của trí thông minh này trở nên không liên quan. Thật vậy, đối với một không gian chiều rất cao của các khả năng (với các trục đại diện cho các thông số khác nhau của hành động được thực hiện), có thể rất khó để đánh giá con đường nào là tốt nhất. Trí óc có thể lập kế hoạch song song, nhưng các hành động cuối cùng là đơn nhất và với nguồn lực hữu hạn có thể tiếp cận được, các hành động hiệu quả thường sẽ thưa thớt.

Hai đoạn cuối không chỉ áp dụng cho AI và ET, mà còn mô tả các đặc điểm của bộ óc con người đôi khi ảnh hưởng đến việc ra quyết định ở nhiều người trong chúng ta - thiếu động lực và động lực, và tê liệt ra quyết định khi đối mặt với quá nhiều lựa chọn có thể xảy ra. . Nhưng nó trở nên tồi tệ hơn: chúng ta biết rằng động lực có thể bị chiếm đoạt bởi các tùy chọn mô phỏng sự hài lòng mà động lực hướng tới. Chỉ riêng ở Hoa Kỳ, chứng nghiện ma túy đã gây ra bệnh dịch cho hàng chục triệu người và nghiện những thứ tinh vi hơn, bao gồm một số loại thông tin (chẳng hạn như e-mail), cũng rất nổi bật. Và hiếm có môn nghệ thuật nào thử thách hơn việc truyền động lực cho thế hệ tiếp theo để theo đuổi một ý tưởng lớn. Những trí tuệ phát minh ra ngày càng nhiều công nghệ hấp dẫn và thú vị hơn, có thể thu hút và duy trì sự chú ý của họ tốt hơn, đồng thời giảm tác động lên thế giới, có thể đi ngược lại với một điểm kỳ dị.



Ngược lại với điểm kỳ dị là gì? Điểm kỳ dị phụ thuộc vào một phép đệ quy toán học: phát minh ra một trí tuệ siêu việt, và sau đó nó sẽ phát minh ra một siêu trí tuệ thậm chí còn mạnh hơn. Nhưng như bất kỳ học sinh toán học nào cũng biết, có những kết quả khác của một quá trình lặp đi lặp lại, chẳng hạn như một điểm cố định. Điểm cố định là điểm mà khi một hàm được áp dụng, bạn sẽ có lại điểm như cũ. Việc áp dụng một hàm như vậy cho các điểm gần điểm cố định thường sẽ đưa chúng về phía điểm cố định.

Do đó, một điểm cố định của xã hội có thể được định nghĩa là trạng thái tự củng cố, giữ nguyên hiện trạng - về nguyên tắc có thể là hòa bình và tự duy trì, nhưng cũng có thể cực kỳ nhàm chán - nói rằng, liên quan đến rất nhiều người cắm vào Internet xem video mãi mãi. Do đó, chúng ta cũng như con người có thể sớm bắt đầu đặt ra các quy tắc thiết kế cho các công nghệ để chúng thúc đẩy chúng ta đạt đến một số mục tiêu cao hoặc mục tiêu cuối cùng - hoặc ít nhất là tránh xa các điểm cố định của xã hội đã chết. Quá trình này sẽ liên quan đến việc suy nghĩ về cách công nghệ có thể giúp đối mặt với một câu hỏi cũ của triết học - cụ thể là, Tôi nên làm gì, với tất cả những con đường khả thi này? Có lẽ đã đến lúc cần có một câu trả lời thực nghiệm cho câu hỏi này, xuất phát từ các đặc tính của bộ não và vũ trụ chúng ta đang sống.

giấu

Công Nghệ ThựC Tế.

Thể LoạI

Chưa Được Phân Loại

Công Nghệ

Công Nghệ Sinh Học

Chính Sách Công Nghệ

Khí Hậu Thay Đổi

Con Người Và Công Nghệ

Thung Lũng Silicon

Tin Học

Tạp Chí Mit News

Trí Tuệ Nhân Tạo

Khoảng Trống

Những Thành Phố Thông Minh

Chuỗi Khối

Câu Chuyện Nổi Bật

Hồ Sơ Cựu Sinh Viên

Kết Nối Cựu Sinh Viên

Tính Năng Mit News

1865

Quan Điểm Của Tôi

77 Đại Lộ Mass

Gặp Gỡ Tác Giả

Hồ Sơ Hào Phóng

Đã Nhìn Thấy Trong Khuôn Viên Trường

Thư Của Cựu Sinh Viên

Tin Tức

Bầu Cử 2020

Có Chỉ Mục

Dưới Mái Vòm

Vòi Chữa Cháy

Truyện Vô Hạn

Dự Án Công Nghệ Đại Dịch

Từ Tổng Thống

Truyện Bìa

Triển Lãm Ảnh

Tạp Chí Tin Tức Mit

Đề XuấT