人工智能發(fā)展:更高級的人工智能更富侵略性或者更好斗
每當人們談?wù)撈鹑斯ぶ悄?,大家都會使用一些詞匯諸如”smarter”, ”faster”, ”effective”,” “precise”等。
強人工智能是有可能實現(xiàn)的,但是現(xiàn)在的技術(shù)離強人工智能的距離還非常遠。原文中第一個圖很有意思,就是技術(shù)發(fā)展曲線。全文的所有論據(jù),都建立在“指數(shù)發(fā)展”這個假設(shè)上。指數(shù)曲線在接近0的時候是類似線性的,不光是指數(shù),多項式函數(shù)、對數(shù)函數(shù)、甚至多重指數(shù)在小范圍內(nèi)也可以用線性擬合得很好。而且不同的指數(shù)和在0附近都很接近,但對“奇點”何時到來的估算可能誤差千百年。如果按照“指數(shù)發(fā)展”來算,而且樂觀的估計指數(shù)的系數(shù),那你妹的什么技術(shù)都不是問題啊,人類分分鐘占領(lǐng)全宇宙。我更相信的是,科學(xué)發(fā)展是有爆發(fā)期和穩(wěn)定期的。一個技術(shù)突破會帶來難以想象的繁榮,之后的科學(xué)發(fā)展都比之前的更快,但不會天天都是技術(shù)突破。比如,二十世紀上半頁的物理學(xué)十分輝煌,相對論和量子力學(xué)的建立引發(fā)了一系列技術(shù)革命。但從那以后物理學(xué)一直很平穩(wěn)。楊振寧就說過他趕上了物理學(xué)的好時候,讓他現(xiàn)在做學(xué)術(shù),可能就不會選物理學(xué)了。要是科幻作家站在1950年前后,用指數(shù)發(fā)展估計物理學(xué)的發(fā)展,那到今天我們早就弄出大統(tǒng)一理論搞定核聚變發(fā)電了。又比如人均壽命從先秦時的二十幾歲發(fā)展到現(xiàn)在的80歲,如果用指數(shù)擬合,那過幾十年是不是要活幾百歲了啊
支持人工智能指數(shù)發(fā)展的路線包括:抄襲人腦,進化算法,電腦自己解決。我不知道這幾條是不是對應(yīng)類似machine learning, neural network, evolutionary algorithm, program synthesis之類的領(lǐng)域。如果是的話,這幾個領(lǐng)域我都有一點粗淺的了解。歡迎大神批評補充。比如machine learning和neural network, 核心都是回歸和數(shù)據(jù)擬合,離智能化還很遠。大牛Andrew Ng的網(wǎng)課,Coursera - Free Online Courses From Top Universities光靠這個實現(xiàn)強人工智能我是不信滴。關(guān)于evolutionary algorithm,去年有一個大牛的talk,推薦大家看一下。全篇都是技術(shù)討論沒有涉及“奇點”,大家可以自己判斷現(xiàn)在的研究前沿離真正的強人工智能還有多遠。從43分鐘開始:Dana Scott: VSL Opening & Christos Papadimitriou: VSL Keynote Talk "Computational Ideas and the Theory of Evolution" on Vimeoprogram synthesis里,現(xiàn)在計算機能自己生成的程序還很弱智,而且算法復(fù)雜度都是exponential time甚至doubly exponential time(比如)的。用的方法本質(zhì)上是先靠程序員輸入一個程序模板和參數(shù)空間,然后用各種方法遍歷所有可能的程序,看看是不是滿足要求。這其實引出了一個很有意思的問題:現(xiàn)在我們CPU的計算能力是指數(shù)增長的,但按照今天的算法,許多真正有趣的問題都是需要“指數(shù)時間”,甚至多重指數(shù)時間才能解決的。那么,我們實際解決新問題的速度一定是指數(shù)發(fā)展的嗎?讓該領(lǐng)域內(nèi)的專家來介紹現(xiàn)在的研究成果和面臨的巨大問題,比起作家自己泛泛而談要好得多。
其他反對的觀點其實也不少,比如可以參考這篇文章 Hyping Artificial Intelligence, Yet Again等有空我可能會翻譯一下。