人 工智能機(jī)器人的遺忘，遺忘或許是AI進(jìn)步的關(guān)鍵

人們有在互聯(lián)網(wǎng)上提出“被遺忘”的權(quán)利，那在人工智能眼前呢？

人工智能，似乎也應(yīng)該學(xué)會(huì)“遺忘”，而且不簡(jiǎn)簡(jiǎn)單單是因?yàn)殡[私的原因。

遺忘，不止應(yīng)該是對(duì)人類

我們都知道忘記一些事情是什么感覺，忘掉帶鑰匙，忘掉自己的賬號(hào)密碼是我們都經(jīng)歷過的東西。即使是那些擁有非凡記憶力的人，也無法確保自己的記憶能夠保持多長(zhǎng)的時(shí)間。

換句話說，人們似乎永遠(yuǎn)無法完全控制自己的記憶。也可能正是因?yàn)榇?，我們發(fā)明了紙筆，發(fā)明了硬盤，發(fā)明了各種各樣能夠把我們的記憶以物質(zhì)記錄的方式存留下來的方式。AI，也是我們“記住自己”的一種方式。

但是我們的記錄與記憶是有選擇的：誰都不想把那些不好的回憶在自己的腦海里留存太久，誰都不會(huì)去刻意記住生活中繁雜的細(xì)枝末節(jié)。我們保留了有用的、有價(jià)值的記憶，而忘記了價(jià)值較低的信息。我們對(duì)于這些記憶的物質(zhì)承載工具大多也是這個(gè)態(tài)度。

同樣，對(duì)于AI也應(yīng)該是這樣的。過于長(zhǎng)久和無意義的記憶可能會(huì)引發(fā)技術(shù)問題，還涉及到隱私、法律和道德方面的問題。我們應(yīng)該向?qū)Υ约旱娜沼浤菢?，有能力讓一個(gè)機(jī)器人忘記它所見證的一切。

人工智能機(jī)器人的遺忘

計(jì)算機(jī)中的存儲(chǔ)器通常用來描述其存儲(chǔ)需要回憶的信息的能力，以及存儲(chǔ)這些信息的計(jì)算機(jī)的物理部件。例如，當(dāng)計(jì)算機(jī)的工作存儲(chǔ)器不再需要某個(gè)任務(wù)時(shí)，它會(huì)“忘記”數(shù)據(jù)，從而釋放出計(jì)算資源用于其他任務(wù)。

這也同樣適用于人工智能，當(dāng)我們忘記某些事情可能會(huì)讓我們感到沮喪的時(shí)候，正是這種方式讓我們忘記了人類仍然優(yōu)于人工智能。機(jī)器學(xué)習(xí)算法尤其不善于知道什么時(shí)候保留舊信息，什么時(shí)候丟棄過時(shí)的信息。比如，非常科幻的“連接主義人工智能”，就面臨著幾個(gè)與“遺忘”有關(guān)的問題。這些問題包括過度擬合，即學(xué)習(xí)機(jī)器從過去的經(jīng)驗(yàn)中儲(chǔ)存過于詳細(xì)的信息，從而妨礙了它概括和預(yù)測(cè)未來事件的能力。

目前有一項(xiàng)技術(shù)叫做長(zhǎng)短期記憶網(wǎng)絡(luò)（LSTM）算法，它使用特定的學(xué)習(xí)機(jī)制來決定在任意一個(gè)節(jié)點(diǎn)哪些信息需要記住，哪些需要更新，哪些需要關(guān)注。用香港科技大學(xué)相關(guān)領(lǐng)域的專家Edwin Chen的話來說，LSTM應(yīng)該達(dá)到這樣的狀態(tài)：“當(dāng)場(chǎng)景結(jié)束，模型應(yīng)該忘記當(dāng)前場(chǎng)景的位置，所處時(shí)間，并重置任何特定場(chǎng)景的信息；然而，如果場(chǎng)景中的一個(gè)角色死亡了，機(jī)器則應(yīng)該繼續(xù)記住他不再活著的事實(shí)。因此，我們希望機(jī)器能學(xué)習(xí)掌握一個(gè)相互獨(dú)立的遺忘/記憶機(jī)制，這樣當(dāng)新信息進(jìn)來時(shí)，它知道什么觀念該保留什么該丟棄?！?/p>

遺忘不僅僅是一次失敗的記憶，這是一個(gè)積極的過程，可以幫助大腦獲取新信息并更有效地做出決策。

對(duì)于人工智能來說也是如此。

遺忘或許是AI進(jìn)步的關(guān)鍵

我們先做一個(gè)看起來不是那么恰當(dāng)?shù)谋扔?，所有“記憶”的物質(zhì)承載都是有承載上限的，日記本寫滿了就沒法再記，硬盤的容量塞滿了也放不下更多的東西。如果放任所有你看到的信息都記在你的電腦硬盤里，它可能很快就會(huì)被塞滿，然后“寫入”這個(gè)類似于“記憶”的東西就會(huì)罷工不干。

如果教一個(gè)說中文的孩子學(xué)習(xí)英語，孩子會(huì)很容易把學(xué)習(xí)中文的方法應(yīng)用到英語的學(xué)習(xí)中（雖然這兩者不屬于同一語系，但是中間還是有相通的部分，同一語系中的相通部分更多，所能“借鑒”的經(jīng)驗(yàn)也就更多），比如名詞，句子構(gòu)建，語序區(qū)別，同時(shí)忘記那些不相關(guān)的東西，比如口音，語調(diào)，沒必要的俚語，我們?nèi)祟惪梢酝瑫r(shí)進(jìn)行遺忘和學(xué)習(xí)。

但是機(jī)器人的處境可不一樣，如果訓(xùn)練神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)英語，則他會(huì)通過“深度學(xué)習(xí)”整出一個(gè)適用于英語的學(xué)習(xí)方式。如果還想同時(shí)教它中文，對(duì)中文內(nèi)容的學(xué)習(xí)將覆蓋神經(jīng)網(wǎng)絡(luò)以前為學(xué)習(xí)英語所獲得的知識(shí)，因?yàn)檫@與之前的學(xué)習(xí)方式矛盾，如果存儲(chǔ)內(nèi)存一定，那么只好刪除所有內(nèi)容并重新開始。這也很好理解，現(xiàn)在的神經(jīng)網(wǎng)絡(luò)不允許AlphaGo在一個(gè)深度學(xué)習(xí)過程中同時(shí)學(xué)會(huì)圍棋和五子棋，盡管他們棋具都很相似，但是規(guī)則大不同。這被稱為“ 災(zāi)難性遺忘 ”，也是神經(jīng)網(wǎng)絡(luò)的一個(gè)局限。

算法不能選擇忘記什么，而負(fù)責(zé)它們的人可能沒有權(quán)利或解決問題的能力。進(jìn)入流與輸出流嚴(yán)重的不匹配將會(huì)導(dǎo)致大量的局限性出現(xiàn)。如果只是進(jìn)行大量數(shù)據(jù)持續(xù)的收集，而沒有簡(jiǎn)單的方法通過“遺忘”提純數(shù)據(jù)，那人工智能也僅僅是在有限的容量上，在一個(gè)狹隘的角度里堆砌和發(fā)展我們的智慧成果而已。

因此，學(xué)會(huì)遺忘是人工智能面臨的重大挑戰(zhàn)之一，可能也是這個(gè)行業(yè)破局的關(guān)鍵所在。人類大腦和遺忘的過程中，有可能藏著顛覆現(xiàn)有AI技術(shù)的秘密。

尾聲：未來不確定的圖景

了解我們的大腦如何決定什么值得記憶，什么值得遺忘，對(duì)于創(chuàng)造更好的人工智能很重要。醫(yī)療機(jī)器人進(jìn)行醫(yī)療診斷，智能家居設(shè)備監(jiān)控我們的行動(dòng)，安全機(jī)器人通過視頻攝像機(jī)和熱成像進(jìn)行巡邏。這些都是很多存儲(chǔ)的數(shù)據(jù)，決定一個(gè)機(jī)器人什么時(shí)候應(yīng)該忘記是一個(gè)深刻的人類挑戰(zhàn)。

但是如果成功了呢？

前面我們提到了，可能是因?yàn)檫^度擬合的存在，讓AI在對(duì)未來做出邏輯判斷時(shí)可能會(huì)出現(xiàn)失真的問題。如果我們把“遺忘”這把鑰匙交給了人工智能，讓他們通過合理的選擇性遺忘，走出了過度擬合可能存在的問題。那么，我們擁有一個(gè)“百科全書”式的AI時(shí)，它（或者應(yīng)該是他）能通過各種被記憶與遺忘提純的數(shù)據(jù)，對(duì)未來進(jìn)行精準(zhǔn)的預(yù)測(cè)嗎？

這是人們一直在期待的一種圖景，也是我們隱隱害怕的圖景。

阿西莫夫有一篇短篇科幻小說，叫做《最后的問題》。書中的“超腦”在一代一代的開發(fā)之后，就有了這樣解答問題的能力。如果能夠?qū)⑦@樣的人工智能制造出來，并且處于完全的控制之下，對(duì)于人類社會(huì)來說可能都是一場(chǎng)意義非凡的飛躍。

希望如此吧。

文章名稱：人 工智能機(jī)器人的遺忘，遺忘或許是AI進(jìn)步的關(guān)鍵
瀏覽地址：http://www.bm7419.com/news10/145910.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供靜態(tài)網(wǎng)站、營(yíng)銷型網(wǎng)站建設(shè)、網(wǎng)頁設(shè)計(jì)公司、網(wǎng)站策劃、小程序開發(fā)、App開發(fā)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)