如海底針般的人工智能?

HAL 9000剛在昨天生日,但伴隨著的是近期不少聲音都對人工智能的發展感到憂慮,霍金及Elon Musk等科學家及企業家甚至聯名簽署一封公開信,提醒人們關注人工智能的安全性。究竟是危言聳聽,還是《2001:太空漫遊》的預言有機會成事實?

Aa11

最近一項人工智能的研究或許給我們一點參考。有趣的是,研究結果指出神經網絡 (neural network,人工智能的一種計算模型)用來辨別圖片內容的演算法,其實是十分愚蠢,很容易被騙。科學家只需要動動手腳,神經網絡辨識一幅黃黑相間的圖片時,會99%肯定圖片內是一輛學校巴士。還有其他例子如海星、皇帝企鵝,電子結他等等。

神經網絡能自我學習,更改辨識事物的演算法,增加準確度。要讓神經網絡更加聰明,最好的方法就是以盾攻矛。科學家用一種會自我演化的程式去不斷產生抽象圖像,以及與原圖略有差異的副本,放入一個讓神經網絡學習圖像的資料庫名。當副本被辨識為某樣東西,甚至準確度高於原圖,那產生該副本圖像的演算法會保留下來重複執行。結果,幾十張圖像最後被神經網絡辨識出來。不過對人類來說,例如那一條條藍啡波浪紋的圖像可不是我們日常認知的海星。

更進一步,科學家藉此了解到神經網絡是以什麼機制去辨識圖像。聽起來有些恐怖,但廣義來說是正確的:關於人工智能如何運作,我們是難以理解,因為他們既複雜而且具有自我學習和自我演進的能力。可幸的是,到目前為止人類能控制的遠多於人工智能所及。在電腦能成為HAL 9000之前,我們還是先擔心人工智能在保安上的漏洞吧,畢竟,我們可不想現實比《Mission Impossible》更不如,不需要3D面具,只要幾幅抽象圖畫就可以騙過保安系統呢!

A22

Source: Wired

You may also like...

Leave a Reply

Your email address will not be published. Required fields are marked *