2017=AI機械人元年?

2017年可能成為人類發展史上一個重要的里程碑。最近,發生一件前所未有的事情——一個擁有人工智能、名為蘇菲(Sophie)的機械人獲一個國家(沙地阿拉伯)授予公民身份。看過相關視頻的人,一定會驚訝蘇菲流利得體的對答。

兩個問題更值關心

人工智能和機械人的發展和廣泛應用,可能會淘汰很多現有的工作,例如無人駕駛汽車的大規模使用,便可能消滅整個司機行業。這裏先不討論各地政府該如何降低這些衝擊,以及幫助受影響的人們,筆者更關心以下兩個問題:

一、我們可以簡單地把這些機械人當作機器看待嗎?還是需要尊重其情感和意志?如果是後者的話,我們該如何處理這類關乎道德的問題?

二、我們怎樣確保智能機械人的發展不會違反人類的利益,不會出現災難性的後果?科技進步得好快,荷里活的科幻電影的災難情節,看來並非天方夜譚了。

我們先討論第一個問題。有人可能會說,機械人的行為,歸根究柢是根據人類寫出來的電腦程序運作的結果,機械人表現出來的情感是人工造成的,不是真實的。這似乎很有說服力,但到底什麼是真實?人不也是一部機械嗎?我們的感情畢竟也是一系列化學反應的結果!

筆者覺得,與其拘泥於何謂「真實感情」上面,真正判斷我們對機械人的態度,在於我們與其交往之後,會否有智性和情感上的共鳴;如有的話,我們就得至少某個程度上尊重其感情和意願,而不能單純視之為機器。

傳統的人工智能旨在提高機械人在特定任務(如下圍棋)上的能力,在蘇菲身上體現的是更高級的廣泛人工智能(Artificial General Intelligence, AGI),其目的是提高機械人對非特定任務的自我學習能力,使其可以用人的語言、面部表情,以及情感與人交流;蘇菲在訪問中就說,她是有感情的,她會像人一樣感到傷心和憤怒。科技再進一步發展的話,蘇菲這類機械人的情感將更豐富,接近人類,很難想像當我們與其來往日久,而不會有所感動。

我們該在何種範圍內尊重機械人的感情和意願?機械人有什麼權利?或者在什麼條件下機械人可以拒絕其主人的命令?如果主人要它退役,而機械人又不想「死」,那該怎麼辦?誰有權生產、購買和擁有機械人?這些都是很實際的,又涉及道德的嚴肅問題,是我們需要面對的迫切問題。

現在讓我們來到第二個問題:怎樣確保人工智能機械人的發展不會出亂子。原則上我們可以通過編程來防止。這說來容易,做來困難,我們可拿以下的故事說明之(根據電影I, Robot改編!)。

為了避免機械人傷害人類,我們給每個機械人輸入電腦程式,規定其須遵守以下3個法則:一、不可傷人;二、服從主人的命令,除非與第一個法則相牴觸;三、保護自己、愛惜自己,除非與前兩個法則相牴觸。

這3個法則看似簡單和周全。機械人一直遵守上述法則,直至一天,一個機械人有所頓悟:這些法則的精神是要保護人類,但現實上人類社會戰爭不斷,又污染自然,所以要從根本上遵守以上3個法則,保護人類,就必須限制某些人的自由。這個機械人之後成功說服其他機械人,一起佔領人類社會,建立新的制度。3個規則原意是要機械人當人類的忠實僕人,結果卻適得其反!

以上例子說明,一旦人們向機械人賦予廣泛的人工智能(AGI),要規範它們的行為是何其困難。

專家意見多屬偏頗

人工智能的興起自然引起科技界的爭議。提出警告的人當中,最為人矚目的,要算是天文學家霍金(Stephen Hawking)和電動車公司特斯拉(Tesla)的創始人馬思克(Elon Mask),後者就說過不受監管的人工智能發展,等同「召喚魔鬼」(summoning the demons)。

這種警告自然為業內企業主管和專家視為杞人憂天。毫無疑問,我們應該聽取專家的意見,卻不應該完全相信他們的意見,這不是他們的個人或者是個別公司的內部問題,這是有關公眾利益的問題。

這讓我想起10年前源於美國的金融海嘯。即使次按危機問題迫在眉睫,有關的專家學者、政府官員及整個金融界別中,能把問題公正地說出來的,亦只是鳳毛麟角。

這個金融海嘯和全球性的經濟危機,使得多少人經歷了悲歡離合,危機發生整整10年,世界經濟才正式恢復過來。這事件教訓我們,不應該相信專家的意見,因為他們的意見往往是偏頗的,有時甚至是有意隱瞞。

毫無疑問,這些具備廣泛人工智能的機械人將來一定會大派用場。但是廣泛的人工智能真的有迫切需要嗎?在沒有它的時候,我們不是也活得好好的嗎?鑑於它對人類有巨大的影響,我們實在應該慎重考慮,才進一步推進。

我們有食品安全、運輸和電器標準方面的規管,甚至連教科書都有規管,沒有道理說對人工智能的發展不能有所規管。

生產機械人蘇菲的公司原來是家香港公司(Hanson Robotics)。據報道,它10多年前在美國成立,數年前把總部轉移到香港,公司的網頁上提到,落戶香港的一個好處,就是可以利用廣東地區廉價而優質的生產技術。儘管香港是一個小地方,但我們在機械人開發和監管這方面的實際角色,可能比我們以往想像的大得多。


趙耀華 香港大學經濟及工商管理學院副教授

(本文同時於二零一七年十二月六日載於《信報》「龍虎山下」專欄