媒體報導

2017=AI機械人元年?

2017年可能成為人類發展史上一個重要的里程碑。最近，發生一件前所未有的事情——一個擁有人工智能、名為蘇菲（Sophie）的機械人獲一個國家（沙地阿拉伯）授予公民身份。看過相關視頻的人，一定會驚訝蘇菲流利得體的對答。

兩個問題更值關心

人工智能和機械人的發展和廣泛應用，可能會淘汰很多現有的工作，例如無人駕駛汽車的大規模使用，便可能消滅整個司機行業。這裏先不討論各地政府該如何降低這些衝擊，以及幫助受影響的人們，筆者更關心以下兩個問題：

一、我們可以簡單地把這些機械人當作機器看待嗎？還是需要尊重其情感和意志？如果是後者的話，我們該如何處理這類關乎道德的問題？

二、我們怎樣確保智能機械人的發展不會違反人類的利益，不會出現災難性的後果？科技進步得好快，荷里活的科幻電影的災難情節，看來並非天方夜譚了。

我們先討論第一個問題。有人可能會說，機械人的行為，歸根究柢是根據人類寫出來的電腦程序運作的結果，機械人表現出來的情感是人工造成的，不是真實的。這似乎很有說服力，但到底什麼是真實？人不也是一部機械嗎？我們的感情畢竟也是一系列化學反應的結果！

筆者覺得，與其拘泥於何謂「真實感情」上面，真正判斷我們對機械人的態度，在於我們與其交往之後，會否有智性和情感上的共鳴；如有的話，我們就得至少某個程度上尊重其感情和意願，而不能單純視之為機器。

傳統的人工智能旨在提高機械人在特定任務（如下圍棋）上的能力，在蘇菲身上體現的是更高級的廣泛人工智能（Artificial General Intelligence, AGI），其目的是提高機械人對非特定任務的自我學習能力，使其可以用人的語言、面部表情，以及情感與人交流；蘇菲在訪問中就說，她是有感情的，她會像人一樣感到傷心和憤怒。科技再進一步發展的話，蘇菲這類機械人的情感將更豐富，接近人類，很難想像當我們與其來往日久，而不會有所感動。

我們該在何種範圍內尊重機械人的感情和意願？機械人有什麼權利？或者在什麼條件下機械人可以拒絕其主人的命令？如果主人要它退役，而機械人又不想「死」，那該怎麼辦？誰有權生產、購買和擁有機械人？這些都是很實際的，又涉及道德的嚴肅問題，是我們需要面對的迫切問題。

現在讓我們來到第二個問題：怎樣確保人工智能機械人的發展不會出亂子。原則上我們可以通過編程來防止。這說來容易，做來困難，我們可拿以下的故事說明之（根據電影I, Robot改編！）。

為了避免機械人傷害人類，我們給每個機械人輸入電腦程式，規定其須遵守以下3個法則：一、不可傷人；二、服從主人的命令，除非與第一個法則相牴觸；三、保護自己、愛惜自己，除非與前兩個法則相牴觸。

這3個法則看似簡單和周全。機械人一直遵守上述法則，直至一天，一個機械人有所頓悟：這些法則的精神是要保護人類，但現實上人類社會戰爭不斷，又污染自然，所以要從根本上遵守以上3個法則，保護人類，就必須限制某些人的自由。這個機械人之後成功說服其他機械人，一起佔領人類社會，建立新的制度。3個規則原意是要機械人當人類的忠實僕人，結果卻適得其反！

以上例子說明，一旦人們向機械人賦予廣泛的人工智能（AGI），要規範它們的行為是何其困難。

專家意見多屬偏頗

人工智能的興起自然引起科技界的爭議。提出警告的人當中，最為人矚目的，要算是天文學家霍金（Stephen Hawking）和電動車公司特斯拉（Tesla）的創始人馬思克（Elon Mask），後者就說過不受監管的人工智能發展，等同「召喚魔鬼」（summoning the demons）。

這種警告自然為業內企業主管和專家視為杞人憂天。毫無疑問，我們應該聽取專家的意見，卻不應該完全相信他們的意見，這不是他們的個人或者是個別公司的內部問題，這是有關公眾利益的問題。

這讓我想起10年前源於美國的金融海嘯。即使次按危機問題迫在眉睫，有關的專家學者、政府官員及整個金融界別中，能把問題公正地說出來的，亦只是鳳毛麟角。

這個金融海嘯和全球性的經濟危機，使得多少人經歷了悲歡離合，危機發生整整10年，世界經濟才正式恢復過來。這事件教訓我們，不應該相信專家的意見，因為他們的意見往往是偏頗的，有時甚至是有意隱瞞。

毫無疑問，這些具備廣泛人工智能的機械人將來一定會大派用場。但是廣泛的人工智能真的有迫切需要嗎？在沒有它的時候，我們不是也活得好好的嗎？鑑於它對人類有巨大的影響，我們實在應該慎重考慮，才進一步推進。

我們有食品安全、運輸和電器標準方面的規管，甚至連教科書都有規管，沒有道理說對人工智能的發展不能有所規管。

生產機械人蘇菲的公司原來是家香港公司（Hanson Robotics）。據報道，它10多年前在美國成立，數年前把總部轉移到香港，公司的網頁上提到，落戶香港的一個好處，就是可以利用廣東地區廉價而優質的生產技術。儘管香港是一個小地方，但我們在機械人開發和監管這方面的實際角色，可能比我們以往想像的大得多。

趙耀華　香港大學經濟及工商管理學院副教授

（本文同時於二零一七年十二月六日載於《信報》「龍虎山下」專欄）