即時兩岸

博鰲論壇談人工智能   專家呼籲建AI防護欄 (22:54)

今(26日)上午,在博鰲亞洲論壇2025年年會「AI:如何做到應用與治理的平衡推進?」分論壇,中國科學院研究員曾毅表示,自然演化的規律與計算演化的結果也在深度融合,使得人工智能(AI)的發展自然或不自然地受到大自然的啟發,AI的發展不僅僅受到學習機制的啟發,也受到人類發育演化機制的啟發。

他和清華大學智能產業研究院(AIR)院長張亞勤的看法,是應該先先把安全護欄做好,因為人類構建安全護欄的速度沒跟上AI發展的速度。

曾毅指出,其團隊有一個新的研究,嘗試了十幾個AI大模型,可以把它的安全能力提升百分之二三十,對它的問題求解能力的影響幾乎可以忽略,這說明安全和發展之間不是掣肘的關係。

vivo 首席安全官魯京輝稱,安全性問題不能通過簡單地制定一個法律或者規則來解決的,需要形成一個共識,但是光有共識還不夠,因為這裏還涉及到地緣政治的問題、全球化的問題。

張亞勤說,人類需要定義一些紅線和邊界,因為技術不斷發展,有了邊界之後我們是可以解決的,如果完全沒有邊界,只談一些大的原則,談一些具體方案是比較困難的。

愛思唯爾董事長池永碩指出,要確保模型不會把人類的偏見延伸到機器領域。AI必須是透明的,它不能簡單給出答案,要讓人知道這個結果是哪來的,它為什麼這麼思考。不能夠讓機器自己管自己,人類不能夠信任機器,「否則的話我們就失控了,我們得信任人。」

以色列民主研究所高級研究員特希拉,每個國家都有自己的監管路徑和應對方法,我覺得AI不能夠作為一個以一釋全的解決方案,應該各個國家應有調整。每個國家有不同的挑戰,有各自的國情,大家需要建立自己的方案,自己的戰略,按照多樣性的方式來更好地研究這些可能性。

國務院原副秘書長江小涓則認為應該依靠市場規則,就是市場自發秩序的問題。

(明報記者)

相關字詞﹕

上 / 下一篇新聞