即時熱點

AI競爭發展惹憂慮 歐洲刑警憂ChatGPT被罪犯利用 馬斯克等科技領袖促停發展半年 (10:44)

人工智能(AI)聊天機械人近月發展之快令人驚訝,應用亦漸趨普及,不同機構及科技界巨頭均表憂慮。特斯拉(Tesla)行政總裁馬斯克(Elon Musk)、蘋果聯合創辦人沃茲尼亞克(Steve Wozniak)等科技界巨頭,與逾千人聯署發公開信,呼籲即時暫停發展比GPT-4更強大的AI工具至少半年。歐洲刑警組織(Europol)擔心,ChatGPT可能會被罪犯用作犯案工具。AI公司iKala行政總裁程世嘉亦憂慮,研究員未理解AI全部能力,技術就被所有人應用。

科技界逾1000人聯署公開信

路透社前日(29日)報道,特斯拉行政總裁馬斯克、蘋果聯合創辦人沃茲尼亞克、AI公司高層或專家、科技界人員等逾1000人,聯署發表公開信,呼籲即時暫停開發比GPT-4更強大的AI工具,等待至少6個月,直至業界確信強大的AI會產生良好效果而風險可控,才繼續開發。公開信表達了各人憂慮AI工具對人類可構成深遠影響。[公開信:bit.ly/3zjdQ7N][4月2日報道:促停AI研究聯署信 被揭有假名

罪犯或用ChatGPT協助網絡釣魚

歐洲刑警組織周一(27日)發表報告,聚焦在最被廣泛使用的ChatGPT,發現罪犯可以利用ChatGPT對未知領域進行極速搜尋,例如用ChatGPT草擬詐騙計劃、查詢「如何闖入民居」、「如何進行恐怖活動」等。

報告又指出,由於ChatGPT可模仿人類說話風格,罪犯可以藉此發出網絡釣魚攻擊,誘騙使用者點擊假電郵連結,從而竊取使用者資料。騙徒亦可利用ChatGPT生成逼真的語音信息、編寫電腦程式詐騙等。

報告稱,雖然ChatGPT設有防護措施,包括內容審查,不會回答被歸類為有害或有偏見的問題,但若用家巧妙輸入指令詞,仍有機會避過審查。

憂AI能力超出研究員理解範圍

微軟上周發表研究報告,詳細記錄GPT-4的先進能力,其中包括GPT-4成功通過經典心理測驗「Sally-Anne測試」。[研究報告:bit.ly/3ZvvmAc

「Sally-Anne測試」是評估「兒童能否理解別人的心理狀態和觀點」,以量度兒童心智理論(Theory of Mind)能力。測試內容設定為:「Sally和Anne在房間內,Sally將皮球放進籃子後離開房間,Anne其後將球從籃子取出,放進一個盒子並蓋上。Sally回來後,她會在哪裏找球?」

AI公司iKala行政總裁程世嘉周日(26日)於facebook發文,引述研究指出,部分兒童回答Sally會先到盒子找球,不過這是錯誤答案,因Sally其實不知球已被移位,但具備兒童心智理論能力的兒童就會明白,所以會回答Sally先到籃子找球。測試答對率會隨着年齡增長而上升,即使中學生都有機會答錯。

微軟研究員將「Sally-Anne測試」改寫,分別變成Alice和Bob找一份電腦檔案,以免GPT-4能參考「Sally-Anne測試」的答案。最終GPT-4能夠精準回答「Alice不應知道電腦檔案被移位」。

程世嘉表示,GPT-4如何產生這種能力,仍需進一步研究;AI是以類似神經網絡為基礎訓練,人類暫難理解AI內部運作,如果AI的能力超出研究人員的理解範圍,而技術又被所有人使用,情況將非常令人擔心。

(中央社/法新社/程世嘉facebook/路透社

ChatGPT系列:

實測GPT-4、文心一言、Bard向明報讀者問好 風格各異【短片】

短片示範:用GPT-4執CV 專家分享輸入指令心得

短片示範:用GPT-4寫小一叩門信 AI寫中文信效果如何?

短片:營養師ChatGPT問減肥餐單 實試用唔用得過?

網絡安全 實用資訊:

提防假冒ChatGPT 網絡安全五注意

熱門HOTPICK:bit.ly/3FoHZom

相關字詞﹕聊天機械人 聊天機械人ChatGPT AI人工智能 編輯推介 熱門HOTPICK ChatGPT即時熱點

上 / 下一篇新聞