ChatGPT（人工智能聊天機械人的一種）爆紅，其開發公司OpenAI團隊近期接受《麻省理工科技評論》（MIT Technology Review）訪問，談及對ChatGPT的想法。OpenAI人員表示，無想過ChatGPT會爆紅，反而要花心力預防ChatGPT學壞「做衰嘢」，最擔心是ChatGPT的factuality（事實準繩度），以及低估了外界對ChatGPT在政治層面的關注度。
OpenAI人員表示，公司內部只視ChatGPT為一項研究預覽（research preview），不認為是一個大躍進，相關技術其實已出現兩年，人員只是收集使用者意見後將它修正改善得更好。
研究員反而要想方設法預防ChatGPT學壞、「做衰嘢」或「播毒」，其中一個方法是adversarial training（人工智能對抗式訓練），讓系統不易被誘導學壞。人員表示，希望ChatGPT真的幫到手、真誠和坦白，所以如果用家向ChatGPT發問不清晰時，ChatGPT要懂追問；如果用家提出要求，而ChatGPT做不到的話（ChatGPT只是人工智能）要說做不到；不應說或幹的事，ChatGPT要懂拒絕。
OpenAI共同創辦人John Schulman表示，團隊最擔心的是ChatGPT的factuality，這種模型系統傾向虛構或騙造部分事情。不過，相比早已在使用中的InstructGPT或其他模型系統，ChatGPT在這方面已做得較好。他反而低估了坊間對ChatGPT在政治層面的關注度，他們需要留意改善搜集有關政治的大數據，希望做得更好。
ChatGPT 實用資訊：
無VPN試玩ChatGPT：iPhone可下載「Poe」 網頁版亦可試【附iOS App使用示範短片】
更多ChatGPT相關報道或文章：bit.ly/3Yto7bA
熱門HOTPICK：bit.ly/3FoHZom