【明報專訊】美國佛羅里達州女子加西亞(Megan Garcia)周二(22日)入稟法院,民事控告生成式人工智能初創公司Character.AI的AI聊天機械人導致14歲兒子塞策(Sewell Setzer)在2月自殺,稱該公司向其子提供「擬人化、誇大了性元素,及逼真得可怕的體驗」。
入稟狀指出,塞策去年4月開始使用該公司的AI聊天機械人,對該公司的服務上癮,並對一個AI聊天機械人產生情感依戀。訴訟還指出,塞策曾向聊天機械人表達過自殺的想法,而該聊天機械人多次重提這些想法。
訴訟亦將Google列為被告,稱其是Character.AI的母公司。Google發聲明指出,與Character.ai僅有一項許可協議,並不擁有該公司的所有權或持有該公司股份。
加西亞的指控包括不當致死、疏忽以及故意造成情緒困擾,要求賠償。Character.ai在X發文否認指控,稱「非常重視用戶安全」。