新華社日內(nèi)瓦5月16日電 (記者 王其冰)世界衛(wèi)生組織16日呼吁謹(jǐn)慎使用人工智能生成的大型語言模型工具。世衛(wèi)組織說,雖然借助這類工具可便利地獲取健康信息,甚至能在資源不足的地區(qū)提高診斷能力,但在使用時(shí)必須仔細(xì)考察其風(fēng)險(xiǎn)。
世衛(wèi)組織說,ChatGPT、Bard這類發(fā)展最快的大型語言模型能模仿人類的理解能力和處理手段,并與人類產(chǎn)生交流。這類平臺在公眾中迅速傳播,并越來越多地用于與健康相關(guān)的目的。
世衛(wèi)組織強(qiáng)調(diào),草率采用未經(jīng)測試的系統(tǒng)可能會導(dǎo)致醫(yī)護(hù)人員出錯(cuò),對患者造成傷害,削弱對人工智能的信任,從而破壞或延緩此類技術(shù)在全球的潛在長期利益和使用。
為能夠安全、有效且符合倫理地使用技術(shù),世衛(wèi)組織列出了以下需要嚴(yán)格監(jiān)管的問題:用于訓(xùn)練人工智能的數(shù)據(jù)存在偏差而導(dǎo)致信息不實(shí);大型語言模型生成的健康問題的響應(yīng)可能包含嚴(yán)重錯(cuò)誤;大型語言模型之前使用的訓(xùn)練數(shù)據(jù)可能未經(jīng)授權(quán),且可能不會保護(hù)敏感健康數(shù)據(jù);大型語言模型可能被濫用,以文本、音頻或視頻內(nèi)容的形式生成和傳播虛假信息。
世衛(wèi)組織認(rèn)為,在個(gè)人、醫(yī)護(hù)人員以及衛(wèi)生系統(tǒng)管理者和決策者將人工智能廣泛應(yīng)用于日常衛(wèi)生保健之前,應(yīng)解決上述問題,并評估其益處。