大模型技術(shù)白皮書(2023版)
- 點(diǎn)擊數(shù):1247 發(fā)布時(shí)間:2023-10-24 10:06:30
- 分享到:
與大模型技術(shù)的突飛猛進(jìn)形成鮮明對(duì)照的是,大模型仍面臨諸多潛在的安全風(fēng)險(xiǎn)。大模型在應(yīng)用的過程中,可能會(huì)產(chǎn)生與人類價(jià)值觀不一致的輸出,如歧視言論、辱罵、違背倫理道德的內(nèi)容等,這種潛在的安全風(fēng)險(xiǎn)普遍存在于文本、圖像、語音和視頻等諸多應(yīng)用場(chǎng)景中,并會(huì)隨著模型的大規(guī)模部署帶來日益嚴(yán)重的安全隱患,使得用戶無法信賴人工智能系統(tǒng)做出的決策。更為重要的是,大模型較為脆弱,對(duì)安全風(fēng)險(xiǎn)的防范能力不足,容易受到指令攻擊、提示注入和后門攻擊等惡意攻擊。尤其是在政治、軍事、金融、醫(yī)療等關(guān)鍵的涉密應(yīng)用領(lǐng)域,任何形式的惡意攻擊都可能給國(guó)家社會(huì)的穩(wěn)定以及人民的生命財(cái)產(chǎn)安全帶來嚴(yán)重的后果。
關(guān)鍵詞:
請(qǐng)登錄以后訪問所有功能!
登錄
注冊(cè)