2025年6月13日，廣東省標(biāo)準(zhǔn)化協(xié)會(huì)發(fā)布團(tuán)體標(biāo)準(zhǔn)《智能體任務(wù)執(zhí)行安全要求》。這一團(tuán)標(biāo)的發(fā)布，標(biāo)志著廣東省在智能體產(chǎn)業(yè)安全管理方面邁出了重要一步，為智能體開(kāi)發(fā)和運(yùn)營(yíng)主體提供了明確的行為準(zhǔn)則，也為用戶權(quán)益和數(shù)據(jù)安全提供了有力保障。
近年來(lái)，智能體技術(shù)迅速發(fā)展，成為人工智能產(chǎn)業(yè)的重要賽道。眾多手機(jī)廠商如華為、榮耀、小米、OPPO、vivo等紛紛將手機(jī)助手升級(jí)為智能體，大模型企業(yè)也推出了多款智能體。然而，智能體的廣泛應(yīng)用也帶來(lái)了數(shù)據(jù)安全、隱私保護(hù)和不正當(dāng)競(jìng)爭(zhēng)等隱患。部分智能體濫用“無(wú)障礙”權(quán)限，導(dǎo)致用戶信息被竊取、資金被轉(zhuǎn)移等風(fēng)險(xiǎn)高企，引起了社會(huì)的廣泛關(guān)注。
為應(yīng)對(duì)這些挑戰(zhàn)，由北京郵電大學(xué)、中國(guó)聯(lián)合通信集團(tuán)股份有限公司、天翼安全科技有限公司、聯(lián)想（北京）有限公司、北京數(shù)牘科技有限公司、廣州虎牙科技有限公司、廣東省標(biāo)準(zhǔn)化協(xié)會(huì)等單位，共同起草了《智能體任務(wù)執(zhí)行安全要求》團(tuán)體標(biāo)準(zhǔn)。該團(tuán)標(biāo)自發(fā)布之日起生效，適用于所有提供智能體開(kāi)發(fā)和運(yùn)營(yíng)的主體。
該團(tuán)標(biāo)的核心內(nèi)容包括：
禁止濫用無(wú)障礙服務(wù)：智能體不得利用無(wú)障礙權(quán)限或操作系統(tǒng)技術(shù)優(yōu)勢(shì)操作第三方App，必須通過(guò)標(biāo)準(zhǔn)化接口調(diào)用的方式協(xié)作。
雙重授權(quán)原則：智能體在進(jìn)行用戶意圖識(shí)別、通過(guò)第三方App執(zhí)行任務(wù)時(shí)，應(yīng)先通過(guò)第三方App授權(quán)，并在獲得用戶授權(quán)后執(zhí)行。
公平公正原則：智能體的任務(wù)決策算法應(yīng)公平、公正、透明，不得干擾用戶選擇。
用戶權(quán)益保護(hù)：智能體通過(guò)麥克風(fēng)、截屏、錄屏、共享屏幕等權(quán)限獲取數(shù)據(jù)資源時(shí)，不得侵害用戶及其他主體的數(shù)據(jù)權(quán)益，第三方App有權(quán)拒絕不合理操作以保護(hù)用戶權(quán)益。
專家組評(píng)審認(rèn)為，該團(tuán)標(biāo)的制定將規(guī)范智能體的開(kāi)發(fā)、運(yùn)營(yíng)與服務(wù)評(píng)估，可為智能體任務(wù)執(zhí)行安全質(zhì)量提供評(píng)估，有利于促進(jìn)智能體任務(wù)執(zhí)行安全服務(wù)的高質(zhì)量市場(chǎng)供給，具有重要的經(jīng)濟(jì)、社會(huì)和生態(tài)效益。團(tuán)標(biāo)的實(shí)施將引導(dǎo)智能體開(kāi)發(fā)、運(yùn)營(yíng)與服務(wù)企業(yè)提升安全服務(wù)意識(shí)，防止智能體在迭代發(fā)展過(guò)程中出現(xiàn)的濫用無(wú)障礙、共享屏幕等系統(tǒng)權(quán)限實(shí)現(xiàn)自動(dòng)化任務(wù)執(zhí)行從而造成用戶數(shù)據(jù)被違規(guī)獲取、數(shù)據(jù)泄露等現(xiàn)象發(fā)生，促進(jìn)智能體通過(guò)API調(diào)用訪問(wèn)外部應(yīng)用為用戶提供個(gè)性化服務(wù)、及其生態(tài)的標(biāo)準(zhǔn)化建設(shè)、技術(shù)進(jìn)步，推動(dòng)智能體技術(shù)和產(chǎn)業(yè)高質(zhì)量發(fā)展。
此次發(fā)布的團(tuán)體標(biāo)準(zhǔn)《智能體任務(wù)執(zhí)行安全要求》，不僅彰顯了學(xué)術(shù)界與產(chǎn)業(yè)界的共識(shí)，也為智能體產(chǎn)業(yè)的安全合規(guī)發(fā)展提供了重要依據(jù)。