日韩成人av一二三区,婷婷久久综合久久久

螞蟻集團(tuán)發(fā)布AI安全檢測(cè)平臺(tái)“蟻鑒2.0”，可一鍵識(shí)別生成式AI模型安全漏洞

2023-07-07 17:54:02 來(lái)源：新浪科技

(資料圖)

新浪科技訊 7月7日下午消息，2023世界人工智能大會(huì)期間，在“聚焦·大模型時(shí)代AIGC新浪潮—可信AI”論壇上，螞蟻集團(tuán)聯(lián)合清華大學(xué)發(fā)布AI安全檢測(cè)平臺(tái)“蟻鑒2.0”。蟻鑒2.0可實(shí)現(xiàn)用生成式AI能力檢測(cè)生成式AI模型，可識(shí)別數(shù)據(jù)安全、內(nèi)容安全、科技倫理三大類的數(shù)百種風(fēng)險(xiǎn)，覆蓋表格、文本、圖像等多種數(shù)據(jù)和任務(wù)類型，是業(yè)內(nèi)首個(gè)實(shí)現(xiàn)產(chǎn)業(yè)級(jí)應(yīng)用的全數(shù)據(jù)類型AI安全檢測(cè)平臺(tái)。

在該論壇上，螞蟻集團(tuán)同時(shí)宣布，“蟻鑒2.0”全面開(kāi)放，面向全球開(kāi)發(fā)者免費(fèi)提供AIGC安全性、AI可解釋性、AI魯棒性三項(xiàng)檢測(cè)工具，可服務(wù)于數(shù)字金融、教育、文化、醫(yī)療、電商等領(lǐng)域的大規(guī)模復(fù)雜業(yè)務(wù)場(chǎng)景。

螞蟻集團(tuán)大安全事業(yè)群技術(shù)部總裁李俊奎表示，“生成式大模型是一種‘深黑盒’技術(shù)，‘蟻鑒2.0’通過(guò)智能博弈對(duì)抗技術(shù)，模擬黑產(chǎn)以及自動(dòng)化生成海量測(cè)試集，可實(shí)現(xiàn)‘生成式機(jī)器人’對(duì)‘AIGC生成式模型’的誘導(dǎo)式檢測(cè)計(jì)算，很像一個(gè)24小時(shí)不眠不休的‘安全黑客’在找茬大模型，從而找到大模型存在的弱點(diǎn)和安全問(wèn)題所在?！?/p>

據(jù)了解，“蟻鑒2.0”集成了螞蟻近10年可信AI實(shí)踐、1000余項(xiàng)可信AI專利，支持零編碼測(cè)評(píng)。開(kāi)發(fā)者通過(guò)API接口，將AI模型接入蟻鑒，就可以一鍵識(shí)別和挖掘模型漏洞。

此次論壇上，中國(guó)信通院、上海人工智能實(shí)驗(yàn)室、武漢大學(xué)、螞蟻集團(tuán)等多家單位共同發(fā)起《AIGC可信倡議》，圍繞人工智能可能引發(fā)的經(jīng)濟(jì)、安全、隱私和數(shù)據(jù)治理等問(wèn)題，提出構(gòu)建AIGC可信發(fā)展的全球治理合作框架，采用安全可信的數(shù)據(jù)資源、技術(shù)框架、計(jì)算方法和軟件平臺(tái)等全面提升AIGC可信工程化能力，最大限度確保生成式AI安全、透明、可釋。

標(biāo)簽：