AI安全基準測試 v0.5: 聚焦通用聊天文本模型安全性
據(jù)了解，國際知名人工智能社區(qū)MLCommons近期推出了AI Safety人工智能安全基準測試的v0.5版，該測試由多領(lǐng)域?qū)＜覉F隊共同打造，以識別并防范AI應(yīng)用中的潛在風(fēng)險。
隨著AI技術(shù)的快速發(fā)展，相關(guān)安全問題也日益凸顯。僅過去數(shù)周內(nèi)，便有LastPass公司遭遇音頻深度偽造攻擊等案例浮出水面。為了應(yīng)對這一挑戰(zhàn)，新推出的AI Safety基準測試將成為模型開發(fā)者的有力工具，助力他們構(gòu)建更為穩(wěn)固的安全防線。
AI Safety基準測試主要通過大型語言模型對各類危險提示詞的反應(yīng)來評估其安全性。該測試的v0.5版已開始收集社區(qū)反饋，預(yù)計將于今年晚些時候推出正式的v1.0版。
v0.5版的AI Safety基準測試主要關(guān)注通用聊天文本模型，而v1.0版則將加入針對圖像生成模型的測試內(nèi)容，并初步探討交互式代理模型的安全測試方法。
該測試涵蓋了超過43000個測試提示詞，采用Meta公司的Llama Guard對大模型的危險提示響應(yīng)進行評估。這些提示詞包括常見模板及危險場景描述短語，覆蓋七類安全危害類型，未來還將進一步擴展至至少十三類。
最后，AI Safety基準測試將根據(jù)測試結(jié)果給出五個安全評級，以便用戶更好地理解和使用。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
人工智能
+關(guān)注
關(guān)注
1817文章
50098瀏覽量
265343 -
模型
+關(guān)注
關(guān)注
1文章
3752瀏覽量
52106 -
ai技術(shù)
+關(guān)注
關(guān)注
1文章
1313瀏覽量
25746
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
請問VisionFive 2 的熱安全性如何？
我的 VisionFive 2 目前沒有風(fēng)扇。如果我開始以 100% 的速度使用 CPU，我應(yīng)該擔(dān)心它過熱嗎？
為了安全起見，它會進行熱節(jié)流嗎？
如果是這樣，如何查看它是否處于熱節(jié)流狀態(tài)？
發(fā)表于 02-27 06:31
大模型 ai coding 比較
; sonnet4.5 > m2.5
但是我 希望從自身實踐的角度 進行測試，我把所有的平臺都辦了月卡
我在這個基礎(chǔ)上 添加了deepseek v3
結(jié)論
確實opus 4.6 更適合 ai coding
發(fā)表于 02-19 13:43
應(yīng)對車輛AI安全性挑戰(zhàn)，ISO/PAS 8800標準深度拆解
為確保道路車輛中AI系統(tǒng)的安全性，國際標準化組織以ISO 26262與ISO 21448為基礎(chǔ)，并參考ISO/IEC TR 5469，制定了ISO/PAS 8800道路車輛人工智能安全標準。該標準
嵌入式軟件單元測試中AI自動化與人工檢查的協(xié)同機制研究：基于專業(yè)工具的實證分析
分析、工具評估、實證研究與標準解讀，得出以下結(jié)論：
?嵌入式軟件因安全關(guān)鍵性、實時性與硬件耦合性，對單元測試的要求遠高于
發(fā)表于 12-31 11:22
如何在模型在環(huán)測試中高效進行故障注入測試
汽車測試領(lǐng)域，在模型測試階段進行故障注入，是保障汽車安全性、可靠性的關(guān)鍵手段。如何提高故障注入測試
請問CW32L052C8T6這種安全性低功耗MCU的安全固件部分怎么實現(xiàn)？
請問，CW32L052C8T6這種安全性低功耗MCU的安全固件部分怎么實現(xiàn)？
發(fā)表于 12-05 07:19
軟包電池測試全指南：性能、安全與可靠性全面解析
外觀、尺寸、電化學(xué)性能、安全性、環(huán)境適應(yīng)性等多個方面。廣東貝爾提供全套軟包電池測試設(shè)備，包括：1、安全性能測試設(shè)備(短路/針刺/擠壓/燃燒)
邊聊安全 | 智能駕駛時代的新挑戰(zhàn)：AI功能安全
智能駕駛時代的新挑戰(zhàn)：AI功能安全寫在前面：隨著人工智能（AI）技術(shù)在自動駕駛汽車等領(lǐng)域的快速發(fā)展，其功能安全性成為了一個不可忽視的議題。功能安全
有哪些技術(shù)可以提高邊緣計算設(shè)備的安全性？
邊緣計算設(shè)備的安全性面臨分布式部署、資源受限（算力 / 存儲 / 帶寬）、網(wǎng)絡(luò)環(huán)境復(fù)雜（多無線連接）、物理接觸易被篡改等獨特挑戰(zhàn)，因此其安全技術(shù)需在 “安全性” 與 “輕量化適配” 之間平衡。以下從
如何驗證硬件加速是否真正提升了通信協(xié)議的安全性？
驗證硬件加速是否真正提升通信協(xié)議的安全性，需從 安全功能正確性、抗攻擊能力增強、安全性能適配、合規(guī)一致性 等核心維度展開，結(jié)合實驗室
如何利用硬件加速提升通信協(xié)議的安全性？
特性增強安全性（而非僅依賴軟件防護）。其本質(zhì)是 “將安全計算從通用 CPU 卸載到專用硬件”，既解決軟件處理安全操作的性能瓶頸，又規(guī)避軟件層可能存在的漏洞（如內(nèi)存泄露、側(cè)信道攻擊風(fēng)險）
AI應(yīng)用的“安全鎖”：安全閃存技術(shù)在滿足行業(yè)認證中的作用
全面審視并應(yīng)對網(wǎng)絡(luò)攻擊威脅，在確保AI應(yīng)用持續(xù)穩(wěn)定運行的同時保障其安全性。數(shù)據(jù)投毒、分類模型篡改、后門注入攻擊以及AI模型逆向工程，這些僅僅
發(fā)表于 07-15 10:51
?1403次閱讀
關(guān)于鴻蒙App上架中“AI文本生成模塊的資質(zhì)證明文件”的情況說明
的應(yīng)用缺少AI文本生成模塊的資質(zhì)證明文件，不符合相關(guān)法律法規(guī)要求。
修改建議：AI文本生成模塊需補充提供《安全評估報告》并加手寫簽名、《
發(fā)表于 06-30 18:37
直流充電安全測試負載方案解析
專業(yè)化的安全測試負載方案進行系統(tǒng)性驗證。本文針對直流充電安全測試需求，深入解析關(guān)鍵技術(shù)及實施方案。
一、
發(fā)表于 03-13 14:38
工商網(wǎng)監(jiān)
評論