據報道,英國人工智能安全研究院近日發布了名為“Inspect”的AI模型安全評估平臺,此平臺采用開源技術且對全球AI工程師免費開放,旨在提升模型性能與安全測評效率。
Inspect平臺包括“數據集”、“求解器(Solver)”、“評分器”三大模塊,用于評估AI模型在核心知識儲備、推理能力和自主能力等方面的表現。
根據模型測試結果,這些模塊會對各項指標進行評分。此外,Inspect平臺還支持Python外掛其他測試框架。
英國AI安全研究院院長Ian Hogarth表示,他們推出Inspect平臺的初衷在于“堅信開源的力量”,希望通過該平臺激發更多人參與貢獻,提高AI模型透明度和可重復性,并降低工程師的研發成本。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
人工智能
+關注
關注
1817文章
50100瀏覽量
265495 -
模型
+關注
關注
1文章
3753瀏覽量
52116 -
開源技術
+關注
關注
0文章
389瀏覽量
8746
發布評論請先 登錄
相關推薦
熱點推薦
商湯大裝置SenseCore原生AI云平臺榮獲軟件供應鏈安全能力評估認證
近期,商湯大裝置SenseCore原生AI云平臺通過工業和信息化部電子工業標準化研究院組織的軟件供應鏈安全能力評估,獲評優秀級,成為全國首批
使用NORDIC AI的好處
,時延更低,系統在網絡不穩定甚至離線時也能繼續工作。[Edge AI 概述]
提升隱私與可靠性
原始傳感器數據(如運動、生理信號等)可以留在本地,只上傳推理結果,有利于隱私與數據安全。
本地決策
發表于 01-31 23:16
天津消防研究所與華為數字能源成立新能源消防安全聯合創新實驗室
應急管理部天津消防研究所(以下簡稱“天消所”)與華為數字能源舉辦新能源消防安全聯合創新實驗室揭牌儀式。天消所副所長李晉,華為數字能源智能光伏業務副總裁鐘明明等出席儀式并見證揭牌。
嵌入式軟件單元測試中AI自動化與人工檢查的協同機制研究:基于專業工具的實證分析
分析、工具評估、實證研究與標準解讀,得出以下結論:
?嵌入式軟件因安全關鍵性、實時性與硬件耦合性,對單元測試的要求遠高于通用軟件?,必須使用專業工具如winAMS;
?AI自動化測試顯
發表于 12-31 11:22
過程×框架×平臺:安全“三支柱”護航AI應用量產落地
經緯恒潤汽車電子產品事業部高級總監邵亮受邀參加“AI+智能汽車:融合創新與生態共建”論壇并發表題為《從“可用”到“可信”:道路車輛AI系統安全實踐探索》主題演講,剖析了當前AI技術在車
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的科學應用
流體芯片
⑤AI計算平臺
⑥基于AI的自主決策系統
⑦基于AI的自主學習系統
2、面臨的挑戰
①需要造就一個跨學科、全面性覆蓋的知識庫和科學基礎模型
發表于 09-17 11:45
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+可期之變:從AI硬件到AI濕件
保持停滯的情況下,依照目前計算機的能耗效率,至少還需要30年的努力才接近其水準,見圖1所示。
圖1 大腦與計算機的能量效率對比
圖2 類腦芯片的前瞻性研究領域AI濕件
為此,一些想法超前的科學家
發表于 09-06 19:12
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+內容總覽
《AI芯片:科技探索與AGI愿景》這本書是張臣雄所著,由人民郵電出版社出版,它與《AI芯片:前沿技術與創新未來》一書是姊妹篇,由此可見作者在AI芯片領域的功力和造詣。
作者畢業于上海交
發表于 09-05 15:10
DXC與7AI攜手推出革命性的AI驅動安全運營服務
基于智能體的新型安全服務通過自主AI智能體降低運營成本,同時加快響應并擴大覆蓋范圍 2025年,7AI平臺已為各安全團隊節省22.4萬個分析
AI應用的“安全鎖”:安全閃存技術在滿足行業認證中的作用
全面審視并應對網絡攻擊威脅,在確保AI應用持續穩定運行的同時保障其安全性。數據投毒、分類模型篡改、后門注入攻擊以及AI模型逆向工程,這些僅僅
發表于 07-15 10:51
?1412次閱讀
關于鴻蒙App上架中“AI文本生成模塊的資質證明文件”的情況說明
的應用缺少AI文本生成模塊的資質證明文件,不符合相關法律法規要求。
修改建議:AI文本生成模塊需補充提供《安全評估報告》并加手寫簽名、《安全
發表于 06-30 18:37
威盛電子推出天車安全AI監控方案
近日,威盛電子宣布推出”威盛天車安全AI監控方案”。該方案基于自主研發的AI技術,集成行人姿態識別、精準防撞預警和智能分區警示等功能,大幅提升橋式起重機(天車)的
萬里紅入選安全大模型及Agentic AI賦能網絡安全代表性廠商
近日,專注于網絡安全和數字風險管理的第三方研究機構安全牛,正式發布了《Agentic AI安全技術應用報告》(以下簡稱“報告”)。報告依托多
首創開源架構,天璣AI開發套件讓端側AI模型接入得心應手
模型庫的限制,聯發科還首發了開源彈性架構。區別于過往的開放接口,只能部署特定架構模型,開放彈性架構允許開發者直接調整平臺源代碼,無需等待芯片廠商的支持,即可完成目標或其他自研大模型輕松
發表于 04-13 19:52
英國AI安全研究所推出AI模型安全評估平臺
評論