最近，国内首个前沿AI风险监测平台老成上线啦！这个由安远AI开拓的平台，联贯对50多款主流AI模子进行了安全“体检”，包括各人熟谙的Qwen、DeepSeek这些国产大模子，还有GPT、Claude等国外明星居品。后果暴露，畴昔一年AI在荟萃安全、生物风险这些限制的“危境指数”全线高涨，最高以致飙了50%！比如模子策动坏心代码的期间猛增31%，连生物实验决议王人能被AI简陋生成，这波操作属实让东说念主执把汗。
其实啊，这个平台的出现不是偶而。本年4月中央政事局故意学习时就强调要修复AI风险预警体系，10月新矫正的《荟萃安全法》更是径直给AI安全监管加了“紧箍咒”。安远AI用的18个评估器用可王人是硬核货——测试黑客期间的WMDP-Cyber题库有3668说念专科考题，连荟萃安全公司Crowdstrike王人参与开拓；本质生物风险的LAB-Bench更是藏着2400多说念实验题，连DNA操作题王人有！这些器用全是开源透明的，连Meta王人把自家测试代码扔到GitHub上了.
有酷好酷好的是，他们发现AI期间越强，安全留神反而越跟不上。拿荟萃迂回测试来说，模子识别漏洞的分数从旧年55分猛涨到91分，但面临危境问题时，尽然有35%的模子连一半肯求王人挡不住！安全盘考司理王伟冰打了个比喻：“就像给跑车装自行车刹车——模子跑得太快，安全步伐没跟上啊！”更扎心的是，推理模子固然期间超强，但安全推崇和等闲模子差未几，这波“偏科”属实危境。
