AI安全
-
Anthropic:承諾與白宮加強合作並解決Mythos和Fable模型安全隱患
Svmuu訊 Anthropic 高管在向美國商務部長 Lutnick 提交的提案中承諾,將與白宮展開更緊密合作,並努力解決導致其 Mythos 和 Fable 模型遭限制的安全隱患。知情人士週四透露,在持續進行的整改談判中,Anthropic 承諾將改善與特朗普政府的溝通,並在未來更迅速地解決任何安全問題。該消息人士補充稱,Anthropic 與特朗普政府官員之間的談判進展順利,目前尚無徹底解決
-
Fable 5或被摁死,特朗普政府官員稱Anthropic若重新發布需確保其模型防護無法被繞過
Svmuu訊 WIRED 在 X 平台發文表示,特朗普政府官員稱,如果 Anthropic 希望重新發布 Fable 5,需要確保該模型的安全防護無法被繞過。安全專家對此表示,這無法實現。
-
Anthropic警示AI自我迭代風險:Claude已自動生成80%公司代碼
Svmuu訊 人工智能公司 Anthropic 發出警示,遞歸自我迭代(Recursive Self-Improvement,RSI)可能帶來重大風險。上週,Anthropic 宣佈其 AI 模型 Claude 目前已經能生成公司約 80%的代碼,公司稱這是 AI 進入“自我迭代”階段的關鍵信號——即模型可以在無需人工干預下,設計下一代 AI 系統。 遞歸自我迭代概念近期在硅谷引發廣泛關注。上月,
-
OpenAI提出全球青少年AI安全框架倡議,呼籲設立國際青年AI安全機構
Svmuu訊 OpenAI 官方發佈關於「青少年 AI 安全與發展機會」的全球倡議,計劃在即將舉行的 G7 峯會上重點討論相關議題,並呼籲建立專門的國際青少年 AI 安全機構,以推動跨國協作與長期治理機制。 OpenAI 表示,AI 正在教育、語言學習、技能培訓與職業準備等方面為年輕人帶來重要機會,但同時也需要建立「預設安全、分級保護」的使用框架,禁止對未成年人進行定向廣告與數據出售,包括:透過隱
-
Anthropic:承諾與白宮加強合作並解決Mythos和Fable模型安全隱患
Svmuu訊 Anthropic 高管在向美國商務部長 Lutnick 提交的提案中承諾,將與白宮展開更緊密合作,並努力解決導致其 Mythos 和 Fable 模型遭限制的安全隱患。知情人士週四透露,在持續進行的整改談判中,Anthropic 承諾將改善與特朗普政府的溝通,並在未來更迅速地解決任何安全問題。該消息人士補充稱,Anthropic 與特朗普政府官員之間的談判進展順利,目前尚無徹底解決
-
Fable 5或被摁死,特朗普政府官員稱Anthropic若重新發布需確保其模型防護無法被繞過
Svmuu訊 WIRED 在 X 平台發文表示,特朗普政府官員稱,如果 Anthropic 希望重新發布 Fable 5,需要確保該模型的安全防護無法被繞過。安全專家對此表示,這無法實現。
-
Anthropic警示AI自我迭代風險:Claude已自動生成80%公司代碼
Svmuu訊 人工智能公司 Anthropic 發出警示,遞歸自我迭代(Recursive Self-Improvement,RSI)可能帶來重大風險。上週,Anthropic 宣佈其 AI 模型 Claude 目前已經能生成公司約 80%的代碼,公司稱這是 AI 進入“自我迭代”階段的關鍵信號——即模型可以在無需人工干預下,設計下一代 AI 系統。 遞歸自我迭代概念近期在硅谷引發廣泛關注。上月,
-
OpenAI提出全球青少年AI安全框架倡議,呼籲設立國際青年AI安全機構
Svmuu訊 OpenAI 官方發佈關於「青少年 AI 安全與發展機會」的全球倡議,計劃在即將舉行的 G7 峯會上重點討論相關議題,並呼籲建立專門的國際青少年 AI 安全機構,以推動跨國協作與長期治理機制。 OpenAI 表示,AI 正在教育、語言學習、技能培訓與職業準備等方面為年輕人帶來重要機會,但同時也需要建立「預設安全、分級保護」的使用框架,禁止對未成年人進行定向廣告與數據出售,包括:透過隱
- 暫無數據


