《大模型安全實踐（2024）》白皮書深入分析了大模型技術的安全風險，并提出了全面的安全治理框架和建議，以確保大模型技術的穩健與負責任發展。

大模型作為AI領域的一個重要分支，日益成為推動社會進步和創新的關鍵力量。依托于龐大的參數規模、海量的訓練數據、強大的算力資源，大模型在多個領域的能力已超越人類。而縱觀歷史，每一輪新技術革命都會帶來社會的變革與不確定性，隨著大模型能力的不斷增強，大模型的安全性、可靠性、可控性正面臨前所未有的挑戰。

伴隨大模型的深度應用，產學研用各方也加強了大模型安全威脅和防御技術體系研究，在原有可信人工智能治理體系框架基礎上，提升大模型的魯棒性、可解釋性、公平性、真實性、價值對齊、隱私保護等方向的能力成為行業研究熱點。安全評測技術和安全防御技術不斷成熟也有效護航了大模型發展。

大模型正在成為推動各垂類領域產業升級的關鍵核心力量。金融、醫療、教育、政務、制造等眾多領域都在積極探索大模型安全應用范式，以應對大模型安全風險。大模型安全實踐案例從系統化的角度為大模型數據、訓練、部署、應用等環節提供安全應用經驗，展示了如何有效地識別和防控大模型風險，促進了業內最佳實踐的交流和分享，助力了大模型安全生態發展。

本報告在分析了大模型發展趨勢挑戰的基礎上，提出了大模型安全實踐總體框架，并從安全性、可靠性、可控性以及評測四個角度對大模型安全技術進行了深度剖析。最后，在大模型安全未來發展趨勢基礎上，提出了大模型安全“五維一體”治理框架，對于大模型安全生態形成、大模型可持續發展具有非常重要和積極的意義。

附件：大模型安全實踐白皮書2024-安全性、可靠性、可控性以及評測四個角度剖析