要點:

1. 生成式AI安全新規(guī)發(fā)布，包含31項安全要求，生成式AI服務提供者需遵循這些要求，方可“持證上崗”。

2. 安全要求涵蓋語料安全、模型安全、安全措施、安全評估等四大方面，具體包括語料來源黑名單、模型使用規(guī)范、服務透明度等多個關鍵要求。

3. 不同場景的生成式AI服務需采取不同的保護措施，包括關鍵信息基礎設施、未成年人使用等，以確保生成內(nèi)容質(zhì)量和安全性。

站長之家（ChinaZ.com）10月13日 消息:最新發(fā)布的生成式AI安全規(guī)定明確了31項安全要求，只有符合這些要求的生成式AI服務提供者才能“持證上崗”。這一規(guī)范涵蓋了語料安全、模型安全、安全措施和安全評估等四大關鍵領域。

對于語料安全，要求提供者建立語料來源黑名單，不使用來自黑名單的數(shù)據(jù)進行訓練。如果某一來源的語料中包含違法不良信息超過5%，則該來源會被列入黑名單。此外，規(guī)定了多元化的語料來源，包括不同語言和不同類型的語料，以及要求語料來源可追溯。

在模型安全方面，提供者不得使用未備案的基礎模型進行研發(fā)，必須公開第三方基礎模型的使用情況。生成內(nèi)容要符合科學常識，不得包含錯誤信息。

安全措施方面，根據(jù)不同場景和使用者需求，規(guī)定了不同的保護措施，特別是在關鍵信息基礎設施和未成年人使用的情況下。此外，要求設置監(jiān)看人員以提高生成內(nèi)容質(zhì)量。

安全評估方面提供了具體的評估方法，包括語料安全評估、生成內(nèi)容安全評估、內(nèi)容拒答評估等。要求提供者使用人工抽檢，確保語料安全。

總的來說，這一生成式AI安全規(guī)定為生成式AI服務提供者提供了具體的安全標準，以確保其生成內(nèi)容的質(zhì)量和安全性。這對于保護用戶權(quán)益和社會安全具有重要意義。

關于征求信安標委技術(shù)文件《生成式人工智能服務 安全基本要求》（征求意見稿）意見的通知的原文地址：

https://www.tc260.org.cn/front/postDetail.html?id=20231011143225

（舉報）