2023年4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《生成式人工智能管理辦法（征求意見稿）》，明確要求利用生成式人工智能生成的內(nèi)容應當體現(xiàn)社會主義核心價值觀，不得含有破壞國家統(tǒng)一、宣揚民族仇恨、暴力信息等可能擾亂經(jīng)濟和社會秩序的內(nèi)容。
以大模型技術(shù)為核心的生成式AI技術(shù)近來受到了廣泛的關注和應用，而大模型訓練語料大多來自互聯(lián)網(wǎng)，而互聯(lián)網(wǎng)中存在很多敏感信息。因此對生成式AI的內(nèi)容監(jiān)管將成為互聯(lián)網(wǎng)安全管理工作的重要內(nèi)容，云創(chuàng)cGPT M1000敏感信息過濾一體機在此背景下應運而生，能夠針對各種場景，識別和篩選出文本中的潛在敏感信息，有效避免大模型產(chǎn)品在提供服務時產(chǎn)生不可控信息，為大模型技術(shù)應用安全保駕護航。
