隨著人工智能技術(shù)的飛速發(fā)展，其在互聯(lián)網(wǎng)信息服務(wù)領(lǐng)域的應(yīng)用日益廣泛，從內(nèi)容推薦、智能搜索到社交互動(dòng)、在線交易，算法已成為驅(qū)動(dòng)數(shù)字世界運(yùn)行的核心引擎。算法的廣泛應(yīng)用也帶來(lái)了透明度缺失、潛在偏見(jiàn)、信息安全及倫理風(fēng)險(xiǎn)等挑戰(zhàn)。為規(guī)范人工智能算法的開(kāi)發(fā)與應(yīng)用，促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康有序發(fā)展，我國(guó)正逐步建立健全算法備案管理制度。江西省作為國(guó)家重要區(qū)域，積極響應(yīng)并落實(shí)相關(guān)政策，其人工智能算法備案工作對(duì)保障區(qū)域網(wǎng)絡(luò)信息安全、推動(dòng)產(chǎn)業(yè)創(chuàng)新具有重要意義。
一、 算法備案的政策背景與法律依據(jù)
人工智能算法備案主要依據(jù)國(guó)家互聯(lián)網(wǎng)信息辦公室等部委聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》以及后續(xù)相關(guān)配套文件。該規(guī)定明確了算法推薦服務(wù)提供者的主體責(zé)任，要求具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者履行備案手續(xù)。江西省的相關(guān)工作是在此國(guó)家框架下，結(jié)合本省實(shí)際情況進(jìn)行的具體落實(shí)，旨在加強(qiáng)對(duì)屬地內(nèi)算法應(yīng)用的監(jiān)管，防范算法濫用風(fēng)險(xiǎn)，保護(hù)用戶權(quán)益。
二、 江西算法備案的核心內(nèi)容與范圍
江西省要求進(jìn)行備案的人工智能算法，主要指應(yīng)用于互聯(lián)網(wǎng)信息服務(wù)中，能夠自動(dòng)生成或提供內(nèi)容、進(jìn)行決策或推薦的算法模型。備案內(nèi)容通常涵蓋以下幾個(gè)方面：
- 主體信息：算法服務(wù)提供者的基本信息，包括名稱、性質(zhì)、注冊(cè)地址、聯(lián)系方式等。
- 算法信息：算法的基本原理、運(yùn)行機(jī)制、主要功能、應(yīng)用場(chǎng)景、數(shù)據(jù)來(lái)源及類型等核心技術(shù)信息。
- 安全與倫理評(píng)估：算法設(shè)計(jì)、訓(xùn)練、部署過(guò)程中采取的防止歧視、偏見(jiàn)、信息繭房等措施；內(nèi)容安全、數(shù)據(jù)安全、個(gè)人信息保護(hù)方案；以及倫理審查情況。
- 管理制度：企業(yè)內(nèi)部建立的算法安全管理制度、人工干預(yù)和用戶申訴機(jī)制、透明度提升措施等。
- 服務(wù)情況：算法所服務(wù)的互聯(lián)網(wǎng)信息服務(wù)平臺(tái)名稱、服務(wù)形式、用戶規(guī)模等。
備案范圍重點(diǎn)覆蓋新聞資訊、社交娛樂(lè)、電商購(gòu)物、出行服務(wù)、生活服務(wù)等用戶量大、影響面廣的互聯(lián)網(wǎng)平臺(tái)所使用的核心推薦、排序、篩選、調(diào)度、生成等算法。
三、 備案流程與監(jiān)管要求
江西省的算法備案流程一般包括：企業(yè)自查與準(zhǔn)備材料、通過(guò)指定平臺(tái)提交備案信息、省級(jí)網(wǎng)信部門(mén)審核、公示備案信息等環(huán)節(jié)。監(jiān)管要求強(qiáng)調(diào)事中事后監(jiān)管，備案不是“一備了之”，而是動(dòng)態(tài)監(jiān)管的開(kāi)始。備案企業(yè)需對(duì)算法安全負(fù)主體責(zé)任，持續(xù)開(kāi)展算法安全評(píng)估，及時(shí)整改發(fā)現(xiàn)問(wèn)題，并在算法重大變更時(shí)履行變更備案或重新備案義務(wù)。網(wǎng)信部門(mén)將結(jié)合備案信息，通過(guò)技術(shù)檢測(cè)、現(xiàn)場(chǎng)檢查、接受舉報(bào)等方式進(jìn)行監(jiān)督。
四、 對(duì)江西互聯(lián)網(wǎng)信息服務(wù)發(fā)展的意義
- 筑牢安全底線：通過(guò)備案摸清底數(shù)，督促企業(yè)將安全、公平、透明理念嵌入算法全生命周期，有效防范算法歧視、大數(shù)據(jù)殺熟、誘導(dǎo)沉迷、傳播違法不良信息等風(fēng)險(xiǎn)，保護(hù)用戶合法權(quán)益，維護(hù)清朗網(wǎng)絡(luò)空間。
- 促進(jìn)合規(guī)發(fā)展：為人工智能企業(yè)和互聯(lián)網(wǎng)平臺(tái)提供了明確的行為指引，幫助其厘清合規(guī)邊界，降低法律風(fēng)險(xiǎn)，促進(jìn)行業(yè)在規(guī)范中創(chuàng)新發(fā)展。
- 激發(fā)創(chuàng)新活力：規(guī)范的監(jiān)管環(huán)境有助于建立公平競(jìng)爭(zhēng)的市場(chǎng)秩序，防止算法濫用形成壟斷或不正當(dāng)競(jìng)爭(zhēng)，鼓勵(lì)企業(yè)將創(chuàng)新重點(diǎn)轉(zhuǎn)向提升服務(wù)質(zhì)量、優(yōu)化用戶體驗(yàn)和突破核心技術(shù)。
- 提升治理效能：算法備案是網(wǎng)絡(luò)綜合治理體系的重要組成部分，使監(jiān)管更加精準(zhǔn)、科學(xué)，為江西省數(shù)字經(jīng)濟(jì)發(fā)展和治理能力現(xiàn)代化提供有力支撐。
五、 挑戰(zhàn)與展望
算法備案工作在實(shí)踐中也面臨技術(shù)復(fù)雜性高、企業(yè)合規(guī)成本、商業(yè)秘密保護(hù)與透明度要求的平衡等挑戰(zhàn)。江西省可望在以下方面深化探索：
- 細(xì)化分類分級(jí)管理：根據(jù)算法的應(yīng)用領(lǐng)域、風(fēng)險(xiǎn)等級(jí)實(shí)施差異化、精細(xì)化的備案與監(jiān)管要求。
- 強(qiáng)化技術(shù)監(jiān)管能力：利用監(jiān)管科技（RegTech）提升對(duì)算法運(yùn)行效果的監(jiān)測(cè)、評(píng)估和審計(jì)能力。
- 推動(dòng)行業(yè)自律與標(biāo)準(zhǔn)建設(shè)：鼓勵(lì)行業(yè)協(xié)會(huì)、領(lǐng)軍企業(yè)參與制定算法倫理規(guī)范和技術(shù)標(biāo)準(zhǔn)。
- 加強(qiáng)宣傳與引導(dǎo)：提升全社會(huì)對(duì)算法安全的認(rèn)識(shí)，形成政府監(jiān)管、企業(yè)負(fù)責(zé)、社會(huì)監(jiān)督、用戶參與的多元共治格局。
江西省扎實(shí)推進(jìn)人工智能算法備案工作，是順應(yīng)技術(shù)發(fā)展趨勢(shì)、踐行依法治網(wǎng)理念的關(guān)鍵舉措。它不僅為互聯(lián)網(wǎng)信息服務(wù)套上了“安全韁繩”，也為人工智能技術(shù)的健康、可信、可持續(xù)發(fā)展鋪就了“規(guī)范軌道”，必將助力江西在數(shù)字經(jīng)濟(jì)浪潮中行穩(wěn)致遠(yuǎn)，更好地服務(wù)經(jīng)濟(jì)社會(huì)發(fā)展大局。
