生成式人工智能發(fā)展迎新起點

今年以來，國內(nèi)生成式人工智能熱度高漲，大模型“浪潮”此起彼伏。在產(chǎn)業(yè)競速未來賽道的同時，也亟須系上“安全帶”。8月15日，國家網(wǎng)信辦等七部門發(fā)布的《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》）正式施行，這也是我國首個針對生成式人工智能產(chǎn)業(yè)的規(guī)范性政策。

“制度的出臺不僅僅是規(guī)范其發(fā)展，更是良性引導和鼓勵創(chuàng)新。”業(yè)內(nèi)專家認為，《辦法》堅持發(fā)展和安全并重，一方面劃出法律紅線，另一方面也為創(chuàng)新留足空間，生成式人工智能大規(guī)模商用有望加速落地，迎來發(fā)展新起點。

劃出“紅線”力保技術(shù)安全

(資料圖片僅供參考)

生成式人工智能技術(shù)，是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。聚焦境外互聯(lián)網(wǎng)詐騙的電影《孤注一擲》正在熱映，也讓人工智能等新技術(shù)帶來的虛假信息、隱私泄露等風險引起公眾高度關(guān)注。

《辦法》將保護使用者的個人信息安全擺在了重要位置，明確提出，生成式人工智能服務提供者應當依法承擔網(wǎng)絡信息內(nèi)容生產(chǎn)者責任，履行網(wǎng)絡信息安全義務。同時，服務提供者不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。

“這就將生成式人工智能服務提供者明確納入了網(wǎng)絡平臺責任的規(guī)制范圍內(nèi)，讓違規(guī)違法者無灰色地帶可躲。”北京大成律師事務所高級合伙人肖颯說。

生成式人工智能面世之初，就存在“一本正經(jīng)地胡說八道”現(xiàn)象。對此，《辦法》明確，提供者應當按照《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進行標識，以解決其內(nèi)容真假難辨，甚至出現(xiàn)技術(shù)被濫用、誤用等問題。

奇安信集團副總裁張卓表示，對生成式人工智能服務來說，促進發(fā)展和防范風險需要兩者并重，從《辦法》可以看出，數(shù)據(jù)安全和隱私保護貫穿于生成式人工智能數(shù)據(jù)的標注、模型預訓練、模型訓練、提供服務等各個環(huán)節(jié)，避免了監(jiān)管盲區(qū)導致的安全風險。分級分類監(jiān)管留足創(chuàng)新空間

國家網(wǎng)信辦有關(guān)負責人表示，在監(jiān)管方式上，《辦法》提出，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管，要求國家有關(guān)主管部門針對生成式人工智能技術(shù)特點及其在有關(guān)行業(yè)和領域的服務應用，完善與創(chuàng)新發(fā)展相適應的科學監(jiān)管方式，制定相應的分類分級監(jiān)管規(guī)則或者指引。

其中《辦法》第二條明確提出了“不適用”場景，即“行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關(guān)專業(yè)機構(gòu)等研發(fā)、應用生成式人工智能技術(shù)，未向境內(nèi)公眾提供生成式人工智能服務的，不適用本辦法的規(guī)定。”

“這一條讓規(guī)制對象目標更明確、針對性更強。”肖颯表示，《辦法》對生成式人工智能服務提供者不作“一刀切”，體現(xiàn)出我國對生成式人工智能在研究與應用方面的支持和鼓勵，為創(chuàng)新留足了發(fā)展空間。

同時，《辦法》表示，生成式人工智能服務提供者發(fā)現(xiàn)違法內(nèi)容的，應當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓練等措施進行整改，并向有關(guān)主管部門報告。提供者發(fā)現(xiàn)使用者利用生成式人工智能服務從事違法活動的，應當依法依約采取警示、限制功能、暫停或者終止向其提供服務等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門報告。

“《辦法》堅持法治化的監(jiān)管方向，將給予市場一個穩(wěn)定的預期。”中央財經(jīng)大學中國互聯(lián)網(wǎng)經(jīng)濟研究院副院長歐陽日輝表示，在法無禁止即可為的前提條件下，更有利于新產(chǎn)業(yè)、新技術(shù)、新模式、新業(yè)態(tài)生根發(fā)芽，培育出更適合數(shù)字經(jīng)濟發(fā)展的營商沃土。

利好大模型多領域加速落地

生成式人工智能底層技術(shù)，實際上就是大模型。近段時間以來，國內(nèi)人工智能領域爆發(fā)“群模大戰(zhàn)”，據(jù)不完全統(tǒng)計，中國10億級參數(shù)規(guī)模以上大模型已發(fā)布79個。天眼查數(shù)據(jù)顯示，今年上半年，人工智能領域的投融資熱情明顯高漲，月均融資事件達48起，從地域上看，北京以半年76起融資居全國首位。

面對蓬勃發(fā)展的產(chǎn)業(yè)，國家網(wǎng)信辦有關(guān)負責人表示，《辦法》明確鼓勵生成式人工智能技術(shù)在各行業(yè)、各領域的創(chuàng)新應用，鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術(shù)的自主創(chuàng)新，鼓勵采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源。

“關(guān)于生成式人工智能的應用場景問題一直引人爭議。”肖颯稱，《辦法》強調(diào)了人工智能技術(shù)的“應用”，即有目的性地發(fā)展人工智能，要將研究成果轉(zhuǎn)化為生產(chǎn)成果，鼓勵其與實際應用場景相結(jié)合，與各行業(yè)、各領域的需求相結(jié)合，利好大模型大規(guī)模商用的推進和企業(yè)級應用的有序發(fā)展。

日前，新華社研究院發(fā)布《人工智能大模型體驗報告2.0》，訊飛星火位列國產(chǎn)主流大模型測評榜首位，與今年6月首次發(fā)布的主流大模型測評相比，當前中國大模型產(chǎn)品進步顯著。科大訊飛董事長劉慶峰認為，“安全可控”、“場景驅(qū)動”和“專屬模型”是推動認知大模型在行業(yè)深度應用的三大關(guān)鍵要素。“實現(xiàn)大模型的安全可控，要解決算力安全和內(nèi)容安全兩大難題，目前需要行業(yè)伙伴一起聯(lián)合攻關(guān)。”

“當前，我國大模型產(chǎn)品已經(jīng)初步具備商用能力，《辦法》的落地預示著我國大模型商用浪潮即將開啟。”平安證券一位分析師認為，在政策與技術(shù)的共振下，我國生成式人工智能產(chǎn)業(yè)未來發(fā)展前景廣闊。

標簽：