人民網(wǎng)
人民網(wǎng)>>強(qiáng)國(guó)新聞

人工智能大模型發(fā)展,如何安全、規(guī)范、可持續(xù)?

方經(jīng)綸
2023年11月08日13:36 | 來(lái)源:人民網(wǎng)
小字號(hào)

由人民網(wǎng)主辦的“智融未來(lái)——2023人工智能成果展示會(huì)”近日在武漢精彩演繹。展示會(huì)上,來(lái)自傳播內(nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室的相關(guān)負(fù)責(zé)人介紹了生成式人工智能合規(guī)性評(píng)估體系和語(yǔ)料庫(kù)的建設(shè)情況。

目前,主流價(jià)值語(yǔ)料庫(kù)的建設(shè)取得了階段性進(jìn)展,已完成3000多萬(wàn)篇基礎(chǔ)語(yǔ)料、5萬(wàn)多道問(wèn)答語(yǔ)料的建設(shè)工作。相關(guān)工作成果助推了國(guó)產(chǎn)人工智能大模型的安全、規(guī)范和可持續(xù)發(fā)展,為生成式人工智能領(lǐng)域提供了更多的規(guī)范和參考。

為何要群力群策建設(shè)這樣一個(gè)主流價(jià)值語(yǔ)料庫(kù)?人民日?qǐng)?bào)社傳播內(nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室首席科學(xué)家張勇東在接受人民網(wǎng)采訪時(shí)表示,在人工智能時(shí)代,媒體的重要職責(zé)之一就是保證意識(shí)形態(tài)的安全。當(dāng)前,人工智能大模型已經(jīng)成為一種生成式信息傳播工具,因此對(duì)于大模型價(jià)值觀的訓(xùn)練是必要的。“訓(xùn)練人工智能大模型的過(guò)程就像培養(yǎng)一個(gè)小孩,你從小怎樣培養(yǎng)他,在什么環(huán)境下去培養(yǎng)他,他將來(lái)就成為什么樣的人?!敝髁髅襟w建立符合中國(guó)人自己價(jià)值觀的語(yǔ)料庫(kù),就是對(duì)其“成長(zhǎng)環(huán)境”的一種塑造。

當(dāng)前,生成式人工智能技術(shù)(AIGC)發(fā)展迅猛,不僅能夠應(yīng)用于文字,更是在視頻、音頻等多領(lǐng)域?qū)崿F(xiàn)突破。那么,媒體行業(yè)在利用AIGC技術(shù)提高生產(chǎn)力的同時(shí),如何防范別有用心者用其制造假新聞,傳播假消息?

張勇東認(rèn)為,保證新聞的真實(shí)性,一直以來(lái)都是媒體的重要職責(zé)。人工智能技術(shù)生成的內(nèi)容偽裝性和欺騙性都很強(qiáng),的確有可能會(huì)導(dǎo)致更多的虛假內(nèi)容產(chǎn)生?!耙虼?,我們要用AI對(duì)抗AI?!被谝恍┓烙匀斯ぶ悄芗夹g(shù),首先判斷信息內(nèi)容是否為人工智能技術(shù)生成,向用戶發(fā)出預(yù)警。另外,隨著主流價(jià)值語(yǔ)料庫(kù)的規(guī)模不斷擴(kuò)大,還能夠通過(guò)人工智能技術(shù)將存疑信息與語(yǔ)料庫(kù)內(nèi)數(shù)據(jù)進(jìn)行對(duì)比,從而幫助用戶判斷出信息是否與事實(shí)相符,若為謠言,還能夠列舉其中哪些信息點(diǎn)是錯(cuò)誤的。

據(jù)了解,由傳播內(nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室主導(dǎo),與中國(guó)科學(xué)技術(shù)大學(xué)、合肥綜合性國(guó)家科學(xué)中心人工智能研究院聯(lián)合推出的AI生成內(nèi)容檢測(cè)工具——AIGCX,可快速區(qū)分機(jī)器生成文本與人工生成文本,目前對(duì)中文文本檢測(cè)的準(zhǔn)確率已超過(guò)90%。

(責(zé)編:方經(jīng)綸、賀迎春)

分享讓更多人看到

熱門排行

  • 評(píng)論
  • 分享
  • 關(guān)注
返回頂部