
在大模型備案的語境中,社會動員能力和輿論屬性是評估生成式人工智能服務(wù)影響力和潛在風(fēng)險(xiǎn)的重要維度。以下是兩者的具體解釋:
一、社會動員能力
社會動員能力指的是一種能夠整合社會資源、調(diào)動公眾積極性,以推動實(shí)現(xiàn)特定目標(biāo)或活動的力量。在生成式人工智能服務(wù)的背景下,擁有社會動員能力的模型或服務(wù)通常能夠吸引大量用戶的關(guān)注、討論和參與,進(jìn)而對社會產(chǎn)生廣泛的影響。這種能力可能源于模型生成的內(nèi)容具有吸引力、說服力或激勵性,能夠激發(fā)公眾的共鳴和行動。
二、輿論屬性
輿論屬性則是指生成式人工智能服務(wù)所生成的內(nèi)容能夠引發(fā)公眾輿論或社會關(guān)注的特性。這種屬性通常與模型生成內(nèi)容的主題、觀點(diǎn)、表達(dá)方式等因素密切相關(guān)。具有輿論屬性的生成式人工智能服務(wù)可能會對社會輿論產(chǎn)生顯著影響,甚至引導(dǎo)或改變公眾對某些問題的看法和態(tài)度。
具體來說,具有輿論屬性的生成式人工智能服務(wù)可能包括那些能夠生成具有爭議性、敏感性或廣泛討論價(jià)值的內(nèi)容的模型或服務(wù)。例如,一個(gè)能夠生成涉及社會熱點(diǎn)、政治敏感或倫理道德等話題的文本的模型,可能會引發(fā)公眾的廣泛關(guān)注和討論,進(jìn)而形成社會輿論。
在大模型備案中,對社會動員能力和輿論屬性的評估是確保生成式人工智能服務(wù)合規(guī)性和安全性的重要環(huán)節(jié)。通過評估這些屬性,監(jiān)管部門可以更好地了解模型或服務(wù)可能產(chǎn)生的社會影響,從而采取相應(yīng)的監(jiān)管措施來確保公眾利益和社會穩(wěn)定。同時(shí),這也要求企業(yè)在開發(fā)和使用生成式人工智能服務(wù)時(shí),要充分考慮其社會影響和責(zé)任,確保技術(shù)的健康發(fā)展和社會價(jià)值的最大化。
一家之言:傳統(tǒng)的發(fā)帖、評論留言都是輿論屬性,然后對于AI來說,因?yàn)橛脩舻慕换ザa(chǎn)生互動(包括對話、AI生成),每次互動結(jié)果可能都不一樣,則可能引起輿論影響,產(chǎn)生社會動員能力,則可定義該互聯(lián)網(wǎng)信息服務(wù)產(chǎn)品具備輿論屬性。
1、郵箱是否具備輿論屬性?因?yàn)榭梢园l(fā)郵件給他人,可以跟他人互動,則肯定是能引起輿論影響,和微信聊天是一個(gè)性質(zhì)。
2、個(gè)人網(wǎng)盤是否具備輿論屬性?一般網(wǎng)盤可以不認(rèn)為具備輿論屬性,因?yàn)閭€(gè)人網(wǎng)盤只是個(gè)人儲存文件,每次上傳文件可以不一樣,但是得到的結(jié)果是一樣的,每次都是告知上傳成功、下載成功等狀態(tài);但是如果具備網(wǎng)盤文件的分享功能,則會被判定為具備輿論屬性.
3、個(gè)人博客網(wǎng)站是否具備輿論屬性?若純粹是展示,不具備評論、投票、分享功能,則不具備輿論屬性。
4、文心一言是否具備輿論屬性?文心一言每次發(fā)送信息過去,即使相同信息,得到的信息也可能是不一樣的,由于不同人的指令,
,可能產(chǎn)生不一樣的結(jié)果,這個(gè)是AI的神奇之處,在不同人手里的效果是不一樣的,因?yàn)槊看位咏Y(jié)果可能都不一樣,則可能會讓人分享出去,借助這個(gè)AI生成的結(jié)果讓人廣為傳播,從而引起輿論影響。比如我把我公司產(chǎn)品給到AI,讓AI美化贊揚(yáng)一下用來品牌營銷,則信息發(fā)送者本人可能會利用這個(gè)結(jié)果如截圖、分享、復(fù)制等各種形式去到處去宣傳。
官方微信
業(yè)務(wù)入口: