咨詢熱線:021-80392549

什么是生成式人工智能?為何要規(guī)范?專家解讀→

放大字體  縮小字體 發(fā)布日期:2023-07-17     來源:央視新聞客戶端     瀏覽次數(shù):158
 什么是生成式人工智能?為何要規(guī)范?專家解讀→

自動(dòng)駕駛、聊天機(jī)器人、電商直播甚至醫(yī)療保健,近年來人工智能在多領(lǐng)域的研究和應(yīng)用給我們的生活和工作帶來了高效和便利。但是也有不法分子為了牟利,利用人工智能技術(shù)進(jìn)行詐騙,比如利用AI換臉冒充熟人詐騙,或者制作發(fā)布假新聞混淆視聽、賺取流量等等。

昨天(13日),國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部、科技部等7部門公布《生成式人工智能服務(wù)管理暫行辦法》,自2023年8月15日起施行。國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示,出臺(tái)《辦法》旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,維護(hù)國(guó)家安全和社會(huì)公共利益,保護(hù)公民、法人和其他組織的合法權(quán)益。

《辦法》從哪些方面規(guī)范生成式人工智能的發(fā)展和應(yīng)用?又是如何針對(duì)當(dāng)前存在的一些濫用人工智能技術(shù)亂象來對(duì)癥下藥?一起看↓

《管理暫行辦法》從多個(gè)方面“劃紅線”

《辦法》要求,提供和使用生成式人工智能服務(wù),應(yīng)當(dāng)遵守法律、行政法規(guī),尊重社會(huì)公德和倫理道德,遵守以下規(guī)定:

堅(jiān)持社會(huì)主義核心價(jià)值觀,不得生成煽動(dòng)顛覆國(guó)家政權(quán)、推翻社會(huì)主義制度,危害國(guó)家安全和利益、損害國(guó)家形象,煽動(dòng)分裂國(guó)家、破壞國(guó)家統(tǒng)一和社會(huì)穩(wěn)定,宣揚(yáng)恐怖主義、極端主義,宣揚(yáng)民族仇恨、民族歧視,暴力、淫穢色情,以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容;

在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中,采取有效措施防止產(chǎn)生民族、信仰、國(guó)別、地域、性別、年齡、職業(yè)、健康等歧視;

尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德,保守商業(yè)秘密,不得利用算法、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì),實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為;

尊重他人合法權(quán)益,不得危害他人身心健康,不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益;

基于服務(wù)類型特點(diǎn),采取有效措施,提升生成式人工智能服務(wù)的透明度,提高生成內(nèi)容的準(zhǔn)確性和可靠性。

何為生成式人工智能?

生成式人工智能技術(shù),是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。

生成式人工智能服務(wù)提供者,是指利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)(包括通過提供可編程接口等方式提供生成式人工智能服務(wù))的組織、個(gè)人。

生成式人工智能服務(wù)使用者,是指使用生成式人工智能服務(wù)生成內(nèi)容的組織、個(gè)人。

“AI換臉”詐騙 10分鐘被騙取430萬元

作為生成式人工智能的一種技術(shù),近期,“AI換臉”的應(yīng)用范圍越來越廣,但存在濫用之嫌,甚至有人利用AI換臉實(shí)施犯罪。

近日,內(nèi)蒙古包頭警方發(fā)布一起利用AI實(shí)施電信詐騙的典型案例。來自福建的郭先生是一家科技公司的法人代表。今年4月,他的好友突然通過微信視頻聯(lián)系他,稱自己的朋友在外地競(jìng)標(biāo),需要430萬元保證金,想借用郭先生公司的賬戶走賬;趯(duì)好友的信任,加上已經(jīng)視頻聊天“確認(rèn)”了身份,郭先生在10分鐘內(nèi),先后分兩筆把430萬元轉(zhuǎn)到了對(duì)方的銀行賬戶上。事后,郭先生才得知,原來是騙子通過AI換臉和擬聲技術(shù)實(shí)施的騙局。

利用人工智能技術(shù)造謠 一網(wǎng)民被依法查處

自2022年12月以來,一款名為ChatGPT的人工智能應(yīng)用掀起來一股科技熱潮,它能夠通過學(xué)習(xí)和理解人類的語言來進(jìn)行對(duì)話,根據(jù)用戶需求撰寫郵件、視頻腳本、文案、代碼等等,被視為具有可快速、批量生產(chǎn)訊息的生產(chǎn)力工具,然而卻有人打起了借此非法牟利的歪心思。

近期,根據(jù)公安部網(wǎng)安局總體部署,江蘇公安網(wǎng)安部門深入推進(jìn)網(wǎng)絡(luò)謠言打擊整治專項(xiàng)行動(dòng),依法查處一名利用人工智能技術(shù)編造謠言網(wǎng)民。

今年4月10日,鹽城市公安局網(wǎng)安支隊(duì)接到上級(jí)通報(bào)稱,該市一網(wǎng)民發(fā)布“浙江溫州一名女大學(xué)生在晚歸途中遭持刀襲擊并強(qiáng)奸”的虛假信息。鹽城網(wǎng)安支隊(duì)立即會(huì)同屬地警方展開調(diào)查,查明造謠人員系鹽城阜寧縣網(wǎng)民朱某鋒,并對(duì)其依法傳喚。到案后,朱某峰對(duì)其造謠行為供認(rèn)不諱。

阜寧縣公安局網(wǎng)絡(luò)安全保衛(wèi)大隊(duì)民警邱侗:據(jù)其交代為了博取眼球、吸引流量,以獲取平臺(tái)給予的創(chuàng)作者獎(jiǎng)金,他就利用了這款時(shí)下流行的ChatGPT人工智能軟件杜撰了該謠言。而編造發(fā)布此類謠言極易引發(fā)群眾恐慌,造成不良社會(huì)影響,從而構(gòu)成違法犯罪。

網(wǎng)民 朱某鋒:我就跟機(jī)器人聊,讓它幫我寫一篇強(qiáng)奸案文章,內(nèi)容要求逼真,字?jǐn)?shù)1500字。然后它就自動(dòng)生成了,內(nèi)容的真實(shí)性我沒有考慮。

為顯真實(shí),朱某峰還在網(wǎng)上找到一張白衣女性的圖片,附在文章中一同發(fā)布。目前,公安機(jī)關(guān)根據(jù)《中華人民共和國(guó)治安管理處罰法》第二十五條之規(guī)定,已對(duì)朱某峰行政罰款貳佰元,并責(zé)令其清理不實(shí)信息,關(guān)停相關(guān)自媒體賬號(hào)。

網(wǎng)民 朱某鋒:我認(rèn)識(shí)到錯(cuò)誤的嚴(yán)重性了,誠(chéng)懇接受民警的處罰與批評(píng)教育,今后做守法網(wǎng)民,不造謠、不傳謠。

阜寧縣公安局網(wǎng)絡(luò)安全保衛(wèi)大隊(duì)民警邱侗:在此提醒廣大網(wǎng)民,網(wǎng)絡(luò)并非法外之地,人工智能技術(shù)應(yīng)用應(yīng)嚴(yán)格遵守法律底線,在正當(dāng)、合法的領(lǐng)域合理使用。

《辦法》針對(duì)典型亂象從三方面對(duì)癥下藥

針對(duì)生成式人工智能出現(xiàn)濫用甚至違法現(xiàn)象,《生成式人工智能服務(wù)管理暫行辦法》如何對(duì)癥下藥?

01:40 中國(guó)科學(xué)技術(shù)大學(xué)公共事務(wù)學(xué)院、網(wǎng)絡(luò)空間安全學(xué)院教授左曉棟表示:

一是針對(duì)技術(shù)本身。例如要求使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型,涉及個(gè)人信息的應(yīng)當(dāng)取得個(gè)人同意或者屬于不需要取得同意的情形。這便是針對(duì)生成式人工智能輸出結(jié)果容易受到輸入數(shù)據(jù)影響而制定的。

二是針對(duì)服務(wù)的提供過程。例如要求生成式人工智能服務(wù)提供者依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任,履行網(wǎng)絡(luò)信息安全義務(wù)。提供者應(yīng)當(dāng)對(duì)使用者的輸入信息和使用記錄依法履行保護(hù)義務(wù)。提供者如果發(fā)現(xiàn)使用者從事違法活動(dòng),應(yīng)當(dāng)采取處置措施。

三是針對(duì)產(chǎn)業(yè)發(fā)展。為了防止被卡脖子,鼓勵(lì)生成式人工智能算法、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新。為了防止無序發(fā)展,要求推動(dòng)相關(guān)基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè),促進(jìn)算力資源協(xié)同共享,提升算力資源利用效能。

目前生成式人工智能應(yīng)用中出現(xiàn)了傳播虛假信息、侵害個(gè)人信息權(quán)益、數(shù)據(jù)安全和偏見歧視等問題,需要及時(shí)規(guī)制。但總體而言生成式人工智能仍處于發(fā)展的初期階段,風(fēng)險(xiǎn)沒有完全暴露,應(yīng)用前景難以估量,所以應(yīng)當(dāng)采取包容審慎的態(tài)度,堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合,要采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展。所以這次的管理辦法稱為“暫行辦法”,便是有這方面的考慮。文件針對(duì)已經(jīng)出現(xiàn)的濫用、違法現(xiàn)象提出了管理措施,但對(duì)于生成式人工智能技術(shù)的未來發(fā)展留下了巨大的空間。

人工智能蓬勃發(fā)展 核心產(chǎn)業(yè)規(guī)模達(dá)五千億元

記者從相關(guān)部門了解到,我國(guó)人工智能產(chǎn)業(yè)蓬勃發(fā)展,核心產(chǎn)業(yè)規(guī)模達(dá)到5000億元,企業(yè)數(shù)量超過4300家,創(chuàng)新成果不斷涌現(xiàn)。未來,人工智能產(chǎn)業(yè)發(fā)展前景可觀,我們也期待,隨著《生成式人工智能服務(wù)管理暫行辦法》的實(shí)施,人工智能在各領(lǐng)域的發(fā)展和應(yīng)用更加健康規(guī)范,從各方面、多層次地助力人們的工作和生活。

工博士工業(yè)品商城聲明:凡資訊來源注明為其他媒體來源的信息,均為轉(zhuǎn)載自其他媒體,并不代表本網(wǎng)站贊同其觀點(diǎn),也不代表本網(wǎng)站對(duì)其真實(shí)性負(fù)責(zé)。您若對(duì)該文章內(nèi)容有任何疑問或質(zhì)疑,請(qǐng)立即與商城(headrickconstructioninc.com)聯(lián)系,本網(wǎng)站將迅速給您回應(yīng)并做處理。
聯(lián)系電話:021-31666777
新聞、技術(shù)文章投稿QQ:3267146135  投稿郵箱:syy@gongboshi.com