天天伊人网,欧美va天堂在线电影,黄色片一级片免费片,国内免费久久这里有精品,日本高清视频www夜色资源,亚洲男人在线视频观看,男生一进一出免费视频

網(wǎng)站黨建頁大圖
企業(yè)黨建

當(dāng)前位置 當(dāng)前位置: 企業(yè)黨建 > 專題專欄 > 正文

前十位AI類APP需求規(guī)模同比增長近40倍,應(yīng)用場景的豐富也增加了信息安全風(fēng)險(xiǎn)—— 織好AI用戶信息“防護(hù)網(wǎng)”(“融”觀中國) ——“人工智能與信息保護(hù)”系列報(bào)道之一
2024-06-03 點(diǎn)擊:0 作者: 來源:人民網(wǎng)

一名青年學(xué)生在安徽省阜陽市舉辦的網(wǎng)絡(luò)安全宣傳周展覽會上體驗(yàn)VR展品。
  王 彪攝(人民視覺)

 內(nèi)蒙古自治區(qū)呼和浩特市第二十七中學(xué)學(xué)生在繪制網(wǎng)絡(luò)安全知識手抄報(bào)。
  丁根厚攝(人民視覺)


  對話交流、創(chuàng)作詩歌、編寫代碼、自動繪畫……以大語言模型為代表的生成式人工智能(AI)快速發(fā)展,正前所未有地改變著人們的工作和生活。

  隨著生成式AI應(yīng)用場景日益增多,個人信息保護(hù)也面臨新的挑戰(zhàn):對數(shù)據(jù)的收集和挖掘,會不會侵犯個人隱私?怎樣處理好個人信息保護(hù)與數(shù)據(jù)合理利用之間的關(guān)系?使用個人信息的邊界在哪兒?本報(bào)記者就此進(jìn)行了采訪。

  “畫像”背后藏風(fēng)險(xiǎn)

  “對許多上班族來說,做PPT是一件讓人頭疼的事,經(jīng)常要加班加點(diǎn)熬夜制作,有時還要額外付費(fèi)聘請專業(yè)設(shè)計(jì)人員修改潤色。”在北京某互聯(lián)網(wǎng)公司工作的小潘告訴記者,現(xiàn)在通過生成式AI軟件,只需確定主題、導(dǎo)入大綱、選擇模版,不到1分鐘就能生成一份專業(yè)又精美的PPT。

  盡管效率明顯提高,小潘卻心有疑慮:PPT里提到的工作內(nèi)容、行業(yè)數(shù)據(jù)、個人情況,會不會被儲存在AI“大腦”中?如果涉及企業(yè)戰(zhàn)略規(guī)劃、商業(yè)秘密、關(guān)鍵技術(shù),有沒有被惡意竊取或泄露給第三方的可能?“目前,還沒看到軟件有類似‘一鍵擦除數(shù)據(jù)’的功能,無法確定這些信息的最終去向。”小潘說。

  現(xiàn)實(shí)中,不管是生成PPT、制作簡歷還是自動美顏、智能聊天,都不可避免地要向生成式AI提供姓名、職業(yè)、人臉、聲紋等個人信息,其中潛藏著不容忽視的隱私泄露風(fēng)險(xiǎn)。

  比如,一款基于生成式AI技術(shù)的攝影軟件一度走紅網(wǎng)絡(luò)。用戶花9.9元,上傳個人照片,選擇喜歡的模版,便能獲取一套由AI生成的寫真集。在AI寫真“刷屏”網(wǎng)絡(luò)的同時,該軟件也因存在濫用用戶信息的嫌疑受到批評。有網(wǎng)友說:“向一款手機(jī)APP里傳這么多照片,讓我感到很不安。誰知道這些照片會不會被作為其他用途?”后來,研發(fā)團(tuán)隊(duì)致歉,承諾上傳照片只用于數(shù)字寫真制作,制作完成后,照片也將自動刪除。

  出于對新興技術(shù)的好奇,消費(fèi)者往往在不知不覺中將個人隱私“透露”給AI。反過來,憑借獲取到的信息,通過強(qiáng)大的數(shù)據(jù)整合、處理能力,生成式AI也能判斷出個人的身份特征和行為習(xí)慣。有研究發(fā)現(xiàn),聊天機(jī)器人可以從日常對話中精準(zhǔn)提煉關(guān)鍵信息,了解其購物習(xí)慣、個人興趣乃至個人觀念,從而為用戶精準(zhǔn)“畫像”。

  “生成式AI具有高度智能化特征,借助其出色的內(nèi)容理解和學(xué)習(xí)能力,從海量信息中獲取個人隱私,甚至可能通過對話‘誘導(dǎo)’用戶打開‘心房’?!蔽髂险ù髮W(xué)科技法學(xué)研究院副院長鄭志峰告訴記者,這意味著生成式AI十分“懂”你,在侵害個人隱私方面更加高效、隱蔽,不易察覺。

  用戶數(shù)據(jù)成“養(yǎng)料”

  “我們將對您主動上傳的文檔材料進(jìn)行脫敏處理后作為AI訓(xùn)練基礎(chǔ)材料使用……”前段時間,某辦公軟件隱私政策中的條款被質(zhì)疑濫用用戶信息。隨后,該軟件發(fā)布聲明,保證用戶文檔不再被用于AI訓(xùn)練目的。

  啥是AI訓(xùn)練?“對生成式AI來說,離不開算法、算力、數(shù)據(jù)三要素。其中,數(shù)據(jù)是AI的‘養(yǎng)料’,‘投喂’得越多,AI越‘聰明’。”鄭志峰介紹,這決定了生成式AI必須盡可能多地采集、處理和使用各種數(shù)據(jù),為大模型成長提供充足“營養(yǎng)”。

  當(dāng)前,各類數(shù)據(jù)采集無時不有、無處不在,幾乎每個人都被置于數(shù)字化空間之中,個人隱私極易以數(shù)據(jù)的形式被存儲、復(fù)制、傳播。在所有數(shù)據(jù)類型中,個人信息能反映個人行為、偏好、行動軌跡等,是最有價(jià)值的數(shù)據(jù)類型之一。

  “許多企業(yè)利用用戶數(shù)據(jù)優(yōu)化產(chǎn)品和服務(wù)、定向投放廣告或開展經(jīng)營活動。”中國社會科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室副主任周輝說,“有的企業(yè)片面關(guān)注數(shù)據(jù)價(jià)值,忽視了隱私保護(hù)和數(shù)據(jù)安全,可能出現(xiàn)違法收集、濫用用戶信息等行為?!?/p>

  生成式AI的快速發(fā)展和應(yīng)用門檻的大幅降低增加了隱私泄露風(fēng)險(xiǎn)。研究報(bào)告顯示,截至2024年1月,前十位AI類APP需求規(guī)模同比增長近40倍。生成式AI正加速滲透人們生活的方方面面。然而,應(yīng)用場景日益豐富的同時,違規(guī)收集、使用用戶信息的花樣也變多了。

  借助生成式AI的換臉和擬聲技術(shù)進(jìn)行遠(yuǎn)程視頻詐騙就是一例。有媒體報(bào)道,郭先生接到“好友”的視頻通話,對方聲稱需要保證金用以項(xiàng)目競標(biāo),想借郭先生公司賬戶“走個賬”。出自對“好友”的信任,郭先生陸續(xù)給對方轉(zhuǎn)賬共計(jì)430萬元。等郭先生再次聯(lián)系好友時才發(fā)現(xiàn)自己被騙。

  “隨著AI生成內(nèi)容愈發(fā)逼真,傳統(tǒng)內(nèi)容審核機(jī)制和安全防護(hù)手段已不足以適應(yīng)新形勢的要求?!敝袊磐ㄔ喝斯ぶ悄苎芯克呒墭I(yè)務(wù)主管呼娜英說,生成式AI技術(shù)愈加成熟,用戶在保護(hù)好個人隱私的同時,也需要提升對新型網(wǎng)絡(luò)犯罪的辨別和防范能力。

  給AI產(chǎn)品貼“標(biāo)記”

  怎樣才能滿足生成式AI的“胃口”,同時又保護(hù)好個人隱私呢?處理好兩者關(guān)系,既需要法律法規(guī)的約束,也離不開技術(shù)手段的支撐。

  去年7月,國家網(wǎng)信辦等七部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》,多處提及個人信息保護(hù)問題。強(qiáng)調(diào)生成式AI服務(wù)提供者“對使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù),不得收集非必要個人信息,不得非法留存能夠識別使用者身份的輸入信息和使用記錄,不得非法向他人提供使用者的輸入信息和使用記錄”等。

  “中國目前有關(guān)個人隱私保護(hù)的法律法規(guī)比較完善。未來需要根據(jù)生成式AI技術(shù)特點(diǎn)進(jìn)一步構(gòu)建具體的權(quán)利、義務(wù)和責(zé)任規(guī)則?!编嵵痉迮e例說,AI的風(fēng)險(xiǎn)等級是多樣的,不同AI算法對于個人隱私的侵害程度不同,需要有針對性的具體措施。

  通過技術(shù)手段識別、阻斷和追溯生成式AI生成侵犯個人隱私的有害信息,也是人工智能治理實(shí)踐中的重要措施之一。根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》, 深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容,應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識。

  “通俗地說,就是給生成式AI的產(chǎn)品和服務(wù)貼上統(tǒng)一的‘標(biāo)記’,提示用戶該內(nèi)容由AI合成,也有助于監(jiān)管部門管理?!焙裟扔⒔榻B,由于顯式標(biāo)識容易被裁剪或刪除,還需進(jìn)一步探索隱式標(biāo)識的解決方案。

  盡管生成式AI在一定程度上存在隱私泄露風(fēng)險(xiǎn),但并不意味著它與信息保護(hù)之間是完全對立的,關(guān)鍵是要找到發(fā)展與規(guī)范之間的平衡點(diǎn),在生活越來越“智能”的同時,守護(hù)好個人隱私安全,推動生成式AI健康可持續(xù)發(fā)展。

(責(zé)編:薄晨棣、溫璐)