• 第四范式陈雨强出席联合国互联网治理论坛,介绍AI与隐私保护工作

    2018.11.23

    日前,一年一度的聯合國互聯網治理論壇(Internet Governance Forum,下文簡稱IGF) ?在法國巴黎聯合國教科文組織總部召開,探討如何保障互聯網的可持續、穩定、安全發展,參會人員包括聯合國秘書長古特雷斯以及來自各國的代表,第四范式聯合創始人兼首席研究科學家陳雨強出席會議并就人工智能中的倫理安全問題闡述了觀點。本屆IGF由法國政府主辦,法國總統馬克龍在致辭中呼吁,關乎人類未來的數字革命正處于前所未有的轉折點,我們共同的責任是一起努力尋找創新、實用和可持續的解決方案,以提早應對挑戰并有效駕馭技術潛力。

    人工智能、大數據和物聯網是廣受關注的新興議題。新一代人工智能的崛起,在給人類帶來驚喜和更高生產力的同時,也引發了一些如何避免人工智能挑戰人類安全或社會倫理道德的擔憂。其中不乏互聯網巨頭出現嚴重數據泄露導致用戶隱私泄露的問題,給企業的數據管理和使用敲響了警鐘,對數據的隱私保護重視成為大勢所趨。美國近年來一直在關注相關立法,歐盟也在今年5月正式生效了被譽為“全世界最嚴厲的數據隱私保護法”《一般數據保護條例》 (GDPR),我國在數據隱私保護方面還處于起步階段,一方面是早期數據隱私保護意識薄弱,一方面也受制于技術難度。

    陳雨強在大會期間介紹了第四范式在推廣人工智能技術過程中的隱私保護工作。數據隱私保護在金融、醫療等敏感行業一直備受關注,也是企業防范的重點。數據隱私保護的方法論并不神秘,如k-anonymity,l-diversity,t-closeness,在模型訓練里加噪聲等,但在實際應用上往往會出現技術難點,比如加入噪聲、擾動后,本來可用的原信息被擾動信息淹沒了,造成數據失效。

    第四范式在創立伊始便與金融機構和醫療機構展開合作,一向重視開發帶有隱私保護的人工智能技術,得益于機器學習技術的優勢和積累,第四范式的人工智能隱私保護技術已在實際應用中取得效果。以醫療行業為例,在第四范式與瑞金醫院聯合開發的糖尿病預測產品“瑞寧知糖”時,在提取和分析數據的過程中,第四范式通過差分隱私技術,能夠在有效利用數據的同時保護用戶隱私,避免了用戶身份泄露的潛在風險。

    面對互聯網安全以及人工智能使用中的倫理道德與風險問題,國際社會希望可以在政策建立和技術發展方面達成共識并推動。陳雨強在IGF大會發言中指出,像所有技術一樣,人工智能技術的開發和應用也面臨如何兼顧道德倫理的問題。需要明確的是,大部分的機器人并非沒有道德,它們只是“與道德無關”,是人類的使用方式讓它們面臨了倫理困境。

    近年來人工智能的發展受益于大數據驅動,隱私問題是數據資源開發利用中的主要威脅之一;在涉及信用評估、犯罪風險評估等項目時,人工智能決策的結果將影響貸款額度、刑罰輕重,如何確保人工智能算法遵循公平公正原則,需要對其進行審計,避免使其成為“黑箱”;對人工智能的規范,需要在國家層面建立一套公開透明的人工智能監管體系,實現對人工智能設計開發和使用的全流程監管,加強對違規行為的懲戒,督促人工智能行業和企業合規開發人工智能技術。

    關于如何確保AI被用于符合人類福祉的用途,陳雨強表示這是一個技術領域一直以來的難題,我們需要嚴加管理AI不被錯誤的使用,但也不能因噎廢食,只要合理利用,AI對于社會的益處會是全面且巨大的。AI是新時代的“火”,好好駕馭,將大幅推動人類的進步。

    日韩 欧美~中文字幕