面對(duì)以上兩大挑戰(zhàn),楊強(qiáng)教授分享了“聯(lián)邦學(xué)習(xí)”這一全新的概念。作為一種新興的人工智能技術(shù),“聯(lián)邦學(xué)習(xí)”由微眾銀行AI團(tuán)隊(duì)在國(guó)內(nèi)首次引進(jìn),能在不共享“數(shù)據(jù)”的前提下,共享“知識(shí)”,用協(xié)作實(shí)現(xiàn)聯(lián)合模型的性能提升,以此保障數(shù)據(jù)在模型構(gòu)建過(guò)程中的安全性,從而盤活“數(shù)據(jù)孤島”并解決數(shù)據(jù)隱私問(wèn)題。針對(duì)實(shí)際應(yīng)用中的不同場(chǎng)景,微眾銀行AI團(tuán)隊(duì)提出“橫向聯(lián)邦學(xué)習(xí)”、“縱向聯(lián)邦學(xué)習(xí)”、“聯(lián)邦遷移學(xué)習(xí)”多個(gè)種類,其中“聯(lián)邦遷移學(xué)習(xí)”將“遷移學(xué)習(xí)”與“聯(lián)邦學(xué)習(xí)”融合,讓跨機(jī)構(gòu)合作突破了行業(yè)、數(shù)據(jù)類型等多重限制。在演講中,楊強(qiáng)教授詳細(xì)講解了不同類型的聯(lián)邦學(xué)習(xí)技術(shù)適用的不同建模情境。

探索協(xié)同建模新規(guī)范,共建聯(lián)邦學(xué)習(xí)合作生態(tài)

在完善“聯(lián)邦學(xué)習(xí)”理論的基礎(chǔ)之上,更要建立起企業(yè)間協(xié)同建模的規(guī)范。在WAIC大會(huì)主論壇演講中,楊強(qiáng)教授重點(diǎn)強(qiáng)調(diào)了這一問(wèn)題。他認(rèn)為,目前要通過(guò)建設(shè)激勵(lì)機(jī)制、建立共同標(biāo)準(zhǔn)等方式,推動(dòng)行業(yè)中的數(shù)據(jù)所有者共同參與聯(lián)邦學(xué)習(xí)生態(tài)共建,讓所有參與方受益于合規(guī)的聯(lián)合建模鏈條,在遵循數(shù)據(jù)保護(hù)法規(guī)的同時(shí)享受數(shù)據(jù)福利,推動(dòng)聯(lián)邦學(xué)習(xí)的進(jìn)一步落地。

此前,微眾銀行AI團(tuán)隊(duì)在推動(dòng)建立聯(lián)邦學(xué)習(xí)合作生態(tài),應(yīng)對(duì)AI在金融等領(lǐng)域的落地難題方面已經(jīng)有所建樹(shù)。微眾銀行AI團(tuán)隊(duì)構(gòu)建了FedAI聯(lián)邦學(xué)習(xí)合作生態(tài),自主研發(fā)并開(kāi)源全球首個(gè)工業(yè)級(jí)聯(lián)邦學(xué)習(xí)框架——FATE(Federated AI Technology Enabler)使大部分傳統(tǒng)算法可以經(jīng)過(guò)改造適配到聯(lián)邦學(xué)習(xí)框架中,從而快速加入聯(lián)邦學(xué)習(xí)生態(tài)。

在提供技術(shù)保障的同時(shí),微眾銀行AI團(tuán)隊(duì)還致力于建立起聯(lián)邦學(xué)習(xí)在企業(yè)之間的對(duì)話語(yǔ)言。去年12月,由微眾銀行發(fā)起的國(guó)際上首個(gè)針對(duì)人工智能協(xié)同技術(shù)框架訂立標(biāo)準(zhǔn)的項(xiàng)目——IEEE聯(lián)邦學(xué)習(xí)標(biāo)準(zhǔn)項(xiàng)目獲批,直至今年8月,已經(jīng)成功召開(kāi)了三次會(huì)議,有效推進(jìn)了聯(lián)邦學(xué)習(xí)國(guó)際標(biāo)準(zhǔn)草案的制定。楊強(qiáng)教授在會(huì)上提到,聯(lián)邦學(xué)習(xí)標(biāo)準(zhǔn)的制定,將更進(jìn)一步為聯(lián)邦學(xué)習(xí)在各行業(yè)的落地應(yīng)用提供規(guī)范,為社會(huì)各界合作奠定基礎(chǔ),從而吸引各行各業(yè)參與到聯(lián)邦學(xué)習(xí)未來(lái)的學(xué)術(shù)研究與落地應(yīng)用中來(lái)。

聚焦AI技術(shù)三要素,推動(dòng)人工智能產(chǎn)業(yè)化

在本屆WAIC大會(huì)的的國(guó)際前沿算法分論壇中,楊強(qiáng)教授提出,推動(dòng)AI技術(shù)廣泛落地并實(shí)現(xiàn)人工智能產(chǎn)業(yè)化的關(guān)鍵在于解決AI技術(shù)三要素——算法、數(shù)據(jù)、算力面臨的困境。會(huì)上,楊強(qiáng)教授分別針對(duì)這三大困境——“如何實(shí)現(xiàn)AI算法設(shè)計(jì)的自動(dòng)化”、“如何應(yīng)對(duì)AI數(shù)據(jù)缺失問(wèn)題”、“AI算力架構(gòu)怎么設(shè)計(jì)”進(jìn)行了講解。

首先,機(jī)器學(xué)習(xí)規(guī)?;涞氐年P(guān)鍵在于自動(dòng)機(jī)器學(xué)習(xí)(AutoML),即實(shí)現(xiàn)AI算法設(shè)計(jì)的自動(dòng)化,形成閉環(huán)的自動(dòng)學(xué)習(xí)機(jī)制,減少人的參與。楊強(qiáng)教授詳細(xì)闡釋了自動(dòng)機(jī)器學(xué)習(xí)的三大求解要素——配置空間、配置性能評(píng)估、配置優(yōu)化策略。如今,隱私保護(hù)問(wèn)題越來(lái)越受到重視,在保護(hù)隱私的要求之下,機(jī)器學(xué)習(xí)算法效果嚴(yán)重下降,不同機(jī)構(gòu)之間的數(shù)據(jù)也無(wú)法直接共享。面對(duì)這兩大問(wèn)題,楊強(qiáng)教授特別提出了解決方案——自動(dòng)隱私保護(hù)遷移學(xué)習(xí)(AutoPTL),這一算法基于特征切分和集成學(xué)習(xí)提升學(xué)習(xí)效果,可以滿足差分隱私保障,并支持?jǐn)?shù)據(jù)遷移學(xué)習(xí)和自動(dòng)化參數(shù)調(diào)整,有效提高AI的應(yīng)用率和價(jià)值。

其次,在實(shí)現(xiàn)人工智能產(chǎn)業(yè)化的過(guò)程中會(huì)應(yīng)對(duì)數(shù)據(jù)不足的難題,而“遷移學(xué)習(xí)”能夠有效解決這一困境。遷移學(xué)習(xí)通過(guò)尋找數(shù)據(jù)與模型之間的關(guān)系,將大數(shù)據(jù)的能力遷移到小數(shù)據(jù)上,實(shí)現(xiàn)“舉一反三”。楊強(qiáng)教授列舉了遷移學(xué)習(xí)在大額消費(fèi)金融領(lǐng)域的應(yīng)用實(shí)例:在微信營(yíng)銷購(gòu)車分期業(yè)務(wù)中,遷移學(xué)習(xí)基于全渠道營(yíng)銷數(shù)據(jù)幫助汽車分期貸款模型學(xué)習(xí),挖掘近期有購(gòu)車意向的客戶,最終成功率與SAS模型相比提升了200%。

最后,實(shí)現(xiàn)人工智能產(chǎn)業(yè)化需要解決的第三個(gè)問(wèn)題,是亟待提升的算力性能。當(dāng)前日益增長(zhǎng)的數(shù)據(jù)規(guī)模對(duì)算力性能提出了巨大挑戰(zhàn),傳統(tǒng)的單點(diǎn)計(jì)算能力的突破已經(jīng)不能滿足需求,對(duì)此,楊強(qiáng)教授介紹了兩種新型高性能算力架構(gòu)設(shè)計(jì)——GDR高性能網(wǎng)絡(luò)IO技術(shù)與新型分布式機(jī)器學(xué)習(xí)網(wǎng)絡(luò)通信協(xié)議MLT。測(cè)試結(jié)果表明,新型高性能算力架構(gòu)設(shè)計(jì)在 AI 訓(xùn)練時(shí)性能提升明顯,在采用 PS(參數(shù)服務(wù)器模式) 模式上性能提升高達(dá) 76%,在采用 Ring (環(huán)模式)模式上性能提升高達(dá) 3 倍。楊強(qiáng)教授表示,提升算力性能在拓展AI整體算力上起到越來(lái)越重要的作用,在GDR與MLT之外,更多相關(guān)研究也正在往前推進(jìn),值得關(guān)注。

賦能智慧生活 微眾銀行助力AI技術(shù)應(yīng)用落地環(huán)保領(lǐng)域

除了楊強(qiáng)教授在大會(huì)上的最新前沿觀點(diǎn)分享,此次微眾銀行還在大會(huì)的黑客馬拉松環(huán)節(jié)舉辦了“智能垃圾分類挑戰(zhàn)賽”,圍繞當(dāng)下垃圾分類的社會(huì)熱點(diǎn),聚焦基于深度學(xué)習(xí)技術(shù)的圖像分類模型構(gòu)建,實(shí)現(xiàn)垃圾圖片類別的精準(zhǔn)識(shí)別,從而提高垃圾分揀效率。此次比賽獲得了上海市綠容局的支持,上海市綠化和市容管理局科信處處長(zhǎng)錢杰擔(dān)任大賽評(píng)審,上海市綠化和市容管理局副巡視員繆鈞與微眾銀行AI部門副總經(jīng)理徐倩作為頒獎(jiǎng)嘉賓共同為前三名隊(duì)伍頒獎(jiǎng)。

在本次WAIC大會(huì)上,微眾銀行AI團(tuán)隊(duì)圍繞人工智能領(lǐng)域的技術(shù)前沿、產(chǎn)業(yè)趨勢(shì)和熱點(diǎn)問(wèn)題分享了最新研究,聯(lián)邦學(xué)習(xí)與新型算法等人工智能新技術(shù)正在日趨成熟,發(fā)揮著各自的優(yōu)勢(shì),共同為AI技術(shù)廣泛落地并實(shí)現(xiàn)人工智能產(chǎn)業(yè)化奠定重要基礎(chǔ)。楊強(qiáng)教授在會(huì)上提到:“如今聯(lián)邦學(xué)習(xí)已經(jīng)成為AI在學(xué)術(shù)界和工業(yè)界的新趨勢(shì)。”在這樣的趨勢(shì)下,微眾銀行將通過(guò)不斷提升與開(kāi)放自身的AI能力,將聯(lián)邦學(xué)習(xí)等AI技術(shù)推廣至多個(gè)領(lǐng)域的業(yè)務(wù)應(yīng)用中,以AI為驅(qū)動(dòng)力推動(dòng)多個(gè)行業(yè)共同發(fā)展。

分享到

Fred

baiyan

相關(guān)推薦