AI 應(yīng)用實(shí)例匯總
來(lái)源：原創(chuàng) 時(shí)間：2018-01-25 瀏覽：0 次
以深度學(xué)習(xí)為代表的人工智能，在曩昔十年閱歷了爆破式的開(kāi)展。
核算機(jī)科學(xué)項(xiàng)目中、業(yè)界會(huì)議中、媒體報(bào)道中，你都可以看到深度學(xué)習(xí)的影子。
AI 并不是一個(gè)獨(dú)自的存在，有必要要和其他工業(yè)結(jié)合起來(lái)才干進(jìn)步功率，發(fā)明價(jià)值。
咱們梳理了曩昔一年深度學(xué)習(xí)在各范疇運(yùn)用方向上的探究，概要的介紹了各范疇在深度學(xué)習(xí)算法和運(yùn)用落地等等方面的開(kāi)展和考慮，期望能對(duì)咱們有所啟示。
一、微博深度學(xué)習(xí)渠道架構(gòu)和實(shí)踐
微博在 Feed CTR、反垃圾、圖片分類(lèi)、明星辨認(rèn)、視頻引薦、廣告等事務(wù)上廣泛運(yùn)用深度學(xué)習(xí)技能，一起廣泛運(yùn)用 TensorFlow、Caffe、Keras、MXNet 等深度學(xué)習(xí)結(jié)構(gòu)。
為了交融各個(gè)深度學(xué)習(xí)結(jié)構(gòu)，有用運(yùn)用 CPU 和 GPU 資源，充分運(yùn)用大數(shù)據(jù)、分布式存儲(chǔ)、分布式核算效勞，微博規(guī)劃開(kāi)發(fā)了微博深度學(xué)習(xí)渠道。
微博深度學(xué)習(xí)渠道支撐如下特性：
1. 便利易用：支撐數(shù)據(jù)輸入、數(shù)據(jù)處理、模型練習(xí)、模型猜測(cè)等作業(yè)流，可以經(jīng)過(guò)簡(jiǎn)略裝備就能完結(jié)雜亂機(jī)器學(xué)習(xí)和深度學(xué)習(xí)使命。特別是針對(duì)深度學(xué)習(xí)，僅需挑選結(jié)構(gòu)類(lèi)型和核算資源規(guī)劃，就能模型練習(xí)。
2. 靈敏擴(kuò)展：支撐通用的機(jī)器學(xué)習(xí)算法和模型，以及用戶(hù)自定義的算法和模型。
3. 多種深度學(xué)習(xí)結(jié)構(gòu)：現(xiàn)在支撐TensorFlow、Caffe 等多種干流深度學(xué)習(xí)結(jié)構(gòu)，并進(jìn)行了針對(duì)性?xún)?yōu)化。
4. 異構(gòu)核算：支撐 GPU 和 CPU 進(jìn)行模型練習(xí)，進(jìn)步模型練習(xí)的功率。
5. 資源辦理：支撐用戶(hù)辦理、資源共享、作業(yè)調(diào)度、毛病康復(fù)等功用。
6. 模型猜測(cè)：支撐一鍵布置深度學(xué)習(xí)模型在線猜測(cè)效勞。
微博深度學(xué)習(xí)渠道是微博機(jī)器學(xué)習(xí)渠道的重要組成部分，除承繼微博機(jī)器學(xué)習(xí)渠道的特性和功用以外，支撐 TensorFlow、Caffe 等多種干流深度學(xué)習(xí)結(jié)構(gòu)，支撐 GPU 等高功用核算集群。微博深度學(xué)習(xí)渠道架構(gòu)如圖所示。
二、依據(jù)深度學(xué)習(xí)的核算機(jī)視覺(jué)技能
圖畫(huà)辨認(rèn)使命獲得巨大成功之后，深度學(xué)習(xí)技能就被廣泛運(yùn)用于核算機(jī)視覺(jué)的各個(gè)具體使命上，而物體檢測(cè)應(yīng)該是除了圖畫(huà)辨認(rèn)之外，運(yùn)用最為廣泛的一個(gè)核算機(jī)視覺(jué)的具體使命。
什么是圖畫(huà)辨認(rèn)？給定一副圖畫(huà)，核算機(jī)視覺(jué)算法需求通知咱們，這幅圖畫(huà)中，是否有鳥(niǎo)、貓、狗等等。如圖所示，經(jīng)典的 PASCAL VOC 圖畫(huà)辨認(rèn)使命的幾個(gè)比方。
PASCAL VOC 和 ImageNet ILSVRC 比賽的示例圖片
PASCAL VOC 只需辨認(rèn)出圖畫(huà)中是否有鳥(niǎo)、貓、狗等等，而對(duì)應(yīng)的 ImageNet ILSVRC 比賽的圖畫(huà)就要求辨認(rèn)出圖畫(huà)中的鳥(niǎo)、貓、狗對(duì)應(yīng)的品種。
PASCALVOC 圖畫(huà)辨認(rèn)使命共有20個(gè)品種，而 ImageNetILSVRC 共有1000個(gè)類(lèi)別。
那么物體檢測(cè)又是什么呢？相同給核算機(jī)一張圖片，核算機(jī)視覺(jué)算法不只需求通知咱們這張圖片中有哪些品種的物體，還要通知咱們這些物體的具體方位。一般物體的具體方位運(yùn)用鴻溝框（Bounding Box）的辦法給出，如圖所示。
PASCAL VOC 有關(guān)物體檢測(cè)的示例圖片
如左上的榜首幅圖，核算機(jī)視覺(jué)算法不只需求知道圖中有椅子，還要知道有三把椅子，而且要用鴻溝框精確的把三把椅子的方位標(biāo)示出來(lái)。
而右下的圖片，核算機(jī)視覺(jué)算法還要知道圖中既有狗，又有貓，而且貓和狗是有互相交疊的，這種狀況下，核算機(jī)視覺(jué)算法還要精確符號(hào)貓和狗的方位。
PASCAL VOC 和 ImageNet ILSVRC 比賽都有物體檢測(cè)的練習(xí)和測(cè)試數(shù)據(jù)調(diào)集。
不過(guò)，現(xiàn)在比較廣泛運(yùn)用的仍是 PASCAL VOC 20 類(lèi)的物體檢測(cè)使命，咱們可以在 PASCAL VOC 官網(wǎng)供給的排行榜（leaderboard）上看到最近的物體檢測(cè)算法排名狀況。
那么這兩種使命有什么必定的聯(lián)絡(luò)嗎？當(dāng)然有，一個(gè)很明顯的狀況是，假如咱們有個(gè)很好的物體檢測(cè)算法，那么咱們就會(huì)知道圖片中都有哪些物體，這樣圖畫(huà)辨認(rèn)算法就可以簡(jiǎn)略地運(yùn)用物體檢測(cè)算法的成果來(lái)判別圖中是否有鳥(niǎo)、貓、狗等物體。
另一方面，假如咱們有一個(gè)很好的圖畫(huà)辨認(rèn)算法，那么咱們可以把圖片中可能存在物體的鴻溝框逐個(gè)拿給圖畫(huà)辨認(rèn)算法來(lái)辨認(rèn)是否存在鳥(niǎo)、貓、狗等，這樣，咱們也可以得到一個(gè)很超卓的物體檢測(cè)算法。
拿這兩種計(jì)劃進(jìn)行比較，咱們可能覺(jué)得榜首個(gè)計(jì)劃更簡(jiǎn)略直觀些，可是第二個(gè)計(jì)劃才是當(dāng)今核算機(jī)視覺(jué)技能開(kāi)展的路線圖。
三、阿里巴巴智能對(duì)話交互
傳統(tǒng)的對(duì)話交互大概會(huì)分以下幾個(gè)模塊，從云辨認(rèn)把言語(yǔ)轉(zhuǎn)成文字，言語(yǔ)了解是把用戶(hù)說(shuō)的文字轉(zhuǎn)化成一種結(jié)構(gòu)化的表明，對(duì)話辦理是依據(jù)方才那些成果來(lái)決議采納什么樣的協(xié)作。
在言語(yǔ)設(shè)置這一塊就是依據(jù) action 生成一句話，經(jīng)過(guò)一種比較天然的辦法把它讀出來(lái)。
現(xiàn)在人機(jī)交互和傳統(tǒng)的人機(jī)交互一個(gè)首要不同點(diǎn)就在于數(shù)據(jù)和效勞。跟著互聯(lián)網(wǎng)的開(kāi)展，數(shù)據(jù)和效勞越來(lái)越豐厚，那人機(jī)交互的目的是什么？歸根結(jié)底仍是想獲取互聯(lián)網(wǎng)的信息和各式各樣的效勞。
“言語(yǔ)了解”簡(jiǎn)略來(lái)說(shuō)就是把用戶(hù)說(shuō)的話，變換為一種結(jié)構(gòu)化的語(yǔ)義表明，從辦法上會(huì)分紅兩個(gè)模塊：目的的斷定和特點(diǎn)的抽取。
比方用戶(hù)說(shuō)：“我要買(mǎi)一張下周去上海的飛機(jī)票，國(guó)航的”。榜首個(gè)模塊就要回來(lái)了解，用戶(hù)的目的是要買(mǎi)飛機(jī)票，第二，運(yùn)用抽取模塊，要把這些要害的信息出處理出來(lái)，動(dòng)身時(shí)刻、目的地、航空公司，然后得到一個(gè)比較完好的結(jié)構(gòu)化的表明。
那么，人機(jī)對(duì)話中的言語(yǔ)了解面對(duì)哪些應(yīng)戰(zhàn)呢？總結(jié)為四類(lèi)：
1. 表達(dá)的多樣性。相同一個(gè)目的，不同的用戶(hù)有不同的表達(dá)辦法。那關(guān)于機(jī)器來(lái)說(shuō)，盡管表達(dá)辦法不相同，可是目的是相同的，機(jī)器要可以了解這件作業(yè)。
2. 言語(yǔ)的歧義性。比方說(shuō)，“我要去拉薩“，它是一首歌的姓名。當(dāng)用戶(hù)說(shuō)：“我要去拉薩”的時(shí)分，他也可能是聽(tīng)歌，也可能是買(mǎi)一張去拉薩的機(jī)票，也可能是買(mǎi)火車(chē)票，或許旅行。
3. 言語(yǔ)了解的混亂性，由于用戶(hù)說(shuō)話進(jìn)程傍邊，比較天然隨意，言語(yǔ)了解要可以捕獲住或許了解用戶(hù)的目的。
對(duì)話體系架構(gòu)簡(jiǎn)圖
4. 上下文的了解。這是人機(jī)對(duì)話交互一個(gè)非常大的不同，它的了解要依據(jù)上下文。
在言語(yǔ)了解這一塊，阿里巴巴把用戶(hù)言語(yǔ)的目的了解籠統(tǒng)為一個(gè)分類(lèi)問(wèn)題，之后，就有一套相對(duì)規(guī)范的辦法處理，比方 CNN 神經(jīng)網(wǎng)絡(luò)、SVM 分類(lèi)器等等。
阿里巴巴現(xiàn)在就是選用 CNN 神經(jīng)網(wǎng)絡(luò)辦法，并在詞的表明層面做了針對(duì)性的改善。機(jī)器要了解用戶(hù)的話的意思，背面一定要依靠于很多的常識(shí)。
比方說(shuō)，“大王叫我來(lái)巡山”是一首歌的姓名，“愛(ài)探險(xiǎn)的朵拉”是一個(gè)視頻，互聯(lián)網(wǎng)上百萬(wàn)量級(jí)這樣敞開(kāi)范疇的實(shí)體常識(shí)，而且每天都會(huì)有新的歌曲/視頻呈現(xiàn)，假如沒(méi)有這樣很多的常識(shí)，機(jī)器是很難真的了解用戶(hù)的目的的。
四、在物聯(lián)網(wǎng)設(shè)備上完結(jié)深度學(xué)習(xí)
近年來(lái)，越來(lái)越多的物聯(lián)網(wǎng)產(chǎn)品呈現(xiàn)在市場(chǎng)上，它們收集周?chē)沫h(huán)境數(shù)據(jù)，并運(yùn)用傳統(tǒng)的機(jī)器學(xué)習(xí)技能了解這些數(shù)據(jù)。
一個(gè)比方是 Google 的 Nest 恒溫器，選用結(jié)構(gòu)化的辦法記載溫度數(shù)據(jù)，并經(jīng)過(guò)算法來(lái)把握用戶(hù)的溫度偏好和時(shí)刻表。
但是，其關(guān)于非結(jié)構(gòu)化的多媒體數(shù)據(jù)，例如音頻信號(hào)和視覺(jué)圖畫(huà)則顯得力不從心。
新式的物聯(lián)網(wǎng)設(shè)備選用了愈加雜亂的深度學(xué)習(xí)技能，經(jīng)過(guò)神經(jīng)網(wǎng)絡(luò)來(lái)探究其所在環(huán)境。
例如，AmazonEcho 可以了解人的語(yǔ)音指令，經(jīng)過(guò)語(yǔ)音辨認(rèn)，將音頻信號(hào)變換成單詞串，然后運(yùn)用這些單詞來(lái)查找相關(guān)信息。
物聯(lián)網(wǎng)設(shè)備上的深度學(xué)習(xí)運(yùn)用一般具有嚴(yán)苛的實(shí)時(shí)性要求。例如，依據(jù)物體辨認(rèn)的安全攝像機(jī)為了能及時(shí)呼應(yīng)房屋內(nèi)呈現(xiàn)的陌生人，一般需求小于500毫秒的檢測(cè)延遲來(lái)捕獲和處理方針事情。
消費(fèi)級(jí)的物聯(lián)網(wǎng)設(shè)備一般選用云效勞來(lái)供給某種智能，但是其所依靠的優(yōu)質(zhì)互聯(lián)網(wǎng)銜接，僅僅在部分范圍內(nèi)可用，而且往往需求較高的本錢(qián)，這對(duì)設(shè)備能否滿(mǎn)意實(shí)時(shí)性要求提出了應(yīng)戰(zhàn)。
與之比較，直接在物聯(lián)網(wǎng)設(shè)備上完結(jié)深度學(xué)習(xí)或許是一個(gè)更好的挑選，這樣就可以免受銜接質(zhì)量的影響。
但是，直接在嵌入式設(shè)備上完結(jié)深度學(xué)習(xí)是困難的。
在深度學(xué)習(xí)使命中，最廣泛運(yùn)用的神經(jīng)網(wǎng)絡(luò)是卷積神經(jīng)網(wǎng)絡(luò)（CNNs），它可以將非結(jié)構(gòu)化的圖畫(huà)數(shù)據(jù)變換成結(jié)構(gòu)化的方針標(biāo)簽數(shù)據(jù)。
一般來(lái)說(shuō)，CNNs 的作業(yè)流程如下：
首要，卷積層掃描輸入圖畫(huà)以生成特征向量；
第二步，激活層確定在圖畫(huà)推理進(jìn)程中哪些特征向量應(yīng)該被激活運(yùn)用；
第三步，運(yùn)用池化層下降特征向量的巨細(xì)；最終，運(yùn)用全銜接層將池化層的一切輸出和輸出層相連。
五、無(wú)人駕駛硬件渠道
無(wú)人駕駛硬件體系是多種技能、多個(gè)模塊的集成，首要包含：傳感器渠道、核算渠道、以及操控渠道。
核算渠道的規(guī)劃直接影響到無(wú)人駕駛體系的實(shí)時(shí)性以及魯棒性。以無(wú)人駕駛核算渠道為例，咱們來(lái)看一個(gè)職業(yè)搶先的某四級(jí)無(wú)人駕駛公司現(xiàn)有的核算渠道硬件完結(jié)。
這個(gè)四級(jí)無(wú)人駕駛公司的核算渠道由兩核算盒組成。每個(gè)核算盒裝備了一顆英特爾至強(qiáng) E5 處理器（12核）和四到八顆 NVIDIA K80 GPU加快器，互相運(yùn)用 PCI-E 總線銜接。CPU 運(yùn)算峰值速度可達(dá)400幀/秒，耗費(fèi) 400W 的功率。
每個(gè) GPU 運(yùn)算峰值速度可達(dá) 8Tops/s，一起耗費(fèi) 300W 的功率。因而，整個(gè)體系可以供給 64.5 TOP/S 的峰值運(yùn)算才能，其功率需求為 3000W。
核算盒與車(chē)輛上設(shè)備的十二個(gè)高精度攝像頭相銜接，以完結(jié)實(shí)時(shí)的物體檢測(cè)和方針盯梢使命。
車(chē)輛頂部還設(shè)備有一個(gè)激光雷達(dá)設(shè)備以完結(jié)車(chē)輛定位及避障功用。為了確?？煽啃?，兩個(gè)核算盒履行完全相同的使命。
一旦榜首個(gè)核算盒失效，第二個(gè)核算盒可以當(dāng)即接收。在最壞的狀況下兩個(gè)核算盒都在核算峰值運(yùn)轉(zhuǎn)，這意味著將發(fā)生超越5000瓦的功耗并急聚很多的熱量，散熱問(wèn)題不容忽視。
此外，每個(gè)核算盒的本錢(qián)估計(jì)為2至3萬(wàn)美元，這是一般消費(fèi)者底子無(wú)法接受的全體處理計(jì)劃。
咱們這兒簡(jiǎn)述一種處理計(jì)劃：
NVIDIA 的 PX 渠道是現(xiàn)在搶先的依據(jù) GPU 的無(wú)人駕駛處理計(jì)劃。每個(gè) PX2 由兩個(gè) Tegra SoC 和兩個(gè) Pascal GPU 圖形處理器組成，其間每個(gè)圖畫(huà)處理器都有自己的專(zhuān)用內(nèi)存并裝備有專(zhuān)用的指令以完結(jié)深度神經(jīng)網(wǎng)絡(luò)加快。
為了供給高吞吐量，每個(gè) Tegra SOC 運(yùn)用 PCI-E Gen 2x4總線與 Pascal GPU 直接相連，其總帶寬為 4 GB/s。
此外，兩個(gè) CPU-GPU 集群經(jīng)過(guò)千兆以太網(wǎng)項(xiàng)圈，數(shù)據(jù)傳輸速度可達(dá)70 Gigabit/s。
借助于優(yōu)化的 I/O 架構(gòu)與深度神經(jīng)網(wǎng)絡(luò)的硬件加快，每個(gè) PX2 可以每秒履行24兆次深度學(xué)習(xí)核算。這意味著當(dāng)運(yùn)轉(zhuǎn) AlexNet 深度學(xué)習(xí)典型運(yùn)用時(shí)，PX2 的處理才能可達(dá)2800幀/秒。
NVIDIAPX2
假如說(shuō)算法是無(wú)人駕駛的魂靈，那么硬件渠道就是無(wú)人駕駛的肉體。再巨大上的算法也需求完結(jié)在硬件渠道上才有實(shí)用價(jià)值。
而硬件渠道的規(guī)劃直接決議了無(wú)人駕駛對(duì)環(huán)境的感知才能，核算功用與能耗，魯棒性，安全性等。
