ProudKids少兒英語主要針對(duì)12周歲以下兒童，致力于為不同英語基礎(chǔ)的孩子打造優(yōu)秀學(xué)習(xí)效果的課程內(nèi)容、互動(dòng)體驗(yàn)和學(xué)習(xí)服務(wù)。首創(chuàng)三位一體教學(xué)法，歐美外教和中教結(jié)合的雙師模式。一周固定3節(jié)課，第一節(jié)是中教課，和孩子講解相關(guān)的知識(shí)點(diǎn)，課堂上消化吸收;第二節(jié)是外教課，外教和孩子充分互動(dòng)，讓孩子練得充實(shí)，第三節(jié)課是在前兩節(jié)課的基礎(chǔ)上，與外教一起對(duì)話， 塑造孩子的英語思維，每節(jié)課時(shí)間為25分鐘左右。四人制小班線上授課，固定老師、固定同伴、固定時(shí)間，滿足孩子個(gè)體、群體和老師之間的所有互動(dòng)機(jī)制,可選外教資源包括100+專職外教，1000+簽約外教，ProudKids學(xué)期課程的費(fèi)用為3192元，60節(jié)課;學(xué)年課程的費(fèi)用為6048元，120節(jié)課。相對(duì)于其他在線學(xué)習(xí)機(jī)構(gòu)來說， ProudKids的價(jià)格是很便宜的，總的來說性價(jià)比非常高，具體情況歡迎到ProudKids在線少兒英語官網(wǎng)咨詢。

快訊，近日中科院大數(shù)據(jù)挖掘與知識(shí)管理重點(diǎn)實(shí)驗(yàn)室發(fā)布了《2018年中國(guó)在線少兒英語教育白皮書》。目前，國(guó)內(nèi)少兒英語學(xué)習(xí)呈現(xiàn)低齡化趨勢(shì)。從城市分布上看，一線城市學(xué)員平均年齡普遍在6歲左右，二線城市學(xué)員平均年齡略有上浮，為6.5歲。調(diào)查還顯示，在線少兒英語市場(chǎng)的用戶擁有較強(qiáng)消費(fèi)能力，年收入在20萬-100萬區(qū)間的中產(chǎn)家庭占58%。絕大部分家長(zhǎng)表示每年會(huì)花費(fèi)1萬元以上用于孩子的英語教育。

端到端OCR的難點(diǎn)在哪兒呢?在于怎么處理不定長(zhǎng)序列對(duì)齊問題!CRNN OCR其實(shí)是借用了語音識(shí)別中解決不定長(zhǎng)語音序列的思路。與語音識(shí)別問題類似，OCR可建模為時(shí)序依賴的詞匯或者短語識(shí)別問題。

基于聯(lián)結(jié)時(shí)序分類(Connectionist Temporal Classification, CTC)訓(xùn)練RNN的算法，在語音識(shí)別領(lǐng)域顯著超過傳統(tǒng)語音識(shí)別算法。一些學(xué)者嘗試把CTC損失函數(shù)借鑒到OCR識(shí)別中，CRNN 就是其中代表性算法。CRNN算法輸入100*32歸一化高度的詞條圖像，基于7層CNN(普遍使用VGG16)提取特征圖，把特征圖按列切分(Map-to-Sequence)，每一列的512維特征，輸入到兩層各256單元的雙向LSTM進(jìn)行分類。在訓(xùn)練過程中，通過CTC損失函數(shù)的指導(dǎo)，實(shí)現(xiàn)字符位置與類標(biāo)的近似軟對(duì)齊。

CRNN借鑒了語音識(shí)別中的LSTM+CTC的建模方法，不同點(diǎn)是輸入進(jìn)LSTM的特征，從語音領(lǐng)域的聲學(xué)特征(MFCC等)，替換為CNN網(wǎng)絡(luò)提取的圖像特征向量。CRNN算法最大的貢獻(xiàn)，是把CNN做圖像特征工程的潛力與LSTM做序列化識(shí)別的潛力，進(jìn)行結(jié)合。

它既提取了魯棒特征，又通過序列識(shí)別避免了傳統(tǒng)算法中難度極高的單字符切分與單字符識(shí)別，同時(shí)序列化識(shí)別也嵌入時(shí)序依賴(隱含利用語料)。在訓(xùn)練階段，CRNN將訓(xùn)練圖像統(tǒng)一縮放100×32(w × h);在測(cè)試階段，針對(duì)字符拉伸導(dǎo)致識(shí)別率降低的問題，CRNN保持輸入圖像尺寸比例，但是圖像高度還是必須統(tǒng)一為32個(gè)像素，卷積特征圖的尺寸動(dòng)態(tài)決定LSTM時(shí)序長(zhǎng)度。

圖像配準(zhǔn)有很廣泛的應(yīng)用：只要我們面對(duì)的任務(wù)需要比較相同場(chǎng)景的多張圖片，它就是必不可少的。它在醫(yī)學(xué)影像、衛(wèi)星圖像分析以及光流領(lǐng)域都是很常用的。

自本世紀(jì)初以來，圖像配準(zhǔn)主要使用傳統(tǒng)的基于特征的方法。這些方法基于三個(gè)步驟：關(guān)鍵點(diǎn)檢測(cè)和特征描述，特征匹配，圖像變形。簡(jiǎn)而言之，我們?cè)趦煞鶊D像中選擇興趣點(diǎn)，將參考圖像中的每個(gè)興趣點(diǎn)和它在待配準(zhǔn)圖像中的對(duì)應(yīng)點(diǎn)關(guān)聯(lián)起來，然后對(duì)待批準(zhǔn)圖像進(jìn)行變換，這樣兩幅圖像就得以對(duì)齊。

關(guān)鍵點(diǎn)就是感興趣的點(diǎn)。它定義了一幅圖像中重要并且有特點(diǎn)的地方(如角，邊等)。每個(gè)關(guān)鍵點(diǎn)都由一個(gè)描述子(包含關(guān)鍵點(diǎn)本質(zhì)特點(diǎn)的特征向量)表征。描述子應(yīng)該對(duì)圖像變換(如位置變換、縮放變換、亮度變換等)是魯棒的。很多算法都要執(zhí)行關(guān)鍵點(diǎn)檢測(cè)和特征描述：

SIFT(Scale-invariant feature transform，尺度不變的特征變換)是用于關(guān)鍵點(diǎn)檢測(cè)的原始算法，但是它并不能免費(fèi)地被用于商業(yè)用途。SIFT 特征描述子對(duì)均衡的縮放，方向、亮度變化是保持不變的，對(duì)仿射形變也是部分不變的。SURF(Speeded Up Robust Features，加速魯棒特征)是受到 SIFT 深刻啟發(fā)設(shè)計(jì)的檢測(cè)器和描述子。與 SIFT 相比，它的運(yùn)行速度要快好幾倍。當(dāng)然，它也是受專利保護(hù)的。ORB(定向的 FAST 和旋轉(zhuǎn)的 BRIEF)是基于 FAST(Features from Accelerated Segment Test)關(guān)鍵點(diǎn)檢測(cè)器和 BRIEF(Binary robust independent elementary features)描述子的組合的快速二值描述子，具有旋轉(zhuǎn)不變性和對(duì)噪聲的魯棒性。它是由 OpenCV Lab 開發(fā)的高效、免費(fèi)的 SIFT 替代方案。AKAZE(Accelerated-KAZE) 是 KAZE 的加速版本。它為非線性尺度空間提出了一種快速多尺度的特征檢測(cè)和描述方法。它對(duì)于縮放和旋轉(zhuǎn)也是具有不變性的，可以免費(fèi)使用。

為了解決上面討論的問題，已經(jīng)提出了不同的架構(gòu)修改來改進(jìn)RNN，最流行的是長(zhǎng)短期記憶(LSTM)和門控循環(huán)單元(GTU)。

大致來說，LSTM背后的主要思想是除了隱藏狀態(tài)之外，每個(gè)單元內(nèi)都有一個(gè)單元狀態(tài) - 一個(gè)存儲(chǔ)器存儲(chǔ)器(它們都是相同大小的矢量)。

此外，這些模型具有三個(gè)門(忘記門，輸入門，輸出門)，用于確定從單元狀態(tài)寫入，讀取或擦除哪些信息。

所有的門都是與隱藏狀態(tài)長(zhǎng)度相同的向量，這正是它們的用途：

忘記門確定應(yīng)保留什么與應(yīng)從前一時(shí)間步驟擦除的內(nèi)容。輸入門確定應(yīng)該將哪些新信息放入單元狀態(tài)。輸出門確定應(yīng)將來自單元的哪些數(shù)據(jù)合并到隱藏狀態(tài)。它們都是使用sigmoid函數(shù)計(jì)算的，因此它們總是輸出0到1之間的值。

如果一個(gè)門產(chǎn)生接近1的東西，它被認(rèn)為是開放的(數(shù)據(jù)可以包含在單元狀態(tài)中)，如果它給出一個(gè)接近0的值，則該信息將被忽略。

1、平均池化和最大池化

這是我們最熟悉的，通常認(rèn)為如果選取區(qū)域均值(mean pooling)，往往能保留整體數(shù)據(jù)的特征，較好的突出背景信息; 如果選取區(qū)域最大值(max pooling)，則能更好保留紋理特征。

2、stochastic pooling/mixed pooling

stochastic pooling對(duì)feature map中的元素按照其概率值大小隨機(jī)選擇，元素被選中的概率與其數(shù)值大小正相關(guān)，這就是一種正則化的操作了。 mixed pooling就是在max/average pooling中進(jìn)行隨機(jī)選擇。

3、Data Driven/Detail-Preserving Pooling

上面的這些方法都是手動(dòng)設(shè)計(jì)，而現(xiàn)在深度學(xué)習(xí)各個(gè)領(lǐng)域其實(shí)都是往自動(dòng)化的方向發(fā)展。

我們前面也說過，從激活函數(shù)到歸一化都開始研究數(shù)據(jù)驅(qū)動(dòng)的方案，池化也是如此，每一張圖片都可以學(xué)習(xí)到最適合自己的池化方式。

此外還有一些變種如weighted max pooling，Lp pooling，generalization max pooling就不再提了，還有g(shù)lobal pooling。

4 總結(jié)

帶步長(zhǎng)的卷積雖然不需要池化，卻沒有了靈活的激活機(jī)制。平均池化穩(wěn)扎穩(wěn)打，卻丟失了細(xì)節(jié)。最大池化克服了平均池化的缺點(diǎn)，卻打斷了梯度回傳。

最終發(fā)現(xiàn)，池化也還是要學(xué)的好，所謂隨機(jī)應(yīng)變，蓋莫如此。另外，如何選擇好用于池化的區(qū)域，也是一門學(xué)問。

近年來，隨著“深度學(xué)習(xí)”在世界范圍內(nèi)變得越來越流行和被人們所理解，“深度學(xué)習(xí)”一詞一直在風(fēng)靡全球。不管你目前對(duì)深度學(xué)習(xí)的看法是什么，總之，它可以歸結(jié)為準(zhǔn)確度..深入學(xué)習(xí)能夠在識(shí)別方面達(dá)到巨大的準(zhǔn)確性。當(dāng)它的重要性和重要性得到如此廣泛的傳播，例如在消費(fèi)電子領(lǐng)域，以及諸如無人駕駛汽車等新的開拓性工作時(shí)，這一精確度是非常重要的?，F(xiàn)在，在我們開始理解深度學(xué)習(xí)的細(xì)微差別之前，讓我們先簡(jiǎn)單地忽略一下機(jī)器學(xué)習(xí)，這是一個(gè)密切相關(guān)的概念。