【導讀】
「傲騰? 持久內存為PayPal帶來的優異成績，足以讓任何想突破“內存墻”的企業躍躍欲試。」
(資料圖片)
如果問起是什么在支撐人工智能發展，算力、算法、數據三要素會被反復提及。
看似是：算法模型的爆發式成長和數據的爆炸式增速都遠超算力的發展，算力應該是這三要素中的瓶頸。
但這里其實漏了個知識點，一個至關重要的因素往往會被忽視，那就是存儲。
說到底還是硬件的問題，傳統內存-存儲技術的升級步伐（帶寬、讀寫速度）一直都遠遠滯后于算力的提升，因此形成了性能層面上的內存墻。
盡管如此，如今的大數據和AI應用還是會盡力把更多熱數據存入距算力更近、性能相對也更高的內存中，但DRAM內存容量有限且擴展成本太高，因此在容量層面形成了同樣明顯的內存墻問題——這也將是我們在下文中主要討論的內存墻問題，這就不可避免地影響了AI技術的演進與落地應用，尤其是在大模型出現后。
圖說：藍線代表目前CV，NLP和語音領域的SOTA模型，其訓練的浮點數運算量（以 FLOPs為衡量單位）平均每兩年翻15倍，紅線代表的Transformer模型，其模型運算量更是平均每兩年翻750倍。但灰線所示的，依然遵循摩爾定律的內存增長僅為平均每兩年翻2倍。
來源：https://medium.com/riselab/ai-and-memory-wall-2cb4265cb0b8
以金融業為例，它一直被稱為AI理想的應用落地領域之一，因為該行業保存著最為完善的歷史數據，方便展開數字化、智能化。
但正是這種天然的優勢使其在AI實踐中會更早遭遇容量上的內存墻問題。
這是因為金融數據自身具備海量、高維和稀疏特性，以及金融AI應用對實時性的強烈需求，使得在金融領域中“內存容量不足”出現的幾率及帶來的影響也會被成倍放大。
通過人工智能來進行反欺詐檢測就是金融界在智能化時代的一大關鍵創新，同樣它也是會面對內存墻挑戰的核心場景之一。
在其進行風險防控的過程中，防控窗口期經常稍縱即逝，因此它必須將盡可能多的數據導入內存來進行更為實時的處理和分析，如果內存容量受限無法擔此重任，就可能會影響到檢測效率，也意味著對風險失去防范和及時發現及糾正的機會。
一些業內人士甚至認為，如果無法有效解決內存墻問題，那么包括金融AI在內的各類AI方案，都可能會面臨其商用化落地之路上的一大絆腳石。
解決方案不少，為何傲騰? 持久內存成了突破內存墻的金剛鉆？
作為全球最主流的在線支付、交易系統之一，PayPal一直都將欺詐預防能力作為其金融業務體系的重要保障，并擁有遠低于行業平均水平的欺詐交易率，但盡管如此，PayPal依然會在這方面遭受每年超 10 億美元的損失。
為了實時識別新出現的欺詐模式，PayPal早早就上馬了一個具備強大欺詐預防模型的實時決策平臺，但在需要處理和分析的數據持續暴增后，這個平臺還是撞上了內存墻問題:
隨著其IT基礎設施上的總體數據以過百PB為基礎并以每年32%的比例增加，其反欺詐決策平臺的數據量也在逐年增長，特別是主索引的規模也在不斷擴大，一旦存儲它的各節點的內存容量用盡，那就意味著平臺運作中特別注意的實時性會受到影響，進而也會影響欺詐預防和檢測的效率。
對此，最直截了當的解決辦法就是堆DRAM內存條，擴展內存容量。
不過，在SpaceX有望把飛向太空的成本拉低到數十美元/公斤的今天，告訴用戶因為DRAM內存很貴，所以需要為新系統多付一大沓賬單的情景顯然并不美好。
此外，這樣堆內存的效率也并不理想，因為受限硬件設計，用于企業級的DRAM單條容量如今還是多以32GB和64GB為主，128GB已經是妥妥難得一見的“高富帥”了，加上主流服務器內存的插槽有限，就算全插128GB型號，擴展后的總容量亦不樂觀。
可能有人會提議，要不咱換到GPU平臺試試？
這個想法其實比堆內存條更糟，因為對于非常倚重高并發、低時延數據交互的決策類或推薦類AI應用來說，GPU平臺的內存（顯存）容量更低且擴展性更差，就更不用說數據在CPU與GPU之間交換走的PCIe接口效率問題了。
堆料不行，改弦更張也不行，那么如何破局內存墻？
答案就是：還是要擴展CPU內存子系統的容量，但卻不是使用DRAM，而是要用持久內存，用英特爾? 傲騰? 持久內存。
個中原因很簡單：傲騰? 持久內存能在輸出接近DRAM性能的同時，提供數倍于其的容量，單條最高目前已能達到512GB，用它來擴展內存容量，突破TB就是小菜一碟——如果是與第三代英特爾? 至強? 可擴展處理器搭配的話，在一臺雙路服務器上僅僅是計算插裝傲騰? 持久內存的容量，就能帶來8TB的增幅。
圖說： 性能接近于DRAM的英特爾? 傲騰? 持久內存
正好很巧的是，PayPal于2015年就開始主要采用來自Aerospike的數據庫技術，而Aerospike正是最早支持英特爾? 傲騰? 持久內存的數據庫廠商之一。其創新的混合內存架構（Hybrid Memory Architecture，HMA）經過優化，不但能幫助PayPal在其反欺詐決策平臺的節點中順利部署傲騰? 持久內存，而且還可以將體量越來越大的主索引存入其中，而非DRAM中。
于是，擋在主索引存儲容量擴展道路上的內存墻，就這樣轟然倒下。
效果真香！PayPal兼得容量、成本、性能和數據恢復加速收益
PayPal做出的選擇效果如何？咱們用數字說話。
在采用傲騰? 持久內存加持的 Aerospike 實時數據平臺后，PayPal 基于其 2015 年的欺詐數據量和此前使用的平臺為基準做了一個評估，它發現新方案可以將其欺詐計算的服務級別協議 (SLA) 遵守率從 98.5% 提升到 99.95%，漏查的欺詐交易量降到約為原來的1/30。
與這兩個核心數據相伴隨的，還有更多降本增效的數據，例如與先前的基礎設施相比，新方案使用的服務器總數量可以減少近 90%（從 1024 臺減少到 120 臺），以致相關硬件占用空間可減到約為原來的 1/8；又比如預計硬件成本可以從1250萬美元降到350萬美元，生生省掉了2/3的成本；再如新方案的吞吐量可增至原來的 5 倍，即每秒事務處理量從 20 萬提升到 100 萬等等。
更大、也更重磅的驚喜其實還在后面，PayPal發現傲騰? 持久內存天生具備的數據持久性優勢對于其數據恢復能力的強化至關重要。
原先它將主索引存在斷電就會丟掉所有數據的DRAM里時，系統重啟后需要從更慢的存儲設備中掃描數據以便在DRAM中重建索引，而在新方案的支持下把主索引存入持久內存后并設置數據持久化后，整個系統就可以在非常短的時間內恢復并重新聯機。
至于有多快？大概是將重建索引的時間從原來的59分鐘縮短到現在的4分鐘，用時變成原來的約1/12！
以上這些多重收益匯總起來，PayPal的反欺詐實時決策平臺就迎來了春天：
即便有32%年數據增長率的壓力，新平臺也依然可以實現經濟高效的擴展，并使PayPal保持99.95%的欺詐計算SLA遵守率，實現更短的節點重啟時間、更強的查詢性能和數據一致性，并保持全天候的高可用性（99.99%的運行時間）。
還沒有One for All方案，但這一款你依然值得擁有
看到PayPal的實戰效果后，你是不是也在躍躍欲試了？
先別急，如果你的應用也是決策或推薦類的AI應用，且主要是推理，特別是在CPU平臺上做推理，那么基于傲騰? 持久內存的方案可能還真是能幫到你突破內存墻的一個選擇。
但如果你面臨的，是基于GPU平臺訓練AI模型時被顯存卡脖子的問題，那么最新走紅的Colossal-AI可能才是你需要考慮和嘗試的方向。
其實這種情況也表明，面向內存墻，現在整個產業界還遠遠沒有到能夠拿出一個One for All方案的時刻。要解決這個問題，大家還要做好 “路漫漫其修遠兮，吾將上下而求索”的準備。
最后，讓我們再說說那些與基于傲騰? 持久內存的方案比較對路的應用場景和用戶，他們其實還是值得試上一試的。
圖說：英特爾? 至強? 可擴展處理器與英特爾? 傲騰? 持久內存的搭配組合
畢竟，目前與這款持久內存產品搭檔的主力，是英特爾內置了AI加速能力的第三代至強? 可擴展處理器，這對算力+內存的新產品組合，足以在實現大容量+持久內存配置的同時，與多種面向英特爾? 架構優化的AI框架和軟件工具一起將AI推理的性能提升到足以滿足主流應用需求的水準。
而且再考慮到單臺服務器在大大擴展內存容量后可能會大幅減少服務器用量的收益，這其實不僅會省去一些采購成本、管理成本和人力成本，在節能降耗、打造綠色數據中心方面，其實也是有一些潛在機會的。
了解更多內容，請點擊閱讀原文。
責任編輯：Rex_08
營業執照公示信息