ยุคสมัยของการประมวลผล deep learning บนสมาร์ทโฟนกำลังจะเริ่มต้นขึ้น ช่วงต้นปีเราเห็นข่าว TensorFlow Lite ใน Android O กันไปแล้ว ฝั่งของผู้ผลิตฮาร์ดแวร์ก็เริ่มขยับตัวตาม
Qualcomm ออกมาประกาศเปิดชุดซอฟต์แวร์ประมวลผล AI ชื่อ Neural Processing Engine (NPE) ที่ใช้เร่งความเร็วประมวลผล deep learning บนหน่วยประมวลผล Snapdragon รุ่นใหม่ๆ ให้นักพัฒนาดาวน์โหลดไปใช้กันแล้ว
ชุดซอฟต์แวร์ NPE จะช่วยให้การรันโมเดลจากเฟรมเวิร์คยอดนิยม (รองรับ Caffe, Caffe2, TensorFlow) บนหน่วยประมวลผลของ Qualcomm มีประสิทธิภาพมากขึ้น ด้วยการแบ่งโหลดจากซีพียูไปยังจีพียู (Adreno) และหน่วยประมวลผลสัญญาณ Hexagon DSP
ตัวเลขของบริษัทระบุว่าการใช้จีพียู Adreno ช่วยแบ่งเบาภาระการประมวลผล ส่งผลให้ประสิทธิภาพของแอพกล้อง Facebook ที่ใช้ Caffe2 ช่วยรันโมเดลด้าน AR เพิ่มขึ้น 5 เท่า เมื่อเทียบกับการใช้ซีพียู Kryo เพียงอย่างเดียว
Snapdragon รุ่นที่ใช้งาน NPE ได้ในตอนนี้คือ 820, 835, 625, 626, 650, 652, 653, 660, 630