Hailo Technologies 成立于2017年,是一家深耕人工智能领域的以色列科技公司,在迄今为止不到七年的时间里已经迅速成长为拥有220名员工的独角兽企业。自创立以来,Hailo一直以高涨的热情专注于边缘AI处理器和视觉处理单元(VPU)的研究与开发。
如何理解“边缘”一词?Hailo的首席技术官Avi Baum这样解释道:“在Hailo的理念中,边缘指的是不基于于云端的事物,小到相机大到汽车。”Hailo对于人工智能和机器学习应用发展的理念从来就不是改进基于云端的服务,而是致力于将原来在云端运行的应用部署在边缘设备上。
人工智能神经网络是人工智能领域的一个重要概念,即为模仿人类神经元网络处理信息的方式而建立的简单模型。人工智能神经网络通过其处理信息的运算方式来运行,而传统处理器虽然可以执行这种运算,但是在速度和能力上仍有改进的空间。因此,Hailo公司决定开发自己的人工智能神经网络处理结构,Hailo-8 AI加速器由此诞生。Hailo-8采用了TSMC 16纳米工艺节点技术,作为常规CPU的AI/ML加速器。与图形处理器(GPU)作为计算机图形外设的道理相同,Hailo-8是计算机的AI外设。这就意味着,Hailo-8的使用仍然需要依靠一个如ARM处理器或X86处理器的主处理器,以基于规则的应用形式来运行传统代码。
同时,Avi指出,运用这种形式的AI/ML加速器来执行“繁重的工作”只是Hailo蓝图的一部分。Hailo希望客户在不需要额外学习新的机器结构的情况下,能够便捷地使用完整的软件工具链。而这也是许多初创公司失败的地方——他们创造出了炫酷的硬件,但是由于缺乏软件的支持,无法有效地使用这些硬件。关于Hailo在同类公司中如何脱颖而出,Avi表示用户的实际体验自会证明。
Hailo是业内为数不多实现了从概念化到产品化完整周期的公司。很多初创企业在概念、设计、生产,再到量产的过程中因为出现了种种问题而导致了失败,但Hailo-8如今已实现量产,且已被运用于不同产品中。
Hailo-8作为一款边缘AI/ML处理器,可达到每秒26万亿次操作(TOPS)的AI性能。Hailo-8 Century可以支持2,4,6,8个Hailo-8设备,提供每秒52万亿次至208万亿次(TOPS)的运算能力。Hailo的Century PCIe卡在ResNet50基准模型上的能耗为每瓦400FPS。52 TOPS卡的起价为249美元,意味着边缘AI/ML部署成本可降低70%。此外,Hailo-8 Century采用坚固的设计,能够适应不同的工业温度,可以兼容绝大部分的环境与应用。
另外,Hailo公司还成功结合Hailo-8的技术与CPU,打造了Hailo-15视觉处理单元(VPU)。Hailo-15视觉处理单元具有和常规CPU相同的规格,且单个芯片中同时具备独立神经网络负载能力和ARM处理器的传统功能。这些设备和卡片可覆盖的市场范围之广超出了人们的想象,包括汽车、机器人、智能安防摄像头、监控系统、智能家居、智慧城市、工业应用等等。