不幸的是,在挪动设备上运行神经网络并不简陋。事实上,固然智内行机变得越来越宽大,它们如故具有有限的揣度本事、电池寿命和可用磁盘空间,尤其是关于你们意向僵持尽可以轻的利用序次。这样做可以大概完成更速的下载速率、更小的纠正时间和更长的电池使用时期,这些都是用户所浏览的。
为了将网络生存在磁盘上,我们需要记载收集中每个单一权浸的值。这意味着为每个参数生存一个浮点数,这代表了磁盘上占用的大量空间。举动参考,在C中,一个浮点占用4个字节,即32个比特。一个参数在数亿的网络(好比GoogLe-Net或VGG-16)可以大概轻松到达数百兆,这在挪动装备上是不行接管的。
为了周旋网络影迹尽可能小,一种方式是体验量化它们来普及权浸的诀别率。在这个历程中,他们起色了数字的出现形态,使其不再可能取得任何价格,预测分析的例子但极度受限于一局部数值。这使他们只能生活一次量化值,然后参考网络的权浸。
全班人们将再次履历搜寻胀和点来确信要利用几多个值。更多的值意味着更高的正确性,但也是更大的累积空间。使神经收集在智妙上实时运比方,通过使用256个量化值,每个权浸可以大概仅使用1个字节 即 8个比特来引用。与之前(32位)相比,所有人已将巨细除以4!预测分析的例子
所有人仍然处分了对待权浸的一些事务,可是全班人可以大概进一步校勘收集!这个本事依据于权浸不服均漫衍的事实。一旦量化,全班人就没有类似数量的权值来承载每个量化值。这意味着在各人的模型再现中,一些引用会比其各人引用更频频地映现,所有人可以大概使用它!
纵然智内行机不周备老式桌面揣摸机的磁盘空间、预计能力或电池寿命,但它们依旧是深度进修使用次第相等好的目的。借助少数本事,预测分析的例子并以几个百分点的精度为价格,现在可以大概在这些多功内行持设备上运行庞大的神经网络。这为数以千计的激动民心的应用打开了大门。行的手艺—量化分析 pdf使神经收集在智妙上实时运行的手艺—量化分析 pdf。