PTQ（PostTrainingQuantization）源

　　PTQ（PostTrainingQuantization）源码阅读二
　　上文提到了PTQRegistry这个类，主要功能是作为dict来存储nn。LayerLayerInfo的映射。我们看下这个类的实现。LayerInfoclassLayerInfo（object）：Storetheargnamesoftheinputsandoutputs。definit（self，layer，inputnames：List〔TEXT〕，weightnames：List〔TEXT〕，outputnames：List〔TEXT〕）：super（）。init（）self。layerlayerself。inputnamesinputnamesself。weightnamesweightnamesself。outputnamesoutputnames
　　主要存储nn。Layer，及其对应的输入、权重和输出名。
　　全局参数PTQLAYERSINFO，QUANTLAYERSINFO和SIMULATEDLAYERS汇总目前支持量化的层的LayerInfo如下：PTQLAYERSINFO〔LayerInfo（paddle。nn。Conv2D，〔Input〕，〔Filter〕，〔Output〕），LayerInfo（paddle。nn。Linear，〔X〕，〔Y〕，〔Out〕），LayerInfo（paddle。nn。BatchNorm2D，〔X〕，〔〕，〔Y〕），LayerInfo（paddle。nn。AdaptiveMaxPool2D，〔X〕，〔〕，〔Out〕），LayerInfo（paddle。nn。AdaptiveAvgPool2D，〔X〕，〔〕，〔Out〕），LayerInfo（paddle。nn。AvgPool2D，〔X〕，〔〕，〔Out〕），LayerInfo（paddle。nn。MaxPool2D，〔X〕，〔〕，〔Out〕），LayerInfo（paddle。nn。ReLU，〔X〕，〔〕，〔Out〕），LayerInfo（paddle。nn。ReLU6，〔X〕，〔〕，〔Out〕），LayerInfo（paddle。nn。Hardswish，〔X〕，〔〕，〔Out〕），LayerInfo（paddle。nn。Swish，〔X〕，〔〕，〔Out〕），LayerInfo（paddle。nn。Sigmoid，〔X〕，〔〕，〔Out〕），LayerInfo（paddle。nn。Softmax，〔X〕，〔〕，〔Out〕），LayerInfo（paddle。nn。Tanh，〔X〕，〔〕，〔Out〕），LayerInfo（paddle。nn。quant。add，〔X，Y〕，〔〕，〔Out〕），〕QUANTLAYERSINFO〔LayerInfo（paddle。nn。quant。quantlayers。QuantizedConv2D，〔Input〕，〔Filter〕，〔Output〕，），LayerInfo（paddle。nn。quant。quantlayers。QuantizedLinear，〔X〕，〔Y〕，〔Out〕），〕SIMULATEDLAYERS〔paddle。nn。Conv2D，paddle。nn。Linear〕
　　PTQLAYERSINFO中存储目前支持量化的层和对应的输入、输出、权重名字。
　　QUANTLAYERSINFO是量化新实现支持的LayerInfo。这种实现方式等价torch基于nn。QuantModule的实现。
　　SIMULATEDLAYERS存储的针对inputweight量化的层。模拟量化层会采集层的input的分布。weight分布不需要采集。
　　模拟量化这里应该指的是FakeQuantization。
　　PTQRegistry
　　PTQRegistry用于对上面三个全局变量查询访问使用。classPTQRegistry（object）：RegisterthesupportedlayersforPTQandprovidelayersinfo。supportedlayersmap｛｝registeredlayersmap｛｝isinitedFalsedefinit（self）：super（）。init（）classmethoddefinit（cls）：ifnotcls。isinited：forlayerinfoinPTQLAYERSINFO：cls。supportedlayersmap〔layerinfo。layer〕layerinfoalllayersinfoPTQLAYERSINFOQUANTLAYERSINFOforlayerinfoinalllayersinfo：cls。registeredlayersmap〔layerinfo。layer〕layerinfocls。isinitedTrue
　　cls。supportedlayersmap存储PTQLAYERSINFO的内容。
　　cls。registeredlayersmap存储PTQLAYERSINFOQUANTLAYERSINFO的内容。
　　注意，这里的key是nn。Layer子类。
　　四个查询接口如下，不做过多介绍了。：classmethoddefissupportedlayer（cls，layer）：Analyzewhetherthelayersupportsquantization。Args：layer（Layer）：Theinputlayercanbeapythonclassoraninstance。Returns：flag（bool）：Whtherthelayerissupported。cls。init（）returnlayerincls。supportedlayersmaporisinstance（layer，tuple（cls。supportedlayersmap。keys（）））classmethoddefisregisteredlayer（cls，layer）：Analyzewhetherthelayerisregisterlayerinfo。Args：layer（Layer）：Theinputlayercanbeapythonclassoraninstance。Returns：flag（bool）：Wetherthelayerisregisterlayerinfo。cls。init（）returnlayerincls。registeredlayersmaporisinstance（layer，tuple（cls。registeredlayersmap。keys（）））classmethoddefissimulatedquantlayer（cls，layer）：Analyzewhetherthelayerissimulatedquantlayer。Args：layer（Layer）：Theinputlayercanbeapythonclassoraninstance。Returns：flag（bool）：Whtherthelayerissupported。returnlayerinSIMULATEDLAYERSorisinstance（layer，tuple（SIMULATEDLAYERS））classmethoddeflayerinfo（cls，layer）：Gettheinfomationforthelayer。Args：layer（Layer）：Theinputlayercanbeapythonclassoraninstance。Returns：layerinfo（LayerInfo）：Thelayerinfooftheinputlayer。assertcls。isregisteredlayer（layer），Theinputlayerisnotregister。forlayerkey，layerinfoincls。registeredlayersmap。items（）：iflayerlayerkeyorisinstance（layer，layerkey）：returnlayerinfo参考文献利用NVIDIATensorRT量化感知训练实现INT8推理的FP32精度