- x[x<0] =0
- x_new=x*(x>0)
- x_new=(abs(x) + x) / 2
三种比较好的方法,前者会改变x,后两者可以不改变x,参考文献1中的计算方式有问题,没有考虑x改变对loop的影响,所以这几种方式哪种效率更高仍存疑
参考文献:
https://blog.csdn.net/u010137742/article/details/79302067
https://stackoverflow.com/questions/32109319/how-to-implement-the-relu-function-in-numpy#