tangming / tangming.github.io Goto Github PK

https://tangming.github.io/2019/10/15/math-library-introduction/

对于机器学习的很多问题来说，计算的瓶颈在于大规模以及频繁的矩阵预算。为了使机器学习算法运行得更高效，需要在代码中采用比较成熟的矩阵运算数学库。本文主要总结常见的矩阵运算库。

https://tangming.github.io/2019/10/16/redis-data-types/#more

作为key-value型数据库，Redis也提供了键和值的映射关系。除了常规的数值和字符串，Resis的值还可以是Lists，Sets，Sorted Sets,Hashes。值的数据类型决定了该键值支持的操作。Redis 支持诸如列表、集合或有序集合的交集、并集、查集等高级原子操作；同时，如果值的类型是普通数字，Redis则提供自增等原子操作。

https://tangming.github.io/2019/10/16/cpp-serialization-introduction/#more

在程序中往往需要将程序中的某些数据存储在内存中，然后将其写入本地文件或者进行网络传输。将程序数据转化成能被存储和传输的格式的过程称为序列化，它的逆过程称为反序列化。

https://tangming.github.io/2019/10/02/pytorch-data-loader-and-preprocess/

PyTorch通过torch.utils.data对一般常用的数据加载进行了封装，可以很容易地实现多线程数据预读和批量加载。torchvision中包含了常用的图像数据集，可以通过torchvision.datasets进行调用。

https://tangming.github.io/2019/10/16/cpp-resources-management/#more

C++中最常使用的资源就是内存，其他常见的还包括文件句柄、互斥锁(mutex lock)、数据库连接、以及网络socket等。在计算机系统中，这些系统资源是有限的，所以在使用完资源后必须要进行释放。本文主要记录C++中的资源管理的机制RAII(Resource Acquisition Is Initialization)以及智能指针。

https://tangming.github.io/2019/10/17/ml-cross-entropy-loss-function/#more

交叉熵损失函数(逻辑回归)：$$J(\theta)=-\frac{1}{N}\sum_{i=1}^{N}y^{(i)}log(h_\theta(x^{(i)}))+(1-y^{(i)})log(1-h_\theta(x^{(i)}))$$$J(\theta)$对$\theta$的偏导数(用于诸如梯度下降法等优化算法的参数更新)：$$\frac{\partial}{\partial\theta_j}

https://tangming.github.io/2019/10/16/cpp-serialization-cereal-introduction/

Cereal是一个开源的、轻量级的跨平台序列化库。cereal只包含头文件，不依赖任何三方库，易于使用。Cereal可以将任意的数据类型序列化成二进制、XML格式或者JSON。

https://tangming.github.io/2019/10/15/math-mkl-introduction/

MKL是Intel公司出品的数学函数计算库，提供经过高度优化和大量线程化处理的计算函数，有C和Fortran接口。