要使用horovod的多机多卡，需要有以下的3个先决条件

1. 不同机器可以访问相同的文件：nfs
2. 不同机器使用相同的训练环境: Docker
3. 不同机器可以ssh交互：ssh 免密登录

挑战程序设计竞赛

Keras 快速入门

Deep Learning

第2章：线性代数

• 双指针

  阅读全文 »

• 032 Longest Valid Parentheses

  给出一个只含括号字符串，求最长的括号匹配的字串长度。

  阅读全文 »

1.Image Classification

slides：Image Classification pipeline

1. Introduction to Linear Algebra and to Mathematics for Machine Learning

The relationship between machine learning, linear algebra, and vectors and matrices

• 格拉姆-施密特正交化

$$\boldsymbol{\beta}_1 = \boldsymbol{v}_1,\quad \boldsymbol{\eta}_1 = {\boldsymbol{\beta}_1 \over \|\boldsymbol{\beta}_1\|}$$ $$\boldsymbol{\beta}_2 = \boldsymbol{v}_2-\langle \boldsymbol{v}_2, \boldsymbol{\eta}_1 \rangle \boldsymbol{\eta}_1, \quad \boldsymbol{\eta}_2 = {\boldsymbol{\beta}_2 \over \|\boldsymbol{\beta}_2\|}$$ $$\boldsymbol{\beta}_3 = \boldsymbol{v}_3 - \langle \boldsymbol{v}_3, \boldsymbol{\eta}_1 \rangle \boldsymbol{\eta}_1 - \langle \boldsymbol{v}_3, \boldsymbol{\eta}_2 \rangle \boldsymbol{\eta}_2 ,\quad \boldsymbol{\eta}_3 = {\boldsymbol{\beta}_3 \over \|\boldsymbol{\beta}_3\|}$$ $$\vdots$$ $$\boldsymbol{\beta}_n = \boldsymbol{v}_n -$$ $$\sum_{i=1}^{n-1}\langle \boldsymbol{v}_n, \boldsymbol{\eta}_i \rangle \boldsymbol{\eta}_i,\quad \boldsymbol{\eta}_n = {\boldsymbol{\beta}_n\over\|\boldsymbol{\beta}_n\|}$$

1. Input Pipeline

   1 2	# dataset => loader # torchvision.datasets => torch.utils.data.DataLoader

   阅读全文 »