Suma de matrices y broadcasting

Dos matrices de la misma forma se suman elemento a elemento: C = A + B, con Cᵢ,ⱼ = Aᵢ,ⱼ + Bᵢ,ⱼ. Un escalar se puede sumar a cada elemento, o multiplicar cada elemento: D = a · B + c.

El aprendizaje profundo admite además una notación menos convencional: sumar un vector a una matriz. En C = A + b, con Cᵢ,ⱼ = Aᵢ,ⱼ + bⱼ, el vector b se suma a cada fila de A, sin tener que construir antes una matriz con una copia de b en cada fila. Esta copia implícita se llama broadcasting (difusión), la misma regla que siguen NumPy y PyTorch.