Una red neuronal transforma números mediante sumas ponderadas y funciones no lineales. Esta simulación expone una red de dos entradas, tres neuronas ocultas y una salida. Mové las entradas para observar el cálculo; elegí un objetivo y ejecutá un paso de entrenamiento para cambiar los pesos.

Paso hacia adelante

Cada neurona combina sus entradas con pesos y un sesgo. Para una capa, la operación se escribe:

y=σ(W⋅x+b).y = \sigma(W \cdot x + b).

En esta red distinguimos la activación oculta ϕ\phi de la salida sigmoide:

h=ϕ(W1x+b1),y^=σ(W2h+b2).h = \phi(W_1x+b_1), \qquad \hat y = \sigma(W_2h+b_2).

El forward pass recorre estas operaciones en orden. Cambiar una entrada modifica las sumas, las activaciones y la predicción sin ajustar los pesos. El entrenamiento es una operación distinta.

Red neuronal · 2 → 3 → 1Un ejemplo, un paso de entrenamiento
EntradasCapa ocultaSalida · sigmoidew = 0.8; a = 0.5; w × a = 0.4w = -0.4; a = 0.25; w × a = -0.1w = -0.3; a = 0.5; w × a = -0.15w = 0.9; a = 0.25; w × a = 0.225w = 0.6; a = 0.5; w × a = 0.3w = 0.5; a = 0.25; w × a = 0.125w = 0.7; a = 0.610639233949222; w × a = 0.4274474637644554w = -0.6; a = 0.5683199834782481; w × a = -0.34099199008694886w = 0.5; a = 0.6283161882953663; w × a = 0.31415809414768314x₁0,5x₂0,25h10,6106h20,5683h30,6283ŷ0,5746

● Contribución positiva ● Contribución negativa

El grosor muestra |peso × activación de origen|. La intensidad del nodo muestra la magnitud de activación y se satura en 1. La salida siempre usa sigmoide. En pantallas pequeñas, desplazá el diagrama horizontalmente.

Predicción ŷ
0,5746
Pérdida ½(ŷ − t)²
0,0254
Pasos de entrenamiento
0

Ajustá las entradas, elegí un objetivo y entrená sobre este ejemplo.

Inspeccionar cálculos y pesos
NeuronazActivaciónPesosSesgo
h1
h2
h3
ŷ

Sigmoide y ReLU

La sigmoide comprime cualquier número real al intervalo entre cero y uno. ReLU conserva los valores positivos y pone los negativos en cero:

σ(z)=11+e−z,ReLU⁡(z)=max⁡(0,z).\sigma(z)=\frac{1}{1+e^{-z}}, \qquad \operatorname{ReLU}(z)=\max(0,z).

El selector cambia las tres neuronas ocultas. La salida mantiene sigmoide en ambos casos. La intensidad de cada nodo representa su activación; las conexiones muestran la magnitud y el signo de la contribución w aw\,a, no una probabilidad ni una explicación causal. Al cambiar el signo de una entrada, también puede cambiar el signo de una contribución aunque su peso siga igual.

Un paso de descenso de gradiente

Para un objetivo tt usamos el error cuadrático de este ejemplo:

L=12(y^−t)2,θk+1=θk−η ∇θL.\mathcal L=\frac12(\hat y-t)^2, \qquad \theta_{k+1}=\theta_k-\eta\,\nabla_{\theta}\mathcal L.

El botón calcula las derivadas mediante backpropagation y actualiza los pesos y los sesgos de ambas capas al mismo tiempo. Si la tasa elegida no reduce la pérdida, se prueba un paso más pequeño. La interfaz muestra la pérdida antes y después y la tasa efectiva. En ReLU se toma derivada cero en el origen; una neurona inactiva puede recibir gradiente cero.

Cada clic entrena sobre el ejemplo visible, no sobre un conjunto de datos. Que la pérdida disminuya aquí no demuestra generalización. Reiniciar restaura las entradas, los pesos y el objetivo iniciales para repetir el experimento.