Usando MathJax
Podemos escribir usando MathJax, para ello en _config.yml añadimos la directiva mathjax: true.
Podemos insertar latex como en este ejemplo, \( 1/x^{2} \) que vemos que queda en la misma linea, o si por el contrario queremos que quede en un bloque aparte lo que pondremos será \[ \frac{1}{n^{2}} \]