Buena praxis en OO (C++)

1) da igual, no tienes por que usar ningún prefijo especial, pero si decides usarlo, sé consistente y úsalo en todas partes igual.

Uno típico es usar m_ en todos los miembros de una clase (m de member).

Otra gente usa siempre this-> aunque no haya ambigüedad para marcar que se está haciendo referencia a un miembro de la clase.

Otra gente no usa nada...

el _ es típico de lenguajes que no tienen miembros privado como tal (ej: python) y es una forma de marcarlos en plan -tío no accedas a esto directamente que es "privado"

2) cuando hablas de vectores supongo que hablas de arrays y no de std::vector, por que lo segundo te permite conocer la longitud directamente. Siempre se ha pasado el número de elementos como otro parámetro, no hay ninguna ventaja en pasarlo empaquetado en una estructura, y te vas a hartar de crear structs solo para eso si lo haces por cada array

#5 CppCoreGuidelines
GSL: Guidelines Support Library

Si puedes usa C++14.

Evita usar raw pointers.

using Matriz = std::vector<std::vector<std::unique_ptr<double>>>;
Matriz m_X;

#8 hombre, mejor que usar vectores de vectores igual estaría bien mirarte alguna librería de algebra lineal, que hay bastantes muy buenas (y bastante optimizadas usando LAPACK).

#7 En cuanto a los std::vector anidados, a menos que hayan cambiado algo en C++14, que todavía tengo pendiente mirarmelo bien, sí tienes una penalización de rendimiento porque pierdes la localidad de datos. La mayoría de implementaciones de std::vector usaran un puntero en el que reallocaran la memoria cuando sea necesario con lo cual para una matriz de 4x4 tendrás 1 puntero con un array de 4 elementos, que tendran el array de 4 unique_ptr y cada uno de estos el puntero al double.

La mayoría de librerias matematicas guardan las matrices en un solo array. En muchos casos porque quieres un puntero que puedas pasarle a tu API gráfica directamente, pero segundo porque si vas a hacer muchas operaciones por frame (por ejemplo si estas animando un personaje en un juego) te interesa minimizar los cache misses.

Si no te quieres ir por una libreria de algebra especializada Boost tiene una libreria de Matrices, pero si eres un poco nuevo en C++ igual Boost te causa más problemas de los que te soluciona.

#12 no estoy muy puesto en este mundillo pero yo no tengo nada claro que importe tanto la librería en concreto que conoces frente a tus conocimientos de dominio. Pero ya te digo que no conozco ese mundillo.

Si te recomendaba usar una librería no es tanto en cuanto a optimización de performance, sino a que te puedas centrar en escribir tu algortimo de la forma más comoda posible. Si te preocupa el mantenimiento o atarte a una libreria, siempre puedes hacerte tu header DuronMath.h y ahí haces typedefs en el namespace de tu proyecto. Y, sin tener que picarte un wrapper completo, si dejas el proyecto con los includes "limpios" (y, al final, no vas a cambiar tu libreria matemática cada dia).

Lo de Boost lo comentaba porque como decías que no tenias mucha experiencia en C++, algunas librerias de Boost pueden generar errores un poco complicados (ya que están programadas con templates a saco). Hace bastante que no uso Boost, así que YMMV (imagino que la cosa ha mejorado con los compiladores nuevos).