La diferencia básica es que OpenGL es un API mucho mas estandard que DirectX.
DirectX solo existe bajo Windows, aunque en su origen era un API bastante patatera actualmente y a base de copiar mucho a OpenGL ha terminado siendo el API preferida de casi todo el mundo, su mayor virtud es que saca nuevas versiones con frecuencia, su mayor problema es que es mas lenta que OpenGL y que es propiedad absoluta de Microsoft, la cual en cualquier momento puede hacer lo que le de la gana con ella, como cobrarte por usarla.
OpenGL es un API diseñado por un grupo de empresas que esta disponible en un monton de sistemas operativos, viene siendo el estandard a la hora de trabajar con graficos 3D en entornos profesionales, su mayor virtud es su compatibilidad y potencia, su mayor problema es la lentitud a la hora de sacar nuevas versiones.