Barak ingresó a las Fuerzas de Defensa de Israel en 1959 y sirvió allí durante 35 años, llegando a desempeñar el cargo de Ramatcal (Comandante en Jefe) y a poseer el rango de Teniente General, el más alto del ejército israelí. Durante su servicio como comando, Barak participó en una misión secreta (operación Primavera Juvenil, Beirut, 1973) en la cual se disfrazó de mujer para infiltrarse entre terroristas. Le concedieron la medalla por los "servicios distinguidos" y otras cuatro condecoraciones por el coraje y la eficiencia operacional. Se le considera el soldado más condecorado de la historia de Israel.

En enero de 2007 anuncia que se presentará nuevamente como candidato al liderato de su partido, con una carta pública en la que reconoce sus errores e inexperiencia durante su paso por el cargo de Primer Ministro. El 28 de mayo obtiene el 39% de los votos, quedando en primer lugar, pero requería del 40% del respaldo, por lo que se fuerza una segunda ronda contra Ami Ayalon que se ubicó segundo (tercero fue el candidato a la reelección Amir Peretz y cuarto el ex ministro Ophir Pines-Paz). El 12 de junio derrota a Ayalon por estrecho margen, y se convierte de nuevo en líder del Partido Laborista de Israel, constituyéndose en el sucesor de Peretz como Ministro de Defensa.

Ehud Barak es Miembro Honorario de la Fundación Internacional Raoul Wallenberg