O primeiro arraial, construído as margem do Rio Grande ficou conhecido na história como Barra Velha após em 1.963, com o fechamento das comportas da Usina Hidrelétrica de Furnas, o antigo arraial foi completamente submerso.
O novo local escolhido para o arraial assim ficou conhecido como Nova Barra, apelido que a cidade possui até os dias atuais.
O novo arraial foi planejado e construído a pedido do padre Ubirajara Cabral, pároco local, em forma de banjo. Na mudança da cidade muitas pessoas se mudaram para Nova Cidade Nova Barra, e ao chegar nesta nova cidade todos ficaram meio depressivos, pois tiveram de largar suas casas e terras e vendê-las por preços muito baixos pois a água iria cobri-las. O novo arraial não possuia infra estrutura de saneamento, asfalto e rede elétrica, apesar de estar vizinho a maior hidrelétrica do mundo daquela época, onde seria construída uma vila para os funcionários de Furnas com toda a infra estrutura, inclusive hospital, cinema e clube, benefícios que não poderiam ser desfrutados pelos habitantes da Nova Barra.
O arraial foi distrito de Passos até 1939, com a criação do município de Alpinópolis, o arraial se incorporou ao novo município.
Após varias tentativas de emancipação, em 21 de dezembro de 1995 foi instalado o município de São José da Barra.
