Em 1954, durante a gestão do Governador do antigo Estado do Rio de Janeiro, Ernani do Amaral Peixoto, foi aprovada Lei criando na estrutura administrativa da Procuradoria-Geral de Justiça um novo cargo, o de Defensor Público. Os seis profissionais livremente nomeados pelo Governador defenderiam em juízo os interesses dos cidadãos que nã o dispunham de recursos financeiros para arcar com honorários de advogado.
Os primeiros Defensores Públicos do Estado foram José de Carvalho Leomil, Messias de Moraes Teixeira, Alcy Amorim da Cruz, Nelson Joaquim da Silva, Herval Basílio e Antônio Carlos Nunes Martins.
No ano seguinte, foi elaborado Decreto que regulamentava o cargo e definia suas atribuições. Os Defensores Públicos ficariam sujeitos à disciplina do Ministério Público estadual e seriam subordinados à Procuradoria-Geral de Justiça, apesar dos cargos de Defensor Público não integrarem a carreira do Ministério Público. Na oportunidade, mais três cargos foram criados. Um deles foi ocupado por Maria Nice Leite de Miranda, a primeira Defensora Pública do Brasil.
Em 1956, é criada uma associação para a defesa dos interesses da categoria. A Associação do Ministério Público Fluminense teve sua primeira sede em uma pequena sala, emprestada pelo Defensor Público Ideel Coelho Silva. A entidade congregava os membros do Ministério Público e da Assistência Judiciária do antigo Estado do Rio de Janeiro. Contudo, somente seis anos mais tarde o estatuto da Associação foi alterado para possibilitar a inclusão dos Defensores Públicos em sua estrutura funcional. Logo na primeira eleição após a alteração, o Defensor Público Antônio Felipe da Rocha foi eleito 1.º Vice-Presidente.
O Presidente Juscelino Kubitscheck, no ano de 1958, sancionou a Lei n.º 3.434, dispondo sobre o Código do Ministério Público do Distrito Federal. O diploma legal determinava que o serviço de assistência judiciária no Distrito Federal e nos Territórios deveria ser prestado por Defensores Públicos, integrantes da classe inicial do Ministério Público. Dessa forma o serviço de assistência judiciária foi organizado de maneira diferente da estabelecida no antigo Estado do Rio de Janeiro. O modelo distrital foi adotado posteriormente pelo Estado da Guanabara, persistindo até a fusão deste com o antigo Estado do Rio.
Por volta de 1961, os Defensores Públicos enfrentavam enormes dificuldades para exercerem suas funções. Na época, havia poucos profissionais para todo o Estado, obrigados a desempenhar suas funções em vários municípios. Somente no governo de Jeremias de Mattos Fontes (31/01/1967 à 15/03/71), foi realizado o primeiro concurso para o cargo de Defensor Público do antigo Estado do Rio de Janeiro. Puderam participar do certame os funcionários do Estado formados em Direito. Os aprovados, antes de iniciarem suas atividades, tiveram que realizar um curso de adaptação para o cargo.
O Decreto-Lei n.º 286, de 22 de maio de 1970, sugerido pelo então Procurador-Geral de Justiça do antigo Estado do Rio de Janeiro, Atamir Quadro Mercês, transformou a Assistência Judiciária em órgão do Estado, instituindo a carreira de Defensor Público como carreira paralela ao Ministério Público. O órgão ficou sob o comando do Procurador-Geral de Justiça, mas foram criadas três funções gratificadas de assessor da Assistência Judiciária para cuidar do novo órgão.
Ocuparam as funções Aluísio Gavazzoni, José Fontenelle e Ideel Coelho Silva.
A partir desse momento os Defensores Públicos do antigo Estado do Rio iniciaram a luta pela autonomia administrativa e conseguiram que o documento oficial do I Encontro de Procuradores-Gerais de Justiça, realizado na cidade de Petrópolis, afirmasse que “os serviços da Assistência Judiciária devem ser destacados do Ministério Público e ter organização própria.” Não tardou a criação da Corregedoria da Assistência Judiciária, que foi ocupada por Aluísio Gavazzoni. O Corregedor disciplinava aspectos técnicos e administrativos das funções exercidas pelos Defensores Públicos, designando-os, promovendo-os, concedendo licenças, etc.
A fusão entre o antigo Estado do Rio e o Estado da Guanabara fez com que o modelo do primeiro prevalecesse. No novo Estado do Rio de Janeiro, Ministério Público e Assistência Judiciária passaram a ser instituições distintas, sob a chefia do Procurador-Geral de Justiça. Os Defensores Públicos do antigo Estado do Rio passaram a prestar o serviço da assistência judiciária naquilo que antes era o Estado da Guanabara. Foi necessário suspender a concessão de férias e licenças especiais durante um ano para evitar que a população do novo Estado fosse prejudicada.
Nessa época, bravos Defensores Públicos enxergaram a oportunidade de criação da Procuradoria da Assistência Judiciária, que retiraria a chefia da instituição das mãos do Chefe do Ministério Público. Defenderam essa posição Ruy Teixeira e Silva, Raul Portugal, José Augusto dos Anjos, Emília Sylvia Dutra da Silva, Luís Alberto Lemos, Salutiel Antunes da Costa, Maryse Horta de Araújo, Nametala Jorge, Jane Medina, Liamar Leal Gonçalves, José Aluísio Figueiredo Marques, Humberto Schott de Souza, Manira Abo-Gaux de Martins, Alódio Moledo, Willian Cassibi, Cecy Santoro, João Fausto Júnior e Marisa Valle de Mello. Entretanto, a posição encontrou resistência dentro da própria categoria, que optou por ficar atrelada à chefia do Ministério Público, assegurando a manutenção das garantias constitucionais.
Refletindo as mudanças políticas e administrativas impostas pela fusão do antigo Estado do Rio de Janeiro com o Estado da Guanabara, em 31 de maio de 1976, a então Associação do Ministério Público Fluminense reuniu-se em Assembléia Geral Extraordinária, decidindo pela reestruturação da entidade. Foi adotada a denominação Associação da Assistência Judiciária do Estado do Rio de Janeiro, que teve Benito Ferolla como primeiro Presidente e passou a não mais congregar os membros do Ministério Público.
Poucos dias após as eleições, os associados reuniram-se para tratar dos rumos da Assistência Judiciária. Essa mobilização resultou na Lei Complementar Estadual n.º 6, de 12 de maio de 1977 (Lei Orgânica da Assistência Judiciária), que com alterações vigora até os dias de hoje. Este foi o primeiro diploma legal a organizar a carreira, conferir direitos, prerrogativas, impor deveres, criar os órgãos da Administração Superior, etc.
No Governo Chagas Freitas a Assistência Judiciária sofreu um inesperado revés. O Governador decidiu retirá-la da chefia do Procurador-Geral de Justiça para a do Secretário de Justiça. A Associação da Assistência Judiciária, presidida pelo Defensor Público, José Fontenelle, decidiu publicar na imprensa nota de esclarecimento aos Defensores Públicos sobre as diretrizes e providências que vinha tomando junto ao Governador. A nota falava de questões remuneratórias. Posteriormente, o Presidente e Vice da Associação foram recebidos por Chagas Freitas, que assumiu o compromisso de criar mais 100 cargos de Defensor Público.
O Governo atendeu às reivindicações remuneratórias e criou os cargos prometidos, além de remeter à Assembléia Legislativa Projeto de Lei que criava a Coordenadoria da Assistência Judiciária, que substituiria eventualmente o Secretário de Justiça na chefia da Instituição. Omar Marinho foi o primeiro Coordenador da Instituição. As medidas não foram suficientes para conter a insatisfação da categoria. O Defensor Edson Laércio Condeixa da Costa, diretor da Associação da Assistência Judiciária, renunciou ao cargo por não concordar com a postura da entidade diante da crise.
Nesse contexto, em 8 de outubro de 1982, um grupo de Defensores Públicos fundou uma nova entidade representativa da categoria, a Associação dos Defensores Públicos do Estado do Rio de Janeiro (ADPERJ), que teve como primeiro Presidente Rovane Tavares Guimarães. Foram eles: Orlindo Elias Filho, Adilson Vieira Macabu, Dacio da Costa Guerra, Luis Gustavo Costa, Marcelo de Menezes Bustamante, Maria de Lourdes Valle, Edson Laércio Condeixa da Costa, Liamar Leal Gonçalves, André Luís De Felice Souza, Maria Leonor Fragoso de Queiroz Carreira, Edílson Miranda Henriques, João Simões Vagos Filho, Celso Cezar Guimarães, Hugo da Costa Coelho, Marisa Valle de Mello, Ligia Maria Bernardi, Carlos Henrique Peralta, Adalgisa Maria Steele Macabu, Zeita de Mattos, Ligia Huthmachek, Maria Nice Leite de Miranda, Vânia Renault Bechara Gomes, Maria Isabel Silveira Pereira, Fernando Silvestre Figueiredo Felix, Silvia Maria Penha Ancora da Luz, Rosa Marina de Macedo Costa, Hevelise Scheer, Sara Raquel Carlos Quimas, Marfan Martins Vieira, Ricardo S. Gonçalves, Helenice Morett Silva Romano, José Vasconcelos Magalhães, Glauce Mendes Franco, Luis Henrique Ribeiro Soares, Maria Zélia Procópio Silva, Luciana Khair, Sylvio Álvares da Cunha Filho, Silvia Maria Andrade, Paulo Edmundo Augusto Lopes, José Aluísio Figueiredo Marques, Flávio Augusto Ferreira da Silva, Marcelo Rebelo de Mendonça, Henrique Monerat, Belkiss Albernaz Parente Ribeiro, Jane Resende Medina, Ivan Machado Ferraz, Amaury Werner Erthal, Oswaldo Deleuze Raymundo, Célio Lopes de Souza, Ascanio Cezar Cabossú Neto, Mario José Bagueira Leal, Caureciny Girolamy, Antônio Carlos Nunes Martins, José Augusto Silveira dos Anjos, Vera Regina Charbel Terra Meireles, Adriano Celto Guimarães, Nilton Dias Martins, Manoel de Brito Varela, Ronald Cardoso Alexandrino, Sérgio Sarmento de Carvalho, Darcy Cianni Marins, Uilherme Souza de Azevedo, Victorio Murad e Fernando Cesar Silveira Bueno.
Após o surgimento da ADPERJ, foi publicado no jornal da própria Associação o fundamento pelo qual foi criada a entidade. O texto é de autoria do Defensor Público Orlindo Elias Filho:
“É exatamente por isso e para isso que se iniciou a luta e se fundou a ADPERJ: O soerguimento da Instituição; o seu correto posicionamento administrativo que, como órgão de Estado que é, não pode ficar departamentalizado numa Secretaria de Estado. Tudo que se faz e se irá fazer, doravante, terá como meta principal o soerguimento da Instituição; a luta pela dignidade funcional de seus integrantes, que têm direito legalmente assegurado de trabalhar em instalações condignas, que precisam ter somadas as carências materiais de toda ordem; que precisam de um organismo administrativo próprio que há de ser a Procuradoria-Geral da Defensoria Pública.”
Em 1983, a entidade caçula incorporou a AAERJ.
Apenas três anos depois o Governador Moreira Franco criou a Procuradoria-Geral da Defensoria Pública, conferindo à Instituição a autonomia tão almejada e colocando-a no mesmo patamar das demais Secretarias de Estado. O objetivo que ensejou a criação da ADPERJ estava atingido, mas os Defensores sabiam que muitos outros viriam.