Aplicação de Modelos BERT Especializados para o Aprimoramento na Classificação de Sentenças Jurídicas

Soluções baseadas em Processamento de Linguagem Natural (PLN) são adotadas com o objetivo de otimizar a gestão processual e garantir maior uniformidade e previsibilidade nas decisões judiciais. Modelos de linguagem, como o Bidirectional Encoder Representations from Transformers (BERT), são alternativas viáveis para capturar as particularidades da linguagem legal. Este trabalho investiga a aplicação de Parameter-Efficient Fine-Tuning (PEFT) com Low-Rank Adaptation (LoRA) aos modelos LegalBert-pt e BumbaBert, com abordagens de truncamento e agrupamento dos documentos para o aumento da precisão na classificação de temas de Incidentes de Resolução de Demandas Repetitivas (IRDRs) em sentenças jurídicas.