baruquerodrigues/llm-legislativo ? reverse-engineered prompt

Quero que você monte um projeto completo, em português, para organizar um grande corpus legislativo brasileiro e treinar um modelo de linguagem causal do zero com PyTorch.

A ideia é baixar, validar e preparar documentos da Câmara e do Senado, extrair texto de PDFs com OCR quando precisar, limpar e deduplicar o conteúdo, separar os dados em treino, validação e teste sem vazamento, e depois treinar um Transformer causal simples e bem explicado. Também quero um tokenizer próprio baseado em byte level BPE, geração de shards para treino, checkpoints com verificação por hash, e uma avaliação final com métricas de perda e perplexidade.

Deixe o projeto bem reprodutível, com scripts claros, testes básicos e documentação suficiente para eu conseguir rodar tudo de ponta a ponta. Se precisar, procure a documentação atual das bibliotecas online antes de implementar.