Skip to content

datalopes1/deliverycenter_dwh

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

17 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

🛵 Construindo um Data Warehouse para o Delivery Center

header

📜Sumário

  1. 📌 Sobre o Projeto
  2. ⚙️ Tecnologias Utilizadas
  3. 🚀 Como Executar
  4. 📊 Estrutura do Projeto
  5. 🗒️ Licença
  6. 📞 Contato

📌 Sobre o Projeto

Com seus diversos hubs operacionais espalhados pelo Brasil, o Delivery Center é uma plataforma integra lojistas e marketplaces, criando um ecossistema saudável para vendas de good (produtos) e food (comidas) no varejo brasileiro.

Atualmente temos um cadastro (catálogo + cardápio) com mais de 900 mil itens, milhares de pedidos e entregas são operacionalizados diariamente com uma rede de milhares lojistas e entregadores parceiros espalhados por todas as regiões do país.

O projeto faz uso da arquitetura medalhão (bronze, silver, gold) para organizar esses dados em camadas conforme sua qualidade e nível de agregação:

  • Bronze: Dados crus carregados diretamente de arquivos CSV.
  • Silver: Dados limpos, padronizados e relacionados.
  • Gold: Tabelas analíticas e métricas prontas para consumo em BI ou dashboards.

img

Diagrama Entidade Relacionamento

img

Dashboard do Power BI

img

Acesse no Power BI Service

⚙️ Tecnologias Utilizadas

  • 🐍 Python (Pandas, SQLAlchemy)
  • 🐘 PostgreSQL (Banco de dados relacional)
  • 🪛 dbt (data build tool) (Modelagem e transformação dos dados)

🚀 Como Executar

Clone o repositório
git clone https://github.com/datalopes1/deliverycenter_dwh.git
cd deliverycenter_dwh/
Instale as dependências
pip install -r requirements.txt
Configure o Banco de Dados

Crie um arquivo .env na raiz do projeto com suas credendciais, e ajuste seu profiles.yml do dbt.

DB_USER=seu_usuario
DB_PASSWORD=sua_senha
DB_HOST=localhost
DB_NAME=seu_banco
Execute o script de ingestão
python src/data_ingestion.py
Rode os modelos do dbt
cd dwh/
dbt run
Execute testes (opcional)
dbt test
Gere a documentação (opcional)
dbt docs generate
dbt docs serve

📊 Estrutura do Projeto

deliverycenter_dwh/
├── dashboard/              # Dashboard do Power BI em .pbip
├── data/                   
|   └── raw/                # Arquivos CSV brutos
├── dwh/                    # Projeto do dbt    
├── img/    
|   └── arq.png             # Diagrama da Arquitetura do DWH 
|   └── erdiagram.png       # Diagrama Entidade Relacionamento                    
├── src/
|   └── data_ingestion.py   # Script de ingestão dos dados
├── .gitignore              # Arquivos e pastas ignorados
├── LICENSE.md              # Licença do projeto
├── poetry.lock             # Arquivo lock do poetry
├── pyproject.toml          # Projeto do poetry
├── README.md               # Readme do repositório
└── requirements.txt        # Dependências

🗒️ Licença

Este projeto está licenciado sob a MIT License - veja o arquivo LICENSE para mais detalhes.

📞 Contato

About

Projeto de Data Warehouse utilizando o Dataset Delivery Center: Food & Goods orders in Brazil

Topics

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages