Skip to content

Author

Bruno Bertin Marquez

1 paper indexed here

We haven’t gathered this author’s papers yet. Follow them and we’ll fetch their work.

Not the right person? Other researchers publish under this name.

#software testing Open access Sep 2026

Avaliação Empírica da Qualidade e dos Defeitos em Software Gerado por Agentes de Inteligência Artificial: Um Estudo Comparativo sob Requisitos Controlados

*Software* de código-fonte gerado por modelos de linguagem de grande escala (LLMs) tornou-se rotina no ciclo de Engenharia de *Software* (ES). A literatura demonstra, em fragmentos isolados, que esse código apresenta defeitos com padrões específicos, vulnerabilidades de segurança frequentes, acúmulo de dívida técnica, testes com efetividade limitada e reprodutibilidade imperfeita. Contudo, nenhum estudo revisado combina, na mesma cadeia experimental controlada, a geração de **sistemas completos** por diferentes **agentes de IA** a partir do **mesmo requisito**, sob **múltiplas execuções**, avaliadas por um **oráculo independente** com cobertura simultânea de funcionalidade, defeitos, segurança, manutenibilidade e reprodutibilidade. Este artigo apresenta um experimento controlado, prospectivo e reproduzível que preenche essa lacuna: quatro agentes (modelos distintos executados no mesmo *framework* de agente `opencode`, 2× Nemotron, Ling e Mimo) produziram, cada um, três execuções independentes de um sistema completo (API REST de gerenciamento de tarefas em Python/FastAPI/PostgreSQL), totalizando 12 entregas avaliadas por uma suíte oráculo independente de 81 testes, mais verificações não funcionais (segurança, manutenibilidade, reprodutibilidade, desempenho) e uma matriz de defeitos ocorrem segundo a taxonomia de Tambon et al. com severidades e concordância inter-avaliador. Resultados: apenas 3 das 12 entregas foram inicializáveis; os 12 erros Tambon foram 100% Blocker ou Critical; os testes gerados pelos próprios agentes não detectaram nenhum dos defeitos (0/12), enquanto o oráculo detectou 4/4 dos alcançados (RQ6/H3); padrões reincidentes (dependência ausente; incompatibilidade *passlib*+*bcrypt*; configuração de migração; versão "fantasma") concentram a maioria dos defeitos e se repetem entre modelos "free", revelando um "vale comum" de qualidade no momento da coleta. O estudo sustenta, descritivamente, que a aprovação pelos próprios testes do agente não é substituída pela validação independente, e que um único índice colapsaria dimensões de qualidade (funcional ≠ global). O poder estatístico é limitado (n=12; células esperadas <5), de modo que H1–H3 são demonstrações como tendências, não interessantes; um estudo complementar de laboratório (não evidenciário) reforça a separação entre *detectar* e *testar*.

Bruno Bertin Marquez · 0 citations

We use cookies to run the site and, with your consent, for analytics and to show ads. See our Cookie Policy.