Saltar para o conteúdo principal
FromNine
Menu

IA e dados

IA generativa que aguenta a produção.

Construímos aplicações de IA generativa sobre o conhecimento e os dados da sua organização, com pesquisa que respeita as permissões, uma avaliação que condiciona cada nova versão e custo, qualidade e latência à vista.

Para organizações que usam uma só plataforma de IA em Portugal e noutros Estados-Membros, com várias línguas e regras nacionais diferentes.

Fale-nos do seu projetoVer acesso ao conhecimento
Engenharia de IA e IA generativa: camadas de capacidadesQuatro camadas sobrepostas em profundidade. De cima para baixo: pesquisa sobre as suas fontes, o gateway de modelos, avaliação e salvaguardas, e a aplicação com que os utilizadores trabalham. Um percurso vai das fontes até à aplicação.01Pesquisa sobre as suas fontes02Gateway e encaminhamento de modelos03Avaliação e salvaguardas04Aplicação em produção
  1. 01Respostas que citam as fontes e se abstêm quando faltam evidências
  2. 02Um conjunto de referência e critérios de regressão acordados com as suas equipas antes do arranque
  3. 03Encaminhamento de modelos e orçamentos que mantêm visíveis o custo e a latência de cada pedido

01 Problemas

Onde a IA generativa fica parada

O modelo raramente é a parte difícil. O que trava a maioria dos programas é tudo o que está à volta dele.

  1. 01

    O piloto impressionou, depois ninguém sabia dizer se era bom

    A qualidade foi avaliada por meia dúzia de pessoas a experimentar meia dúzia de perguntas. Não há conjunto de testes, por isso cada alteração de prompt ou de modelo é uma aposta.

  2. 02

    O assistente mostra documentos que as pessoas não deviam ver

    O conteúdo foi indexado sem as respetivas permissões de acesso. A segurança da informação e a comissão de trabalhadores travam a implementação, e com razão.

  3. 03

    Os custos crescem mais depressa do que a utilização

    Cada pedido vai para o maior modelo, com o contexto mais longo. Ninguém sabe quanto custa uma resposta, por isso ninguém o consegue gerir.

  4. 04

    As respostas parecem certas e não são

    A pesquisa devolve resultados quase certos, o modelo preenche as lacunas com fluência e os utilizadores perdem a confiança ao terceiro erro dito com segurança.

02 O que entregamos

O que entregamos

  1. 01 Pesquisa e sistemas de conhecimento interno

    Pesquisa concebida fonte a fonte: como o conteúdo é interpretado e dividido, como se combinam a pesquisa lexical e a vetorial, e como as permissões de acesso acompanham cada excerto. A base dos assistentes de acesso ao conhecimento.

    O que fazemos

    • Inventário de fontes com responsáveis, formatos e modelos de acesso
    • Estratégia de divisão e de metadados por tipo de documento
    • Pesquisa híbrida, lexical e vetorial, com reordenação
    • Pesquisa que respeita as permissões herdadas das fontes

    O que recebe

    • Pipelines de ingestão com deteção de alterações
    • Serviço de pesquisa com citações e regras de abstenção
    • Relatório de qualidade da pesquisa por fonte

  2. 02 Estratégia de modelos sem dependência de fornecedor

    Um gateway de modelos entre as suas aplicações e os modelos, para encaminhar por tarefa, recorrer a uma alternativa quando um fornecedor falha e trocar de modelo à medida que os preços e as capacidades mudam.

    O que fazemos

    • Opções entre modelos de ponta alojados, implementações alojadas na UE e modelos de pesos abertos alojados pela própria organização
    • Encaminhamento por tarefa, sensibilidade e custo
    • Alternativas, tempos limite, cache e limites de pedidos
    • Condições de tratamento de dados revistas com as suas equipas jurídica e de segurança

    O que recebe

    • Gateway de modelos com a política de encaminhamento como configuração
    • Registo da decisão de modelo por caso de uso
    • Orçamento de custo e latência por tipo de pedido

  3. 03 A avaliação como disciplina de engenharia

    Critérios de qualidade acordados com quem é responsável pelo processo, transformados em conjuntos de testes que correm a cada alteração. As verificações feitas por modelos são calibradas com revisão humana antes de confiarmos nelas.

    O que fazemos

    • Conjuntos de referência por caso de uso, construídos com especialistas do negócio
    • Avaliação offline da pesquisa e da geração em separado
    • Testes adversariais contra injeção de prompts e fuga de dados
    • Avaliação online a partir do feedback em produção e de revisão por amostragem

    O que recebe

    • Conjunto de avaliação integrado no CI como condição de lançamento
    • Critérios de qualidade aprovados pelo responsável do negócio
    • Resultados dos testes adversariais e medidas de mitigação

  4. 04 LLMOps e observabilidade

    Rastreio desde a pergunta aos excertos encontrados, à chamada ao modelo e à resposta, com prompts e modelos versionados como código e orçamentos aplicados em produção.

    O que fazemos

    • Rastreio e registo estruturado de cada pedido
    • Versionamento de prompts, modelos e índices
    • Cache semântica e exata onde for seguro
    • Monitorização de desvios e da qualidade, com alertas

    O que recebe

    • Painéis de qualidade, custo e latência
    • Plano de resposta a incidentes próprios da IA
    • Procedimento para atualizar modelos e índices

  5. 05 Governação desde a conceção

    Concebemos tendo em conta o Regulamento da IA da União Europeia, da classificação de risco e do seu papel como prestador ou responsável pela implantação aos registos, à supervisão humana e à documentação. A avaliação jurídica fica com os seus próprios assessores jurídicos.

    O que fazemos

    • Classificação dos casos de uso e obrigações por papel
    • Contributos para as avaliações de impacto sobre a proteção de dados nos termos do RGPD
    • Conceção dos registos e da supervisão humana
    • Documentação do modelo e do sistema mantida junto do código

    O que recebe

    • Dossiê de documentação do sistema
    • Conceção dos registos e da conservação
    • Procedimento de supervisão para cada caso de uso

  6. 06 Fine-tuning e compreensão de documentos, quando a avaliação o justifica

    Fine-tuning, destilação e compreensão multimodal de documentos são ferramentas para lacunas concretas. Usamo-las quando o conjunto de avaliação mostra que a pesquisa e os prompts não chegam, e não antes.

    O que fazemos

    • Análise de lacunas a partir dos resultados da avaliação
    • Plano de preparação e anotação de dados
    • Destilação para modelos mais pequenos, por custo ou latência
    • Extração que entende a paginação de documentos digitalizados e complexos

    O que recebe

    • Avaliação comparativa antes e depois
    • Rastreabilidade dos dados de treino
    • Decisão de manter, reverter ou retirar

03 Arquitetura

Uma arquitetura de referência ilustrativa

A maioria dos sistemas empresariais de IA generativa que construímos partilha a mesma forma: pesquisa sobre as suas fontes, um gateway de modelos, salvaguardas de ambos os lados do modelo e, por baixo, um ciclo de avaliação e observabilidade que decide o que pode entrar em produção.

O filtro de permissões está dentro da pesquisa, não na interface. Se uma pessoa não pode abrir um documento no sistema de origem, os excertos desse documento nunca chegam ao modelo em seu nome.

Camadas do desenho

Fontes
Repositórios de documentos, wikis e sistemas de gestão, e o fornecedor de identidades que sabe quem pode ver o quê.
Pesquisa
Ingestão, um índice híbrido, reordenação e o filtro de permissões.
Modelos
Um gateway que encaminha entre modelos alojados, alojados na UE e próprios, com alternativas e cache.
Aplicação
Respostas com citações, abstenção quando faltam evidências e salvaguardas na entrada e na saída.
Operar e melhorar
Conjuntos de referência, critérios de regressão, rastreios e orçamentos. Os rastreios de produção alimentam o conjunto de testes seguinte.
Exemplo ilustrativo

  1. Fontes

    • Repositórios de documentos e wikis
    • Sistemas de gestão
    • Fornecedor de identidades

  2. Pesquisa

    • Ingestão e divisão
    • Índice híbrido
    • Filtro de permissões
    • Pesquisa e reordenação

  3. Modelos

    • Gateway de modelos
    • Modelos alojados, na UE e próprios
    • Salvaguardas de entrada e saída

  4. Aplicação

    • Aplicação com citações

  5. Operar e melhorar

    • Conjuntos de referência e regressão
    • Rastreios, custo e latência
Pesquisa, gateway de modelos e ciclo de avaliação

Arquitetura ilustrativa, não corresponde a um sistema de um cliente.

Ler o diagrama em texto

O percurso principal vai dos repositórios de documentos, através da ingestão, de um índice híbrido, da pesquisa com reordenação e do gateway de modelos, até à aplicação.

Os sistemas de gestão também alimentam a ingestão. O fornecedor de identidades alimenta um filtro de permissões que limita a pesquisa. As salvaguardas verificam a entrada e a saída da aplicação. O gateway encaminha para modelos de ponta alojados, implementações alojadas na UE e modelos de pesos abertos alojados pela própria organização.

Por baixo, um conjunto de avaliação com conjuntos de referência e critérios de regressão, e observabilidade com rastreios e orçamentos de custo e latência. Os rastreios de produção alimentam o conjunto de avaliação.

04 Considerações e limites

Considerações de engenharia e limites

  • A qualidade mede-se, não se promete

    Como o tratamos

    Acordamos critérios de qualidade com os responsáveis pelos processos e testamos o resultado da IA face a esses critérios antes e depois de cada versão.

    A pesquisa e a geração são avaliadas em separado, para que cada falha aponte para a sua causa.

    Limites e dependências

    O resultado da IA pode estar errado. Por isso concebemos passos de revisão para os casos incertos e abstenção quando faltam evidências.

    Um conjunto de testes vale o que valem os especialistas que ajudam a construí-lo. Precisamos do tempo deles desde cedo.

  • As permissões acompanham o conteúdo

    Como o tratamos

    As permissões de acesso são recolhidas na ingestão e aplicadas no momento da pergunta, com base no seu fornecedor de identidades.

    Limites e dependências

    Quando os sistemas de origem guardam as permissões de forma que não é possível ler com fiabilidade, deixamos esse conteúdo fora do âmbito até que seja possível.

    O conteúdo partilhado em excesso na origem continua partilhado em excesso. A pesquisa torna-o mais fácil de encontrar, por isso uma limpeza é por vezes o primeiro passo.

  • Custo e latência são dados de conceção

    Como o tratamos

    Cada tipo de pedido tem um orçamento. O encaminhamento, a cache e o tamanho do contexto são ajustados a esse orçamento, e os painéis mostram para onde vai o dinheiro.

    Limites e dependências

    Os preços e os limites de pedidos dos fornecedores mudam fora do controlo da sua organização. O gateway permite reagir, mas não faz desaparecer uma alteração de preço.

  • Os modelos mudam por baixo de si

    Como o tratamos

    Os modelos são fixados por versão, e cada atualização passa pelo conjunto de avaliação completo antes de chegar aos utilizadores.

    Limites e dependências

    Os modelos alojados são por vezes retirados com pouca antecedência. Planeamos uma alternativa por caso de uso, e esse plano precisa da aprovação do responsável.

05 Como trabalhamos

Como trabalhamos

A ordem importa: decidimos como medir antes de decidirmos o que construir.

  1. 01

    Enquadrar o caso de uso

    Quem o usa, que decisões apoia, que fontes pode consultar e quanto custa uma resposta errada.

    ResultadoFicha do caso de uso e classificação de risco

  2. 02

    Construir o conjunto de referência

    Perguntas reais e respostas esperadas, recolhidas com os seus especialistas, incluindo as que o sistema deve recusar.

    ResultadoConjunto de testes versionado

  3. 03

    Tratar primeiro da pesquisa

    Ingestão, índice e filtro de permissões, afinados até a qualidade da pesquisa atingir o nível acordado.

    ResultadoRelatório de qualidade da pesquisa

  4. 04

    Lançar com critérios de passagem

    A geração, as salvaguardas e o gateway só entram em produção quando o conjunto de avaliação passa no CI.

    ResultadoVersão com evidências de avaliação

  5. 05

    Operar e melhorar

    Os rastreios, a revisão por amostragem e o feedback dos utilizadores alimentam o conjunto de testes e a versão seguintes.

    ResultadoRevisão mensal de qualidade, custo e latência

06 Controlo humano

Onde as pessoas mantêm o controlo

A IA generativa redige, pesquisa e sugere. As pessoas decidem o que pode ver, o que conta como bom e o que acontece quando há dúvida.

  • Os responsáveis aprovam a qualidade

    O responsável do negócio por cada caso de uso aprova os critérios de qualidade e as evidências de cada versão, e não apenas a equipa de projeto.

  • As respostas incertas vão para uma pessoa

    Abaixo de um limiar de confiança acordado, o sistema abstém-se ou encaminha a pergunta para uma equipa identificada.

  • O acesso fica na origem

    Quem pode ver um documento é decidido no sistema de origem e no seu fornecedor de identidades, nunca dentro da camada de IA.

  • O feedback muda o sistema

    Os utilizadores podem assinalar respostas. As sinalizações são revistas por pessoas, e as falhas confirmadas tornam-se casos de teste.

07 Tecnologias

Tecnologias com que trabalhamos

Pesquisa
  • OpenSearch e Elasticsearch
  • PostgreSQL com pgvector
  • Azure AI Search
  • Modelos de reordenação cross-encoder
Modelos
  • Modelos de ponta alojados
  • Serviços de modelos geridos em regiões da UE
  • Modelos de pesos abertos em vLLM
  • Modelos de embeddings por língua
Avaliação e operação
  • Rastreio com OpenTelemetry
  • Conjuntos de avaliação no CI
  • Registos de prompts e de modelos
  • Langfuse ou equivalente
Aplicação
  • Serviços em TypeScript e Python
  • APIs de streaming
  • Portais existentes e front-ends de Salesforce, SAP e Odoo

A referência a uma tecnologia descreve a nossa experiência de engenharia. Não implica uma parceria com o respetivo fabricante nem o seu aval.

08 Exemplo

Um exemplo ilustrativo

Exemplo ilustrativo

Um assistente para os regulamentos de uma câmara municipal

01Situação
Os regulamentos municipais, os despachos internos e as orientações dos serviços estão espalhados por várias pastas e versões. Quem atende os munícipes faz as mesmas perguntas e recebe respostas diferentes consoante o colega a quem pergunta.
02O que construiríamos
Pesquisa sobre os regulamentos em vigor e os despachos internos, com as permissões herdadas do sistema de gestão documental e respostas que citam o artigo e a versão aplicáveis.
03Onde as pessoas decidem
No serviço jurídico, quem é responsável por cada regulamento aprova o conjunto de testes da sua área e valida as versões que alteram respostas. Decidir um requerimento concreto continua a caber ao serviço.
04O que mediríamos
Percentagem de respostas que citam o regulamento e a versão corretos, taxa de abstenção em perguntas fora do âmbito e custo por resposta.

09 Por setor

No seu setor

  • Administração pública

    Assistentes para técnicos e para cidadãos que citam a fonte legal, do regulamento municipal ao diploma publicado no Diário da República, e registam o que foi pesquisado e para quem.

  • Serviços financeiros

    Assistentes sobre normas e procedimentos internos com permissões rigorosas, rastreabilidade total e documentação de risco de modelo que a segunda linha de defesa pode rever.

  • Saúde e ciências da vida

    Pesquisa sobre protocolos e documentação de produto com limites claros: nenhuma decisão clínica, dados sensíveis mantidos em ambientes aprovados.

Portugal

Várias línguas, um só padrão de avaliação

As organizações portuguesas raramente usam IA generativa num só país: grupos com empresas em Espanha, exportadores com documentação técnica em várias línguas, seguradoras com produtos noutros mercados. O Regulamento da IA define um quadro comum, mas as autoridades de proteção de dados, as comissões de trabalhadores e os supervisores setoriais continuam a variar por Estado-Membro.

Em Portugal, a Comissão Nacional de Proteção de Dados (CNPD) é a autoridade de controlo do RGPD. Na lista da Comissão Europeia, a ANACOM surge como ponto de contacto único de Portugal para a fiscalização do Regulamento da IA, com a designação nacional ainda pendente (à data de novembro de 2026).

Tratamos isto logo na fase de descoberta: pesquisa e avaliação por língua, localização dos dados definida por caso de uso, e registos e documentação que respondem às perguntas de cada país sem um sistema separado para cada um. Os programas financiados pelo Programa Europa Digital pedem muitas vezes exatamente este tipo de conceção reutilizável e documentada.

Perguntas sobre engenharia de IA

Que modelo recomendam?

Depende da tarefa, dos dados envolvidos e dos requisitos de alojamento. Normalmente combinamos modelos: um modelo capaz para os passos que exigem raciocínio, modelos mais pequenos ou alojados pela própria organização para classificação e extração, e implementações alojadas na UE quando os dados têm de ficar na UE.

O gateway mantém essa escolha reversível, para que a resposta possa mudar quando os modelos e os preços mudam.

Qual será o grau de exatidão?

Não indicamos um grau de exatidão antes de o medirmos sobre os seus dados. Acordamos consigo os critérios de qualidade, construímos um conjunto de testes e apresentamos os resultados face a esse conjunto antes do arranque e depois de cada alteração.

Os modelos cometem erros, por isso a conceção inclui sempre o que acontece quando os cometem: abstenção, passos de revisão e encaminhamento para uma pessoa.

Os nossos dados vão ser usados para treinar o modelo de outra entidade?

Não nas arquiteturas que concebemos. Escolhemos serviços de modelos cujas condições excluem o treino com os seus dados de entrada, ou alojamos os modelos no seu próprio ambiente, e documentamos a escolha por caso de uso com a sua equipa de segurança.

O Regulamento da IA aplica-se ao nosso caso de uso?

Ajudamos a perceber que obrigações podem aplicar-se, com base no caso de uso e no seu papel como prestador ou responsável pela implantação, e concebemos os registos, a supervisão e a documentação em conformidade, para que os seus assessores jurídicos tenham os factos necessários para chegar a uma conclusão. Na lista da Comissão Europeia, a ANACOM surge como ponto de contacto único de Portugal para a fiscalização do Regulamento da IA, com a designação nacional ainda pendente (à data de novembro de 2026).

Como tratam a segurança e os dados sensíveis?

A FromNine tem a certificação ISO/IEC 27001. Os limites de acesso, a localização e a conservação dos dados são acordados antes de construirmos, e os testes adversariais contra injeção de prompts e fuga de dados fazem parte do processo de lançamento que montamos.

Qual é um primeiro passo sensato?

Um caso de uso com um responsável claro, um conjunto limitado de fontes e um conjunto de testes construído com os seus especialistas. Isso dá-lhe um sistema a funcionar e evidências sobre qualidade, custo e latência, que é aquilo de que a próxima decisão de investimento precisa.

Traga um caso de uso e as perguntas mais difíceis

Mostramos como o mediríamos antes de falarmos em construí-lo.

Fale-nos do seu projetoVer acesso ao conhecimento