Open source LLMs vs proprietários: análise para clínicas

Em resumo

• Modelos proprietários (Claude, GPT-4, Gemini) custam tipicamente 0,25 a 15 USD por milhão de tokens, sem investimento inicial em infraestrutura, com latências de 200 a 800 ms e SLA contratual.
• Modelos open source (Llama 3, Mistral, DeepSeek, Qwen) eliminam custo por chamada mas exigem GPU dedicada (1.500 a 8.000 € de servidor próprio ou 600 a 2.500 €/mês em cloud) e equipa técnica para operação.
• Para clínicas portuguesas com volumes típicos de 500 a 5.000 conversas/mês, o custo mensal de API proprietária fica geralmente entre 15 e 120 €, abaixo do break-even de qualquer self-hosting.
• O critério decisivo raramente é o preço: é a responsabilidade legal sobre tratamento de dados pessoais (RGPD), a auditoria do prompt e logs, e a disponibilidade 24/7 sem equipa interna de IA.

A decisão entre adoptar um modelo de linguagem proprietário ou um modelo open source auto-hospedado tornou-se relevante para clínicas portuguesas que pretendem automatizar agendamento, triagem informativa ou suporte a pacientes através de chatbot. A discussão técnica está saturada de comparações de benchmark, mas o contexto de uma clínica de dimensão média em Lisboa, Porto ou Braga é muito diferente do de uma big tech. Este artigo analisa a escolha com os critérios que importam: custo total, conformidade RGPD, fiabilidade operacional e capacidade de manutenção contínua.

O que são modelos proprietários e open source

Modelos proprietários são large language models oferecidos como serviço por empresas como Anthropic (Claude), OpenAI (GPT-4, GPT-4o), Google (Gemini) e Cohere. A clínica não tem acesso aos pesos do modelo, paga por token consumido e acede via API HTTPS. A infraestrutura, escalonamento, monitorização e actualizações ficam por conta do fornecedor. A clínica integra com algumas linhas de código e configuração de chaves.

Modelos open source distribuem os pesos publicamente, normalmente sob licenças permissivas (Apache 2.0, MIT) ou semi-permissivas (Llama Community License). Famílias relevantes incluem Llama 3 (Meta), Mistral e Mixtral (Mistral AI), DeepSeek, Qwen (Alibaba) e Phi (Microsoft). A clínica pode descarregar, executar localmente ou em servidor próprio, ajustar parâmetros, fazer fine-tuning com dados próprios e auditar comportamento sem depender de terceiros.

A diferença não é puramente filosófica. Define quem responde quando o modelo falha às três da manhã, quem actualiza o sistema quando surge uma vulnerabilidade, quem garante a disponibilidade do serviço e quem assina o contrato de subcontratação de tratamento de dados exigido pelo RGPD.

Comparação operacional para clínicas pequenas e médias

A tabela seguinte resume os parâmetros que tipicamente pesam na decisão em clínicas portuguesas com até 15 profissionais e volumes de até 5.000 conversas mensais com chatbot.

Para a maioria das clínicas pequenas, a coluna do meio raramente compensa: o break-even financeiro do servidor próprio só costuma surgir acima de 20.000 conversas/mês com profissionais técnicos já contratados.

Análise de custo real por volume de conversas

Os preços publicados pelos fornecedores são por milhão de tokens, o que confunde a leitura. Em clínicas portuguesas observamos que cada conversa de agendamento e esclarecimento ocupa tipicamente 800 a 2.500 tokens de input e 300 a 800 tokens de output, dependendo do detalhe do prompt de sistema e da extensão das respostas.

Considerando Claude Haiku 4.5 (modelo usado neste tipo de integração), o custo médio observado por conversa fica entre 0,002 e 0,008 €. Para um volume de 1.500 conversas/mês, o gasto típico é de 6 a 18 €. Para 5.000 conversas/mês, de 20 a 60 €. Adicionando prompt caching (técnica que reaproveita o prompt de sistema entre chamadas), a poupança pode chegar a 70% sobre os input tokens.

Em contrapartida, uma GPU NVIDIA capaz de servir Llama 3 70B com latência aceitável custa entre 5.000 e 12.000 €, ou 600 a 2.500 €/mês em cloud (RunPod, Lambda, Hetzner). Mesmo um modelo menor como Llama 3 8B exige uma GPU de gama média e equipa para manter uptime. A conta só faz sentido para volumes muito altos ou quando existe restrição contratual a transferir dados para fora da clínica.

RGPD e tratamento de dados pessoais

Este é o ponto onde a discussão fica concreta para clínicas em Portugal. Qualquer conversa de chatbot pode conter dados de saúde, categoria especial protegida pelo artigo 9.º do RGPD. A clínica é o responsável pelo tratamento; o fornecedor do modelo é subcontratante e tem de assinar contrato de tratamento de dados (DPA) nos termos do artigo 28.º.

• Anthropic, OpenAI e Google disponibilizam DPA standard, alojamento em região UE (em planos específicos) e compromisso de não usar conteúdo das APIs comerciais para treinar modelos.
• Modelos open source self-hosted em servidor na UE oferecem controlo total dos dados, sem transferência para país terceiro, mas a responsabilidade técnica e de segurança passa para a clínica.
• Plataformas que servem modelos open source (Together AI, Groq, Replicate) frequentemente operam fora da UE; é preciso analisar o contrato com cuidado.

Recomenda-se documentar a base legal do tratamento, registar a actividade no RAT (Registo de Actividades de Tratamento), informar o paciente da utilização de IA na política de privacidade e garantir que dados clínicos sensíveis não são partilhados desnecessariamente com o chatbot.

Qualidade das respostas e adequação ao português europeu

Os modelos proprietários de gama alta (Claude 3.5/4, GPT-4o, Gemini 1.5 Pro) são consistentemente melhores em português europeu, vocabulário formal, sensibilidade ao tom clínico e reconhecimento de contexto cultural português. Modelos open source de topo (Llama 3 70B, Mistral Large, Qwen 2.5 72B) aproximam-se em tarefas gerais mas continuam, em média, mais propensos a inserir português do Brasil ou a confundir termos clínicos europeus.

Em testes informais com prompts de marcação de consulta de medicina dentária, observamos que Claude e GPT-4o usam "marcação", "telemóvel" e "ficheiro" sem prompt adicional, enquanto Llama 3 8B frequentemente devolve "agendamento", "celular" e "arquivo". Esta diferença pode ser corrigida com fine-tuning ou prompt mais agressivo, mas adiciona trabalho.

Para clínicas, a consistência da norma linguística é importante. Um chatbot que ora diz "telemóvel" ora diz "celular" mina a percepção de profissionalismo da marca clínica.

Latência e experiência do utilizador

O tempo até à primeira token visível e o tempo total de resposta condicionam a experiência. APIs proprietárias modernas devolvem o primeiro token em 200 a 600 ms e completam respostas curtas em 1 a 3 segundos. Modelos open source servidos em GPU partilhada apresentam variações maiores, entre 400 ms e 2 segundos para o primeiro token, com picos quando a GPU está saturada.

Groq, plataforma especializada em inference rápida de modelos open source, atinge tempos comparáveis ou superiores aos proprietários, mas com modelos limitados e rate limits que podem ser desconfortáveis em horas de pico. Para chatbot público de clínica, latência consistente abaixo de 2 segundos é o mínimo aceitável; abaixo de 1 segundo melhora significativamente a percepção de qualidade.

Fine-tuning e personalização

O argumento mais forte a favor do open source é a possibilidade de fine-tuning com dados próprios da clínica. Permite treinar o modelo nos protocolos da clínica, perguntas frequentes específicas, vocabulário próprio e fluxo de marcação. Tecnicamente, técnicas como LoRA e QLoRA tornam o processo acessível com 100 a 500 € de cloud em GPU para um treino inicial.

Na prática, porém, em clínicas pequenas e médias o fine-tuning raramente é o factor decisivo: prompt engineering cuidado, RAG (Retrieval-Augmented Generation) com base de conhecimento da clínica e ferramentas como function calling resolvem 90% dos casos sem fine-tuning. Os proprietários também oferecem fine-tuning (Claude, GPT-4o) com interface simplificada, embora a um custo mais elevado por treino.

Conformidade ERS e regras de publicidade na saúde

Independentemente do modelo escolhido, o chatbot tem de respeitar as normas da Entidade Reguladora da Saúde (ERS) e da ordem profissional aplicável (Ordem dos Médicos, Médicos Dentistas, Psicólogos, Nutricionistas, Fisioterapeutas). Pontos que o chatbot deve evitar:

• Prometer resultados clínicos ou estéticos (por exemplo, "vai ficar com um sorriso perfeito").
• Sugerir urgência artificial ("últimas vagas", "promoção termina amanhã") em serviços de saúde.
• Fornecer aconselhamento clínico individualizado ou diagnósticos remotos.
• Comparar a clínica com concorrentes nomeados ou desacreditar tratamentos alternativos.
• Incentivar consumo desnecessário (sugerir tratamentos que o paciente não pediu).
• Usar testemunhos de pacientes sem consentimento ou de forma enganadora.

O prompt de sistema do chatbot deve incluir explicitamente estas restrições. Modelos proprietários têm camadas adicionais de segurança (classificadores de conteúdo) que ajudam a evitar respostas problemáticas; em open source, a responsabilidade de filtragem é totalmente da clínica.

Manutenção, actualizações e dívida técnica

Em clínicas portuguesas observamos que a manutenção é frequentemente subestimada. Modelos open source self-hosted exigem actualizações regulares de drivers de GPU, segurança do sistema operativo, dependências Python, novas versões do modelo e monitorização contínua de uptime. Estimam-se 4 a 12 horas/mês de trabalho técnico qualificado, ou seja, entre 200 e 800 €/mês de custo operacional não imediatamente visível no orçamento inicial.

Modelos proprietários abstraem este trabalho: o fornecedor actualiza, escala e monitoriza. A clínica só precisa de gerir a integração com o site, o sistema de marcações e a base de conhecimento. Para uma equipa sem profissional dedicado a IA, esta diferença é decisiva.

Recomendação prática por perfil de clínica

Perguntas frequentes

Qual modelo é mais barato para uma clínica que recebe 1.000 mensagens por mês?

Para volumes de 1.000 conversas/mês, um modelo proprietário como Claude Haiku custa tipicamente entre 8 e 25 €/mês. Qualquer solução open source self-hosted fica significativamente mais cara quando se somam GPU, alojamento, energia e horas de manutenção técnica.

Os modelos open source são compatíveis com o RGPD?

Sim, e em alguns aspectos oferecem mais controlo, sobretudo quando alojados em servidor na União Europeia gerido pela clínica. Mas a responsabilidade técnica e de segurança recai totalmente sobre quem implementa, sem o suporte contratual dos fornecedores comerciais.

Posso treinar um modelo open source com dados da minha clínica?

Tecnicamente sim, usando técnicas como LoRA ou QLoRA. Custa 100 a 500 € em cloud GPU para um treino inicial. Atenção: dados de pacientes usados em treino exigem base legal sólida, anonimização rigorosa e registo formal no RAT da clínica.

Que modelo proprietário recomendam para clínicas portuguesas?

Em geral, Claude Haiku 4.5 oferece bom equilíbrio entre custo, qualidade em português europeu e respeito por instruções de sistema detalhadas. GPT-4o mini é alternativa competitiva. A escolha depende também do ecossistema de ferramentas já em uso na clínica.

O chatbot pode dar conselhos médicos aos pacientes?

Não. Independentemente do modelo, o chatbot só deve prestar informação geral, esclarecer procedimentos administrativos, agendar consultas e remeter para o profissional de saúde. Aconselhamento clínico individualizado por IA está fora do âmbito permitido pela legislação portuguesa.

Quanto tempo demora a implementar um chatbot com modelo proprietário?

Tipicamente 1 a 3 dias de trabalho técnico para integração base, mais alguns dias para afinar o prompt, ligar à agenda da clínica e testar fluxos. Implementações com modelos open source self-hosted costumam exigir 2 a 6 semanas até estarem prontas para produção.

É possível trocar de modelo proprietário depois de implementar?

Sim, com algum trabalho de adaptação. Os formatos de API são diferentes entre fornecedores, mas o prompt e a lógica de negócio podem ser largamente reutilizados. Recomenda-se desenhar a integração com uma camada de abstracção interna que isole o fornecedor escolhido.

O modelo proprietário usa as conversas para treinar IA?

Nas APIs comerciais de Anthropic, OpenAI e Google, o conteúdo enviado por clientes empresariais não é usado para treino, conforme contrato. É importante confirmar o plano contratado e o DPA assinado, pois algumas modalidades gratuitas ou de teste têm regras diferentes.

Próximos passos

A escolha entre modelo proprietário e open source raramente é puramente técnica: depende do volume real de conversas previsto, da equipa interna disponível, dos requisitos contratuais sobre dados e do nível de controlo que a clínica considera essencial. Para a grande maioria das clínicas portuguesas de pequena e média dimensão, um modelo proprietário com prompt bem desenhado, RAG sobre a base de conhecimento e respeito rigoroso pelas normas ERS oferece o melhor compromisso entre custo, qualidade e simplicidade.

Se está a avaliar o chatbot adequado à sua clínica, o nosso processo começa com uma análise gratuita do volume estimado, do fluxo de marcações actual e dos requisitos de conformidade aplicáveis ao seu sector. Solicite um diagnóstico e receberá uma recomendação clara, com estimativa de custos, prazos e plano de implementação adaptado à realidade da sua clínica.