OpenHermes 2 Mistral 7B PTBR: Chat, Programação e Roleplay em Português

O OpenHermesV2 PTBR é um fine-tune em português brasileiro do OpenHermes 2 Mistral 7B, publicado no Hugging Face por ArtificialGuyBR. Ele mantém tudo que tornou o modelo original popular — forte seguimento de instruções, formatação ChatML e chat compatível com OpenAI — e o adapta para responder em português. Aqui está o que você precisa saber para executá-lo.

• Modelo base: OpenHermes 2 Mistral 7B (fine-tune do Teknium de mistralai/Mistral-7B-v0.1)
• Formato de prompt: ChatML com tokens <|im_start|> / <|im_end|> e suporte a prompt de sistema
• Licença: Apache 2.0, livre para uso comercial e pessoal

O que o modelo faz

O OpenHermes 2 Mistral 7B foi treinado com cerca de 900.000 entradas de dados gerados majoritariamente por GPT-4, coletados de datasets abertos, segundo a carta do modelo. Os datasets foram filtrados e convertidos para ShareGPT e, depois, para o formato ChatML usando axolotl. O lançamento PTBR é um fine-tune adicional desse modelo, então ele herda as mesmas capacidades — assistência, perguntas e respostas de programação, roleplay e diálogo de múltiplas voltas — enquanto responde em português.

A página do Hugging Face mostra saídas de exemplo para chat de programação, receitas gourmet, conversas filosóficas sobre a própria "consciência" do modelo e roleplay no mundo de Fullmetal Alchemist. O autor o descreve como um projeto pessoal feito "apenas por diversão/testes", então trate-o como um experimento, e não como um modelo de produção.

Formato de prompt: ChatML

Assim como o OpenHermes 2, este modelo usa o template de chat ChatML. Prompts de sistema importam: o modelo foi treinado para usá-los para seguir instruções que se estendem por muitas voltas. Um prompt completo é assim:

<|im_start|>system
You are "Hermes 2", an artificial intelligence developed by Teknium.<|im_end|>
<|im_start|>user
Hello, who are you?<|im_end|>
<|im_start|>assistant
Hi there! I'm Hermes 2.<|im_end|>

O formato mapeia diretamente para a API de chat da OpenAI, então endpoints construídos para ela aceitam a mesma estrutura de mensagens. No transformers, use o template de chat incluído em vez de montar a string manualmente:

messages = [
    {"role": "system", "content": "Você é Hermes 2."},
    {"role": "user", "content": "Olá, quem é você?"}
]
gen_input = tokenizer.apply_chat_template(messages, return_tensors="pt", add_generation_prompt=True)
model.generate(**gen_input)

Defina add_generation_prompt=True para que o template acrescente <|im_start|>assistant\n e o modelo continue com sua resposta. Nas cartas originais, o autor recomenda o LM Studio para conversar: ele executa quantizações GGUF no llama.cpp, oferece uma interface similar ao ChatGPT e suporta ChatML prontamente — basta selecionar o prefixo ChatML no painel de configurações.

Configurações recomendadas

A carta do modelo não lista configurações de amostragem para este lançamento PTBR. Como regra geral para modelos Mistral-7B ChatML, temperatura em torno de 0.7 com o top-p padrão geralmente funciona bem para chat geral, e temperaturas mais baixas mantêm as respostas de programação mais determinísticas — mas nada aqui é especificado pelo autor, então ajuste a seu gosto.

Imagens de exemplo

Nenhuma imagem de exemplo é incluída no lançamento do Hugging Face, já que este é um modelo de geração de texto, então este guia não tem galeria. A própria carta do modelo incorpora capturas de tela de conversas de exemplo para referência.

Erros comuns e correções

Erro | Causa | Correção | Fonte

|---|---|---|---

O modelo responde em inglês | Nenhuma instrução forçando português | Adicione um prompt de sistema como "Sempre responda em português brasileiro." | Carta do modelo Saída ilegível ou truncada no LM Studio | Template errado selecionado | Escolha o prefixo ChatML no painel de configurações do LM Studio | Carta do modelo A geração para antes de uma volta do assistente | Prompt de geração ausente | Chame apply_chat_template(..., add_generation_prompt=True) | Carta do modelo

FAQ

Em que modelo base o OpenHermesV2 PTBR é construído? Mistral-7B-v0.1, através do fine-tune OpenHermes 2 Mistral 7B do Teknium. Veja a tag do modelo base na carta do modelo no Hugging Face.

Que licença ele usa? Apache 2.0, então pode ser usado comercialmente, modificado e redistribuído com atribuição.

Ele suporta prompts de sistema? Sim. O ChatML é construído em torno de voltas <|im_start|>system, e o OpenHermes 2 foi treinado para usar instruções de sistema em conversas de múltiplas voltas.

Fontes

• artificialguybr/OpenHermesV2-PTBR — Hugging Face: carta do modelo, formato de prompt, detalhes de treinamento e licença.
• Leituras relacionadas neste portfólio: o OpenHermes 2 Mistral 7B original, notas sobre a arquitetura Mistral 7B e uma introdução aos templates de prompt ChatML.