Blog ·
Uma IA que nunca sai do seu computador: Gemini Nano e Ollama
Um contrato, um prontuário médico, um e-mail delicado? Com o Gemini Nano ou o Ollama, o Weightless AI roda a IA na sua própria máquina. Nada vai para a internet, e não é preciso criar nenhuma chave.
Quando você pede a uma IA para corrigir um e-mail, o texto normalmente vai parar nos servidores de um provedor on-line. Para uma lista de compras, tanto faz. Para um contrato, um holerite ou uma mensagem muito pessoal, o ideal seria que o texto ficasse em casa.
É exatamente esse o papel da IA local no Weightless AI: o modelo roda no seu computador, e o seu texto nunca sai da sua máquina.
Duas IAs locais à sua escolha
No assistente (Alt + W), clique no selo do mecanismo no topo da janela: os mecanismos estão organizados em dois grupos, “Local (privado)” e “On-line”. O primeiro grupo reúne:
- o Gemini Nano, a IA integrada ao Google Chrome: nada para instalar além do modelo, sem chave, sem conta;
- o Ollama, um software livre que você instala no computador e que roda modelos abertos (Llama, Mistral, Gemma…).
E como cada aba de conversa mantém seu próprio mecanismo, você pode usar o Gemini on-line em uma aba para fazer uma pesquisa e o Nano na seguinte para um texto confidencial.
Gemini Nano: a IA que já está no Chrome
O Gemini Nano funciona sem chave e sem conexão. Você precisa de:
- Google Chrome 148 ou mais recente, em computador (Windows, Mac ou Linux com Google Chrome; no Chromebook, só nos modelos recentes e potentes, não nos Chromebooks comuns; não funciona no celular);
- cerca de 20 GB de espaço livre em disco, já que o modelo em si pesa de 2,7 a 4 GB.
Nas configurações do assistente, o botão “Baixar o modelo” inicia o download, uma única vez. Depois disso, o Nano responde até off-line.
Bom saber: o Chrome remove o modelo por conta própria se ele ficar 30 dias sem uso, ou se o espaço livre no disco cair abaixo de 5 GB. Aí é só baixá-lo de novo.
O Nano é um modelo pequeno: respostas mais curtas, textos mais curtos (cerca de 4.000 caracteres de página), sem pesquisa na web e sem PDF. Para corrigir, reformular ou traduzir uma mensagem, ele dá conta tranquilamente.
Ollama: o seu próprio servidor de IA, em casa
O Ollama pode ser instalado no Windows, no Mac, no Linux e até no Chromebook, dentro do ambiente Linux. O Weightless AI o detecta sozinho no endereço padrão (http://localhost:11434) e escolhe um modelo que já esteja instalado.
Só um cuidado: autorizar a extensão a se comunicar com ele. As perguntas frequentes integradas ao assistente trazem o comando exato para cada sistema, por exemplo no Mac e no Windows:
OLLAMA_ORIGINS=chrome-extension://*
No Chromebook, o endereço a informar na configuração “URL do Ollama (local)” é http://penguin.linux.test:11434, e as perguntas frequentes oferecem um comando pronto para colar no terminal Linux.
Com o Ollama, você pode processar textos mais longos do que com o Nano (cerca de 8.000 caracteres de página), dependendo da potência da sua máquina.
Quando escolher a IA local?
- Contrato, saúde, recursos humanos, dados de clientes: a IA local (Nano ou Ollama);
- um e-mail do dia a dia: qualquer um dos dois, como você preferir;
- uma pergunta sobre notícias recentes, uma pesquisa com fontes: o Gemini on-line;
- um PDF longo para resumir: o Gemini on-line.
E onde fica o Weightless AI nisso tudo?
Seja qual for o mecanismo escolhido, on-line ou local, o Weightless AI não tem servidor: não existe nenhum lugar onde poderíamos receber os seus textos. Com a IA local, o caminho é simplesmente o mais curto possível: o seu teclado, o seu computador, e só.