Weightless Adicionar ao Chrome ↗

Blog ·

Uma IA que nunca sai do seu computador: Gemini Nano e Ollama

Um contrato, um prontuário médico, um e-mail delicado? Com o Gemini Nano ou o Ollama, o Weightless AI roda a IA na sua própria máquina. Nada vai para a internet, e não é preciso criar nenhuma chave.

Quando você pede a uma IA para corrigir um e-mail, o texto normalmente vai parar nos servidores de um provedor on-line. Para uma lista de compras, tanto faz. Para um contrato, um holerite ou uma mensagem muito pessoal, o ideal seria que o texto ficasse em casa.

É exatamente esse o papel da IA local no Weightless AI: o modelo roda no seu computador, e o seu texto nunca sai da sua máquina.

Com a IA local, tudo fica com você
IA
Seu computador
Internetnada vai para lá

Duas IAs locais à sua escolha

No assistente (Alt + W), clique no selo do mecanismo no topo da janela: os mecanismos estão organizados em dois grupos, “Local (privado)” e “On-line”. O primeiro grupo reúne:

  • o Gemini Nano, a IA integrada ao Google Chrome: nada para instalar além do modelo, sem chave, sem conta;
  • o Ollama, um software livre que você instala no computador e que roda modelos abertos (Llama, Mistral, Gemma…).

E como cada aba de conversa mantém seu próprio mecanismo, você pode usar o Gemini on-line em uma aba para fazer uma pesquisa e o Nano na seguinte para um texto confidencial.

Gemini Nano: a IA que já está no Chrome

O Gemini Nano funciona sem chave e sem conexão. Você precisa de:

  • Google Chrome 148 ou mais recente, em computador (Windows, Mac ou Linux com Google Chrome; no Chromebook, só nos modelos recentes e potentes, não nos Chromebooks comuns; não funciona no celular);
  • cerca de 20 GB de espaço livre em disco, já que o modelo em si pesa de 2,7 a 4 GB.

Nas configurações do assistente, o botão “Baixar o modelo” inicia o download, uma única vez. Depois disso, o Nano responde até off-line.

Bom saber: o Chrome remove o modelo por conta própria se ele ficar 30 dias sem uso, ou se o espaço livre no disco cair abaixo de 5 GB. Aí é só baixá-lo de novo.

O Nano é um modelo pequeno: respostas mais curtas, textos mais curtos (cerca de 4.000 caracteres de página), sem pesquisa na web e sem PDF. Para corrigir, reformular ou traduzir uma mensagem, ele dá conta tranquilamente.

Ollama: o seu próprio servidor de IA, em casa

O Ollama pode ser instalado no Windows, no Mac, no Linux e até no Chromebook, dentro do ambiente Linux. O Weightless AI o detecta sozinho no endereço padrão (http://localhost:11434) e escolhe um modelo que já esteja instalado.

Só um cuidado: autorizar a extensão a se comunicar com ele. As perguntas frequentes integradas ao assistente trazem o comando exato para cada sistema, por exemplo no Mac e no Windows:

OLLAMA_ORIGINS=chrome-extension://*

No Chromebook, o endereço a informar na configuração “URL do Ollama (local)” é http://penguin.linux.test:11434, e as perguntas frequentes oferecem um comando pronto para colar no terminal Linux.

Com o Ollama, você pode processar textos mais longos do que com o Nano (cerca de 8.000 caracteres de página), dependendo da potência da sua máquina.

Quando escolher a IA local?

  • Contrato, saúde, recursos humanos, dados de clientes: a IA local (Nano ou Ollama);
  • um e-mail do dia a dia: qualquer um dos dois, como você preferir;
  • uma pergunta sobre notícias recentes, uma pesquisa com fontes: o Gemini on-line;
  • um PDF longo para resumir: o Gemini on-line.

E onde fica o Weightless AI nisso tudo?

Seja qual for o mecanismo escolhido, on-line ou local, o Weightless AI não tem servidor: não existe nenhum lugar onde poderíamos receber os seus textos. Com a IA local, o caminho é simplesmente o mais curto possível: o seu teclado, o seu computador, e só.

← Todos os artigos

Adicionar
ao Chrome