Como executar o Qwen AI localmente no Windows 11

Qwen AI é o mais recente modelo de inteligência artificial lançado pelo Alibaba Group, e, enquanto outras ferramentas como ChatGPT, Copilot e DeepSeek estão disponíveis em várias plataformas (Android, iOS, Windows), o Qwen AI atualmente está acessível apenas via aplicativo web. Para utilizá-lo, é necessário criar uma conta no site oficial e ter uma conexão ativa com a internet. Contudo, é possível executar o Qwen AI localmente em um PC com Windows 10/11, sem depender de acesso à web. A seguir, abordaremos o processo para instalar e utilizar essa ferramenta em sua máquina.

Usando o Qwen AI na Web

Para usar o Qwen AI na web, basta visitar o site chat.qwenlm.ai, fazer o login com a sua conta e começar a interagir com o modelo de IA, como faria com qualquer outro serviço de chat de IA. No entanto, esse método depende de uma conexão com a internet e não permite o uso offline.

Como Executar o Qwen AI Localmente no Windows 10/11

Para rodar o Qwen AI localmente, você precisa instalar duas ferramentas essenciais:

Ollama: Uma plataforma de código aberto que permite rodar grandes modelos de linguagem (LLMs) localmente.
Docker: Ferramenta de código aberto que facilita a criação e execução de contêineres de aplicativos, incluindo o Qwen AI.

A seguir, mostramos os passos necessários para realizar essa instalação.

Instalando o Ollama no Windows

O primeiro passo é instalar o Ollama. Para isso:

Acesse o site oficial do Ollama e baixe a versão para Windows.
Após o download, execute o arquivo de instalação e siga os passos para concluir a instalação.
Ao finalizar, inicie o Ollama e mantenha-o rodando em segundo plano.

Instalando o Modelo Qwen AI

Com o Ollama instalado, é hora de adicionar o Qwen AI:

Acesse a página de Modelos do Ollama e procure pelo Qwen AI.
Escolha o modelo desejado (como Qwen2.5 com diferentes parâmetros como 0.5b, 1.5b, etc.).
Copie o comando correspondente ao modelo escolhido (por exemplo, para instalar o Qwen2.5 com o parâmetro 0.5b, o comando seria: ollama run qwen2.5:0.5b).
Abra o Prompt de Comando no Windows, cole o comando e pressione Enter.

Após o processo ser concluído, o Qwen AI estará instalado e você poderá interagir com ele diretamente no CMD (Prompt de Comando).

Instalando o Docker no Windows

Embora o Qwen AI já esteja instalado no seu sistema, ele não possui uma interface gráfica. Para facilitar o uso, você pode configurar uma interface web utilizando o Docker:

Baixe o Docker a partir do site oficial e instale-o em seu PC.
Após a instalação, execute o Docker e mantenha-o em segundo plano.

No Prompt de Comando, execute o seguinte comando para criar um contêiner do Docker:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Esse comando criará um contêiner com a interface web para o Qwen AI. Após a execução do comando, acesse o Docker e verifique se o contêiner foi criado com sucesso.

Acessando o Qwen AI Localmente

Agora, para interagir com o Qwen AI localmente através de um navegador:

Abra o Docker, localize o contêiner criado e clique no link 3000:8080 na seção de Contêineres.
Isso abrirá a interface web do Qwen AI em seu navegador padrão, onde você poderá criar uma conta e começar a interagir com a IA localmente.

Importante: Para utilizar o Qwen AI localmente, tanto o Ollama quanto o Docker precisam estar em execução em segundo plano.

Usar ferramentas de inteligência artificial no seu PC é perfeitamente viável, mas é importante garantir que o hardware do seu sistema seja compatível, especialmente se você optar por modelos mais pesados. Se o seu PC não for poderoso o suficiente, é sempre possível recorrer à nuvem para utilizar as ferramentas de IA sem sobrecarregar sua máquina.

Quanto ao código aberto, vale destacar que alguns modelos do Qwen AI são de código aberto, como o Qwen2.5-7B-Instruct-1M e o Qwen2.5-14B-Instruct-1M, permitindo maior flexibilidade e personalização para desenvolvedores.

Em resumo, o Qwen AI oferece uma alternativa poderosa e local para quem deseja experimentar um modelo de IA robusto diretamente no seu sistema Windows, com a vantagem de ser executado offline, desde que configurado corretamente.