Skip to content

Inteligência Artificial (Workers AI)

Inteligência Artificial (functions/lib/workersAi.ts)

Section titled “Inteligência Artificial (functions/lib/workersAi.ts)”

Estado actual. Toda chamada de IA de texto passa por askJson / askText em functions/lib/workersAi.ts, na binding AI do Cloudflare Workers AI. Não há Gemini: o Google desligou o gemini-2.0-flash (404 desde 2026-09-24) e o código que o chamava saiu. A mensagem da equipe não é reescrita no envio.

Em Settings → Messaging → AI o admin escolhe um modelo padrão (aiConfig.model) e, se quiser, um modelo próprio para cada recurso da lista (aiConfig.models, chave = AI_FEATURES); “Default” segue o padrão. Salvo por /atomic/settings. Não há liga/desliga: a lista só escolhe modelos (os antigos toggles enableTranslation, sem leitor, e enableSmartReplies saíram; as sugestões aparecem sempre para gerentes). Os modelos estão em src/shared/aiModels.ts, partilhado entre app e Worker; cada um foi testado na conta em 2026-09-24 e aparece com o nível de custo (baixo / médio / alto, pelo preço de saída).

  • Cada chamada diz o seu recurso (feature em askJson/askText; no /api/ai o app manda feature no corpo). O Worker lê aiConfig do D1 a cada chamada — a troca vale na hora — e escolhe com modelForFeature: o modelo do recurso, senão o padrão, senão o primeiro da lista (Llama 4 Scout); um id que saiu da lista conta como não escolhido.
  • A lista tem quatro modelos: Llama 4 Scout (padrão, custo médio), Mistral Small 3.1 (custo baixo, sem JSON mode) e Llama 3.3 70B (custo alto) e Gemma 4 26B (raciocínio desativado).
  • Como foram escolhidos (2026-09-24): cada recurso rodou com o prompt real em oito modelos. Scout passou 10 de 11 com 40–60% menos neurons que o 70B e 1–4 s; Mistral foi o mais fiel na tradução e no “escrever por instrução”, mas inventou um nome de cliente ao polir e falhou uma vez no resumo. Modelos que raciocinam antes de responder (gpt-oss 120B, DeepSeek V4 Flash, Gemma 4 26B, GLM 4.7 Flash) gastaram 3–10× os tokens, levaram 5–135 s e às vezes não responderam (DeepSeek esgotou 4.096 tokens pensando); gpt-oss inventou preço no bot. Saíram da lista. Em 2026-11-06 (descontinuação de modelos do Workers AI) os sete casos rodaram de novo com o raciocínio desligado: Gemma 4 26B, Qwen 3.8 27B e DeepSeek V4.1 Flash acertaram todos, GLM 5.3 seis. O Gemma entrou na lista e virou a reserva — o mais barato (≈⅓ do Scout), 0,7–1,9 s, aceita json_schema —, sempre com chat_template_kwargs.enable_thinking = false (runOptions do modelo; com o raciocínio ligado gasta os 700 tokens e não responde). Qwen e GLM ficam de fora pelo preço (alto); DeepSeek e GLM exigem plano pago. O Mistral, nessa rodada, inventou de novo um nome de cliente ao polir.
  • Modelo novo: testar na conta (formato da resposta, se aceita json_schema, se raciocina, preço de saída) e acrescentar uma entrada em AI_MODELS. Nenhum recurso chama um id de modelo direto.
  • Gravação: /atomic/settings guarda o aiConfig normalizado (normalizeAiConfig): o padrão sempre nomeado (reordenar a lista nunca o troca sozinho), só recursos conhecidos com modelos da lista, e nada mais — os antigos enableTranslation/enableSmartReplies/enableRouteOptimization/enableReviewAnalysis saem no próximo salvamento; botCustomInstructions fica (o bot ainda o lê como reserva).
  • Registro: quando o modelo escolhido erra ou não dá resposta aproveitável (na tradução, inclui a que o guarda recusou), uma linha em system_logs (entityType AI, entityId = recurso): AI_MODEL_FALLBACK se a reserva respondeu (atividade), AI_MODEL_ERROR se o recurso ficou sem resposta (aparece nos erros). Só recurso, modelo e motivo — nunca o prompt nem a resposta.
  • Se o modelo escolhido falhar ou não der resposta aproveitável, tenta o Gemma 4 26B (FALLBACK_AI_MODEL); se o recurso já usa o Gemma, tenta o padrão (Llama 4 Scout). O Llama 3.1 8B que fazia esse papel sai do Workers AI em 2026-11-20.
  • Custo: 10.000 neurons grátis por dia na conta; no plano Free, passado isso, as chamadas falham até 00:00 UTC (a tradução e o bot junto). O 70B é dos mais caros na saída (~205 mil neurons por milhão de tokens); Mistral Small, Gemma 4 e GLM 4.7 Flash são de custo baixo.
  • Medidor de consumo (2026-09-28): toda chamada ao Workers AI — cada tentativa, o fallback incluído, e as transcrições Whisper — soma tokens (ou segundos de áudio) e neurons estimados na linha do dia UTC, recurso e modelo de ai_usage_daily (functions/lib/aiUsage.ts, recordAiUsage). Tokens vêm do usage que o modelo devolve, senão ~4 caracteres por token; preços de entrada/saída e por minuto de áudio em src/shared/aiModels.ts (conferidos na página de preços em 2026-09-28). Falha conta à parte, e a recusa por cota esgotada (erro 4006) em quota_failures. Settings → Messaging → AI mostra o dia (X de 10.000, barra verde/âmbar/vermelha, chamadas recusadas), cada recurso e os últimos 7 dias (GET /api/ai/usage, só gerente/admin). É estimativa; o painel da Cloudflare é a autoridade.
  • Otimização do gasto (2026-09-28): o briefing da tarefa (banner “Resumo da Tarefa”) chamava o modelo a cada abertura de conversa de tarefa, por qualquer pessoa, sem cache — agora sai na mesma chamada do resumo da conversa feita pelo cron (channel_digests.briefing_pt, incremental: “briefing até aqui” + mensagens novas) e o banner só lê; a função jobBriefing saiu do seletor. O prompt do resumo ficou mais curto (é pago em toda chamada). Tradução não chama o modelo para mensagem sem letras (emoji, horário, pontuação). Antes disso: tradução só para a equipe (conversa de tarefa na chegada, papel EMPLOYEE na tela) e áudio que chega sem transcrição. Sob demanda e raras (continuam): sugestões e “escrever por instrução” (painel aberto de propósito), polir, análise de incidente, carta de recuperação, resgate de escala, sugestão de avaliação (cliente com 5 estrelas). O bot com IA está desligado em produção (enableAiAutomation: false).
  • Banner do resumo no fim da conversa (2026-09-29): o banner do topo da tarefa (“Resumo da Tarefa”) saiu — mostrava “carregando” e sumia quando não havia resumo. Agora ConversationSummaryBanner fica no fim da conversa, logo acima do compositor, em DIRECT e JOB, e só aparece quando /api/channels/summary já traz um resumo salvo (nada de estado de carregamento). Escritório: o resumo da conversa (summaryEn/summaryPt, ícone de problema); o toque abre AI suggestions. Equipe (EMPLOYEE, só JOB): o briefing (briefing_pt); o toque expande o texto.
  • Sugestão de resposta (2026-09-28): uma sugestão só (antes três; a Inbox já usava só a primeira), sem botão de gerar de novo. Fica guardada por conversa com o id da última mensagem (reply_suggestions): pedir de novo antes de chegar mensagem nova devolve a mesma, sem chamar o modelo. A sugestão só é gerada ao tocar em Sugerir resposta — o painel é aberto quase sempre para ditar uma instrução em áudio depois de ler o resumo. Ao abrir, o painel mostra o Resumo da conversa que o cron já guardou (GET /api/channels/summary/:id → conversation, só gerente/admin), sem custo. O contexto enviado (16 mensagens, visitas, regras da casa) leva também o resumo da conversa, como contexto — a sugestão e o “escrever por instrução” (áudio ou texto) partem do mesmo resumo que o manager leu no painel.
  • Quando o resumo usa IA (2026-09-28): nos 14 dias medidos, 65% das mensagens eram de leads (“Oi”, telefone, a mensagem pronta do site, pedido de orçamento). Regra (digestWithoutAi): lead nunca usa IA — a mensagem é o resumo (tema QUOTE); mensagens de categoria SYSTEM não contam como conversa; nos demais, a IA só roda quando o contato escreveu pelo menos 20 palavras novas desde o último resumo (DIGEST_MIN_WORDS) ou quando uma mensagem curta tem uma das Palavras que pedem resumo de Settings → Messaging → AI (aiConfig.digestKeywords; padrão DEFAULT_DIGEST_KEYWORDS em inglês e português — atraso, dano, reclamação, cancelamento, reembolso, “não veio”…; comparação sem acento, pelo início da palavra). Abaixo disso o resumo guardado fica (só o estado segue quem falou por último) ou, na primeira vez, a última mensagem do contato vira o resumo. Instrução curta numa tarefa também não gera briefing — a equipe já a lê traduzida no chat.
  • jsonSchema: só alguns modelos aceitam response_format json_schema; os outros recusam a chamada inteira se ele for enviado. Por isso o helper só o manda para esses, e os prompts sempre descrevem o JSON esperado.
  • Resposta: modelos antigos devolvem response (objeto no modo JSON); os novos só choices[0].message.content. O helper lê os dois, e tira o JSON de dentro de cercas ```json.
Recurso (feature) Código Observação
Sugestões de resposta (replySuggestions) /api/ai/suggest-replies (replyAssistant.ts), no chat e no rascunho de um toque do Inbox Ver abaixo. O Inbox montava o prompt no app sem os dados da visita, e todo modelo inventava horário.
Escrever por instrução (composeReply) /api/ai/compose-reply Voz pelo Whisper large-v3-turbo, com o @cf/openai/whisper de reserva (fora do seletor).
Polir rascunho (polishMessage) /api/ai/polish-message Só pelo botão do composer. Sem IA → texto original com fallback: true.
Tradução (translation) autoTranslateClientMessageToPt (autoPolish.ts) e AIService.translateMessage Só para leitura. Tradução que acrescenta palavras ou perde um número é descartada; aí a reserva tenta, e se também inventar fica o original.
Resumo da tarefa (jobBriefing) generateJobBriefingSummary (/api/channels/summary) pt-BR, 2 a 4 tópicos.
Bot do WhatsApp (whatsappBot) functions/lib/aiWhatsAppBot.ts Só com whatsAppConfig.enableAiAutomation; sem resposta, texto fixo.
Sugestão de avaliação (reviewSuggestion) draftFiveStarReview — página /rate (/api/public/rating-draft) e app (/api/visits/:id/rating-draft) Destaques escolhidos + primeiro nome da equipe; sem modelo, um texto montado das mesmas frases.
Análise de ocorrência (incidentAnalysis) AIService.analyzeIncident → /api/ai
Carta de recuperação (recoveryLetter) AIService.draftApology → /api/ai, botão “Draft an apology” na avaliação < 4 Rascunho na tela com “Copy draft”; nada é enviado. O prompt leva nome do cliente, empresa (systemIdentity.companyName), data, nota e comentário; rascunho com “[…]” é recusado. Antes ia para sendMessage com os argumentos trocados e nunca chegava.
Resgate da escala (rosterRescue) AIService.solveRosterCrisis → /api/ai

/api/ai recebe { prompt, isJson, feature } e devolve { text }. feature fora da lista → 400; sem feature (bundle antigo) → modelo padrão. Com isJson o Worker devolve só o JSON válido da resposta, senão tenta o próximo modelo. Sem binding → 503; sem resposta → 502. Não há streaming.

Respostas ao cliente (suggest-replies e compose-reply)

Section titled “Respostas ao cliente (suggest-replies e compose-reply)”
  • Contexto: o servidor lê a conversa pelo channelId (functions/lib/replyContext.ts): últimas 16 mensagens marcadas CLIENT / US / INTERNAL NOTE (sem as de SYSTEM) e as visitas — a da tarefa, ou as 3 próximas abertas do cliente. A IA só afirma data, hora, preço ou nome que esteja ali ou na instrução; o resto é “a equipe confirma”.
  • Sugestões: 3 respostas ao que o cliente perguntou por último. Conversa vazia ou IA sem resposta → respostas prontas com fallback (NEW_CONVERSATION / AI_UNAVAILABLE).
  • Escrever por instrução: o gerente digita ou grava (Ogg/Opus) em português o que quer dizer; volta uma mensagem e, se foi áudio, o que foi entendido (heard). Nada é enviado: o toque preenche o composer.
  • Idioma: o que vai ao cliente é sempre inglês britânico. Só ADMIN/MANAGER.

Todas as chamadas do AIService usam transporte autenticado com teto de 30 segundos e compõem o AbortSignal do consumidor; consumidores com lifecycle descartam o resultado depois de desmontar ou mudar de contexto. Em Leads → Intelligence, gerar estratégia adquire lock síncrono antes do primeiro await, cancela ao sair ou trocar de identidade e só publica resposta/toast/loading quando o epoch ainda pertence à conta que iniciou o pedido.

Todos os perfis usam /api/ai (clientes traduzem, funcionárias analisam ocorrências), por isso a rota não é restrita por perfil. Cada conta tem um orçamento por janela de 10 minutos: 200 chamadas para ADMIN/MANAGER e 60 para os demais (consumePublicRateLimit com subject: user.id); o prompt tem teto de 50.000 caracteres; o erro do provedor fica só no log do servidor.

Nenhum código lê mais essa variável. Ela continua em .dev.vars.example, no cofre e nos segredos do Pages até alguém decidir removê-la.