IA Além da Conversa

Capítulo 1 - Além do ChatGPT

A reunião termina com uma frase que parece resolver tudo:

— Precisamos de um ChatGPT para atender nossos clientes.

A ideia ganha forma rapidamente. Alguém abre uma ferramenta de inteligência artificial, copia algumas perguntas frequentes, escreve uma instrução curta e inicia uma demonstração. O sistema responde com educação, resume uma política, adapta o tom e até sugere o próximo passo.

Cinco minutos depois, a sala está convencida de que o projeto está quase pronto.

Então chegam as perguntas menos empolgantes.

Como o sistema saberá se a política consultada ainda está vigente? Ele poderá acessar o cadastro do cliente? Quem autoriza uma alteração? O que acontecerá quando duas fontes internas discordarem? Como evitar que dados de uma pessoa apareçam na conversa de outra? Quem perceberá que a resposta parece boa, mas está errada? E, se o cliente pedir algo que produz efeito real — cancelar um serviço, alterar um endereço, contestar uma cobrança —, a inteligência artificial poderá executar a ação?

A demonstração não respondeu a nenhuma dessas perguntas. Ela mostrou apenas que um modelo consegue produzir texto plausível a partir do contexto recebido.

Isso já é valioso. Só não é a solução inteira.

O ChatGPT tornou visível para milhões de pessoas uma capacidade que antes permanecia restrita a produtos especializados e equipes técnicas. Em 30 de novembro de 2022, a OpenAI apresentou o ChatGPT como uma versão de pesquisa e convidou o público a experimentar suas forças e fraquezas (OPENAI, 2022). A caixa de conversa ajudou a transformar modelos de linguagem em uma experiência cotidiana.

O sucesso dessa interface também produziu um atalho mental. Passamos a chamar de “ChatGPT” quase qualquer ideia que envolva linguagem e inteligência artificial. O nome do produto virou sinônimo de modelo, assistente, automação e, às vezes, de toda a área de IA.

É compreensível. Fazemos algo semelhante quando usamos o nome de um aplicativo para descrever uma atividade inteira. O problema aparece quando essa simplificação entra em uma decisão arquitetural. Uma interface de conversa pode ser a parte mais visível de um sistema e, ao mesmo tempo, a parte menos reveladora sobre como ele funciona.

Este livro começa onde a demonstração termina.

Ir além do ChatGPT não significa abandonar interfaces conversacionais nem procurar uma tecnologia mais espetacular. Significa enxergar os componentes escondidos atrás da conversa, compreender o papel de cada um e decidir conscientemente quais deles o problema exige.

Considere uma aplicação bancária. Na tela, você vê saldo, extrato, pagamentos e transferências. A interface reúne essas possibilidades, mas não guarda sozinha o dinheiro, não valida todas as regras e não movimenta uma conta por conta própria. Atrás dela existem serviços, bancos de dados, sistemas de identidade, registros de auditoria, mecanismos antifraude e processos humanos.

Uma aplicação de IA também pode esconder uma arquitetura extensa atrás de uma caixa de texto.

Quando você envia uma pergunta, o produto pode selecionar instruções, acrescentar partes do histórico, escolher um modelo, recuperar documentos, acionar filtros, chamar ferramentas, registrar telemetria e formatar a resposta. Em determinadas situações, pode pedir confirmação, interromper a execução ou encaminhar o caso a uma pessoa.

O usuário percebe uma conversa contínua. A arquitetura percebe uma sequência de decisões.

Essa distinção muda a pergunta inicial. Em vez de “qual IA vamos usar?”, começamos a perguntar:

Essas perguntas parecem menos modernas que uma demonstração. Na prática, são elas que separam uma experiência interessante de um sistema utilizável.

Três palavras serão importantes ao longo do livro: produto, modelo e sistema.

Um produto é aquilo com que uma pessoa interage ou que uma organização contrata. Ele possui interface, políticas, recursos, limites e um ciclo próprio de mudanças. Um produto pode trocar o modelo utilizado sem deixar de ser reconhecido pelo mesmo nome. Também pode combinar vários modelos e serviços em uma única experiência.

Um modelo é um componente capaz de produzir saídas a partir de entradas. No caso de um grande modelo de linguagem, essas entradas e saídas incluem texto e, dependendo do modelo, outras modalidades. O mecanismo será explorado nos próximos capítulos. Por enquanto, basta guardar uma ideia: o modelo recebe contexto e gera uma continuação segundo padrões aprendidos.

Um sistema combina componentes para cumprir um objetivo em um contexto de uso. Pode incluir um ou mais modelos,