Se o o1 não é um modelo de chat — o que ele é?
Eu o vejo como um "gerador de relatórios". Se você fornecer contexto suficiente e disser exatamente o que deseja como saída, ele frequentemente acertará a solução de primeira.
Nota de swyx: A OpenAI publica conselhos sobre como fazer prompts para o o1, mas achamos que eles são incompletos. De certa forma, você pode ver este artigo como um "Manual Ausente" baseado na experiência real de uso do o1 e do o1 pro na prática.
Forneça muito contexto. Qualquer coisa que você ache que é "muito" — multiplique isso por 10.
Quando você usa um modelo de chat como Claude 3.5 Sonnet ou 4o, geralmente começa com uma pergunta simples e um pouco de contexto. Se o modelo precisar de mais contexto, ele frequentemente pedirá (ou isso ficará evidente na resposta).
(Colocar o contexto no final é melhor para modelos da OpenAI - segundo a própria documentação da OpenAI)
Você interage com o modelo, corrigindo e expandindo os requisitos até atingir o resultado desejado. É quase como esculpir argila. Os modelos de chat essencialmente extraem contexto de você através dessa interação. Com o tempo, nossas perguntas ficam mais rápidas e preguiçosas — tão preguiçosas quanto possível sem comprometer a qualidade da resposta.
O o1 apenas aceita perguntas preguiçosas ao pé da letra e não tenta extrair o contexto de você. Em vez disso, você precisa fornecer o máximo de contexto possível ao o1.
Mesmo se estiver fazendo uma pergunta simples de engenharia:
Em resumo, trate o o1 como uma nova contratação. Cuidado com o fato de que os erros do o1 incluem calcular erroneamente o quanto ele deve raciocinar. Às vezes, ele falha ao mapear corretamente a dificuldade da tarefa. Por exemplo, se a tarefa for muito simples, ele pode acabar se aprofundando em raciocínios desnecessários. Nota: A API do o1 permite que você especifique baixo/médio/alto esforço de raciocínio, mas isso não está disponível para usuários do ChatGPT.
Dicas para facilitar a inserção de contexto no o1:
- Sugiro usar o app Voice Memos no seu Mac/celular. Basta descrever todo o problema por 1-2 minutos e colar a transcrição.
- Tenho uma nota onde guardo segmentos longos de contexto para reutilizar.
- swyx: Uso o Careless Whisper do Sarav, do LS Discord.
- Os assistentes de IA que estão surgindo dentro dos produtos podem facilitar essa extração. Por exemplo, se você usa o Supabase, tente pedir ao Supabase Assistant para descrever/tabelar todas as entidades relevantes.
Depois de preencher o modelo com o máximo de contexto possível, concentre-se em explicar exatamente o que deseja como saída.
