Fiquei meio decepcionado por não ser possível utilizar no Brave com o Shield ligado ("Failed to execute 'send' on 'XMLHttpRequest'"), mas funcionou com ele desligado.
Percebi que ao enviar mensagens de duas linhas, por exemplo, ele já começa a retornar um erro na API:
{
"error": {
"message": "This model's maximum context length is 4097 tokens, however you requested 4124 tokens (124 in your prompt; 4000 for the completion). Please reduce your prompt; or completion length.",
"type": "invalid_request_error",
"param": null,
"code": null
}
}
E o client não trata isso, a mensagem que aparece no chat é "TypeError: Cannot read properties of undefined (reading '0')".
Vendo esse erro, descobri que existe uma parte para o prompt e outra para completion. Eu não sabia disso, apesar de já ter visto algo semelhante no Phind, que não funcionou como eu esperava (o completion foi basicamente ignorado).