Skip to content

feat(light): indicador de fala e push-to-talk no núcleo nativo - #885

Closed
JelielSantos wants to merge 5 commits into
mainfrom
feat/light-speaking-ptt
Closed

JelielSantos wants to merge 5 commits into
mainfrom
feat/light-speaking-ptt

Conversation

@JelielSantos

Copy link
Copy Markdown
Collaborator

Parte da #658 (Prioridade 2: atalhos e feedback de estado). Prepara o núcleo para a bandeja/painéis mostrarem quem fala e para o atalho global de push-to-talk.

O que muda

Indicador de fala. O núcleo emite {"event":"speaking","sessionId":…,"speaking":true|false} para cada participante, inclusive o próprio usuário. Como no cliente completo, nada é publicado no servidor: cada cliente deduz quem fala a partir do áudio.

  • Remotos: o nível vem do cabeçalho RTP (RFC 6464) que o remetente já envia. O núcleo lê RtpReceiver::GetSources() a cada 100 ms, só durante a chamada; não decodifica nem mede nada à parte e não coloca código no caminho de áudio. Funciona em P2P e SFU (o mediasoup repassa a extensão).
  • Local: um InputLevelMeter intercalado como AudioTransport no PolicyAudioDevice guarda o nível mais alto de cada intervalo num atômico, sem cópia nem alocação. O nível é da captura bruta (antes de AEC/NS).
  • Limiar de -40 dBov (o audioLevel 0,01 do cliente completo) e 400 ms de silêncio antes de encerrar a fala. Todo o estado fica na thread de controle da mídia; quem sai da chamada, muta ou solta a tecla para de "falar" na hora.

Push-to-talk. set-input-mode (voice_activity | push_to_talk) é salvo em monky-light-settings.json (perfis antigos continuam em voice_activity). ptt com active abre/fecha a transmissão via track->set_enabled: a captura segue aberta com a tecla solta, para a fala começar sem o atraso de reabrir o dispositivo, e a faixa envia silêncio, como o track.enabled do cliente completo. Mute, deafen e restrições do servidor continuam prevalecendo. O atalho global fica para a bandeja; o núcleo só aplica o estado.

stats passa a incluir inputMode e pushToTalkActive. A bandeja ignora o evento speaking por enquanto (sem redesenho).

Sem mudança de protocolo: não é major.

Testes (Windows x64, local)

  • npm run test:light:native: 35 aprovados, 4 ignorados por plataforma. Novos: nível RFC 6464, histerese do detector e medidor no PolicyAudioDevice com o tom sintético (-27 dBov); inputMode no perfil, incluindo perfil legado e valores inválidos.
  • npm run test:light:voice: 29 aprovados, 1 ignorado. Novo: headless clients report {p2p,sfu} speech and gate it with push-to-talk, dois clientes nativos pelo servidor real alternando modo, tecla e mute.

Falta: chamada audível com pessoas e measure:light para confirmar o custo da amostragem de 100 ms durante a chamada.

🤖 Generated with Claude Code

O núcleo passa a emitir `speaking` (sessionId, speaking) para cada participante,
inclusive o próprio usuário. Como no cliente completo, nada é publicado no
servidor: os remotos usam o nível RFC 6464 que o remetente já põe no cabeçalho
RTP, lido a cada 100 ms só durante a chamada; o local é medido por um
AudioTransport intercalado no PolicyAudioDevice, sem cópia nem alocação.
Limiar de -40 dBov e 400 ms de silêncio antes de encerrar a fala.

`set-input-mode` (voice_activity | push_to_talk) é salvo no perfil e `ptt`
abre/fecha a transmissão. A captura continua aberta com a tecla solta para a
fala começar sem atraso; a faixa envia silêncio. Mute, deafen e restrições do
servidor continuam prevalecendo.

Co-authored-by: Copilot <223556219+Copilot@users.noreply.github.com>
Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
JelielSantos and others added 3 commits November 5, 2026 18:51
…do cliente

No runner macOS Intel a Alice já falava, sozinha na chamada SFU, antes de
bob.join() retornar; o evento ficava antes do ponto de partida da espera.

Co-authored-by: Copilot <223556219+Copilot@users.noreply.github.com>
Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
…nky Light

Co-authored-by: Copilot <223556219+Copilot@users.noreply.github.com>
Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
@JelielSantos

Copy link
Copy Markdown
Collaborator Author

Substituído pelo #893, que junta este PR com o #892 (volume por participante) e liga tudo na bandeja. Os commits daqui estão lá, e a correção do clang (-Wmissing-field-initializers) que derrubou o macOS no #892 também.

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants