Realtime ou Pipeline : quel guide d'architecture pour vos agents vocaux en 2026 ?

Realtime ou Pipeline : quelle architecture choisir pour votre agent vocal ?

Si vous développez actuellement un agent vocal IA, vous êtes confronté à un choix architectural déterminant pour les mois à venir : le modèle realtime (speech-to-speech, S2S) ou le pipeline STT–LLM–TTS (en cascade) ? En résumé : les deux fonctionnent en production, mais répondent à des besoins différents. Le realtime excelle dans la fluidité conversationnelle et la latence ; les pipelines l'emportent sur le contrôle, la téléphonie, la conformité et les coûts.

Famulor repose sur une approche hybride en pipeline qui vous offre tous les avantages de la cascade — STT/LLM/TTS interchangeables, appels d'outils granulaires, téléphonie compatible SIP, conformité hébergée en UE — tout en vous permettant d'intégrer un modèle realtime pour les cas d'usage sensibles aux émotions. Dans cet article, nous vous guidons sur le choix de l'architecture, les compromis à faire et comment déployer les deux efficacement avec Famulor.

Les deux architectures en un coup d'œil

Les deux architectures partagent la même structure : entrée audio, sortie audio, et un « cerveau » au centre. Elles diffèrent par le nombre de modèles nécessaires pour cette étape centrale, et donc par le niveau de contrôle dont vous disposez en tant qu'opérateur.

Realtime / Speech-to-Speech (S2S)

Un modèle multimodal unique gère l'intégralité de l'échange : il traite l'audio brut, raisonne et renvoie de l'audio en streaming, le tout en un seul appel. Comme l'audio n'est jamais converti en texte, le modèle peut détecter le ton, le rythme, les hésitations et les nuances émotionnelles qui disparaîtraient lors d'une transcription.

Acteurs courants : OpenAI Realtime API (gpt-4o realtime), Google Gemini Live, ElevenLabs Conversational, S2S natif de Cartesia.

Pipeline STT–LLM–TTS (Cascade)

Trois modèles spécialisés en séquence :

• STT (speech-to-text / ASR) : transcrit l'audio de l'appelant. Exemples : Deepgram Nova, Cartesia Ink, Gladia, AssemblyAI.
• LLM : traite la transcription, raisonne, appelle des outils et génère une réponse textuelle. Exemples : GPT-4o, Claude, Gemini Pro, Llama 3.
• TTS : convertit la réponse en un audio naturel. Exemples : Cartesia Sonic, ElevenLabs v3, MiniMax, Gemini Flash TTS.

Famulor est, par essence, un pipeline moderne hautement optimisé avec chevauchement de flux, accessible via notre agent vocal IA No-Code pour toute langue et tout niveau de complexité.

Latence : l'avantage structurel du Realtime et la réponse des pipelines

La latence est le compromis le plus débattu, à juste titre. Le realtime possède un avantage structurel : pas de sérialisation audio-vers-texte-vers-audio, pas de transfert entre modèles distincts. L'audio circule en un seul flux.

Pour les pipelines, c'est plus complexe. Même si chaque composant est rapide, la latence s'accumule : STT + temps de premier jeton du LLM + temps de première sortie audio du TTS + réseau. Un pipeline non optimisé est presque toujours plus lent qu'un bon modèle realtime.

Cependant, les pipelines modernes n'attendent pas la fin de chaque étape. Ils diffusent des transcriptions partielles au LLM pendant que l'utilisateur parle encore, et envoient les jetons du LLM au TTS dès leur arrivée. Ce chevauchement de flux permet d'atteindre des latences compétitives inférieures à 700 ms. Famulor utilise ce modèle de streaming par défaut. Consultez les concepts clés dans la documentation.

Appels d'outils : l'atout pratique majeur des pipelines

La plupart des agents vocaux en production doivent faire plus que parler. Ils consultent des comptes, vérifient des commandes, prennent des rendez-vous, déclenchent des flux de travail. La gestion des fonctions par chaque architecture a un impact direct sur l'UX.

Dans un pipeline, l'appel d'outils se situe au niveau du LLM via des fonctions textuelles standard, un mécanisme mature bien connu des applications de chat. Vous bénéficiez de :

• Gestion structurée des erreurs (nouvelle tentative, repli, messages d'erreur clairs)
• Appels d'outils parallèles (interroger plusieurs API simultanément)
• Contrôle total sur ce qui se passe pendant l'exécution (audio de remplissage, « laissez-moi vérifier cela pour vous… »)

Les modèles realtime supportent aussi les appels d'outils, mais l'expérience varie considérablement selon le fournisseur. Certains modèles se bloquent silencieusement en attendant un résultat. Les versions récentes supportent les appels non bloquants, mais la fiabilité est mesurablement inférieure à celle des LLM de pipeline, car le modèle doit écouter, raisonner et parler simultanément.

Dans Famulor, vous implémentez les appels d'outils via Outils et fonctions ou Outils personnalisés en cours d'appel, connectés via la plateforme d'automatisation interne (plus de 300 intégrations, similaire à Zapier ou Make).

Détection de fin de tour : quand l'appelant a-t-il fini de parler ?

C'est l'un des problèmes les plus délicats de l'IA vocale : quand l'appelant a-t-il terminé, ou est-il simplement en train de réfléchir ? Une erreur entraîne soit une interruption, soit un silence gênant.

Les modèles realtime s'appuient sur une détection intégrée. Elle fonctionne souvent bien, mais vous êtes limité par ce que le fournisseur expose. Les réglages sont restreints.

Les pipelines offrent plus de liberté :

• Choisir votre propre modèle de détection de tour
• Combiner VAD (détection d'activité vocale) et détection sémantique
• Régler la gestion adaptative des interruptions
• Définir la sensibilité selon le cas d'usage (support client vs santé vs sortant)

Dans Famulor, la détection est préconfigurée mais ajustable par agent vocal dans les Paramètres généraux, ce qui est utile lorsque des patients âgés nécessitent une tolérance aux pauses plus longue que lors d'appels de vente B2B.

Qualité vocale et naturel : le point fort du Realtime

C'est ici que le realtime possède son avantage le plus intéressant, bien que difficile à quantifier. Lorsqu'un audio est transcrit, beaucoup d'informations disparaissent : pas de ton, pas de nuances émotionnelles, pas d'hésitation. Le LLM ne voit que des mots.

Un modèle realtime entend tout cela. Il peut réagir au ton : si quelqu'un semble frustré, il peut répondre avec plus d'empathie sans qu'un texte ne le lui dicte.

Ceci dit, les moteurs TTS modernes rattrapent rapidement leur retard. Cartesia Sonic, ElevenLabs v3 et Gemini 3.1 Flash TTS produisent une parole avec respiration, rires et inflexions émotionnelles. Les pipelines peuvent être excellents, ils travaillent simplement avec moins d'informations sur la manière dont l'utilisateur a parlé. Le guide de sélection vocale se trouve dans Sélection de la voix.

Contrôle, modularité et débogage : là où les pipelines brillent

C'est l'avantage le plus clair des pipelines, et la plus grande limite pratique des modèles realtime en production.

Un pipeline est transparent par conception. Du texte se trouve entre chaque étape. Vous pouvez journaliser exactement ce qui a été transcrit, ce que le LLM a produit et ce qui a été synthétisé. En cas de problème — un mot mal compris, une réponse hors sujet — vous pouvez identifier la source. Famulor enregistre chaque appel, y compris la transcription et la sortie LLM, précisément pour cette raison.

Les pipelines sont également faciles à reconfigurer :

• Changer de fournisseur STT sans toucher à votre prompt LLM
• Changer de voix TTS sans rien modifier d'autre
• Passer de GPT-4o à Claude si le cas d'usage convient mieux à Anthropic

Les modèles realtime sont opaques : entrée audio, sortie audio. Vous ne pouvez pas échanger les composants, vous êtes enfermé dans l'écosystème d'un seul fournisseur.

Coût : le Realtime est plus difficile à maîtriser

Les API realtime facturent généralement à la seconde d'audio entrant et sortant. Le coût évolue donc directement avec la durée de la conversation, et à mesure que les prompts système et l'historique augmentent, les coûts deviennent difficiles à prévoir.

Les pipelines vous permettent d'optimiser par couche :

• LLM léger pour les requêtes simples, LLM premium pour les complexes (routage !)
• STT économique pour la transcription à haut volume
• TTS premium uniquement là où la qualité vocale compte (image de marque)

Famulor utilise une tarification transparente à la minute. La page de tarification détaille le modèle actuel, et le calculateur Twilio vous permet de modéliser précisément les coûts de téléphonie.

Téléphonie : le facteur sous-estimé

C'est un point qui surprend souvent les équipes. Les réseaux téléphoniques traditionnels transportent l'audio à 8 kHz via des codecs comme G.711. Les modèles realtime, eux, sont entraînés sur de l'audio web à 16–48 kHz (WebRTC, Opus). Ce décalage entraîne une moins bonne reconnaissance, une qualité TTS étouffée et davantage de malentendus.

Pour les déploiements téléphoniques — centres d'appels IA, remplacement d'IVR, appels sortants — les pipelines avec STT optimisé pour la téléphonie sont le choix le plus fiable. Famulor supporte le trunking SIP nativement, permettant d'utiliser votre fournisseur VoIP/PBX actuel (Telnyx, Twilio, Sipgate, votre propre Asterisk).

Si votre agent vocal ne fonctionne que dans un widget web (sans téléphone), l'argument de la téléphonie est sans objet : la latence et la qualité vocale deviennent les facteurs décisifs.

Conformité : là où les pipelines deviennent incontournables

Pour les secteurs réglementés — santé, services financiers, juridique, gouvernement — la conformité n'est pas une option, c'est une exigence stricte. Les pipelines offrent :

• Sélection des composants par région (ex: STT/LLM hébergé en UE pour le RGPD)
• Redaction des données personnelles (PII) au niveau texte avant l'envoi au LLM ou aux logs
• Composants certifiés HIPAA, RGPD, SOC 2, ISO 27001 disponibles
• Journaux d'audit à chaque étape : ce qui a été dit, transcrit, généré

Les modèles realtime, à l'inverse, sont principalement hébergés par une poignée d'hyperscalers américains dans des centres de données centralisés. Le filtrage de contenu, la rédaction des PII et la journalisation d'audit détaillée sont beaucoup plus difficiles à appliquer.

Famulor propose un hébergement en UE, des configurations conformes au RGPD et un flux de données transparent. Consultez Comprendre la facturation pour l'aspect opérationnel et Secteurs d'activité pour des exemples dans les industries réglementées.

Hybride : le meilleur des deux mondes

Vous n'avez pas à vous limiter à une seule architecture. Deux modèles hybrides sont régulièrement utilisés par nos clients Famulor :

Realtime + STT séparé

Besoin d'une transcription fiable et horodatée (pour la conformité, l'assurance qualité ou l'analyse) ? Laissez le modèle realtime gérer le raisonnement audio et exécutez un STT dédié en parallèle pour la transcription. Les deux flux restent indépendants.

Realtime + TTS séparé (« Demi-cascade »)

Utilisez le modèle realtime pour l'entrée audio (préservant sa capacité à entendre le ton, l'hésitation, l'émotion) mais sortez du texte au lieu de l'audio. Le texte est routé vers un moteur TTS dédié de votre choix — contrôle total sur la voix, y compris le clonage, les voix de marque et le discours scripté.

Dans Famulor, vous pouvez configurer les deux modes hybrides par agent vocal — le Flow Builder gère cela sans code.

Matrice de comparaison

Quelle architecture pour quel cas d'usage ?

Implémentation avec Famulor — étape par étape

1. Définissez le cas d'usage : entrant vs sortant, secteur, langue principale, niveau de conformité. Exemples spécifiques sur la page Industries.
2. Créez l'agent vocal : dans l'éditeur No-Code, partez d'un modèle. Message initial, prompt système, outils — tout sans code.
3. Choisissez la stack STT/LLM/TTS : pour la téléphonie en anglais, nous recommandons Deepgram Nova + GPT-4o + Cartesia Sonic. Pour des voix de marque premium : Deepgram + Claude + ElevenLabs v3. Famulor permet de changer de stack en un clic.
4. Connectez les outils/intégrations : CRM, calendrier, helpdesk via intégrations Famulor ou webhook.
5. Numéro de téléphone via SIP : utilisez votre numéro VoIP ou provisionnez-en un via Famulor. Modélisez les coûts Twilio/Telnyx avec le calculateur Twilio.
6. Testez : d'abord dans le testeur navigateur, puis sur la téléphonie réelle. Famulor enregistre chaque appel pour itération.
7. Mise en ligne : activez les webhooks entrants, configurez les campagnes sortantes, envoyez les rapports vers votre CRM.

Bonnes pratiques et erreurs courantes

• À éviter : choisir l'architecture à partir d'une démo navigateur. Les démos tournent sur WebRTC avec un audio parfait — le téléphone est une autre planète.
• À faire : définir des budgets de latence par cas d'usage. La santé tolère ≈800 ms ; les ventes sortantes doivent rester sous 600 ms.
• À éviter : laisser votre prompt système croître sans limite. Chaque tour le renvoie — coût et latence augmentent.
• À faire : utiliser des bases de connaissances plutôt que de surcharger le prompt. Modèle standard dans Famulor.
• À éviter : tester le realtime si votre usage est principalement téléphonique. Validez d'abord un pipeline avec STT optimisé.
• À faire : ajouter de l'audio de remplissage quand les appels d'outils prennent plus d'une seconde. Voir Audio de remplissage dans la doc.

Exemples d'industries avec Famulor

• Cabinet dentaire Dr. Becker (60 employés) : hotline de rendez-vous entrante. Pipeline avec GPT-4o + Cartesia Sonic, intégration Cal.com, hébergement UE. Résultat : taux d'abandon passé de 22 % à 6 %.
• Agence immobilière berlinoise : qualification sortante d'enquêtes. Pipeline avec Claude + Cartesia Ink + ElevenLabs, synchro GoHighLevel. Résultat : 3× plus de conversations qualifiées par jour.
• Shopify (DACH, 8 000 commandes/mois) : widget web et téléphone. Pipeline avec GPT-4o-mini pour requêtes standard, GPT-4o pour escalades. Résultat : 45 % des tickets résolus sans humain.
• Accueil cabinet d'avocats : entrant avec hébergement UE, rédaction PII avant appel LLM, log d'audit par tour. Pipeline avec STT allemand, Claude, MiniMax TTS.

Conclusion : pour la plupart des agents vocaux, le pipeline moderne l'emporte

Les modèles realtime sont techniquement impressionnants pour les usages WebRTC. Mais pour l'immense majorité des déploiements en production — téléphonie, secteurs réglementés, coûts maîtrisés, multilingue, appels d'outils granulaires — un pipeline moderne en streaming est le grand gagnant. Vous gardez le contrôle, la modularité, la conformité et la prévisibilité des coûts.

Avec Famulor, vous obtenez cette architecture de pipeline via une plateforme no-code : 40+ langues, trunking SIP, 300+ intégrations, composants interchangeables, hébergement UE, tarification transparente — et des modes hybrides optionnels. Consultez la tarification ou lancez-vous dans la création d'un agent vocal pour votre configuration.

FAQ — Questions fréquentes sur les agents vocaux Realtime vs Pipeline

Quelle est la différence principale entre realtime et pipeline ?

Les modèles realtime (S2S) traitent l'audio dans un modèle multimodal unique. Les pipelines (cascade) utilisent trois modèles spécialisés : STT pour la transcription, LLM pour le raisonnement, TTS pour la sortie. Les pipelines sont plus contrôlables ; le realtime est structurellement plus rapide.

Quelle architecture utilise Famulor ?

Famulor utilise un pipeline moderne en streaming avec chevauchement entre STT, LLM et TTS — et supporte optionnellement des configurations hybrides realtime pour les cas d'usage sensibles aux émotions.

Quand choisir le realtime plutôt que le pipeline ?

Si votre agent vocal ne tourne que dans un widget web (pas de téléphone), sans exigence stricte RGPD/HIPAA, et que la détection émotionnelle prime sur la fiabilité des outils. Pour la téléphonie et les secteurs réglementés, le pipeline gagne.

Le realtime fonctionne-t-il bien avec la téléphonie traditionnelle ?

Limité. La téléphonie transporte de l'audio 8 kHz ; les modèles realtime sont entraînés sur du 16–48 kHz. Ce décalage dégrade la reconnaissance et la qualité TTS. Pour le téléphone, les pipelines avec STT optimisé (ex: via Famulor) sont plus fiables.

Quelle vitesse pour un agent vocal en pipeline ?

Avec le chevauchement de flux, les pipelines modernes atteignent des latences conversationnelles sous 700 ms. Famulor optimise le streaming STT, LLM et TTS pour que la première réaction arrive autour de 500–800 ms.

Puis-je changer de fournisseur STT, LLM et TTS dans Famulor ?

Oui. Famulor supporte plusieurs fournisseurs STT (Cartesia, Deepgram, Gladia), LLM (GPT-4o, Claude, Gemini) et TTS (Cartesia Sonic, ElevenLabs, MiniMax, Gemini TTS). Changez en un clic dans le paramètre de sélection vocale.

Quel coût pour un agent vocal en pipeline comparé au realtime ?

Les pipelines permettent une optimisation par couche : LLM moins chers pour les requêtes standard, premium pour les escalades. Les API realtime sont facturées à la seconde et sont difficiles à optimiser. Famulor utilise une tarification transparente à la minute — voir tarification.

La conformité RGPD ou HIPAA est-elle possible avec le realtime ?

Difficile. Les modèles realtime sont majoritairement hébergés par des hyperscalers US sans résidence des données en UE. Les pipelines permettent des composants UE, la rédaction des PII avant l'appel LLM et des logs d'audit. Famulor propose l'hébergement UE par défaut.

Comment fonctionne l'appel d'outils dans Famulor ?

Famulor utilise des fonctions textuelles au niveau du LLM. Définissez vos outils dans l'éditeur Outils & Fonctions, optionnellement comme outils personnalisés via webhook ou directement dans la plateforme d'automatisation Famulor.

Puis-je migrer du pipeline vers le realtime plus tard ?

Oui. Dans Famulor, l'architecture est une configuration par agent. La plupart des équipes commencent par le pipeline pour la stabilité et la conformité, puis ajoutent des modes hybrides realtime pour certains usages, sans reconstruire les outils ou intégrations.