Projet SARAH: Implémentation C#

31 juillet 2012 JpEncausse 8 Commentaires

Cet article fait suite à un précédent article dans lequel j’essayais de mettre en place un système de maison intelligente nommée S.A.R.A.H.

Speech to Text en C#

Les API de reconnaissance vocale de Microsoft marchent très bien. Malheureusement, les implémentations sont très mauvaises:

Windows Speech Recognition Macro (WSR Macro) n’est pas maintenu
Peu d’évolution des technos depuis 2007-2008 (à part SIRI)
Les produits Microsoft Tell Me sont très mal décrits
La doc du Kinect est très dense … beta/1.0/1.5

Bref, comme il n’est pas possible de configurer WSRMacro pour n’utiliser QUE MES macros, j’ai donc décidé de coder ma propre implémentation en C#.

J’ai donc un projet C# qui:

Monitore un répertoire de Macros
Charge des grammaires XML
Envoie une requête HTTP pour traiter l’action reconnue

Ainsi, le traitement des actions peut être déporté sur un serveur Java, NodeJS, … potentiellement sur une autre machine.

Je mettrai les sources en lignes plus tard car pour le moment « c’est pas sec ». Voici l’exécutable.

Grammaire

Le principe de la grammaire Microsoft.Speech est très simple. Des petits morceaux de règle XML se référencent pour former une phrase.

&lt;grammar version="1.0" xml:lang="fr-FR" mode="voice" root="ruleColors" xmlns="http://www.w3.org/2001/06/grammar" tag-format="semantics/1.0"&gt;
  &lt;rule id="ruleColors" scope="public"&gt;
    &lt;tag&gt;
      out.Action=new Object();
      out.Action._value = "Sarah Value";
    &lt;/tag&gt;
    &lt;item&gt;Je voudrais une voiture
      &lt;tag&gt;out.Action._attributes.uri="http://127.0.0.1:8080/sarah/car";&lt;/tag&gt;
    &lt;/item&gt;
    &lt;one-of&gt;
      &lt;item&gt;rouge
        &lt;tag&gt;out.Action._attributes.speech ="rouge";&lt;/tag&gt;
      &lt;/item&gt;
      &lt;item&gt;blanche
        &lt;tag&gt;out.Action._attributes.speech ="blanche";&lt;/tag&gt;
      &lt;/item&gt;
      &lt;item&gt;verte
        &lt;tag&gt;out.Action._attributes.speech ="verte";&lt;/tag&gt;
      &lt;/item&gt;
    &lt;/one-of&gt;
    &lt;tag&gt; out.Action._attributes.speech = "Alors ce sera " + out.Action._attributes.speech; &lt;/tag&gt;
  &lt;/rule&gt;
&lt;/grammar&gt;

<tag>

out.Action=new Object();

out.Action._value = "Sarah Value";

</tag>

<item>Je voudrais une voiture

<tag>out.Action._attributes.uri="http://127.0.0.1:8080/sarah/car";</tag>

</item>

<one-of>

<item>rouge

<tag>out.Action._attributes.speech ="rouge";</tag>

</item>

<item>blanche

<tag>out.Action._attributes.speech ="blanche";</tag>

</item>

<item>verte

<tag>out.Action._attributes.speech ="verte";</tag>

</item>

</one-of>

<tag> out.Action._attributes.speech = "Alors ce sera " + out.Action._attributes.speech; </tag>

</rule>

</grammar>

La balise <tag> permet d’exécuter du code pour alimenter un objet « Sémantique ».

L’attribut URI définit l’adresse à attaquer.
L’attribut speech déclenche un Text to Speech.
Les attributs sont transformés en paramètre de requête HTTP.

Text to Speech en NodeJS

L’objectif du serveur NodeJS est de dispatcher les commandes vers:

Un script spécifique
L’exécution d’un process windows
L’exécution d’une requête HTTP
L’exécution d’une réponse vocale
Un scraping PhantomJS

Voici un début de projet.

Synthèse vocale

J’ai trouvé un petit programme qui utilise la synthèse vocale de l’OS (sinon c’est très simple à recoder en C#).

Ensuite, il faut installer des voix de qualité pour avoir un meilleur rendu.

Loquendo (qui s’est fait racheter par Nuance) a les meilleurs voix. Mais impossible d’avoir plus d’infos …
Au détour d’un blog, j’ai vu que ScanSoft proposait une voix correcte « Virginie »

Note: pour utiliser des voix 32bit sur un windows 64bit, il faut lancer le sapi.cpl 32bit (%windir%SysWOW64speechSpeechUXsapi.cpl)

Conclusion

Pour le moment, je n’en suis qu’à l’état de POC. Mais assez satisfait du résultat avec un Kinect.

Prochaines étapes:

Tester les fonctions natives de Kinect comme microphone.
Créer plusieurs grammaires fonctionnelles
Faire un peu de scraping PhantomJS
Piloter la box Eedomus
Piloter le karotz en C#/Protobuff (ça marche bien)

Articles similaires

Jp EncausseAuteur de l’article

14 septembre 2012 à 18 h 22 min

Permalink

Mon implémentation se fait en 2 étapes:

<item repeat="0-1">
  <one-of>
    <item>à Parly 2  <tag >out.place="B0172";</tag></item>
    <item>à vaucresson <tag>out.place="B0099";</tag></item>
  <one-of>
</item>

<one-of>

<item>à Parly 2 <tag >out.place="B0172";</tag></item>

<item>à vaucresson <tag>out.place="B0099";</tag></item>

<one-of>

</item>

1. Qu’est ce qu’il y a au ciné (Identifiant du ciné)
=> Je requête la page du ciné et récupère les infos
=> Je construit une liste XML des films et mémorise le ciné

<!-- Automatic Generation § -->
<rule id="ruleMovieName">
  <tag>out.place="B0099";</tag>
  <one-of>
    <item>Cornouaille<tag>out.movie="0";</tag></item>
    <item>Comme un homme<tag>out.movie="1";</tag></item>
    <item>Les Saphirs<tag>out.movie="2";</tag></item>
    <item>Jusqu'à ce que la fin du monde nous sépare<tag>out.movie="3";</tag></item>
  </one-of>
</rule>
<!-- § Automatic Generation -->

<tag>out.place="B0099";</tag>

<one-of>

<item>Cornouaille<tag>out.movie="0";</tag></item>

<item>Comme un homme<tag>out.movie="1";</tag></item>

<item>Les Saphirs<tag>out.movie="2";</tag></item>

<item>Jusqu'à ce que la fin du monde nous sépare<tag>out.movie="3";</tag></item>

</one-of>

</rule>

2. Quand passe le film (Identifiant du film)
=> Je requête le cine, je vais cherché le film dans le DOM (je prends le Nième DIV)

Problèmes:
1. The Dark Night doit se prononcer à la française « the dirque nitch »
2. Je pourrais préciser le ciné mais si le film ne passe pas que faire ?
3. Si le DOM du site change faut refaire le script

Donc en pratique il faudrait coder un truc plus fonctionnel du genre:
– Qu’est qu’il y a « dans mes cinés » en ce moment
– Quand passe machin (dans mes ciné)
– (Ou récupérer la géolocalisation)

Enfin c’est un POC qui démontre qu’on fait ce qu’on veux ce n’est qu’une requête HTTP vers un site puis un parcours du DOM pour aller chercher les infos. Et du chercher/remplacer pour avoir des dates « lisibles ».

page.open(encodeURI(url + options.place + '.html'), function (status) {
  ...
  page.injectJs("../vendor/jquery.min.js")
  ...
  results = page.evaluate(function() {

    results = {};
    results.movies = $('DIV.cell A[href^="/film"]').map(function(){ return $(this).text(); }).get();

    results.tts   = 'Voici la liste des films au ';
    results.tts += $('DIV.titre B').text() + ': ';
    results.tts += results.movies.join(', ');

    return results;
  });

  phantom.exit();
});

page.open(encodeURI(url + options.place + '.html'), function (status) {

...

page.injectJs("../vendor/jquery.min.js")

...

results = page.evaluate(function() {

results = {};

results.movies = $('DIV.cell A[href^="/film"]').map(function(){ return $(this).text(); }).get();

results.tts = 'Voici la liste des films au ';

results.tts += $('DIV.titre B').text() + ': ';

results.tts += results.movies.join(', ');

return results;

});

phantom.exit();

});

La mécanique est générique quand on attaque /phantom/script ca appel le script phantom js du bon nom.

Répondre

Projet SARAH: Implémentation C#

Speech to Text en C#

Grammaire

Text to Speech en NodeJS

Synthèse vocale

Conclusion

Articles similaires

8 pensées sur “Projet SARAH: Implémentation C#”

Laisser un commentaire Annuler la réponse

Speech to Text en C#

Grammaire

Text to Speech en NodeJS

Synthèse vocale

Conclusion

Partager :

Articles similaires

8 pensées sur “Projet SARAH: Implémentation C#”

Laisser un commentaire Annuler la réponse